Hopfield神经网络

✍ dations ◷ 2025-12-03 21:03:45 #神经网络

霍普菲尔德神经网络(Hopfield neural network)是一种循环神经网络，由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛，但收敛到错误的局部极小值（local minimum），而非全局极小（global minimum）的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。

Hopfield网络的单元是二元的（binary），即这些单元只能接受两个不同的值，并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1，也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为：

$S(t)={\frac {1}{1+e^{-t}}}$ 和间都有一对以一定权重（weight）的连接 $w_{ij}$ $w_{ij}$ 。因此，Hopfiled网络可被描述为一个完整的无向图 $G=<V,f>$ $G = <V, f>$ ，其中 $V {\displaystyle V}$ $V$ 是人工神经元集合。

Hopfiled网络的连接有以下特征：

权重对称的要求是一个重要特征，因为它保证了能量方程（称向函数某一点收敛的过程为势能转化为能量）在神经元激活时单调递减，而不对称的权重可能导致周期性的递增或者噪声。然而，Hopfiled网络也证明噪声过程会被局限在很小的范围，并且并不影响网络的最终性能。

使用下述公式更新Hoffield中节点的值:

$s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.$ $s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.$

公式中：

Hopfied的更新有两种方式：

相关

卡图卢斯卡图卢斯（Gaius Valerius Catullus，约公元前87年—约前54年），古罗马诗人，生于山南高卢的维罗纳。在奥古斯都时期，卡图卢斯享有盛名，然而后来慢慢被湮没。现在所有卡图卢斯的诗歌版
二氯甲烷二氯甲烷（分子式：CH2Cl2）是低沸点无色液体，是重要的有机溶剂，广泛用于医药、塑料及胶片等工业。无色透明易挥发液体。具有类似醚的刺激性气味。溶于约50倍的水，溶于酚、醛、酮、冰
国际科学奥林匹克竞赛国际科学奥林匹克竞赛，又称为国际中学生奥林匹克竞赛，是供全球各地中学生的比赛，一般指由世界各国尚未接受系统的高等教育的中学生参加的学科知识竞赛。学科奥林匹克竞赛竞赛每
田纳西州橡树岭橡树岭（Oak Ridge）是美国田纳西州安德森县和罗恩县的一座城市，人口约2.7万（2000年）。能源部的橡树岭国家实验室位于此市。
广东奥林匹克体育中心广东奥林匹克体育中心位于中国广州市天河区东圃，是2001年举行的中华人民共和国第九届全国运动会的主赛场，和2010年举行的第十六届亚洲运动会主场馆以及亚洲残疾人运动会的开、
生产理论生产理论主要从生产函数出发
解剖学基础模型解剖学基础模型，又称解剖学基础模型本体（Foundational Model of Anatomy Ontology, FMA），是解剖学领域的一部参考本体。它是对生物体典型的表现型结构的符号表达形式；FMA是一部由
拍瀑拉族拍瀑拉（Papora、Vupuran、Bopalat、Basagar、Babusagar，亦作：巴布拉族。）为台湾原住民，平埔族群之一，词源来自大肚社人之自称Papula（音近拍瀑拉）。早期曾分布于今台中市大肚区、大甲
马日事变马日事变是在1927年5月21日（马日）晚上发生于长沙的一场兵变。1926年7月北伐军攻克湖南长沙之后，共产党和国民党左派在湖南实行土地改革，进行阶级斗争，消灭有产者；随即展开阶级斗争
莫顿菊石见内文莫顿菊石（学名：），又名莫托尼菊石，是生存在晚白垩纪海洋中的一属菊石，为莫顿菊石亚科的模式属。它们的游水能力可能很差，可在水中缓慢地游动。其化石分布于欧洲、非洲、美洲等