Hopfield神经网络

✍ dations ◷ 2025-12-04 18:01:24 #神经网络

霍普菲尔德神经网络(Hopfield neural network)是一种循环神经网络,由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛,但收敛到错误的局部极小值(local minimum),而非全局极小(global minimum)的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。

Hopfield网络的单元是二元的(binary),即这些单元只能接受两个不同的值,并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1,也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为:

S ( t ) = 1 1 + e t {\displaystyle S(t)={\frac {1}{1+e^{-t}}}} 和间都有一对以一定权重(weight)的连接 w i j {\displaystyle w_{ij}} 。因此,Hopfiled网络可被描述为一个完整的无向图 G =< V , f > {\displaystyle G=<V,f>} ,其中 V {\displaystyle V} 是人工神经元集合。

Hopfiled网络的连接有以下特征:

权重对称的要求是一个重要特征,因为它保证了能量方程(称向函数某一点收敛的过程为势能转化为能量)在神经元激活时单调递减,而不对称的权重可能导致周期性的递增或者噪声。然而,Hopfiled网络也证明噪声过程会被局限在很小的范围,并且并不影响网络的最终性能。

使用下述公式更新Hoffield中节点的值:

s i { + 1 if  j w j i s j θ i , 1 otherwise. {\displaystyle s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.}

公式中:

Hopfied的更新有两种方式:

相关

  • 权利后设伦理学 规范性 · 描述性 效果论 义务论 美德伦理学 关怀伦理学 善与恶 · 道德生物伦理学 · 网络伦理(英语:Cyberethics) · 神经伦理学(英语:Neuroethics) ·
  • 议政府议政府是朝鲜王朝的最高行政机构,源于高丽王朝时期的都评议使司(도평의사사),朝鲜定宗时改称“议政府”。根据《经国大典》的规定,议政府职掌“总百官,平庶政,理阴阳,经邦国”。府内
  • 球体在数学里,球是指球面内部的空间。球可以是封闭的(包含球面的边界点,称为闭球),也可以是开放的(不包含边界点,称为开球)。球的概念不只存在于三维欧氏空间里,亦存在于较低或较高维度,以
  • 重明鸟重明鸟是中国古代神话传说中的鸟,状似鸡,叫声如凤凰,重瞳,力大无穷。
  • 美利坚合众国宪法第十条修正案宪法正文I ∙ II ∙ III ∙ IV ∙ V ∙ VI ∙ VII其它修正案 XI ∙ XII ∙ XIII ∙ XIV ∙ XV XVI ∙ XVII ∙ XVIII ∙ XIX ∙ XX XXI ∙ XXII ∙ XXIII ∙
  • 维也纳德比维也纳德比(Wien derby)是指奥地利首都维也纳两支球队奥地利维也纳和维也纳快速之间的同城德比大战。两家球队赢得的荣誉比奥地利其他任何球队获得的都多,在奥地利全国都有很多
  • 蔡明昊蔡明昊 (1964年3月29日-),是一名知名美国华裔厨师。他曾在美食频道的铁人料理节目中挑战并打败美国名厨巴比·福雷。蔡明昊于1964年3月29日出生于美国加利福尼亚州新港滩,是工程
  • 蔡金涛蔡金涛,(1908年-1996年),江苏南通人,中国科学院院士,国际宇航科学院院士,中国电讯工程学家,中国航天工业总公司研究员。1930年毕业于上海交通大学电机工程学院,1931年任中央研究院物理
  • 羊奶酪羊奶酪是通过羊奶发酵后制成的一种乳制品。羊奶酪含有的乳酸菌浓度比羊奶更高,形态接近固体,营养价值比羊奶更加丰富。十公斤羊奶浓缩后可制成一公斤羊奶酪,羊奶酪的营养成分有
  • Liquid War《Liquid War》是一个多人动作游戏。此游戏的创想源于托马斯·科尔孔贝(Thomas Colcombet),而游戏则是由他和克里斯琴·摩迪(Christian Mauduit)编程。在6.X.X版本之前使用的自由