Hopfield神经网络

✍ dations ◷ 2025-12-07 13:35:00 #神经网络

霍普菲尔德神经网络(Hopfield neural network)是一种循环神经网络,由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛,但收敛到错误的局部极小值(local minimum),而非全局极小(global minimum)的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。

Hopfield网络的单元是二元的(binary),即这些单元只能接受两个不同的值,并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1,也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为:

S ( t ) = 1 1 + e t {\displaystyle S(t)={\frac {1}{1+e^{-t}}}} 和间都有一对以一定权重(weight)的连接 w i j {\displaystyle w_{ij}} 。因此,Hopfiled网络可被描述为一个完整的无向图 G =< V , f > {\displaystyle G=<V,f>} ,其中 V {\displaystyle V} 是人工神经元集合。

Hopfiled网络的连接有以下特征:

权重对称的要求是一个重要特征,因为它保证了能量方程(称向函数某一点收敛的过程为势能转化为能量)在神经元激活时单调递减,而不对称的权重可能导致周期性的递增或者噪声。然而,Hopfiled网络也证明噪声过程会被局限在很小的范围,并且并不影响网络的最终性能。

使用下述公式更新Hoffield中节点的值:

s i { + 1 if  j w j i s j θ i , 1 otherwise. {\displaystyle s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.}

公式中:

Hopfied的更新有两种方式:

相关

  • 海底生物底栖生物是指任何在海底或海床附近的生命,在希腊语有“海的底部”的意思,有的时候底栖生物也会只在湖底或河底的生物,因此也属于淡水生物学的一环,典型的栖地生物有海星、蚌类、
  • 马鲁古鹿豚马鲁古鹿豚(学名:Babyrousa babyrussa)又名鹿豚或鹿猪。原产于印尼的孟格罗岛、陶根岛和苏拉威西岛。皮肤呈灰色到褐色,几乎没有毛发,四肢细而长。和其他鹿豚一样,拥有两对獠牙,獠
  • I-4545号州际公路(Interstate 45,简称I-45)是美国州际公路系统的一部分。呈东南-西北走向,连接德克萨斯州达拉斯(与345号州际公路交汇)与加尔维斯顿(与德克萨斯州公路87交汇)。全长284.9
  • 豆蟹Pinnotheres cranchii Leach, 1815 Pinnotheres latreilli Leach, 1815 Pinnotheres modiolae Costa, 1840 Pinnotheres modioli Leach, 1814 Pinnotheres mytilii Leach, 1
  • 公孙瓒公孙瓒(?-199年),字伯圭(出《刘宽碑阴》名字取自圭瓒一词,文史多作伯珪,当取碑),东汉末期人物,幽州辽西令支人,曾任中郎将,封都亭侯,幽州刺史。曾与刘备和刘德然共同师事于卢植。镇守辽西
  • 经济学帝国主义经济学帝国主义是指当代经济学对生活中似是而非的经济方面的经济分析,例如犯罪经济学,法律经济学,家庭经济学,偏见经济学,口味经济学,非理性行为经济学,政治经济学,社会经济学,文化
  • 芳樟醇芳樟醇(Linalool),学名3,7-二甲基-1,6-辛二烯3-醇,是一种无环单萜醇。芳樟醇是无色油状液体,具有铃兰香气,无樟脑和萜烯气味。不溶于水,能与乙醇、乙醚混溶。芳樟醇分子中有一个不
  • 川鼩川鼩(学名:)为鼩鼱科川鼩属的动物。在中国大陆,分布于甘肃、陕西、贵州、云南、四川等地,多栖息于山地森林以及灌丛。该物种的模式产地在四川宝兴。
  • 燃烧驱动《燃烧驱动》是一部由世嘉和讲谈社联合制作的跨媒体作品。漫画版于2008年上半年开始连载,而同名的游戏则于同年12月推出。游戏和漫画的主角不是同一人,不过他们同时都在两部作
  • 梦宝谷梦宝谷(Mobage)是日本的移动电话门户网站和社交服务(SNS),由DeNA运营。手机游戏开发者在该服务发布游戏。日本区2006年2月7日开始服务,原名Mobage Town,2011年3月27日改为现名。