Hopfield神经网络

✍ dations ◷ 2025-12-01 01:35:01 #神经网络

霍普菲尔德神经网络(Hopfield neural network)是一种循环神经网络,由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛,但收敛到错误的局部极小值(local minimum),而非全局极小(global minimum)的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。

Hopfield网络的单元是二元的(binary),即这些单元只能接受两个不同的值,并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1,也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为:

S ( t ) = 1 1 + e t {\displaystyle S(t)={\frac {1}{1+e^{-t}}}} 和间都有一对以一定权重(weight)的连接 w i j {\displaystyle w_{ij}} 。因此,Hopfiled网络可被描述为一个完整的无向图 G =< V , f > {\displaystyle G=<V,f>} ,其中 V {\displaystyle V} 是人工神经元集合。

Hopfiled网络的连接有以下特征:

权重对称的要求是一个重要特征,因为它保证了能量方程(称向函数某一点收敛的过程为势能转化为能量)在神经元激活时单调递减,而不对称的权重可能导致周期性的递增或者噪声。然而,Hopfiled网络也证明噪声过程会被局限在很小的范围,并且并不影响网络的最终性能。

使用下述公式更新Hoffield中节点的值:

s i { + 1 if  j w j i s j θ i , 1 otherwise. {\displaystyle s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.}

公式中:

Hopfied的更新有两种方式:

相关

  • 氨气氨(英语:Ammonia,或称氨气、无水氨,曾音译作
  • 奈特弗兰克·H·奈特(Frank H. Netter,1906年4月25日-1991年9月17日)是一位美国外科医生、著名医学插图画家。出生于曼哈顿。1989年出版《人体解剖图谱》(Atlas of Human Anatomy),该
  • 法国圣雅克伯朝圣之路1998年,法国境内的若干地点以法国的圣地亚哥-德孔波斯特拉之路(法语:Chemins de Compostelle en France)的名称列为联合国教科文组织世界遗产,这些地点均位于前往西班牙西北部城
  • 本省人本省人为1945年10月25日国民政府接管台湾之后产生的名词,是指1945年8月15日日本二战投降前就已定居台湾的人,主要是指河洛人与客家人,而原住民也被中华民国政府列入本省人的范
  • 家是指一个作为个人、家庭或部落成员的居住空间,通常是房屋或其他建筑物,也可能是组合屋、营帐、船屋或洞窟。是一个可供个人或家庭在里面饮食、睡眠和储存财产的地方,也是人们
  • 国防专利审查中心中国人民解放军军徽国防专利审查中心,位于北京市海淀区新街口外大街23号,是中央军委装备发展部直属事业单位。2008年,国防专利审查中心成立。主要职责是承担国防专利的申请、受
  • 胡卫东胡卫东(1970年1月3日-)是江苏徐州人,中国篮球运动员;身高1.98米,司职得分后卫,战袍号码为8号。在中国篮坛号称“中国乔丹”。胡卫东1985年加入江苏省青年队,1987年加入国家青年队,199
  • 火部火部,为汉字索引中的部首之一,康熙字典214个部首中的第八十六个(四划的则为第二十六个)。就繁体和简体中文中,火部归于四划部首。火部通常是从上、下、左方均可为部字。当上方为
  • 阿纳托利·彼得罗维奇·亚历山德罗夫阿纳托利·彼得罗维奇·亚历山德罗夫(俄语:Анатолий Петрович Александров,转写:Anatoly Petrovich Alexandrov,1903年2月13日-1994年)是苏联/俄罗斯物
  • 雅克·拉比亚迪埃雅克-朱利安·侯托乌·德·拉比亚迪埃(Jacques-Julien Houtou de Labillardière,1755年-1834年)为法国自然学家。他描述了大量澳大利亚植物。