Hopfield神经网络

✍ dations ◷ 2025-10-12 09:52:33 #神经网络

霍普菲尔德神经网络(Hopfield neural network)是一种循环神经网络,由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛,但收敛到错误的局部极小值(local minimum),而非全局极小(global minimum)的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。

Hopfield网络的单元是二元的(binary),即这些单元只能接受两个不同的值,并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1,也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为:

S ( t ) = 1 1 + e t {\displaystyle S(t)={\frac {1}{1+e^{-t}}}} 和间都有一对以一定权重(weight)的连接 w i j {\displaystyle w_{ij}} 。因此,Hopfiled网络可被描述为一个完整的无向图 G =< V , f > {\displaystyle G=<V,f>} ,其中 V {\displaystyle V} 是人工神经元集合。

Hopfiled网络的连接有以下特征:

权重对称的要求是一个重要特征,因为它保证了能量方程(称向函数某一点收敛的过程为势能转化为能量)在神经元激活时单调递减,而不对称的权重可能导致周期性的递增或者噪声。然而,Hopfiled网络也证明噪声过程会被局限在很小的范围,并且并不影响网络的最终性能。

使用下述公式更新Hoffield中节点的值:

s i { + 1 if  j w j i s j θ i , 1 otherwise. {\displaystyle s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.}

公式中:

Hopfied的更新有两种方式:

相关

  • 天冬氨酸转氨酶天冬氨酸氨基转移酶(英语:Aspartate Transaminase,缩写 AST),也称作谷草转氨酶(SGOT),是一种磷酸吡哆醛蛋白质,也可以作用于L-苯丙氨酸、L-酪氨酸和L-色氨酸(EC 2.6.1.1)。谷草转氨酶
  • 奥托二世奥托二世(Otto II,955年—983年12月7日),东法兰克国王(961年—983年在位),罗马帝国皇帝(967年起与父亲共治)。皇帝奥托一世与伦巴第的阿德莱德之子。奥托二世在961年父皇尚在世时即已
  • 微米 (软件)微米(英语:WeMeet)是一款由杭州酷跃科技有限公司研发的类似于WeChat的社交IM应用,主打组群聊天与“阅后即焚”功能。
  • 贝尔尼·阿尔德贝尔尼·朱利安·阿尔德(英语:Berni Julian Alder,1925年9月9日-),美国物理学家,研究方向为统计力学,他是物理学中数值模拟的先驱。
  • 俄勒冈条约俄勒冈条约(英语:Oregon Treaty)是英国和美国于1846年7月15日在华盛顿哥伦比亚特区签署的条约。该条约结束了长久以来美国和英属北美在如今美加边境西部的边境争议。1818年条约
  • 约克郡-亨伯约克郡-亨伯(英语:Yorkshire and the Humber),英国英格兰下辖的9个次级行政区之一,涵盖过去的约克郡以及林肯郡北部。约克郡-亨伯旧名约克郡及亨伯赛德(Yorkshire and Humberside),
  • 织田政权织田政权指的是日本永禄11年(1568年)至天正11年(1583年)期间,由织田信长建立的武家政权。织田政权的特色,为建立治军严明但用人唯才的织田军,对西方人在大航海时代来到东方所带来的
  • 骏河侵攻骏河侵攻(日语:駿河侵攻/するがしんこう )是日本战国时代的合战。由甲斐国战国大名武田信玄在永禄11年(1568年)侵攻骏河国今川氏领国为开端。在战国时期,甲斐武田氏、骏河今川氏、
  • 英国生物样本库英国生物样本库(英语:UK Biobank)是英国的一项大规模的长期生物样本库计划,始于2006年,旨在研究遗传和环境因素(包括营养,生活方式,药物等)对于疾病发展的影响。它位于斯托克波特,大曼
  • 大卫·哈塞尔霍夫大卫·迈克尔·哈塞尔霍夫(英语:David Michael Hasselhoff;1952年7月17日-),出生于美国巴的摩尔的德国裔演员,绰号“霍夫”(The Hoff)。最著名的演出是《霹雳游侠》与《海滩游侠》。