Hopfield神经网络

✍ dations ◷ 2025-12-11 15:01:33 #神经网络

霍普菲尔德神经网络(Hopfield neural network)是一种循环神经网络,由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛,但收敛到错误的局部极小值(local minimum),而非全局极小(global minimum)的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。

Hopfield网络的单元是二元的(binary),即这些单元只能接受两个不同的值,并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1,也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为:

S ( t ) = 1 1 + e t {\displaystyle S(t)={\frac {1}{1+e^{-t}}}} 和间都有一对以一定权重(weight)的连接 w i j {\displaystyle w_{ij}} 。因此,Hopfiled网络可被描述为一个完整的无向图 G =< V , f > {\displaystyle G=<V,f>} ,其中 V {\displaystyle V} 是人工神经元集合。

Hopfiled网络的连接有以下特征:

权重对称的要求是一个重要特征,因为它保证了能量方程(称向函数某一点收敛的过程为势能转化为能量)在神经元激活时单调递减,而不对称的权重可能导致周期性的递增或者噪声。然而,Hopfiled网络也证明噪声过程会被局限在很小的范围,并且并不影响网络的最终性能。

使用下述公式更新Hoffield中节点的值:

s i { + 1 if  j w j i s j θ i , 1 otherwise. {\displaystyle s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.}

公式中:

Hopfied的更新有两种方式:

相关

  • 食草动物在动物学上,草食性是指主要食物为植物的动物。而一些选择不吃肉类的人则被称为素食者。实际上“草食性”并非指“吃草”的动物,还包括吃木质、花粉、花蜜、水果、谷物等。在英
  • 全概率公式假设{ Bn : n = 1, 2, 3, ... } 是一个概率空间的有限或者可数无限的分割(既 Bn为一完备事件组),且每个集合Bn是一个可测集合,则对任意事件A有全概率公式:又因为此处Pr(A | B)是
  • 冲绳板块隐没带 Alps 造山带 30→ 相对于非洲板块的移动速度(毫米/Y)冲绳板块是窄长的板块,从台湾北端一直延伸至九州南端,东面的琉球海沟是条隐没带,菲律宾板块于此隐没于其下;西边的冲绳
  • 克痢霉素粘杆菌素(Colistin),又名克痢霉素、多粘菌素E,是一种多粘菌素类多肽抗生素,是两种环状多肽——粘杆菌素A和B的混合物。可由多粘芽肥杆菌变种粘菌素(Bacillus polymyxa var. colist
  • 伤齿龙科蜥鸟龙科 Saurornithoididae Barsbold, 1974 ?沼泽鸟龙科 Elopterygidae Lambrecht, 1933 ?原鸟形龙科 Archaeornithoididae Elzanowski & Wellnhofer, 1992伤齿龙科(Troodonti
  • 连二次硝酸连二次硝酸(化学式:H2N2O2),也称为连二亚硝酸、连二次亚硝酸(Hyponitrous acid),无色小片状晶体,是氮的含氧酸之一。可溶于水和乙醇。是硝酰胺(H2N-NO2)的异构体。结构写作HO-N=N-OH,有
  • 韩国外交部韩国外交部(韩语:외교부/外交部  */?)是韩国政府负责外交及其他对外事务的最高机关。
  • 明星明星可以指:一般指比较出名或杰出的人物:
  • .ac.ac(源自阿森松岛一词的英语:Ascension Island中“Ascension”的缩写“Asc”)为英国海外领地阿森松岛在互联网域名系统中拥有的国家和地区顶级域(ccTLD)。不过,部分域名中介也将该
  • 李安民 (南朝)李安民,兰陵承县人。祖父李嶷,曾任卫军参军。父亲李钦之,曾为殿中将军,补任薛县县令。李安民跟着父亲在薛县生活,南朝宋元嘉二十七年(450年)被敌虏抓到北方,后来他率领部下奋勇南归