Hopfield神经网络

✍ dations ◷ 2025-12-09 15:07:40 #神经网络

霍普菲尔德神经网络(Hopfield neural network)是一种循环神经网络,由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛,但收敛到错误的局部极小值(local minimum),而非全局极小(global minimum)的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。

Hopfield网络的单元是二元的(binary),即这些单元只能接受两个不同的值,并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1,也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为:

S ( t ) = 1 1 + e t {\displaystyle S(t)={\frac {1}{1+e^{-t}}}} 和间都有一对以一定权重(weight)的连接 w i j {\displaystyle w_{ij}} 。因此,Hopfiled网络可被描述为一个完整的无向图 G =< V , f > {\displaystyle G=<V,f>} ,其中 V {\displaystyle V} 是人工神经元集合。

Hopfiled网络的连接有以下特征:

权重对称的要求是一个重要特征,因为它保证了能量方程(称向函数某一点收敛的过程为势能转化为能量)在神经元激活时单调递减,而不对称的权重可能导致周期性的递增或者噪声。然而,Hopfiled网络也证明噪声过程会被局限在很小的范围,并且并不影响网络的最终性能。

使用下述公式更新Hoffield中节点的值:

s i { + 1 if  j w j i s j θ i , 1 otherwise. {\displaystyle s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.}

公式中:

Hopfied的更新有两种方式:

相关

  • University of Edinburgh坐标:55°56′50.6″N 3°11′13.9″W / 55.947389°N 3.187194°W / 55.947389; -3.187194爱丁堡大学(英语:University of Edinburgh)坐落在苏格兰首府爱丁堡市,是一所创建于158
  • 腐生苔属Cryptothallus hirsutus Cryptothallus mirabilis(英语:Cryptothallus mirabilis)腐生苔属(学名:Cryptothallus)又称隐片苔属,是属于绿片藓科(英语:Aneuraceae)的一种地钱,此类植物植株
  • 溶小体溶酶体(英语:lysosome),又称溶体、溶小体,存在于细胞(多存在于动物细胞中,植物细胞内不常见)中,属于细胞的内膜系统,由高尔基氏复合体产生,是单层膜的囊状细胞器,内部含有数十种从高尔基
  • 安八郡安八郡(日语:安八郡/あんぱちぐん  */?)为旧美浓国及今岐阜县所设立的郡。人口50,111人、面积62.71 km²(2003年)现管辖有以下3町。
  • 莱翁·彼得拉日茨基莱翁·彼得拉日茨基(Leon Petrazycki,1867年 - 1931年)是波兰著名哲学家和法学家,以其国家与法的理论著称。彼得拉日茨基1867年生于波兰维捷布斯克,当时波兰正处于俄国统治之下。
  • 哈德加奥恩哈德加奥恩(Hadgaon),是印度马哈拉施特拉邦Nanded县的一个城镇。总人口23328(2001年)。该地2001年总人口23328人,其中男性12116人,女性11212人;0—6岁人口3784人,其中男1959人,女1825
  • 约翰·伯顿·汤普森约翰·伯顿·汤普森(John Burton Thompson,1810年12月14日-1874年1月7日),美国肯塔基州人,他是一名美国众议院议员和参议院议员。汤普森是肯塔基州第十四任副州长。然后他被选为辉
  • 安德烈亚斯·伊萨克松安德烈亚斯·伊萨克松(瑞典语:Andreas Isaksson,1981年10月3日-)是一名瑞典足球运动员,司职守门员。伊萨克松出身于其家乡俱乐部特雷勒堡,两季后被意大利豪门尤文图斯招揽。由于尤
  • 蕴著蕴著(1699年-1778年),满洲爱新觉罗氏。肃武亲王豪格后裔、显悫亲王富绶之孙、辅国将军拜察礼(富绶第五子)第三子。第五代肃亲王(1772年-1778年)。康熙四十七年(1708年),蕴著承袭父亲拜察
  • 郭世英郭世英(1942年-1968年),郭沫若与于立群之子,出生于重庆。曾就读于北京101中学。