Hopfield神经网络

✍ dations ◷ 2025-12-03 08:44:49 #神经网络

霍普菲尔德神经网络(Hopfield neural network)是一种循环神经网络,由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛,但收敛到错误的局部极小值(local minimum),而非全局极小(global minimum)的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。

Hopfield网络的单元是二元的(binary),即这些单元只能接受两个不同的值,并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1,也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为:

S ( t ) = 1 1 + e t {\displaystyle S(t)={\frac {1}{1+e^{-t}}}} 和间都有一对以一定权重(weight)的连接 w i j {\displaystyle w_{ij}} 。因此,Hopfiled网络可被描述为一个完整的无向图 G =< V , f > {\displaystyle G=<V,f>} ,其中 V {\displaystyle V} 是人工神经元集合。

Hopfiled网络的连接有以下特征:

权重对称的要求是一个重要特征,因为它保证了能量方程(称向函数某一点收敛的过程为势能转化为能量)在神经元激活时单调递减,而不对称的权重可能导致周期性的递增或者噪声。然而,Hopfiled网络也证明噪声过程会被局限在很小的范围,并且并不影响网络的最终性能。

使用下述公式更新Hoffield中节点的值:

s i { + 1 if  j w j i s j θ i , 1 otherwise. {\displaystyle s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.}

公式中:

Hopfied的更新有两种方式:

相关

  • 种小名种加词(英文:specific epithet),又称种小名,指双名法中物种名的第二部分,另一部分为属名。在植物学名命名法中,“种名”指的是物种的完整学名,而在动物学名命名法中,“种名”既可以指
  • 黄埔黄埔可以指:
  • 渤海渤海是中国的内海,也是西太平洋的一部分,渤海古称东海、北海。位于辽东半岛和胶东半岛之间,被辽宁省、河北省、天津市、山东省陆地环抱,仅东部以渤海海峡与黄海相通,南北长约556
  • 相干在物理学里,相干性(coherence)指的是,为了产生显著的干涉现象,波所需具备的性质。更广义地说,相干性描述波与自己、波与其它波之间对于某种内秉物理量的相关性质。当两个波彼此相
  • 原台南中学校讲堂原台南中学校讲堂位于台南市北区,于民国九十六年(1997年)6月26日公告为台南市市定古迹。该校的创立最早可追溯到台湾日治时期于大正三年(1914年)创立的“台湾总督府台南中学校”,
  • 唐师曾唐师曾(1961年-),籍贯江苏无锡,生于北京,中国记者,以野外摄影、中东摄影著称,外号唐老鸭。1979年到1983年,就读于北京大学国际政治系。1983年到1986年,在中国政法大学政治系任教。1986
  • 伯纳德·布罗迪 (军事战略家)伯纳德·布罗迪(1910年5月20日-1978年11月24日),美国军事战略家。他曾任耶鲁大学研究员、兰德公司研究员、国家军事学院创作系教授、国家军事学院顾问委员会委员等职位。他的《
  • 程序分析在计算机科学中,程序分析是指自动分析一个程序的包括正确性、健壮性、安全性和活跃性等特征的过程。程序分析主要研究两大领域:程序的优化(英语:Program optimization)和程序的正
  • 台湾干拌面台湾干拌面(日语:台湾まぜそば/たいわんまぜそば )是日本名古屋料理(日语:名古屋めし)的一种,由“面屋花火”(日文原名:麺屋はなび)创办人新山直人发明。最初新山直人原本想要搭上当时
  • 朱华奎楚定王朱华奎(1571年-1643年),明朝第九代楚王,楚恭王朱英�的儿子。在位期间陷入了楚国两桩大案:楚世子案、楚宗劫杠案,后被流寇张献忠所杀。父亲朱英�是第八代楚王,母宫人胡氏。朱华奎