Hopfield神经网络

✍ dations ◷ 2025-02-23 21:05:55 #神经网络

霍普菲尔德神经网络(Hopfield neural network)是一种循环神经网络，由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛，但收敛到错误的局部极小值（local minimum），而非全局极小（global minimum）的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。

Hopfield网络的单元是二元的（binary），即这些单元只能接受两个不同的值，并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1，也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为：

$S(t)={\frac {1}{1+e^{-t}}}$ 和间都有一对以一定权重（weight）的连接 $w_{ij}$ $w_{ij}$ 。因此，Hopfiled网络可被描述为一个完整的无向图 $G=<V,f>$ $G = <V, f>$ ，其中 $V {\displaystyle V}$ $V$ 是人工神经元集合。

Hopfiled网络的连接有以下特征：

权重对称的要求是一个重要特征，因为它保证了能量方程（称向函数某一点收敛的过程为势能转化为能量）在神经元激活时单调递减，而不对称的权重可能导致周期性的递增或者噪声。然而，Hopfiled网络也证明噪声过程会被局限在很小的范围，并且并不影响网络的最终性能。

使用下述公式更新Hoffield中节点的值:

$s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.$ $s_{i}\leftarrow \left\{{\begin{array}{ll}+1&{\mbox{if }}\sum _{j}{w_{ji}s_{j}}\geq \theta _{i},\\-1&{\mbox{otherwise.}}\end{array}}\right.$

公式中：

Hopfied的更新有两种方式：

相关

几何学几何学（英语：Geometry，古希腊语：γεωμετρία）简称几何。几何学是数学的一个基础分支，主要研究形状、大小、图形的相对位置等空间区域关系以及空间形式的度量。许多文化中都
龙之气息龙之气息辣椒（英语：Dragon's Breath），是目前世界最辣的辣椒品种，其史高维尔指标约2480000。此品种起源于英格兰威尔士圣亚萨，并由当地的诺丁汉特伦特大学参与开发过程。此辣椒由麦
蓬莱米蓬莱米，是一种在台湾广为食用的稻米品种的概称，依时代的不同，而有不同的定义。现今概称的蓬莱米，为粳米和籼米的混种，初始的蓬莱米品种，系由日本稻作专家矶永吉与末永仁改良成功。
佬沃拉瓦格市（伊洛卡诺语: Ciudad ti Laoag）是菲律宾北伊罗戈省首府，与该省的政治、经济、商业与工业中心。它是菲律宾最北端的城市，拥有伊罗戈地区唯一的民用机场。人口约104,904人
虫部虫部，為漢字索引中的部首之一，康熙字典214個部首中的第一百四十二個（六劃的則為第二十五個）。就繁體和簡體中文中，虫部歸於六劃部首。虫部通常以左、右、下方為部字。且無其他部
PITX22L7F、2L7M、2LKX530818741ENSG00000164093ENSMUSG00000028023Q99697P97474NM_000325、NM_001204397、NM_001204398、NM_001204399、NM_153426、NM_153427、XM_02445409
浊会厌颤音浊会厌颤音（voiced epiglottal trill）是辅音的一种，用于一些语言当中。普通话中无此音。国际音标以⟨ʢ⟩代表此音，X-SAMPA音标以⟨<\⟩代表此音。浊会厌颤音的特征：当符号成对出
北非雪松北非雪松（拉丁语：）是雪松属下的一个物种，主要分布在阿尔及利亚和摩洛哥境内的阿特拉斯山脉海拔1370至2200米的森林。
俄罗斯货运航空俄罗斯货运航空（俄语：Аэрофлот-Карго，CJSC "Aeroflot-Cargo）曾是俄罗斯航空的子公司，于2005年成立，于次年融入俄罗斯航空。俄罗斯货运航空曾是伏尔加-第聂伯航空货运
利亚内斯利亚内斯（西班牙语：Llanes），是西班牙阿斯图里亚斯的一个市镇。总面积264平方公里，总人口13276人（2001年），人口密度50人/平方公里。