长短期记忆

✍ dations ◷ 2025-11-30 15:29:14 #长短期记忆


长短期记忆(英语:Long Short-Term Memory,LSTM)是一种时间循环神经网络(RNN),论文首次发表于1997年。由于独特的设计结构,LSTM适合于处理和预测时间序列中间隔和延迟非常长的重要事件。

LSTM的表现通常比时间循环神经网络及隐马尔科夫模型(HMM)更好,比如用在不分段连续手写识别上。2009年,用LSTM构建的人工神经网络模型赢得过ICDAR手写识别比赛冠军。LSTM还普遍用于自主语音识别,2013年运用TIMIT自然演讲数据库达成17.7%错误率的纪录。作为非线性模型,LSTM可作为复杂的非线性单元用于构造更大型深度神经网络。

1997年,Sepp Hochreiter和于尔根·施密德胡伯提出LSTM。版本包含了cells, input以及output gates。

2014年,Kyunghyun Cho et al.发明了门控循环单元(英语:Gated recurrent unit)(GRU)。

2016年,谷歌用LSTM进行谷歌翻译。 苹果公司、微软和亚马逊公司也用LSTM生产产品,例如:iPhone、Amazon Alexa、等。中国公司也正在用LSTM。

LSTM是一种含有LSTM区块(blocks)或其他的一种类神经网络,文献或其他资料中LSTM区块可能被描述成智能网络单元,因为它可以记忆不定时间长度的数值,区块中有一个gate能够决定input是否重要到能被记住及能不能被输出output。

右图底下是四个S函数单元,最左边函数依情况可能成为区块的input,右边三个会经过gate决定input是否能传入区块,左边第二个为input gate,如果这里产出近似于零,将把这里的值挡住,不会进到下一层。左边第三个是forget gate,当这产生值近似于零,将把区块里记住的值忘掉。第四个也就是最右边的input为output gate,他可以决定在区块记忆中的input是否能输出 。

LSTM有很多个版本,其中一个重要的版本是GRU(Gated Recurrent Unit),根据谷歌的测试表明,LSTM中最重要的是Forget gate,其次是Input gate,最次是Output gate。

f t = σ g ( W f x t + U f h t 1 + b f ) i t = σ g ( W i x t + U i h t 1 + b i ) o t = σ g ( W o x t + U o h t 1 + b o ) c t = f t c t 1 + i t σ c ( W c x t + U c h t 1 + b c ) h t = o t σ h ( c t ) {displaystyle {begin{aligned}f_{t}&=sigma _{g}(W_{f}x_{t}+U_{f}h_{t-1}+b_{f})\i_{t}&=sigma _{g}(W_{i}x_{t}+U_{i}h_{t-1}+b_{i})\o_{t}&=sigma _{g}(W_{o}x_{t}+U_{o}h_{t-1}+b_{o})\c_{t}&=f_{t}circ c_{t-1}+i_{t}circ sigma _{c}(W_{c}x_{t}+U_{c}h_{t-1}+b_{c})\h_{t}&=o_{t}circ sigma _{h}(c_{t})end{aligned}}}


为了最小化训练误差,梯度下降法(Gradient descent)如:应用时序性倒传递算法(英语:Backpropagation through time),可用来依据错误修改每次的权重。梯度下降法在循环神经网络(RNN)中主要的问题初次在1991年发现,就是误差梯度随着事件间的时间长度成指数般的消失。当设置了LSTM 区块时,误差也随着倒回计算,从output影响回input阶段的每一个gate,直到这个数值被过滤掉。因此正常的倒循环类神经是一个有效训练LSTM区块记住长时间数值的方法。

Backpropagation through time(英语:Backpropagation through time)、BPTT

相关

  • 闪锌矿闪锌矿(英语:Sphalerite)是种由锌和铁结合的硫化物。晶形常为四面体状。纯闪锌矿近于无色,但随着成分中铁含量的增加由浅黄、黄褐、棕甚至黑色,因此难鉴定。具有完全的菱形十二
  • 心理学家列表本条目按字母顺序列举显著的心理学家。目录 A B C D E F G H I J K L M N O P Q R S T U V W X Y ZAndrés Qiu 1980年代著名的心理学家 出生地西班牙
  • 加纳自治领加纳自治领(1957年8月15日—1960年1月26日)位于西部非洲几内亚湾,是加纳共和国成立前,英联邦的自治领之一,是西非第一个独立的国家。
  • 马场下町马场下町(日语:馬場下町/ばばしたちょう  */?)是东京都新宿区的町名。不设町番,未实施住居表示。2013年8月1日为止的人口有482人。邮递区号为162-0045。位于新宿区北部。北临户
  • 埃登巴赫大街站埃登巴赫大街站(德语:U-Bahnhof Aidenbachstraße)是慕尼黑地铁3号线位于慕尼黑塔尔基兴-上森德灵-福斯滕里德-菲尔斯滕里德-索恩的一座车站。 维基共享资源中与埃登巴赫大街站
  • 莫斯利安莫斯利安(保加利亚语:Момчиловци)是保加利亚罗多彼山脉中部的一个村庄和滑雪胜地,位于斯莫梁东北约15公里处。截至2005年 (2005-Missing required parameter 1=!),该
  • 崔叡娜崔叡娜(朝鲜语:최예나、日语:チェ・イェナ;1999年9月29日-) ,早期曾被音译为崔艺娜 ,韩国女歌手,所属经纪公司为乐华娱乐。现为限定女子团体IZ*ONE成员之一。个人相关社群IZ*ONE 官方
  • 没卵头家《没卵头家》是1989年上映的台湾电影,由徐进良导演,由马如风、陈松勇及陆小芬等人主演,在澎湖县望安乡拍摄。《没卵头家》剧情改编自医生作家王湘琦的作品《没卵头家》,小说故事
  • 柯奂如柯奂如(英语:Huan-Ru Ke,日语:クー・ファンルー,1980年12月30日-),台湾女演员,毕业于国立台北艺术大学戏剧系,早期拍摄过多部广告及MV。2001年以偶像剧《流星花园》中的何原滋一角打开
  • 湔江 (沱江西源)湔江,是中国长江流域的一条河流,流经四川省彭州市、什邡市和广汉市,属沱江上游右岸支流。湔江全长139公里,流域面积2808平方公里,河口处多年平均径流量86立方米/秒。湔江发源于彭