AlexNet

✍ dations ◷ 2025-08-21 21:30:22 #AlexNet

AlexNet是一个卷积神经网络,由亚历克斯·克里泽夫斯基设计,与伊尔亚·苏茨克维和克里泽夫斯基的博士导师杰弗里·辛顿共同发表,而辛顿最初抵制他的学生的想法。

AlexNet参加了2012年9月30日举行的ImageNet大规模视觉识别挑战赛,达到最低的15.3%的Top-5错误率,比第二名低10.8个百分点。原论文的主要结论是,模型的深度对于提高性能至关重要,AlexNet的计算成本很高,但因在训练过程中使用了图形处理器(GPU)而使得计算具有可行性 。

AlexNet并不是卷积神经网络(CNN)第一次利用快速GPU实现而赢得图像识别竞赛。K. Chellapilla等人(2006)在GPU上的CNN比同等的CPU实现速度快4倍。Dan Ciresan等人(2011)的深层CNN在IDSIA上已经快了60倍,并在2011年8月获取了超过人类的表现。从2011年5月15日到2012年9月10日,他们的CNN赢得了不少于四场图像竞赛。他们还极大提高了文献中多个图像数据库的最佳性能。

根据AlexNet的论文,其与Ciresan的早期网络“有些相似”。两者最初都用CUDA编写,可在GPU支持下运行。实际上,两者都是杨立昆等人(1989)介绍的CNN设计的变体,他将反向传播算法应用于福岛邦彦(福島 邦彦)最初提出的CNN架构“neocognitron”的一个变种。后来J. Weng提出的最大池化方法修改了该架构。

AlexNet包含八层。前五层是卷积层,之后一些层是最大池化层,最后三层是全连接层。它使用了非饱和的ReLU激活函数,显示出比tanh和sigmoid更好的训练性能。

AlexNet被认为是计算机视觉领域最有影响力的论文之一,它刺激了更多使用卷积神经网络和GPU来加速深度学习的论文的出现。截至2020年,AlexNet论文已被引用超过54,000次。

亚历克斯·克里泽夫斯基(出生于乌克兰,在加拿大长大)是一名计算机科学家,以在人工神经网络和深度学习方面的工作而著称。在通过AlexNet赢得ImageNet 2012挑战赛后不久,他和同事将他们的创业公司DNN研究公司(DNN Research Inc.)卖给了Google。克里泽夫斯基对这项工作失去兴趣后,于2017年9月离开了Google。在Dessa公司,克里泽夫斯基将为新的深度学习技术提供建议和帮助。研究人员经常引用他的许多有关机器学习和计算机视觉的论文。

相关

  • 康德伊曼努尔·康德(德语:Immanuel Kant;德语发音:.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode","Code2000
  • 高 俊高俊(1933年10月7日-),中国地图学与地理信息系统学家。出生于北京。1956年毕业于解放军测绘学院。1999年当选为中国科学院院士。解放军测绘学院教授。
  • 河南省名人列表河南以其悠久的历史和深厚的文化底蕴,从古至今孕育了为数众多的历史文化名人,按照丁文江先生对《二十四史》中前汉、后汉、唐、北宋、南宋、明六代立传人物的籍贯统计结果,河南
  • 髋关节在脊椎动物解剖学中,髋关节(英语:hip,拉丁语:coxa)既可指代一个解剖学区域,亦可指代一个关节。髋关节区位于臀部外前侧,髂嵴(英语:iliac crest)内侧,覆盖了股骨大转子(英语:greater trocha
  • 肖肖尼国家森林肖肖尼国家森林(英语:Shoshone National Forest,/ʃoʊˈʃoʊniː/)是美国首个受联邦保护的国家森林,面积约2.5 × 106英亩(10,000平方千米),地处美国怀俄明州。它原先是黄石公园
  • 乔治王子 (肯特公爵)肯特公爵乔治亲王(Prince George of the United Kingdom, Duke of Kent,1902年12月20日-1942年8月25日),全名乔治·爱德华·亚历山大·埃德蒙(George Edward Alexander Edmund),大英
  • 神秘海域 (电影)《神秘海域》(英语:,港台译《秘境探险》)是一部预定于2021年上映的美国动作冒险片,由鲁本·弗雷斯彻执导,阿特·马库姆和马特·霍洛韦(英语:Art Marcum and Matt Holloway)编剧,汤姆·
  • 肋间内肌肋间内肌,亦称内肋间肌(internal intercostal muscles,intercostales interni)在肋骨间,为骨骼肌的一个肌群。两边各有11块肌肉。胸骨为起点,在真肋的软骨
  • 柴蔚柴蔚(2002年12月7日-),出生于浙江省宁波市慈溪市,中国童星,被称为“小林青霞”,2011年在古装剧“步步惊心”饰演“承欢格格”被观众熟知而出道。2013年在张纪中导演的史诗剧《英雄时代》中扮演“小精卫”;参演电视剧《新神雕侠侣》。2014年在郭敬明导演的电影《小时代4》中扮演“小林萧”,同年在郑晓龙导演的电视剧《芈月传》中扮演“少年芈月”。代表作有《步步惊心》、《贤妻》、《芈月传》、《英雄时代》等。2011年柴蔚在古装大戏《步步惊心》中饰演承欢格格。红色题材电视剧《少共国际师》中主演细妹童养媳一角
  • 陈天华陈天华(1875年3月6日-1905年12月8日),中国近代革命家,原名显宿,字星台、过庭,别号思黄,湖南省新化县人,中国同盟会会员,清末革命烈士。早年就学湖南长沙岳麓书院,1903年留学日本,参与组织拒俄义勇队和国民教育会,从事反清活动。1904年与黄兴、宋教仁等在长沙创立华兴会,策划武装起义,事泄逃亡日本。1905年加入中国同盟会,任《民报》编辑,以通俗的文体著《警世钟》《猛回头》《狮子吼》《国民必读》《最近政见之评决》《最近之方针》《中国革命史论》等文,宣传革命思想,影响“较之章太炎《驳康有为政见书