AlexNet

✍ dations ◷ 2025-11-08 23:26:45 #AlexNet

AlexNet是一个卷积神经网络,由亚历克斯·克里泽夫斯基设计,与伊尔亚·苏茨克维和克里泽夫斯基的博士导师杰弗里·辛顿共同发表,而辛顿最初抵制他的学生的想法。

AlexNet参加了2012年9月30日举行的ImageNet大规模视觉识别挑战赛,达到最低的15.3%的Top-5错误率,比第二名低10.8个百分点。原论文的主要结论是,模型的深度对于提高性能至关重要,AlexNet的计算成本很高,但因在训练过程中使用了图形处理器(GPU)而使得计算具有可行性 。

AlexNet并不是卷积神经网络(CNN)第一次利用快速GPU实现而赢得图像识别竞赛。K. Chellapilla等人(2006)在GPU上的CNN比同等的CPU实现速度快4倍。Dan Ciresan等人(2011)的深层CNN在IDSIA上已经快了60倍,并在2011年8月获取了超过人类的表现。从2011年5月15日到2012年9月10日,他们的CNN赢得了不少于四场图像竞赛。他们还极大提高了文献中多个图像数据库的最佳性能。

根据AlexNet的论文,其与Ciresan的早期网络“有些相似”。两者最初都用CUDA编写,可在GPU支持下运行。实际上,两者都是杨立昆等人(1989)介绍的CNN设计的变体,他将反向传播算法应用于福岛邦彦(福島 邦彦)最初提出的CNN架构“neocognitron”的一个变种。后来J. Weng提出的最大池化方法修改了该架构。

AlexNet包含八层。前五层是卷积层,之后一些层是最大池化层,最后三层是全连接层。它使用了非饱和的ReLU激活函数,显示出比tanh和sigmoid更好的训练性能。

AlexNet被认为是计算机视觉领域最有影响力的论文之一,它刺激了更多使用卷积神经网络和GPU来加速深度学习的论文的出现。截至2020年,AlexNet论文已被引用超过54,000次。

亚历克斯·克里泽夫斯基(出生于乌克兰,在加拿大长大)是一名计算机科学家,以在人工神经网络和深度学习方面的工作而著称。在通过AlexNet赢得ImageNet 2012挑战赛后不久,他和同事将他们的创业公司DNN研究公司(DNN Research Inc.)卖给了Google。克里泽夫斯基对这项工作失去兴趣后,于2017年9月离开了Google。在Dessa公司,克里泽夫斯基将为新的深度学习技术提供建议和帮助。研究人员经常引用他的许多有关机器学习和计算机视觉的论文。

相关

  • 光照强度太阳光度, L ⨀ {\displaystyle L_{\bigodot }} ,是天文学家习惯用于计
  • 东海女真野人女真,中国明代时期女真族三大部之一。明代女真分为建州、海西、野人女真三部。其中野人女真的地区最北,主要分布于海西(今松花江东)以北、以东和建州以东北的地方,包括了松花
  • 齐默尔曼电报齐默尔曼电报(又译齐默尔曼字条、森马门电报、齐默曼电报、司马文电报,德语:Zimmermann-Depesche)是一份由德意志帝国外相阿图尔·齐默尔曼(英语:Arthur Zimmermann)于1917年1月16
  • 认错《认错》 (英语:Confession)是台湾男音乐团体优客李林的第一张专辑,发行于1991年10月。由红韵音乐公司制作,点将唱片发行,唱片编号:DJCD91048。专辑中的主打歌《认错》是经典著名作
  • 何冰娇何冰娇(He Bingjiao,1997年3月21日-),江苏连云港人,中国女子羽毛球运动员。何冰娇的父母是苏州市体校的老师,自小就带她去体校玩运动。她在大概6、7岁时偶然接触羽毛球运动,觉得羽毛
  • 朱粲朱粲(?-621年6月5日),隋末唐初亳州城父(今安徽省毫州市)人,朱粲最初为隋朝末期的县级官吏,615年随军讨伐变民途中逃跑后聚十万之众造反。转战安徽、湖北、陕西和四川等地杀戮无数,于61
  • 方学世方学世(韩语:방학세,1914年-1992年7月18日),朝鲜政治家,也是苏联派人和首任国家领导人金日成的亲信,官至中央裁判所所长及最高人民会议法案审议委员。1992年因病而死。方学世出生于
  • 麦志忠云吞面大王麦焕池之孙,著名面店麦奀云吞面世家创办人麦奀之子,三代承传经营云吞面店。1986年,麦志忠于中环永吉街开设忠记面家,其后移民加拿大,于当地开设多间面店。
  • 希鲁鲁希鲁鲁(达悟语:Si-zogzog),是台湾达悟族朗岛部落神话中的人物,创建了部落的前身吉玛瓦瓦部落(Jimawawa),被部落的族人视为远祖。希鲁鲁是神话中竹生和石生始祖结为夫妻后生下的其中一个孩子,他出生于红头部落附近的Jimasik聚落、有个兄弟是红头部落的祖先之一,另外在某些说法中野银部落(Ivalino)的始祖希米纳·乌盎是他的女婿、而被伊万特人切掉鼻子的希吉卜吉卜(Si-jipjip)是他的儿子、他的孙子是传统祭仪活动眉巴鲁斯(Mipazos)的创建者;此外也有人认为希鲁鲁是在大洪水之后,和其
  • 中国人权律师团唐吉田电话 +86-131-6130-2848江天勇电话 +86-130-0101-0856renquanlawyer@gmail.com中国人权律师团,又名中国保障人权律师服务团由王成、唐吉田、江天勇三名中国律师于2013年9月发起成立,旨在提供中国公民更及时有效的法律服务、维护公民权利,促进中国人权发展。2014年成员已有225名律师,王成表示目前中国大部分维权律师都已加入,由于中国公民权利意识快速提高,在社会冲突较激烈情况下,维权律师感到律师权益、律师人身安全都无法保障,迫使律师必须抱团互助,增加安