AlexNet

✍ dations ◷ 2025-09-14 21:49:17 #AlexNet

AlexNet是一个卷积神经网络,由亚历克斯·克里泽夫斯基设计,与伊尔亚·苏茨克维和克里泽夫斯基的博士导师杰弗里·辛顿共同发表,而辛顿最初抵制他的学生的想法。

AlexNet参加了2012年9月30日举行的ImageNet大规模视觉识别挑战赛,达到最低的15.3%的Top-5错误率,比第二名低10.8个百分点。原论文的主要结论是,模型的深度对于提高性能至关重要,AlexNet的计算成本很高,但因在训练过程中使用了图形处理器(GPU)而使得计算具有可行性 。

AlexNet并不是卷积神经网络(CNN)第一次利用快速GPU实现而赢得图像识别竞赛。K. Chellapilla等人(2006)在GPU上的CNN比同等的CPU实现速度快4倍。Dan Ciresan等人(2011)的深层CNN在IDSIA上已经快了60倍,并在2011年8月获取了超过人类的表现。从2011年5月15日到2012年9月10日,他们的CNN赢得了不少于四场图像竞赛。他们还极大提高了文献中多个图像数据库的最佳性能。

根据AlexNet的论文,其与Ciresan的早期网络“有些相似”。两者最初都用CUDA编写,可在GPU支持下运行。实际上,两者都是杨立昆等人(1989)介绍的CNN设计的变体,他将反向传播算法应用于福岛邦彦(福島 邦彦)最初提出的CNN架构“neocognitron”的一个变种。后来J. Weng提出的最大池化方法修改了该架构。

AlexNet包含八层。前五层是卷积层,之后一些层是最大池化层,最后三层是全连接层。它使用了非饱和的ReLU激活函数,显示出比tanh和sigmoid更好的训练性能。

AlexNet被认为是计算机视觉领域最有影响力的论文之一,它刺激了更多使用卷积神经网络和GPU来加速深度学习的论文的出现。截至2020年,AlexNet论文已被引用超过54,000次。

亚历克斯·克里泽夫斯基(出生于乌克兰,在加拿大长大)是一名计算机科学家,以在人工神经网络和深度学习方面的工作而著称。在通过AlexNet赢得ImageNet 2012挑战赛后不久,他和同事将他们的创业公司DNN研究公司(DNN Research Inc.)卖给了Google。克里泽夫斯基对这项工作失去兴趣后,于2017年9月离开了Google。在Dessa公司,克里泽夫斯基将为新的深度学习技术提供建议和帮助。研究人员经常引用他的许多有关机器学习和计算机视觉的论文。

相关

  • 吸蜜蜂鸟吸蜜蜂鸟(学名:Mellisuga helenae)是古巴及青年岛的蜂鸟特有种。它们约重1.8克及长5厘米,是世界上最细小的鸟类。雄性吸蜜蜂鸟的鸟冠呈绿色,喉咙呈红色,领子虹色,上身蓝色,下身主要
  • 上山文化上山遗址位于中国浙江省浦江县黄宅镇渠南村,是浦阳江上游重要的新石器时代早期文化遗址,是中国迄今发现的年代最早的新石器时代遗址之一。2006年列入第六批全国重点文物保护单
  • 卡尔·布留洛夫卡尔·巴甫洛维奇·布留洛夫(俄语:Карл Па́влович Брюлло́в;1799年12月12日-1852年6月11日)是俄国著名画家,俄国19世纪上半期学院派的代表大师,新古典主义至
  • 教大站教大站,一般指该教育大学旁之车站,可以指:
  • 丁忱丁忱(1919年2月-2011年1月31日),字宝恂,江苏无锡人,中华人民共和国政治人物,上海工商学院首任院长,第四、五、六、七届全国政协委员。
  • 木木津克久木木津克久,日本的漫画家。代表作为描写黑色幽默喜剧‘疯狂怪医芙兰’,和描写女子高中生侦探活跃的故事‘名侦探马妮’等等。
  • 三阳广场站坐标:31°34′40″N 120°17′43″E / 31.57767°N 120.29529°E / 31.57767; 120.295291号线 往堰桥方向:6:30 往长广溪方向:6:20 2号线 往无锡东站方向:6:09 往梅园开原寺方向
  • 布兰登·卓利布兰登·S·卓利(英语:Brandon S. Drury, 1992年8月21日-),为美国职棒大联盟多伦多蓝鸟的三垒手。先前曾效力过响尾蛇与洋基队。2010年美国职棒大联盟选秀,勇士队在第13轮选进了卓
  • 乔尔·梅特卡夫乔尔·梅特卡夫(英语:Joel Hastings Metcalf,1866年1月4日-1925年2月23日),是一名美国牧师,同时也是业余天文学家。梅特卡夫1892年毕业于哈佛大学神学院,之后先后在佛蒙特州伯灵顿、
  • 卡斯托峰坐标:45°55′20″N 7°47′34″E / 45.92222°N 7.79278°E / 45.92222; 7.79278卡斯托峰(意大利语:Castore),是欧洲的山峰,位于瑞士和意大利接壤的边境,属于本宁阿尔卑斯山脉的一