AlexNet

✍ dations ◷ 2025-12-03 20:32:47 #AlexNet

AlexNet是一个卷积神经网络,由亚历克斯·克里泽夫斯基设计,与伊尔亚·苏茨克维和克里泽夫斯基的博士导师杰弗里·辛顿共同发表,而辛顿最初抵制他的学生的想法。

AlexNet参加了2012年9月30日举行的ImageNet大规模视觉识别挑战赛,达到最低的15.3%的Top-5错误率,比第二名低10.8个百分点。原论文的主要结论是,模型的深度对于提高性能至关重要,AlexNet的计算成本很高,但因在训练过程中使用了图形处理器(GPU)而使得计算具有可行性 。

AlexNet并不是卷积神经网络(CNN)第一次利用快速GPU实现而赢得图像识别竞赛。K. Chellapilla等人(2006)在GPU上的CNN比同等的CPU实现速度快4倍。Dan Ciresan等人(2011)的深层CNN在IDSIA上已经快了60倍,并在2011年8月获取了超过人类的表现。从2011年5月15日到2012年9月10日,他们的CNN赢得了不少于四场图像竞赛。他们还极大提高了文献中多个图像数据库的最佳性能。

根据AlexNet的论文,其与Ciresan的早期网络“有些相似”。两者最初都用CUDA编写,可在GPU支持下运行。实际上,两者都是杨立昆等人(1989)介绍的CNN设计的变体,他将反向传播算法应用于福岛邦彦(福島 邦彦)最初提出的CNN架构“neocognitron”的一个变种。后来J. Weng提出的最大池化方法修改了该架构。

AlexNet包含八层。前五层是卷积层,之后一些层是最大池化层,最后三层是全连接层。它使用了非饱和的ReLU激活函数,显示出比tanh和sigmoid更好的训练性能。

AlexNet被认为是计算机视觉领域最有影响力的论文之一,它刺激了更多使用卷积神经网络和GPU来加速深度学习的论文的出现。截至2020年,AlexNet论文已被引用超过54,000次。

亚历克斯·克里泽夫斯基(出生于乌克兰,在加拿大长大)是一名计算机科学家,以在人工神经网络和深度学习方面的工作而著称。在通过AlexNet赢得ImageNet 2012挑战赛后不久,他和同事将他们的创业公司DNN研究公司(DNN Research Inc.)卖给了Google。克里泽夫斯基对这项工作失去兴趣后,于2017年9月离开了Google。在Dessa公司,克里泽夫斯基将为新的深度学习技术提供建议和帮助。研究人员经常引用他的许多有关机器学习和计算机视觉的论文。

相关

  • 蛋白质减肥杜坎纤体法是一种盲从的饮食风潮(英语:fad diets)。其理论中的蛋白质减肥法是由法国医生和营养师皮埃尔·杜坎(Pierre Dukan)博士得出的结论。杜坎减肥瘦身法是以巩固蛋白质的摄
  • 宾汉谷铜矿场宾汉谷铜矿场(Bingham Canyon Mine)是位于美国犹他州的一个大型铜矿矿山,由力拓集团所有。宾汉谷铜矿场自1906年就开始开采,现在仍在开采,在1966年被列入美国国家历史名胜。
  • 米尔哈什姆·何塞尼米尔哈什姆·何塞尼(波斯语:میرهاشم حسینی‎,1998年10月28日-)是伊朗跆拳道运动员。他曾经获得2017年世界跆拳道锦标赛男子63公斤级银牌,及2018年亚洲运动会男子62公
  • 加叻丹多模式交通运输项目加叻丹多模式交通运输项目是印度为了促进其偏远的东北诸邦的交通运输,同缅甸协商后,开辟的从印度加尔各答-缅甸实兑-加叻丹河-百力瓦-缅甸钦邦与印度米佐拉姆邦边境的海运-河
  • 普拉卡什·帕都恭普拉卡什·帕都恭(印地语:प्रकाश पादुकोण,英语:Prakash Padukone,1955年6月10日-),印度退役男子羽毛球运动员,第一届羽毛球世界杯男子单打冠军以及第一位获得全英羽毛球
  • 等离子体浸没离子注入等离子体浸没离子注入(PIII)或脉冲等离子掺杂(脉冲PIII)是通过应用高电压脉冲直流或纯直流电源,将等离子体中的加速离子作为掺杂物注入合适的基体或置有电极的半导体芯片的靶的一
  • 谨告犯人《谨告犯人》(犯人に告ぐ)是2003年由日本作家雫井脩介所写的推理小说。此书后于2007年改编成同名电影。剧情描述六年前曾因处理绑架案失当而被媒体抨击、长官流放边陲工作的警
  • 克雷斯蒂安·戈德弗雷德·代贝尔·德·哈姆梅劳克雷斯蒂安·戈德弗雷德·代贝尔·德·哈姆梅劳(Krystian Godfryd Deybel de Hammerau,1725年-1798年)是一位波兰立陶宛联邦军司令和炮兵将军。他参与了1794年的华沙起义并领导
  • 中国认知科学学会中国认知科学学会是中华人民共和国认知科学工作者组成的群众性学术团体,是中国科学技术协会主管的社会团体,2011年11月30日在北京市宣布成立,2013年1月18日正式登记。
  • 看板管理看板管理,常作“Kanban管理”(来自日语“看板/カンバン ”),是丰田生产模式中的重要概念,指为了达到及时生产(JIT)方式控制现场生产流程的工具。及时生产方式中的拉式生产系统可以使信息的流程缩短,并配合定量、固定装货容器等方式,而使生产过程中的物料流动顺畅。在看板标示系统中常将塑料或纸制成薄板,将产品名称及数量写于其上,故此得名。及时生产方式的看板在生产线上分为两类:领取看板和生产看板,旨在传达的信息是:“何物,何时,生产多少数量,以何方式生产、搬运”。看板的具体信息包括:零件号码、品名、制造编号、