提出世界第一个卷积神经网络!CNN之父福岛邦彦获鲍尔科学成就奖
来源:网络
编辑:David、小咸鱼 【新智元导读】2021年4月29日,福岛邦彦(Kunihiko Fukushima)获得 2021 年鲍尔科学成就奖。他为深度学习做出了杰出贡献,其最有影响力的工作当属「Neocognitron」卷积神经网络架构。
近日,LSTM之父Jürgen Schmidhuber在自己的YouTube频道上发布视频,对2021年的鲍尔科学成就奖得主福岛邦彦(Kunihiko Fukushima)表示祝贺。
今年4月29日,福岛因其对深度学习的巨大贡献,尤其是他极具影响力的卷积神经网络架构获得2021年鲍尔科学成就奖。
其实,熟悉这位Jürgen Schmidhuber人都知道,他此前一直对自己在深度学习领域的早期原创性成果未能得到业界广泛承认而耿耿于怀。
不过,这个视频中虽然也花了不少篇幅介绍了他未获承认的原创成果,比如ResNet、AlexNet等,但同时也对福岛邦彦的获奖表示祝贺,并介绍了他的杰出成就。
那么,这个「鲍尔科学成就奖」有多厉害?福岛邦彦又是何许人也? 美国历史最悠久的科学奖,见证200年人类进步
说起这个「鲍尔科学成就奖」,它其实是久负盛名的研究机构「富兰克林学会」下设立的一个奖项。
富兰克林学会(Franklin Institute)成立于1824年的费城,是一个物理学教育与研究机构,其核心目标是促进科学和技术的发展,为公众和科学界提供有价值的服务。
该机构以美国国父之一、物理学家本杰明·富兰克林命名。自1826年1月起,颁发科学、工程和工业领域的杰出成就奖,是美国历史最悠久的综合性科学和技术奖励计划。
到目前为止,富兰克林学会奖共奖励了全球 2000 多位最具开拓性的科学家、工程师、发明家和创新者。
可以说,这个奖项的历史,就是过去近两个世纪以来人类发现和进步的历史。 许多彻底颠覆我们今天生活方式的伟大发明,从柴油发动机到火星探测器,从打字机到手机,从 X 射线技术到基因组编辑,其发现者都获得过该奖。
富兰克林学会奖的获奖者名单就是一部人类「全明星」名录:
1915年,托马斯·爱迪生(前排左三)获得富兰克林工程奖
尼古拉·特斯拉、托马斯·爱迪生、居里夫人夫妇、爱因斯坦、马克斯·普朗克、亨利·福特、恩里科·费米、埃德温·哈勃、斯蒂芬·霍金、戈登·摩尔、比尔·盖茨......
迄今为止,已有 121 位富兰克林学会奖的获奖者获得了诺贝尔奖。 而且,多数诺贝尔奖得主在获诺奖之前,就已获得过富兰克林学会奖。
1988年,费城化学品制造商亨利·鲍尔 (Henry Bower) 向富兰克林学会捐款750万美元,鲍尔科学成就奖由此设立。 鲍尔科学成就奖每年以不同的主题颁发,每年奖金不少于25万美元。
该奖项每年提名的截止日期是4月底,被提名者必须是在世者。
福岛邦彦:何许人也?福岛邦彦(Kunihiko Fukushima)这个名字听起来并不是如雷贯耳,但他的工作在神经网络的发展史上绝对不可磨灭的传奇一笔。
1979年,福岛博士在STRL开发了一种用于模式识别的神经网络模型: Neocognitron。
很陌生对吧?但这个Neocognitron用今天的话来说,叫卷积神经网络(CNN),是深度神经网络基本结构的最伟大发明之一,也是当前人工智能的核心技术。
什么?卷积神经网络不是一个叫Yann LeCun的大佬发明的吗?怎么又换成了福岛邦彦(Kunihiko Fukushima)了?
严格意义上讲,LeCun是第一个使用误差反向传播训练卷积神经网络(CNN)架构的人,但他并不是第一个发明这个结构的人。而福岛博士引入的Neocognitron,是第一个使用卷积和下采样的神经网络,也是卷积神经网络的雏形。
福岛邦彦(Kunihiko Fukushima)设计的具有学习能力的人工多层神经网络,可以模仿大脑的视觉网络,这种「洞察力」成为现代人工智能技术的基础。福岛博士的工作带来了一系列实际应用,从自动驾驶汽车到面部识别,从癌症检测到洪水预测,还会有越来越多的应用。 成长经历
福岛博士小时候家境贫寒,几乎没有多余的钱买玩具。一个叔叔给了福岛一个多余的变压器和一个拆卸下来的电动机来修补。好奇心让他对电线和电路充满激情,他也曾用废料制造了电动火车和收音机。
对电子技术的热爱让他不断追寻,在1958年,他获得学士学位后继续攻读电子学,并于1966年获得京都大学电气工程博士学位。
从京都大学毕业后,福岛加入了日本广播公司NHK的研究部门,在那里他对电视信号高效编码的研究成为了他的博士论文的方向。
传奇的故事开始于1965年,那年,NHK建立了一个名为广播科学研究实验室的基础研究机构,福岛在那里加入了一个视觉和听觉信息处理研究小组。这个小组不仅包括工程师,还包括神经生理学家和心理学家。其目的是研究生物大脑,也是电视和广播传播的信号的最终目的地。 「Neocognitron」的诞生
如果你看到什么东西在动,其实那是你的大脑用一系列等级分类来最终判断他在动。
首先,你的大脑可能会处理物体的大小,然后你的大脑会通过定义颜色和形状等特征来缩小识别范围,同时将其他相关的记忆和过去的经历聚集在一起。
正是这种分层的模式处理和我们的个人生活经历,我们可以立即区分猫和狗。在蹒跚学步的时候,我们可能会错误地把狐狸叫做狗,或者把仓鼠叫做老鼠,但是我们的大脑很快就会重新学会正确的分类。
福岛的计划是建造和训练一个人脑识别系统的电子版本。
1976年,福岛博士在STRL做研究
在NHK,福岛与神经生理学家和心理学家通力合作,组装人工神经网络。他的第一个人工网络「Cognitron」展示了一种识别模式的能力,但它对移动、旋转或部分模糊无能为力。
基于对神经生理学的了解,福岛觉得应该需要一个更大的、具有更多层且有组织的网络来实现高级模式识别能力。
1979年,「Neocognitron」问世了, 它的灵感来自于两种已知存在于初级视觉皮层的神经细胞,一种是简单的「S」细胞,另一种是复杂的「C」细胞,它们按照级联顺序排列,就可以用于模式识别任务。
福岛的「Neocognitron」通过堆叠多层人工「S」细胞和「C」细胞,并结合学习规则来修改细胞和这些内部隐藏层之间的相互作用。这第一个深度学习神经网络,成功地识别了从0到9的手写数字,而且可以适应书写中的变化。
虽然在今天来看,手写数字识别只是现在机器学习入门者的toy case,但如果时间回到1979年,「Neocognitron」的能力绝对是惊为天人的壮举。 躬耕一生,荣誉等身1989年搬到大阪大学后,福岛博士扩大了他对神经网络和机器学习的研究,不仅为视觉模式识别,还模仿生物大脑的许多其他功能制作神经网络模型。
如今,福岛博士主要在东京的家中工作,为神经网络开发新的训练方法和架构,以更小的计算需求更鲁棒地识别变形和移位的模式。虽然绝大多数人在83岁时早已退休,但福岛博士在2019年11月依旧发表了他的最新论文。
福岛博士一生荣誉等身,除了今年4月份的鲍尔科学成就奖,还有包括日本科学技术机构奖(1985年)、电气与电子工程师学会神经网络先锋奖(2003年)、亚太神经网络组装杰出成就奖(2005年)、国际神经网络学会亥姆霍兹奖(2012年)、电子、信息与通信工程师学会杰出成就奖(2017年)、日本神经网络学会学术奖(2017年)和高柳健次郎奖(2020年)等一系列奖项。 大师风范
在最近的采访中,福岛博士被问到他的研究方法时,说道:
「重要的是发挥你自己的创造力,而不是简单地追准当前流行的研究。为了获得新的想法,关注你的主题以及你自己的工作是很重要的。你必须保持专注于自己的目标,而不是让你的研究方向漫无目的地游荡。」
参考链接:
https://www.fi.edu/awards
https://www.fi.edu/laureates/kunihiko-fukushima
https://twitter.com/schmidhuberai/status/1448168005469413376?s=21
https://www.nhk.or.jp/strl/english/publica/giken_dayori/194/1.html
郭涛晒儿子近照,14岁郭子睿比妈妈高半个头,身高已超爸爸当初很火的一档亲子综艺爸爸去哪儿应该很多人都有看过,毕竟小朋友们都太可爱了,而小朋友们和明星父亲之间的互动也相当有意思。熟悉郭涛父子的网友应该都知道,郭涛与儿子郭子睿也是因为参加2
豆瓣9。2,高质量,更持久自权力的游戏的结局烂尾,西部世界三季之后的无人问津,大家有没有发现一个相当有趣的现象,近两年来,迷你剧限定剧小成本小制作的电视台都火爆起来。比如hulu的使女的故事系列,成为了第一
重男轻女实锤?贺军翔自曝想生儿子之前由贺军翔杨丞琳领衔主演的经典台剧恶魔在身边于05年播出后爆红,当时年仅21岁的贺军翔凭借饰演恶魔王子阿猛一角而在两岸三地爆红,是当时人气很高的偶像剧男神,因为长相帅气,身上有着
黄晓明baby国庆带儿子逛环球影城,小海绵上台摆剪刀手超可爱国庆假期是亲子出游的好时机,黄晓明baby夫妻俩在几天前被偶遇一起用餐后,10月6号,又被网友偶遇现身北京环球影城,可见一家三口来北京,环球影城是这趟旅行打卡的地点之一。偶遇照中,
白衣执甲守得花开春还,伟大的中国医护人员值得这样一部电影2020年初新冠爆发,对我们的生活方式产生了颠覆式的影响。一切都往线上靠拢,戴口罩成了日常,而能预见到的,我们可能要和新冠病毒共存好久好久。病毒来袭,医院就是战场,而能白衣执甲保卫
你知道你爱的肖战wjjw还是个脾气超好的乙方设计师吗?这个夏天,限定男友换了一个又一个,然而肖战凭借陈情令中的精彩表现成功为不少迷妹心头的朱砂痣。现在的流量男星大部分都是95后甚至00后,91年出生的肖战算的上是大器晚成。他的作品没有
沉睡魔咒2的魔女安吉丽娜朱莉颜值一直营业近日沉睡魔咒2上映,剧情承接上一部,只不过这一次被迪士尼将影片的背景进一步放大,影片基本已经脱离了睡美人的故事,王子与公主的故事不再局限于,而是扩展到了黑魔女的种族。世界观变复杂的
巩俐为什么能被称为巩皇近日,巩俐扮演郎平的相关信息频上热搜,看过的人都表示,太像了,认不出来。没错,只要看到这个背影,你也会感叹。10月5日晚,成龙现身片场探班。视频中还有一个熟悉的背影,利落的短发,微
你的爱豆也姨化了吗?近日兴起了姨系爱豆一词令不少人一头雾水,这个词其实就是指穿着打扮偏于女性化,有隔壁阿姨既视感的一类爱豆,今天就带大家来了解一下这个娱乐圈的新派系姨系。一号代表人物周震南周震南在腾讯
陈漫大半个娱乐圈都在追捧的摄影师近日,势头正劲的肖战与摄影师一同上了热搜,肖战称自己追星成功,这个摄影师怎么就成了小赞的偶像了呢?合影中的陈漫头上绑着个蝴蝶结发带,手比剪刀,谁能相信这是个已经39岁的女人了,并且
女足占巴西全力争胜,范志毅向董路讨教,格德斯想自由身离开泰山北京时间7月21日下午4点,中国女足将迎战小组赛第一个对手巴西女足,这也是中国奥运代表团在本次东京奥运会的首战,如今的中国女足和巴西女足相比,实力上还是有一定的差距,毕竟中国女足是
第33金!14岁!中国跳水第一人!本次奥运最苦冠军,看哭全网大家好,我是tris,今天是我早起写作的第七十三天。在昨天下午的奥运女子单人10米台比赛中,全红婵以466。2的高分取得冠军,并且打破世界记录。夺冠的她才年仅14岁,许多女孩在她这
这个七夕,单身的我给自己写了封情书大家好,我是tris,今天是我写作的第八十一天。不知不觉,又是一个七夕。在这个爱意浓浓的日子里,也许你还在公司加班加点,或许你突然收到了来自另一半的惊喜。又或者,你还在苦苦等待来自
三天花了上十万!我发现了农村丧葬中惊人的内幕大家好,我是tris,今天是我写作的第七十四天。前不久,爷爷仙逝了。他与袁隆平爷爷是同年生人,他的一生是极度勤恳与节俭的。他给后人留下了三万多块钱,其中很大一部分还是国家发的养老金
掌握这三个法则,让你免受借钱的损害大家好,我是tris,今天是我早起写作的第六十五天。借钱这个事儿想必大家在平日里难免会遇到。无论是找别人借钱,还是借钱给别人,都是比较难处理的事。即便是一些富人贵人,在面对这些问题
改变一生的几个微习惯,一定要逼自己养成大家好,我是tris,今天是我写作的第八十三天。我们应该都读过很多励志文章,比如自律的人才会成功,好的习惯成就好的人生每次读完这些励志文章,我们都会踌躇满志,定下多少天养成好习惯的
6个发人深省的小故事,很短但很有趣(读后顿悟)大家好,我是tris,今天是我写作的第七十七天。今天和大家分享6则有趣短小精悍的故事。01hr有三个人同时出门,一个人未雨绸缪带了雨伞,一个人带着拐杖,另外一个人什么也没拿。不料途
智能机用成了老人机,两亿多老人成难民,救救他们吧大家好,我是tris,今天是我早起写作的第六十八天。前一阵子,我回了趟老家。正好父母都在家,我就想着趁这个机会,好好教他们用会智能手机。重点教育对象便是我爸了,六十多岁的他,已是满
伪健身,正在悄无声息地毁掉你大家好,我是tris,今天是我写作的第七十五天。今天是第13个全民健身日,你动起来了吗?不知道你有没有发觉,如今朋友圈那些秀恩爱的晒旅游照的越来越少,而跑步晒里程健身打卡晒身材的人
9秒83!苏炳添封神!看了他的故事,我顿悟了自律的力量有多强大家好,我是tris,今天是我早起写作的第六十九天。昨天晚上,苏炳添百米决赛跑出9秒98的好成绩,名列第六。小组赛中以9秒83(第一)的成绩,破亚洲纪录,晋级决赛,成为首位闯进奥运
为自己撑伞(读后顿悟)大家好,我是tris,今天是我早起写作的第六十六天。曾在网上看到一段很深刻的话,人的一生会有三次成长第一次是发现自己不是世界中心的时候第二次是发现即使再怎么努力,有些事终究还是无能
余生真的很贵,请远离那些消耗你的人大家好,我是tris,今天是我早起写作的第七十天。有句话说的好,不必把所有人,都请进生命中。作家苏芩说过跟谁在一起舒服就和谁在一起,包括朋友也是,累了就躲远一点。能入我心者,我待以