-
远川科技评论:日本AI,失去的不止三十年
【文/沈丹阳】
2019年,有两件事一直困扰着孙正义:软银的投资失败,以及日本科技的落后。
面对媒体,孙正义痛心地说道,科技产业几乎从日本消失了,我们正在成为一个被遗忘的国家。即将到来的AI革命,是日本重回牌桌最后的机会[1]。
随着ChatGPT问世,孙正义的呼吁终于成为了共识。然而,正当日本举国动员,准备一脚油门闯入赛道时,却发现了一个尴尬的事实:
日本目前的AI研究,非常依赖隔壁邻居为首的老外。
对此,RIKEN革新智慧综合研究中心负责人杉山将,曾做过一笔统计。
RIKEN(理化学研究所)是日本唯一的国家级科研机构,顶级头脑聚集地。汤川秀树等日本诺奖得主,都曾在这儿搞过研究。然而,那些被AI顶会收录的RIKEN论文,近一半的作者都隶属于外国大学,其中约一半的人来自中国[2]。
本土无人可用,使得日本在生成式AI浪潮里,始终处于失语状态。
然而,如若回溯历史,会发现日本也曾是个“AI超级大国”。
上世纪八九十年代,日本一度是深度学习的中心。杨立昆、余凯、林元庆、贾扬清等载入科技史册的泰斗级人物,都曾在日本的AI实验室度过一段青葱岁月。
曾经攥着一手王炸的日本,为何会迈向老无所依的结局?
站在日本人的肩膀上
上世纪80年代,正在读大学的杨立昆,被一群“疯子”吸引了。
彼时,深度学习是个“已被证伪”的技术路线。然而,仍有一小撮人在死磕,这其中就包括了一批日本科学家。杨立昆发现,当时大部分的深度学习论文,都是日本研究人员用英文写的。
这其中,对他影响最大的,是一位名叫福岛邦彦的日本人。
福岛邦彦
1980年,福岛邦彦参照猫的视觉结构,设计了一个叫做“神经认知机(Neocognitron)”的多层网络模型。
在生物的初级视觉皮层中,存在多个神经元,每个神经元只“掌管”一小部分视野。随后,神经元收集到的信息会统一传输到视觉皮层,组合成完整的视觉图像。
受此启发,福岛邦彦给神经认知机设计了“感知光照“和“运动信息”两个神经元,分别用来“提取图形信息”和“组成图形信息”。然而,福岛邦彦的神经认知机,存在一个致命问题:太超前了。
当时,主流的神经网络只有1层,但神经认知机有足足5层。
面对多层设计带来的种种问题,福岛邦彦一时找不到解决办法,导致神经认知机只能处理一些极其简单的工作。
直到1986年,辛顿提出了“反向传播算法”,这个问题才有了标准答案。
但若向前追溯反向传播算法,会发现其源头仍是日本人。上世纪60年代,日本数学家甘利俊一提出的“随机梯度下降方法”,为其提供了技术灵感[6]。只不过囿于特定时代的局限,甘利俊一没有条件在计算机上进行模拟验证。
1988年,杨立昆将神经认知机与反向传播结合在一起,打造出了大名鼎鼎的卷积神经网络。直到今天,卷积神经网络仍是图像识别领域最重要的算法之一。
由此可见,这些定义一个时代的AI研究成果,都是站在日本科学家肩膀上实现的。
实验室里的中国人
同一时期,日本的产业界,拉开了更为激进的历史篇章。
彼时,日本步入极度繁荣的泡沫经济时代。大型企业纷纷为爱发电,自掏腰包搭建中央实验室,发力基础科学。这其中,要数NEC(日本电器股份有限公司)最为激进:它直接切入美国科技产业腹地,将实验室开到了普林斯顿和硅谷。
财大气粗的NEC Lab,很快聚集了一大批日后响当当的名字。
西安交大软件学院院长、国家特聘教授龚怡宏,是第一个加入硅谷NEC Lab的国人科学家。在他担任实验室主任时期,延揽了一众青年才俊。
其中既有触发科技巨头竞拍辛顿的余凯,也有林元庆、徐伟等活跃在中国AI产业一线的技术大牛。
余凯
彼时,中国的计算机产业刚刚起步,吸纳不了那么多人才。硅谷NEC Lab无缝承接了这个需求,并招揽了大批立志从事AI研究的国人科学家。
余凯接棒硅谷NEC Lab主任一职后,又招募来了黄畅。当时,黄畅底下有一个名叫贾扬清的实习生。在NEC Lab期间,贾扬清展露出了高超的数学和工程代码能力,曾让实验室众人坚信其日后必有所造诣。
这种薪火相传的孵化线,在林元庆接手硅谷NEC Lab后仍在继续。
他引进的实习生谢赛宁,后来与麻省理工教授何恺明共同提出了著名的ResNeXt模型。2022年,谢赛宁还和OpenAI研究员Bill Peebles合著了论文《Scalable diffusion models with transformers》。
以这篇论文为基础,OpenAI打造出了视频生成模型Sora。
另一间位于普林斯顿的NEC Lab,同样招揽了杨立昆,以及支持向量机发明者Vladimir Vapnik等泰斗级人物。
可以说,历史上没有任何一家机构,能如NEC Lab这般,拥有此等高手如林的班底。
余凯曾在媒体专访中如此形容NEC Lab巅峰时期的影响力:如果你在谷歌上搜索美国NEC Lab,页面会立刻弹出一句话,你要不要来谷歌工作[7]。
然而鼎盛时期风光无两的NEC Lab,却早已埋下了衰败的草蛇灰线。
- 原标题:远川科技评论:日本AI,失去的不止三十年 本文仅代表作者个人观点。
- 责任编辑: 李泠 
-
“至少一代人不会把西欧视为合作伙伴”
2024-05-19 09:10 俄罗斯之声 -
中国驻印尼大使陆慷离任回国
2024-05-19 08:43 中国外交 -
中国至古巴的空中航线正式复航
2024-05-18 22:47 航空航天 -
泽连斯基承认:我们很多旅都打光了...
2024-05-18 22:03 乌克兰之殇 -
又在搞事,马科斯称菲律宾将“强力捍卫领土”
2024-05-18 20:17 南海局势 -
“如果欧洲继续采取行动,中方很可能不得不采取一系列措施予以回击”
2024-05-18 19:57 欧洲乱局 -
越共中央建议由公安部长苏林担任国家主席,陈青敏担任国会主席
2024-05-18 19:12 -
法国邀请俄罗斯,英美不满
2024-05-18 18:24 法国见闻 -
“船上有7名中国籍船员”,我驻菲使馆发声
2024-05-18 17:12 中国外交 -
“美国居然在锯自己骑着的那根树枝,蠢得可怕”
2024-05-18 17:05 俄罗斯之声 -
越共十三届九中全会闭幕,增补4名政治局委员
2024-05-18 16:34 -
驻泰大使:传统东亚文化是当今世界的济世良方
2024-05-18 15:26 中国外交 -
特斯拉自动驾驶数据拟“在华收集,在华处理”
2024-05-18 14:28 新能源汽车 -
古巴对中国公民短期来古免签政策正式生效
2024-05-18 13:40 -
加拿大果然想跟,声称“不能给中国留后门…”
2024-05-18 13:10 新能源汽车 -
“我们不承认台湾,今后也不会”
2024-05-18 10:53 台湾 -
矛头直指哈尔科夫,普京首次公开俄军意图
2024-05-18 10:12 俄罗斯之声 -
12月6日前裁决,TikTok和美司法部要求法院启动快速通道
2024-05-18 09:42 大公司 -
美国警方确认波音“吹哨人”系自杀身亡
2024-05-18 08:08 波音危机 -
金正恩指导朝鲜重要军工企业生产活动
2024-05-18 07:57 半岛火箭
相关推荐 -
和特朗普一起“孤立中国”?欧盟拒绝 评论 6“美国几代人的亚太布局被毁,盟友终将望向中国” 评论 101美媒吐槽:全员滑跪,除了中国… 评论 82换防长?“美国后院起火” 评论 121美元主导地位遭削弱,“人民币必须抓住机会” 评论 216最新闻 Hot
-
“美国几代人的亚太布局被毁,盟友终将望向中国”
-
又变了!特朗普:无意解雇鲍威尔
-
印控克什米尔地区发生针对游客的枪击事件,致至少20死
-
“我们投给特朗普,现在他的关税搅乱了我们的行业”
-
美媒吐槽:全员滑跪,除了中国…
-
“别用中国的”,美国务院内部文件曝光
-
越南总理表态:越美谈判,不能影响其他市场
-
“关税正在扼杀企业对美投资意愿,市场重心或转向”
-
“谈判推迟,美国又提要求”
-
换防长?“美国后院起火”
-
带着石破茂的亲笔信,他来中国了
-
斗争升级!哈佛大学起诉特朗普政府
-
外媒紧盯中方“警告”:孤立中国,特朗普恐难如愿
-
特朗普称未来三天公布俄乌和平方案,美媒曝细节
-
工业电化学奠基人郭鹤桐教授逝世,享年95岁
-
挑衅!英军高官:台海问题,准备好了
-