日本AI，失去的不止三十年

2024-5-13 12:45| 發(fā)布者: admin| 查看: 176| 評論: 0

摘要: （本文作者飯統(tǒng)戴老板）2019年，有兩件事一直困擾著孫正義：軟銀的投資失敗，以及日本科技的落后。面對媒體，孫正義痛心地說道，科技產(chǎn)業(yè)幾乎從日本消失了，我們正在成為一個被遺忘的國家。即將到來的AI革命，是日本 ...

（本文作者飯統(tǒng)戴老板）

2019年，有兩件事一直困擾著孫正義：軟銀的投資失敗，以及日本科技的落后。

面對媒體，孫正義痛心地說道，科技產(chǎn)業(yè)幾乎從日本消失了，我們正在成為一個被遺忘的國家。即將到來的AI革命，是日本重回牌桌最后的機會[1]。

隨著ChatGPT問世，孫正義的呼吁終于成為了共識。然而，正當(dāng)日本舉國動員，準(zhǔn)備一腳油門闖入賽道時，卻發(fā)現(xiàn)了一個尷尬的事實：

日本目前的AI研究，非常依賴隔壁鄰居為首的老外。

對此，RIKEN革新智慧綜合研究中心負責(zé)人杉山將，曾做過一項統(tǒng)計。

RIKEN（理化學(xué)研究所）是日本唯一的國家級科研機構(gòu)，頂級頭腦聚集地。湯川秀樹等日本諾獎得主，都曾在這兒搞過研究。然而，那些被AI頂會收錄的RIKEN論文，近一半的作者都隸屬于外國大學(xué)，其中約一半的人來自中國[2]。

日本AI，失去的不止三十年

本土無人可用，使得日本在生成式AI浪潮里，始終處于失語狀態(tài)。

然而，如若回溯歷史，會發(fā)現(xiàn)日本也曾是個“AI超級大國”。

上世紀(jì)八九十年代，日本一度是深度學(xué)習(xí)的中心。楊立昆、余凱、林元慶、賈揚清等載入科技史冊的泰斗級人物，都曾在日本的AI實驗室度過一段青蔥歲月。

曾經(jīng)攥著一手王炸的日本，為何會邁向老無所依的結(jié)局？

站在日本人的肩膀上

上世紀(jì)80年代，正在讀大學(xué)的楊立昆，被一群“瘋子”吸引了。

彼時，深度學(xué)習(xí)是個“已被證偽”的技術(shù)路線。然而，仍有一小撮人在死磕，這其中就包括了一批日本科學(xué)家。楊立昆發(fā)現(xiàn)，當(dāng)時大部分的深度學(xué)習(xí)論文，都是日本研究人員用英文寫的。

這其中，對他影響最大的，是一位名叫福島邦彥的日本人。

1980年，福島邦彥參照貓的視覺結(jié)構(gòu)，設(shè)計了一個叫做“神經(jīng)認知機（Neocognitron）”的多層網(wǎng)絡(luò)模型。

在生物的初級視覺皮層中，存在多個神經(jīng)元，每個神經(jīng)元只“掌管”一小部分視野。隨后，神經(jīng)元收集到的信息會統(tǒng)一傳輸?shù)揭曈X皮層，組合成完整的視覺圖像。

受此啟發(fā)，福島邦彥給神經(jīng)認知機設(shè)計了“感知光照“和“運動信息”兩個神經(jīng)元，分別用來“提取圖形信息”和“組成圖形信息”。然而，福島邦彥的神經(jīng)認知機制，存在一個致命問題：太超前了。

當(dāng)時，主流的神經(jīng)網(wǎng)絡(luò)只有1層，但神經(jīng)認知機制有足足5層。

面對多層設(shè)計帶來的種種問題，福島邦彥一時找不到解決辦法，導(dǎo)致神經(jīng)認知機只能處理一些極其簡單的工作。

日本AI，失去的不止三十年

直到1986年，辛頓提出了“反向傳播算法”，這個問題才有了標(biāo)準(zhǔn)答案。

但若向前追溯反向傳播算法，會發(fā)現(xiàn)其源頭仍是日本人。上世紀(jì)60年代，日本數(shù)學(xué)家甘利俊一提出的“隨機梯度下降方法”，為其提供了技術(shù)靈感[6]。只不過囿于特定時代的局限，甘利俊一沒有條件在計算機上進行模擬驗證。

1988年，楊立昆將神經(jīng)認知機與反向傳播結(jié)合在一起，打造出了大名鼎鼎的卷積神經(jīng)網(wǎng)絡(luò)。直到今天，卷積神經(jīng)網(wǎng)絡(luò)仍是圖像識別領(lǐng)域最重要的算法之一。

由此可見，這些定義一個時代的AI研究成果，都是站在日本科學(xué)家肩膀上實現(xiàn)的。

實驗室里的中國人

同一時期，日本的產(chǎn)業(yè)界，拉開了更為激進的歷史篇章。

彼時，日本步入極度繁榮的泡沫經(jīng)濟時代。大型企業(yè)紛紛為愛發(fā)電，自掏腰包搭建中央實驗室，發(fā)力基礎(chǔ)科學(xué)。這其中，要數(shù)NEC（日本電器股份有限公司）最為激進：它直接切入美國科技產(chǎn)業(yè)腹地，將實驗室開到了普林斯頓和硅谷。

財大氣粗的NEC Lab，很快聚集了一大批日后響當(dāng)當(dāng)?shù)拿帧?/strong>

西安交大軟件學(xué)院院長、國家特聘教授龔怡宏，是第一個加入硅谷NEC Lab的國人科學(xué)家。在他擔(dān)任實驗室主任時期，延攬了一眾青年才俊。

其中既有觸發(fā)科技巨頭競拍辛頓的余凱，也有林元慶、徐偉等活躍在中國AI產(chǎn)業(yè)一線的技術(shù)大牛。

彼時，中國的計算機產(chǎn)業(yè)剛剛起步，吸納不了那么多人才。硅谷NEC Lab無縫承接了這個需求，并招攬了大批立志從事AI研究的國人科學(xué)家。

余凱接棒硅谷NEC Lab主任一職后，又招募來了黃暢。當(dāng)時，黃暢底下有一個名叫賈揚清的實習(xí)生。在NEC Lab期間，賈揚清展露出了高超的數(shù)學(xué)和工程代碼能力，曾讓實驗室眾人堅信其日后必有所造詣。

這種薪火相傳的孵化線，在林元慶接手硅谷NEC Lab后仍在繼續(xù)。

他引進的實習(xí)生謝賽寧，后來與麻省理工教授何愷明共同提出了著名的ResNeXt模型。2022年，謝賽寧還和OpenAI研究員Bill Peebles合著了論文《Scalable diffusion models with transformers》。

以這篇論文為基礎(chǔ)，OpenAI打造出了視頻生成模型Sora。

另一間位于普林斯頓的NEC Lab，同樣招攬了楊立昆，以及支持向量機發(fā)明者Vladimir Vapnik等泰斗級人物。

可以說，歷史上沒有任何一家機構(gòu)，能如NEC Lab這般，擁有此等高手如林的班底。

余凱曾在媒體專訪中如此形容NEC Lab巔峰時期的影響力：如果你在谷歌上搜索美國NEC Lab，頁面會立刻彈出一句話，你要不要來谷歌工作[7]。

然而鼎盛時期風(fēng)光無兩的NEC Lab，卻早已埋下了衰敗的草蛇灰線。

五月花號迷航

2002年，楊立昆剛在普林斯頓進行了一年的研究工作，NEC就開始施壓。

管理層毫不客氣地告訴楊立昆，NEC對深度學(xué)習(xí)沒有一丁點興趣，并順手解雇了當(dāng)時的實驗室主任。這段經(jīng)歷讓楊立昆對產(chǎn)業(yè)界徹底失望，跑回紐約大學(xué)當(dāng)起了老師。

NEC突然自毀長城，有兩個不容忽視的現(xiàn)實原因：

一是人們對AI失去了信心。彼時，無論是芯片的算力，還是數(shù)據(jù)的豐富程度，都遠不足以讓深度學(xué)習(xí)發(fā)揮其潛力。與此同時，“第五代計算機”項目的失敗，更是雪上加霜。

“第五代計算機”項目始于上世紀(jì)80年代，目標(biāo)是打造AI驅(qū)動的超級計算機。

在日本的設(shè)想中，第五代計算機將具備回答問題、知識庫管理、圖像識別、代碼生成等功能[8]。這個“領(lǐng)先時代40年”的科研項目，一度將美國嚇得不輕，立馬掏出補貼與日本競爭。

如此一拍腦袋的項目，結(jié)局可想而知。

1992年，五代機項目正式宣告破產(chǎn)。日本不僅白白浪費了數(shù)億美金，還把其他跟風(fēng)的國家給忽悠瘸了。一怒之下，人們將責(zé)任歸咎于AI。日后很長時間里，AI研究如同過街老鼠，人人喊打。

其次，日本的中央實驗室模式，此時也出了問題。

日本企業(yè)對于NEC Lab等中央實驗室的定位，是純粹的基礎(chǔ)科研機構(gòu)。這種模式?jīng)]有與市場和產(chǎn)業(yè)接軌，只是盲目追求多拿幾個諾貝爾獎。這讓科學(xué)家們非?？鄲?，內(nèi)部時常調(diào)侃稱“反正做的東西也用不到產(chǎn)品上”。

因此，當(dāng)經(jīng)濟泡沫消失，日本進入失去的時代，毫無實際用處的中央實驗室，理所當(dāng)然地成了第一批“挨刀”的對象。

2009年-2020年間，NEC多次進行萬人規(guī)模裁員，并大幅縮減研發(fā)經(jīng)費。

在此階段，中美科學(xué)家們紛紛選擇自主創(chuàng)業(yè)，或另擇良木而棲。

2012年，余凱受李彥宏邀請，領(lǐng)導(dǎo)百度的AI業(yè)務(wù)。在他的號召下，徐偉、黃暢等NEC Lab的同僚，也先后加入百度。后來，他們又跟著余凱一同創(chuàng)辦了地平線。

日本花大力氣點燃的AI火種，最終造就了今天中國AI的沖天火光。2018年NEC第四次大裁員后，其美國實驗室的技術(shù)中堅力量，幾乎已流失殆盡。

孤膽英雄

日本AI高歌猛進的步調(diào)，隨著NEC美國實驗室的落寞戛然而止。

全球人工智能的歷史仍在繼續(xù)，就好像五代機項目從未存在過一樣；而曾經(jīng)組建了全明星陣容的NEC Lab，也漸漸被淡忘。在失去的三十年里，日本幾乎沒有在深度學(xué)習(xí)領(lǐng)域，留下任何一筆痕跡。

不僅如此，深度學(xué)習(xí)還在日本留下了根深蒂固的偏見。

2016年谷歌的AlphaGo擊敗了李世石，登上了全球科技新聞的頭版。這一年，中國誕生了528家AI企業(yè)，催生371起AI投融資。從科學(xué)家到VC，都熱情地談?wù)撝疃葘W(xué)習(xí)的潛力。然而，隔壁的日本，卻是另一番風(fēng)景。

同年，日本產(chǎn)經(jīng)省也舉辦了一場全國人工智能大會。有學(xué)者準(zhǔn)備就深度學(xué)習(xí)提出兩個企劃案，卻被同席的學(xué)術(shù)圈研究者提醒，“如果名字里加上深度學(xué)習(xí)的話，估計就沒有人來聽了吧”。

這種裹足不前的態(tài)度，是日本如今無人可用的重要誘因。

唯一意識到問題的，正是軟銀集團的孫正義。

2017年，孫正義在推出全球最大私募股權(quán)科技投資基金（愿景基金）時，篤定地表示，該基金只會根據(jù)一項策略進行投資，就是AI。

接下來的幾年時間里，軟銀在AI領(lǐng)域的投資不可謂不激進。

光是在季度和年度報告中，孫正義提到“AI”的頻數(shù)就超過500次，并大手筆地為超過400家AI創(chuàng)業(yè)公司，注入1400多億美元資金。他甚至還在2020年胸有成竹地表示，史無前例的投資狂潮，將使軟銀成為主導(dǎo)AI革命的投資公司。

然而，孤掌難鳴。更尷尬的是，軟銀還押錯了寶。

據(jù)風(fēng)投數(shù)據(jù)庫PItchBook于2023年公開的數(shù)據(jù)，在26家估值超過10億美元的AI創(chuàng)業(yè)公司里，軟銀只投中了一家。

此外，孫正義雖然斥40億美元投資英偉達，卻在其股價暴漲前悉數(shù)拋售掉，與近10倍的漲幅收益失之交臂。如果不是押中了ARM，孫正義的AI投資或?qū)㈩w粒無收。

在ChatGPT引爆生成式AI熱潮的2023年，孫正義在股東大會上痛心疾首地表示，自2022年末以來他就一直在反省，“為自己犯了很多錯誤感到羞愧”，“哭了好幾天都停不下來”[13]。

失去的時代

孫正義的眼淚，既是對軟銀頻頻押注失誤的悔恨，更是對日本AI產(chǎn)業(yè)的恨鐵不成鋼。

2019年時，孫正義曾不加掩飾地公開批判：在當(dāng)前最重要的科技革命上，日本已變成了一個“后進國”，而使其不斷喪失競爭力的本質(zhì)原因，是對進步的不貪婪[15]。

這番言論，摻雜了不少情緒因素。實際上，這些都不是日本AI老無所依的根本原因。

深度學(xué)習(xí)從來都不是一場孤立的革命。

2012年，深度學(xué)習(xí)能夠爆發(fā)，其實有兩個先決條件：一是算力進化，當(dāng)時英偉達所開發(fā)的GPU，已經(jīng)初步能支撐起深度學(xué)習(xí)所需的算力。二是互聯(lián)網(wǎng)的全面鋪開，彌補了數(shù)據(jù)不足的問題。

集成電路、互聯(lián)網(wǎng)、云計算，隨著這些前置產(chǎn)業(yè)陸續(xù)成熟，深度學(xué)習(xí)才得以登上歷史舞臺。然而，這些產(chǎn)業(yè)，日本幾乎一個都沒有。

當(dāng)年，在斯坦福教書的吳恩達想要進行大型圖像識別實驗，尚且由谷歌傾盡整個數(shù)據(jù)中心的算力，來成就他的The Cat Neurons項目（即“谷歌貓”）。

然而福島邦彥和甘利俊一卻沒有這么幸運。即便是如今的日本，也沒有任何一家民間公司，擁有訓(xùn)練AI大模型所需的龐大算力。僅有政府主導(dǎo)的理化學(xué)研究所中，才能找到“富岳”這樣的超級計算機。

日本AI的后繼無人，從最開始就埋下了伏筆。

如今，以AI為橫切面的日本科技產(chǎn)業(yè)，似乎正在印證孫正義五年前的預(yù)言：日本已經(jīng)失去了過去，但可能正在失去未來。

參考資料：

[1]孫正義氏、日本を憂う「このままでは忘れられた國に」，日経ビジネス

[2]日本國產(chǎn)AI開發(fā)依賴外國人，日經(jīng)中文網(wǎng)

[3]Why Japan is lagging behind in generative AI, CNBC

[4]科學(xué)之路，楊立昆

[5]智能時代的算法發(fā)展，張江科技評論

[6]甘利俊一 | 信息幾何法：理解深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)機制的重要工具，AI科技評論

[7]對話地平線創(chuàng)始人、CEO余凱：德國詩意一般的六年深深地滋養(yǎng)了我，車云

[8]第五代：人工智能與日本計算機對世界的挑戰(zhàn)，愛德華費吉鮑姆，帕梅拉麥考黛克

[9]野心勃勃的日本第五代計算機，是如何一步步走向失敗的，CSD

[10]中國人工智能簡史，林軍，岑峰

[11]日本人工智能的現(xiàn)狀與“深層學(xué)習(xí)”的課題, Nippon

[12]日本人工智能的發(fā)展及現(xiàn)狀，鼎聯(lián)知識產(chǎn)權(quán)

[13]孫正義投AI，投了個寂寞，華爾街見聞

[14]孫正義：一場巨大革命即將到來，軟銀終將統(tǒng)治世界，華爾街見聞

[15]孫正義批日本競爭力反思人工智能落后，亞洲周刊

[16]硅谷NEC Lab往事：將中國企業(yè)拽進AI時代的人，雷鋒網(wǎng)

[17]日本電子產(chǎn)業(yè)興衰錄，西村吉雄

（本文作者飯統(tǒng)戴老板）

本文僅代表作者觀點。