斯坦福李飛飛最新對話：AI不會對人類造成“滅絕性危機”｜鈦媒體AGI

2024-5-13 12:18| 發(fā)布者: admin| 查看: 217| 評論: 0

摘要: 美國斯坦福大學教授、美國國家工程院院士李飛飛（來源：斯坦福大學賬號）北京時間5月10日凌晨舉行的Bloomberg Tech活動上，著名華人計算機科學家、美國斯坦福大學教授李飛飛（Fei-Fei Li）與彭博社Emily Change進行 ...

美國斯坦福大學教授、美國國家工程院院士李飛飛（來源：斯坦福大學賬號）

北京時間5月10日凌晨舉行的Bloomberg Tech活動上，著名華人計算機科學家、美國斯坦福大學教授李飛飛（Fei-Fei Li）與彭博社Emily Change進行對話。

這場15分鐘對話中，李飛飛表示，所謂擔心人類被 AI 滅絕的風險被過度炒作，“這已經(jīng)被夸大了”，所謂“滅絕性的危機”有點太過了。不過，她依然認為需要對 AI 模型進行限制，擔憂、評估和審查這些 AI 模型。

這是外界公布李飛飛創(chuàng)業(yè)之后的首次參加對話活動。

李飛飛是 AI 領域的先驅(qū)性人物，也是計算機領域的華人女科學家，目前還是斯坦福大學首位紅杉講席教授、美國國家工程院院士、美國國家醫(yī)學院院士、美國文理科學院院士、ImageNet的首席科學家和首席研究員、斯坦福以人為本人工智能研究院院長、AI4ALL聯(lián)合創(chuàng)始人。她的專業(yè)領域是計算機視覺和認知神經(jīng)科學。

李飛飛一直被稱為“AI 教母”——源自與圖靈三大“AI 教父”一樣的稱號。她通過開發(fā)一種名為ImageNet的大規(guī)模圖像數(shù)據(jù)集在AI領域名聲大噪。該數(shù)據(jù)集幫助開創(chuàng)了新一代能可靠識別物體的計算機視覺技術，也是ChatGPT底層技術之一。

2016年11月，李飛飛加入谷歌，擔任谷歌云AI/ML首席科學家。2018年9月，返回斯坦福任教，現(xiàn)為谷歌云AI/ML顧問。10月20日斯坦福大學以人為中心的AI計劃開啟，李飛飛擔任聯(lián)合負責人。

此前報道稱，她創(chuàng)立了一家“空間智能”企業(yè)，并完成了種子輪融資。投資方包括硅谷風險投資公司 Andreessen Horowitz（a16z）、加拿大基金Radical Ventures等。但在對話中拒絕談論此事。

李飛飛強調(diào)，她看到越來越多的女性，和多樣化背景的人進入科技和人工智能領域，多樣化背景人員將有可能成為杰出的思想家、創(chuàng)新者、技術人員和教育家，發(fā)明家，科學家。因此她完全接受“AI 教母”這個稱號。

以下是李飛飛對話全文：

歡迎李飛飛博士登臺，她是斯坦福大學計算機科學 Sequoia 教授，人工智能中心聯(lián)合主任。

Emily Chang: 李博士被譽為人工智能的教母。你對這個稱號有何感想？這是我要提的第一個問題。

李飛飛：Emily，我自己從未自稱為任何事情的教母，但當我被授予這個頭銜時，我確實停下來思考了一下，我想，如果男性可以被稱為某事的教父，那么女性也可以，所以我完全接受這個稱號。

Emily Chang: 百分之百。

Emily Chang: 你是我們這個時代最有影響力的計算機科學家之一。你撰寫了大量的學術論文。你是 ImageNet 的創(chuàng)造者，這個包含大量圖片及其描述的數(shù)據(jù)庫為現(xiàn)代 AI 奠定了基礎。你有想象過它的影響力會有多大嗎？

李飛飛：ImageNet 于 2007 年被設想出來，它可能是 AI 算法中大數(shù)據(jù)的關鍵轉(zhuǎn)折點。從科學的角度看，我堅信大數(shù)據(jù)會從根本上改變我們進行 AI 研究的方式，但我從未想到大數(shù)據(jù)、神經(jīng)網(wǎng)絡和 GPU 的融合會催生出現(xiàn)代 AI，我也從未預想到從那時起的進步速度。

Emily Chang: 你經(jīng)常和那些正在決定這項技術未來的人們在同一房間里，比如拜登總統(tǒng)，Sam Altman，Sundar Pichai，Satya Nadella。你在國會作證，你參與了各種工作小組。你對那些有權力的人，他們應該如何使用這種權力，有什么主要的建議嗎？

李飛飛：Emily，很好的問題。實際上，無論我是在 K-12 夏令營，還是在斯坦福大學的 AI 導論課程中，我的信息都是一樣的，那就是要認識到這項技術，它是什么，以及如何負責任和審慎地使用它。理解并接納它，因為它是一種橫跨各個領域的技術，正在改變我們的文明，推動商品流通，科學發(fā)現(xiàn)的快速進展，尋找治療癌癥的方法，繪制生物多樣性地圖，和我們一起發(fā)現(xiàn)新材料。但同時，也要認識到所有可能產(chǎn)生的后果，包括可能的非預期后果，以及如何負責任地開發(fā)和部署它。我認為，在現(xiàn)今的對話中，保持平衡，理性深思的聲音非常重要。無論是在白宮還是學校。

Emily Chang: 現(xiàn)在，我不知道你會否稱這為一場危機或一個轉(zhuǎn)折點，但 AI 模型的訓練數(shù)據(jù)正在耗盡，然后有些公司開始轉(zhuǎn)向使用 AI 生成的數(shù)據(jù)和合成數(shù)據(jù)來訓練他們的模型。這個問題有多嚴重？有哪些風險？下一步該怎么做？

李飛飛：首先，我認為 AI 模型的訓練數(shù)據(jù)正在耗盡是一種非常狹隘的觀點。我知道你在暗指那些消耗大量互聯(lián)網(wǎng)數(shù)據(jù)的大語言模型，特別是那些來自網(wǎng)站、Reddit、維基百科等你能獲取的數(shù)據(jù)。即使在談論語言模型，我們也不應局限于此。我認為還有很多可以探索的。

我們看到，不同的數(shù)據(jù)可以用來構建定制化的模型，無論是用于新聞業(yè)還是在諸如醫(yī)療保健等不同的行業(yè)領域。其實我們并沒有耗盡數(shù)據(jù)。實際上，還有很多有許多行業(yè)還未進入數(shù)字化時代。我們并未充分利用數(shù)據(jù)，不論是在醫(yī)療、環(huán)保還是教育等領域。因此，即使在語言模型這個領域，我不認為我們的數(shù)據(jù)已經(jīng)用盡。

Emily Chang: 您認為現(xiàn)在使用 AI 生成的數(shù)據(jù)來訓練模型是好事，還是這可能會讓我們逐漸遠離原始數(shù)據(jù)，以一種可能危險的方式進行？

李飛飛：這是個需要更深入探討的問題。這是個好問題。AI 有很多生成數(shù)據(jù)的方法。比如在我的斯坦福實驗室，我們做了很多機器人研究，對吧？機器人學習。在這里，模擬數(shù)據(jù)非常重要，因為我們根本沒有足夠的資源或機會去收集由人類產(chǎn)生的動作等等。模擬真的非常重要。這會讓我們走向危險的道路嗎？

我認為，即使是使用人類生成的數(shù)據(jù)，也可能讓我們走向危險的道路。同樣，如果我們對模擬數(shù)據(jù)的處理不負責任，或者沒有進行深思熟慮，那么當然可能會使我們走向危險的道路。我的意思是，我甚至不需要特意指出。你知道有哪些是人類生成的不良數(shù)據(jù)，對嗎？就像整個暗網(wǎng)那樣。所以問題不在于模擬本身，問題在于數(shù)據(jù)。

Emily Chang: 你正在涉足熱門且競爭激烈的 AI 創(chuàng)業(yè)領域。你正在啟動一些項目，能透露一些信息嗎？

李飛飛：不能。

Emily Chang: 好的。那就期待后續(xù)吧。我們就 AI 時代的信任度進行了一項調(diào)查?？梢怨寄琼椪{(diào)查的結果嗎？問題是，你對科技公司能否安全開發(fā) AI 有多大的信任？我完全信任他們，0%。我持懷疑態(tài)度，所有人。一點也不信任。

李飛飛：是誰在做？

Emily Chang: 這個房間里的人。

李飛飛：ok

Emily Chang: 如果你要對 AI 領域的主要參與者進行排名，你最信任誰，最不信任誰？

李飛飛：我的信任并沒有寄托在某個參與者身上。我信任的是我們共同創(chuàng)建的整個系統(tǒng)以及我們共同創(chuàng)建的機構。所以這可能是你的陷阱問題，但是我無法指出我覺得，你知道，我是說，想想美國的開國元勛們。他們并沒有將信任寄托在一個人身上。他們創(chuàng)建了一個我們所有人都可以信任的系統(tǒng)。

Emily Chang: 我們在做這個嗎？

李飛飛：我們正在嘗試，至少斯坦福人類中心 AI 研究所正在嘗試。我認為很多人也在試圖做這個。我經(jīng)常被問到這個問題，Emily，你對 AI 還抱有希望嗎？首先，這是一個非常悲傷的問題，但我確實會說，我的希望并不在 AI 上。我的希望在于人。我并不是一個妄想的樂觀主義者。人是復雜的。我是復雜的。你是復雜的。但我的希望在于人，在我們的集體意愿，在我們的集體責任，很多事情正在發(fā)生，我們正在前進，我們中的許多人正在努力使這項技術成為一項可靠的文明技術，以便提升我們所有人。Emily Chang: 人們談到的風險有很多，如人類滅絕，壞人，種族偏見，被夸大的各種偏見。你最擔心的是什么？

李飛飛：我更擔心的是更為緊迫的社會災難風險。我也擔心人類滅絕風險被過度炒作。我覺得這已經(jīng)被夸大了。這屬于科幻世界的事情，只是在思考它。對于思考這些問題并沒有什么錯，但相比之下，實際的社會風險，無論是對我們民主過程的錯誤信息和虛假信息的干擾還是勞動力市場的轉(zhuǎn)變，或者存在偏見的隱私問題這些都是我們必須面對的實際社會風險因為它們影響到真實的人們的真實生活。

Emily Chang: Meta 正在領導一個開源 AI 運動。你認為什么應該是開放的，什么不應該開放？

李飛飛：這是一個很復雜的問題。我確實相信一個開放的生態(tài)系統(tǒng)，特別是在我們的（美國）世界中。我認為回顧我們國家在過去一百年甚至更久的歷史中的亮點無不體現(xiàn)在創(chuàng)新、企業(yè)家精神，還有信息的自由流通。所以，我們需要倡導這種開放的生態(tài)系統(tǒng)。

Emily Chang: 在 AI 中，沒有人談論的最大的事情是什么？我們應該談論什么？

李飛飛：我認為我們應該更多地談論，天哪，實際上有太多的事情。我們應該談論我們?nèi)绾握嬲胂笪覀內(nèi)绾问褂眠@項技術。我跟醫(yī)生、生物化學家、老師交談。我跟藝術家、農(nóng)場主交談。有這么多我們可以想象使用的方式。有這么多我們可以用來改善人們生活改善工作的方式。我不認為我們談論得夠多。我們正在談論的是末日的陰暗面而且也只有少數(shù)人在談論末日的陰暗面然后媒體在放大這種聲音。

Emily Chang: 我不知道你在說誰。

李飛飛：我無意中揮了揮手。我不認為我們給了足夠的聲音給那些真正以最具想象力、創(chuàng)造性的方式試圖用 AI 給世界帶來好處的人。對過度管制的擔憂

Emily Chang:有沒有任何人，任何事情你想指出就是任何人或任何公司，讓你感到惱火？

李飛飛：我知道你在說什么。我已經(jīng)指出過他們，我不會說是胡說，只是我覺得我們對“存在危機”關注得太過了，哦，不對，是“滅絕性的危機”。

Emily Chang: 存在主義引發(fā)的滅絕危機。

李飛飛：是的，就是這個意思。這就是我們過于強調(diào)的問題。我擔心我們國家不同地區(qū)，比如加利福尼亞，正在推進的一些法案，過于強調(diào)這個問題。這些法案可能出于善意，但它們對 AI 模型設定了限制，甚至可能無意中將開源視為違法，而沒有真正思考如何評估和審查這些 AI 模型。我對此感到擔憂。

Emily Chang: 你是不是認為我們可能會過度管制呢？

李飛飛：有可能，我們可能會過度管制，而這樣可能會傷害我們的生態(tài)系統(tǒng)。但同時，在醫(yī)療、交通、金融等實際應用領域，我們應該考慮設置恰當?shù)姆雷o措施。

Emily Chang: 你跟拜登總統(tǒng)談過這個問題嗎？我知道你可以直接跟他聯(lián)系。

李飛飛：我不能告訴你，我跟他談過什么。其實，在跟拜登總統(tǒng)的交談中，我們討論了投資公共部門 AI 的重要性，因為我們現(xiàn)在就在硅谷，大家都知道，無論是人才、數(shù)據(jù)還是計算能力，都主要集中在科技產(chǎn)業(yè)中，尤其是大型科技公司。

而美國公共部門和學術界在 AI 資源方面正在迅速落后。斯坦福自然語言處理實驗室只有 64 個 GPU，只有 64 個。想一想這個對比。我們談論了公共部門的資源問題，因為公共部門是我們國家的創(chuàng)新引擎，它創(chuàng)造了公共產(chǎn)品，發(fā)現(xiàn)了科學知識，并且為公眾提供了對這項技術的可信賴和負責任的評估和解釋。

Emily Chang: 所以最后一個問題，我知道你非常關注這個問題在你的實驗室和其他地方這個領域沒有足夠的女性和有色人種掌控權這個風險有多大，可能會引發(fā)什么問題？

李飛飛：是的，Emily，我知道你一直在倡導這個問題，看，還不夠。實際上，我認為文化并不一定變得更好，我們看到越來越多的女性和多樣化背景的人進入科技和人工智能領域，但我們也看到男性的聲音被更多地傳播。人們會說，飛飛，你在這里發(fā)言，但有很多人比我更好。有很多年輕的女性，來自各種多樣化背景的科技人員，他們的聲音應該被聽到，應該有更大的發(fā)言平臺。如果我們聽不到他們的聲音，那就真的是在浪費人力資本，對吧？這些都是杰出的思想家、創(chuàng)新者、技術人員和教育家，發(fā)明家，科學家，如果我們不給他們發(fā)言的機會，不聽他們的想法，不提升他們的地位，就是在浪費我們集體的人力資本。

Emily Chang: 我認為教母是一個非常好的稱呼。大家怎么看？你們同意嗎？

所有人：是的。

Emily Chang: 好的，謝謝您。人工智能教母。

（本文首發(fā)于鈦媒體App，作者｜AI科技組，編輯｜林志佳、胡潤峰）