斯坦福李飛飛最新對(duì)話：AI不會(huì)對(duì)人類造成“滅絕性危機(jī)”｜鈦媒體AGI

2024-5-13 12:18| 發(fā)布者: admin| 查看: 259| 評(píng)論: 0

摘要: 美國斯坦福大學(xué)教授、美國國家工程院院士李飛飛（來源：斯坦福大學(xué)賬號(hào)）北京時(shí)間5月10日凌晨舉行的Bloomberg Tech活動(dòng)上，著名華人計(jì)算機(jī)科學(xué)家、美國斯坦福大學(xué)教授李飛飛（Fei-Fei Li）與彭博社Emily Change進(jìn)行 ...

美國斯坦福大學(xué)教授、美國國家工程院院士李飛飛（來源：斯坦福大學(xué)賬號(hào)）

北京時(shí)間5月10日凌晨舉行的Bloomberg Tech活動(dòng)上，著名華人計(jì)算機(jī)科學(xué)家、美國斯坦福大學(xué)教授李飛飛（Fei-Fei Li）與彭博社Emily Change進(jìn)行對(duì)話。

這場(chǎng)15分鐘對(duì)話中，李飛飛表示，所謂擔(dān)心人類被 AI 滅絕的風(fēng)險(xiǎn)被過度炒作，“這已經(jīng)被夸大了”，所謂“滅絕性的危機(jī)”有點(diǎn)太過了。不過，她依然認(rèn)為需要對(duì) AI 模型進(jìn)行限制，擔(dān)憂、評(píng)估和審查這些 AI 模型。

這是外界公布李飛飛創(chuàng)業(yè)之后的首次參加對(duì)話活動(dòng)。

李飛飛是 AI 領(lǐng)域的先驅(qū)性人物，也是計(jì)算機(jī)領(lǐng)域的華人女科學(xué)家，目前還是斯坦福大學(xué)首位紅杉講席教授、美國國家工程院院士、美國國家醫(yī)學(xué)院院士、美國文理科學(xué)院院士、ImageNet的首席科學(xué)家和首席研究員、斯坦福以人為本人工智能研究院院長(zhǎng)、AI4ALL聯(lián)合創(chuàng)始人。她的專業(yè)領(lǐng)域是計(jì)算機(jī)視覺和認(rèn)知神經(jīng)科學(xué)。

李飛飛一直被稱為“AI 教母”——源自與圖靈三大“AI 教父”一樣的稱號(hào)。她通過開發(fā)一種名為ImageNet的大規(guī)模圖像數(shù)據(jù)集在AI領(lǐng)域名聲大噪。該數(shù)據(jù)集幫助開創(chuàng)了新一代能可靠識(shí)別物體的計(jì)算機(jī)視覺技術(shù)，也是ChatGPT底層技術(shù)之一。

2016年11月，李飛飛加入谷歌，擔(dān)任谷歌云AI/ML首席科學(xué)家。2018年9月，返回斯坦福任教，現(xiàn)為谷歌云AI/ML顧問。10月20日斯坦福大學(xué)以人為中心的AI計(jì)劃開啟，李飛飛擔(dān)任聯(lián)合負(fù)責(zé)人。

此前報(bào)道稱，她創(chuàng)立了一家“空間智能”企業(yè)，并完成了種子輪融資。投資方包括硅谷風(fēng)險(xiǎn)投資公司 Andreessen Horowitz（a16z）、加拿大基金Radical Ventures等。但在對(duì)話中拒絕談?wù)摯耸隆?br>
李飛飛強(qiáng)調(diào)，她看到越來越多的女性，和多樣化背景的人進(jìn)入科技和人工智能領(lǐng)域，多樣化背景人員將有可能成為杰出的思想家、創(chuàng)新者、技術(shù)人員和教育家，發(fā)明家，科學(xué)家。因此她完全接受“AI 教母”這個(gè)稱號(hào)。

以下是李飛飛對(duì)話全文：

歡迎李飛飛博士登臺(tái)，她是斯坦福大學(xué)計(jì)算機(jī)科學(xué) Sequoia 教授，人工智能中心聯(lián)合主任。

Emily Chang: 李博士被譽(yù)為人工智能的教母。你對(duì)這個(gè)稱號(hào)有何感想？這是我要提的第一個(gè)問題。

李飛飛：Emily，我自己從未自稱為任何事情的教母，但當(dāng)我被授予這個(gè)頭銜時(shí)，我確實(shí)停下來思考了一下，我想，如果男性可以被稱為某事的教父，那么女性也可以，所以我完全接受這個(gè)稱號(hào)。

Emily Chang: 百分之百。

Emily Chang: 你是我們這個(gè)時(shí)代最有影響力的計(jì)算機(jī)科學(xué)家之一。你撰寫了大量的學(xué)術(shù)論文。你是 ImageNet 的創(chuàng)造者，這個(gè)包含大量圖片及其描述的數(shù)據(jù)庫為現(xiàn)代 AI 奠定了基礎(chǔ)。你有想象過它的影響力會(huì)有多大嗎？

李飛飛：ImageNet 于 2007 年被設(shè)想出來，它可能是 AI 算法中大數(shù)據(jù)的關(guān)鍵轉(zhuǎn)折點(diǎn)。從科學(xué)的角度看，我堅(jiān)信大數(shù)據(jù)會(huì)從根本上改變我們進(jìn)行 AI 研究的方式，但我從未想到大數(shù)據(jù)、神經(jīng)網(wǎng)絡(luò)和 GPU 的融合會(huì)催生出現(xiàn)代 AI，我也從未預(yù)想到從那時(shí)起的進(jìn)步速度。

Emily Chang: 你經(jīng)常和那些正在決定這項(xiàng)技術(shù)未來的人們?cè)谕环块g里，比如拜登總統(tǒng)，Sam Altman，Sundar Pichai，Satya Nadella。你在國會(huì)作證，你參與了各種工作小組。你對(duì)那些有權(quán)力的人，他們應(yīng)該如何使用這種權(quán)力，有什么主要的建議嗎？

李飛飛：Emily，很好的問題。實(shí)際上，無論我是在 K-12 夏令營，還是在斯坦福大學(xué)的 AI 導(dǎo)論課程中，我的信息都是一樣的，那就是要認(rèn)識(shí)到這項(xiàng)技術(shù)，它是什么，以及如何負(fù)責(zé)任和審慎地使用它。理解并接納它，因?yàn)樗且环N橫跨各個(gè)領(lǐng)域的技術(shù)，正在改變我們的文明，推動(dòng)商品流通，科學(xué)發(fā)現(xiàn)的快速進(jìn)展，尋找治療癌癥的方法，繪制生物多樣性地圖，和我們一起發(fā)現(xiàn)新材料。但同時(shí)，也要認(rèn)識(shí)到所有可能產(chǎn)生的后果，包括可能的非預(yù)期后果，以及如何負(fù)責(zé)任地開發(fā)和部署它。我認(rèn)為，在現(xiàn)今的對(duì)話中，保持平衡，理性深思的聲音非常重要。無論是在白宮還是學(xué)校。

Emily Chang: 現(xiàn)在，我不知道你會(huì)否稱這為一場(chǎng)危機(jī)或一個(gè)轉(zhuǎn)折點(diǎn)，但 AI 模型的訓(xùn)練數(shù)據(jù)正在耗盡，然后有些公司開始轉(zhuǎn)向使用 AI 生成的數(shù)據(jù)和合成數(shù)據(jù)來訓(xùn)練他們的模型。這個(gè)問題有多嚴(yán)重？有哪些風(fēng)險(xiǎn)？下一步該怎么做？

李飛飛：首先，我認(rèn)為 AI 模型的訓(xùn)練數(shù)據(jù)正在耗盡是一種非常狹隘的觀點(diǎn)。我知道你在暗指那些消耗大量互聯(lián)網(wǎng)數(shù)據(jù)的大語言模型，特別是那些來自網(wǎng)站、Reddit、維基百科等你能獲取的數(shù)據(jù)。即使在談?wù)撜Z言模型，我們也不應(yīng)局限于此。我認(rèn)為還有很多可以探索的。

我們看到，不同的數(shù)據(jù)可以用來構(gòu)建定制化的模型，無論是用于新聞業(yè)還是在諸如醫(yī)療保健等不同的行業(yè)領(lǐng)域。其實(shí)我們并沒有耗盡數(shù)據(jù)。實(shí)際上，還有很多有許多行業(yè)還未進(jìn)入數(shù)字化時(shí)代。我們并未充分利用數(shù)據(jù)，不論是在醫(yī)療、環(huán)保還是教育等領(lǐng)域。因此，即使在語言模型這個(gè)領(lǐng)域，我不認(rèn)為我們的數(shù)據(jù)已經(jīng)用盡。

Emily Chang: 您認(rèn)為現(xiàn)在使用 AI 生成的數(shù)據(jù)來訓(xùn)練模型是好事，還是這可能會(huì)讓我們逐漸遠(yuǎn)離原始數(shù)據(jù)，以一種可能危險(xiǎn)的方式進(jìn)行？

李飛飛：這是個(gè)需要更深入探討的問題。這是個(gè)好問題。AI 有很多生成數(shù)據(jù)的方法。比如在我的斯坦福實(shí)驗(yàn)室，我們做了很多機(jī)器人研究，對(duì)吧？機(jī)器人學(xué)習(xí)。在這里，模擬數(shù)據(jù)非常重要，因?yàn)槲覀兏緵]有足夠的資源或機(jī)會(huì)去收集由人類產(chǎn)生的動(dòng)作等等。模擬真的非常重要。這會(huì)讓我們走向危險(xiǎn)的道路嗎？

我認(rèn)為，即使是使用人類生成的數(shù)據(jù)，也可能讓我們走向危險(xiǎn)的道路。同樣，如果我們對(duì)模擬數(shù)據(jù)的處理不負(fù)責(zé)任，或者沒有進(jìn)行深思熟慮，那么當(dāng)然可能會(huì)使我們走向危險(xiǎn)的道路。我的意思是，我甚至不需要特意指出。你知道有哪些是人類生成的不良數(shù)據(jù)，對(duì)嗎？就像整個(gè)暗網(wǎng)那樣。所以問題不在于模擬本身，問題在于數(shù)據(jù)。

Emily Chang: 你正在涉足熱門且競(jìng)爭(zhēng)激烈的 AI 創(chuàng)業(yè)領(lǐng)域。你正在啟動(dòng)一些項(xiàng)目，能透露一些信息嗎？

李飛飛：不能。

Emily Chang: 好的。那就期待后續(xù)吧。我們就 AI 時(shí)代的信任度進(jìn)行了一項(xiàng)調(diào)查?？梢怨寄琼?xiàng)調(diào)查的結(jié)果嗎？問題是，你對(duì)科技公司能否安全開發(fā) AI 有多大的信任？我完全信任他們，0%。我持懷疑態(tài)度，所有人。一點(diǎn)也不信任。

李飛飛：是誰在做？

Emily Chang: 這個(gè)房間里的人。

李飛飛：ok

Emily Chang: 如果你要對(duì) AI 領(lǐng)域的主要參與者進(jìn)行排名，你最信任誰，最不信任誰？

李飛飛：我的信任并沒有寄托在某個(gè)參與者身上。我信任的是我們共同創(chuàng)建的整個(gè)系統(tǒng)以及我們共同創(chuàng)建的機(jī)構(gòu)。所以這可能是你的陷阱問題，但是我無法指出我覺得，你知道，我是說，想想美國的開國元?jiǎng)讉?。他們并沒有將信任寄托在一個(gè)人身上。他們創(chuàng)建了一個(gè)我們所有人都可以信任的系統(tǒng)。

Emily Chang: 我們?cè)谧鲞@個(gè)嗎？

李飛飛：我們正在嘗試，至少斯坦福人類中心 AI 研究所正在嘗試。我認(rèn)為很多人也在試圖做這個(gè)。我經(jīng)常被問到這個(gè)問題，Emily，你對(duì) AI 還抱有希望嗎？首先，這是一個(gè)非常悲傷的問題，但我確實(shí)會(huì)說，我的希望并不在 AI 上。我的希望在于人。我并不是一個(gè)妄想的樂觀主義者。人是復(fù)雜的。我是復(fù)雜的。你是復(fù)雜的。但我的希望在于人，在我們的集體意愿，在我們的集體責(zé)任，很多事情正在發(fā)生，我們正在前進(jìn)，我們中的許多人正在努力使這項(xiàng)技術(shù)成為一項(xiàng)可靠的文明技術(shù)，以便提升我們所有人。Emily Chang: 人們談到的風(fēng)險(xiǎn)有很多，如人類滅絕，壞人，種族偏見，被夸大的各種偏見。你最擔(dān)心的是什么？

李飛飛：我更擔(dān)心的是更為緊迫的社會(huì)災(zāi)難風(fēng)險(xiǎn)。我也擔(dān)心人類滅絕風(fēng)險(xiǎn)被過度炒作。我覺得這已經(jīng)被夸大了。這屬于科幻世界的事情，只是在思考它。對(duì)于思考這些問題并沒有什么錯(cuò)，但相比之下，實(shí)際的社會(huì)風(fēng)險(xiǎn)，無論是對(duì)我們民主過程的錯(cuò)誤信息和虛假信息的干擾還是勞動(dòng)力市場(chǎng)的轉(zhuǎn)變，或者存在偏見的隱私問題這些都是我們必須面對(duì)的實(shí)際社會(huì)風(fēng)險(xiǎn)因?yàn)樗鼈冇绊懙秸鎸?shí)的人們的真實(shí)生活。

Emily Chang: Meta 正在領(lǐng)導(dǎo)一個(gè)開源 AI 運(yùn)動(dòng)。你認(rèn)為什么應(yīng)該是開放的，什么不應(yīng)該開放？

李飛飛：這是一個(gè)很復(fù)雜的問題。我確實(shí)相信一個(gè)開放的生態(tài)系統(tǒng)，特別是在我們的（美國）世界中。我認(rèn)為回顧我們國家在過去一百年甚至更久的歷史中的亮點(diǎn)無不體現(xiàn)在創(chuàng)新、企業(yè)家精神，還有信息的自由流通。所以，我們需要倡導(dǎo)這種開放的生態(tài)系統(tǒng)。

Emily Chang: 在 AI 中，沒有人談?wù)摰淖畲蟮氖虑槭鞘裁?？我們?yīng)該談?wù)撌裁矗?br>
李飛飛：我認(rèn)為我們應(yīng)該更多地談?wù)?，天哪，?shí)際上有太多的事情。我們應(yīng)該談?wù)撐覀內(nèi)绾握嬲胂笪覀內(nèi)绾问褂眠@項(xiàng)技術(shù)。我跟醫(yī)生、生物化學(xué)家、老師交談。我跟藝術(shù)家、農(nóng)場(chǎng)主交談。有這么多我們可以想象使用的方式。有這么多我們可以用來改善人們生活改善工作的方式。我不認(rèn)為我們談?wù)摰脡蚨?。我們正在談?wù)摰氖悄┤盏年幇得娑乙仓挥猩贁?shù)人在談?wù)撃┤盏年幇得嫒缓竺襟w在放大這種聲音。

Emily Chang: 我不知道你在說誰。

李飛飛：我無意中揮了揮手。我不認(rèn)為我們給了足夠的聲音給那些真正以最具想象力、創(chuàng)造性的方式試圖用 AI 給世界帶來好處的人。對(duì)過度管制的擔(dān)憂

Emily Chang:有沒有任何人，任何事情你想指出就是任何人或任何公司，讓你感到惱火？

李飛飛：我知道你在說什么。我已經(jīng)指出過他們，我不會(huì)說是胡說，只是我覺得我們對(duì)“存在危機(jī)”關(guān)注得太過了，哦，不對(duì)，是“滅絕性的危機(jī)”。

Emily Chang: 存在主義引發(fā)的滅絕危機(jī)。

李飛飛：是的，就是這個(gè)意思。這就是我們過于強(qiáng)調(diào)的問題。我擔(dān)心我們國家不同地區(qū)，比如加利福尼亞，正在推進(jìn)的一些法案，過于強(qiáng)調(diào)這個(gè)問題。這些法案可能出于善意，但它們對(duì) AI 模型設(shè)定了限制，甚至可能無意中將開源視為違法，而沒有真正思考如何評(píng)估和審查這些 AI 模型。我對(duì)此感到擔(dān)憂。

Emily Chang: 你是不是認(rèn)為我們可能會(huì)過度管制呢？

李飛飛：有可能，我們可能會(huì)過度管制，而這樣可能會(huì)傷害我們的生態(tài)系統(tǒng)。但同時(shí)，在醫(yī)療、交通、金融等實(shí)際應(yīng)用領(lǐng)域，我們應(yīng)該考慮設(shè)置恰當(dāng)?shù)姆雷o(hù)措施。

Emily Chang: 你跟拜登總統(tǒng)談過這個(gè)問題嗎？我知道你可以直接跟他聯(lián)系。

李飛飛：我不能告訴你，我跟他談過什么。其實(shí)，在跟拜登總統(tǒng)的交談中，我們討論了投資公共部門 AI 的重要性，因?yàn)槲覀儸F(xiàn)在就在硅谷，大家都知道，無論是人才、數(shù)據(jù)還是計(jì)算能力，都主要集中在科技產(chǎn)業(yè)中，尤其是大型科技公司。

而美國公共部門和學(xué)術(shù)界在 AI 資源方面正在迅速落后。斯坦福自然語言處理實(shí)驗(yàn)室只有 64 個(gè) GPU，只有 64 個(gè)。想一想這個(gè)對(duì)比。我們談?wù)摿斯膊块T的資源問題，因?yàn)楣膊块T是我們國家的創(chuàng)新引擎，它創(chuàng)造了公共產(chǎn)品，發(fā)現(xiàn)了科學(xué)知識(shí)，并且為公眾提供了對(duì)這項(xiàng)技術(shù)的可信賴和負(fù)責(zé)任的評(píng)估和解釋。

Emily Chang: 所以最后一個(gè)問題，我知道你非常關(guān)注這個(gè)問題在你的實(shí)驗(yàn)室和其他地方這個(gè)領(lǐng)域沒有足夠的女性和有色人種掌控權(quán)這個(gè)風(fēng)險(xiǎn)有多大，可能會(huì)引發(fā)什么問題？

李飛飛：是的，Emily，我知道你一直在倡導(dǎo)這個(gè)問題，看，還不夠。實(shí)際上，我認(rèn)為文化并不一定變得更好，我們看到越來越多的女性和多樣化背景的人進(jìn)入科技和人工智能領(lǐng)域，但我們也看到男性的聲音被更多地傳播。人們會(huì)說，飛飛，你在這里發(fā)言，但有很多人比我更好。有很多年輕的女性，來自各種多樣化背景的科技人員，他們的聲音應(yīng)該被聽到，應(yīng)該有更大的發(fā)言平臺(tái)。如果我們聽不到他們的聲音，那就真的是在浪費(fèi)人力資本，對(duì)吧？這些都是杰出的思想家、創(chuàng)新者、技術(shù)人員和教育家，發(fā)明家，科學(xué)家，如果我們不給他們發(fā)言的機(jī)會(huì)，不聽他們的想法，不提升他們的地位，就是在浪費(fèi)我們集體的人力資本。

Emily Chang: 我認(rèn)為教母是一個(gè)非常好的稱呼。大家怎么看？你們同意嗎？

所有人：是的。

Emily Chang: 好的，謝謝您。人工智能教母。

（本文首發(fā)于鈦媒體App，作者｜AI科技組，編輯｜林志佳、胡潤峰）