D-Think | 東遠(yuǎn)科技-廣州東遠(yuǎn)智能科技有限公司- › 首頁 ›資訊› 科技頭條 › 查看內(nèi)容

傅瑩：未來AI安全、負(fù)責(zé)任應(yīng)用的最佳出路需要中美兩股力量

2025-2-13 11:04| 發(fā)布者: admin| 查看: 184| 評(píng)論: 0

摘要: 2月11日，為期兩天的人工智能行動(dòng)峰會(huì)在法國首都巴黎閉幕，包括法國、中國、印度、歐盟在內(nèi)的多個(gè)國家和國際組織共同簽署了《關(guān)于發(fā)展包容、可持續(xù)的人工智能造福人類與地球的聲明》。美國和英國未簽署該聲明。中國 ...

2月11日，為期兩天的人工智能行動(dòng)峰會(huì)在法國首都巴黎閉幕，包括法國、中國、印度、歐盟在內(nèi)的多個(gè)國家和國際組織共同簽署了《關(guān)于發(fā)展包容、可持續(xù)的人工智能造福人類與地球的聲明》。美國和英國未簽署該聲明。

中國外交部原副部長傅瑩10日在巴黎表示，人工智能（AI）全球安全治理應(yīng)超越地緣政治干擾，中方愿與國際社會(huì)攜手，共同促進(jìn)AI安全發(fā)展。

巴黎人工智能行動(dòng)峰會(huì)及其框架下的峰會(huì)活動(dòng)于2025年2月6日至11日舉行，會(huì)議旨在加強(qiáng)國際社會(huì)的行動(dòng)力，探討人工智能的應(yīng)用和全球治理問題。由托尼·布萊爾全球變革研究所（Tony Blair Institute for Global Change, TBI）主辦的“人工智能時(shí)代的治理論壇”是其間的邊會(huì)之一，意大利前總理、TBI戰(zhàn)略顧問馬泰奧·倫齊致開幕詞。

傅瑩應(yīng)邀在“推進(jìn)人工智能安全科學(xué)”一節(jié)擔(dān)任嘉賓，其他嘉賓包括蒙特利爾大學(xué)教授、蒙特利爾學(xué)習(xí)算法研究所創(chuàng)始人約舒亞·本喬（Yoshua Bengio）和普林斯頓高等研究院教授阿隆德拉·納爾遜（Alondra Nelson），大家進(jìn)行了嚴(yán)肅而不失幽默的熱烈討論。之后傅瑩在閉門晚宴上發(fā)言，并在峰會(huì)期間與各國專家學(xué)者就共同關(guān)心的問題交流。

傅瑩（右一）參加“人工智能時(shí)代的治理論壇”的討論。

關(guān)于中國人怎么看AI安全問題，為何沒有建立“人工智能安全研究所（AISI）”？傅瑩說，中方已經(jīng)在政府支持下成立了對(duì)應(yīng)AISI的“中國人工智能發(fā)展與安全研究網(wǎng)絡(luò)”。中國在AI技術(shù)應(yīng)用和安全治理領(lǐng)域存在一個(gè)多元化和多樣化的生態(tài)環(huán)境，有多個(gè)政府部門和機(jī)構(gòu)、企業(yè)在關(guān)注和投入安全治理問題。建立這樣的網(wǎng)絡(luò)而不是一個(gè)研究所，是為了讓大家都能參加進(jìn)來，分享知識(shí)、信息，增強(qiáng)能力建設(shè)，同時(shí)積極參加國際對(duì)話合作。中方也參加了2023年11月在倫敦舉行的全球人工智能安全峰會(huì)，并一直在關(guān)注各國AISI進(jìn)程，中國科技界也與各國同行保持密切溝通。

關(guān)于中方怎么看人工智能技術(shù)的發(fā)展和應(yīng)用帶來的風(fēng)險(xiǎn)時(shí)，傅瑩說，在中國，人們對(duì)AI風(fēng)險(xiǎn)的關(guān)注大致在兩個(gè)層面。一個(gè)是技術(shù)應(yīng)用中的風(fēng)險(xiǎn)。中國政府2017年制定了《新一代人工智能發(fā)展規(guī)劃》，提出AI安全、可控與可持續(xù)發(fā)展的要求。目前AI已在經(jīng)濟(jì)、金融、城市管理、醫(yī)療和科研等領(lǐng)域全面應(yīng)用，當(dāng)然，風(fēng)險(xiǎn)與挑戰(zhàn)也是存在的，對(duì)管控風(fēng)險(xiǎn)和對(duì)相關(guān)應(yīng)對(duì)技術(shù)的需求都很迫切。中國政府在網(wǎng)絡(luò)管理法律法規(guī)的實(shí)踐基礎(chǔ)上，就AI管理陸續(xù)出臺(tái)法律和規(guī)范性文件，基本思路是在鼓勵(lì)創(chuàng)新和防范、管控風(fēng)險(xiǎn)之間保持平衡。同時(shí)，一批專門應(yīng)對(duì)AI安全問題的技術(shù)創(chuàng)新企業(yè)也應(yīng)運(yùn)而生。

另一個(gè)是技術(shù)發(fā)展中的風(fēng)險(xiǎn)。中方著眼未來風(fēng)險(xiǎn)積極參與國際合作。中國政府2023年10月發(fā)布了《全球人工智能治理倡議》，強(qiáng)調(diào)智能向善，主張建立風(fēng)險(xiǎn)等級(jí)測試評(píng)估體系。中方簽署了《布萊奇利宣言》。2024年7月1日，第78屆聯(lián)合國大會(huì)期間，中國提出的加強(qiáng)人工智能能力建設(shè)國際合作決議獲得協(xié)商一致通過，得到140多個(gè)國家支持。中方對(duì)AGI（通用人工智能）風(fēng)險(xiǎn)的理論和技術(shù)探討也高度關(guān)注，中國科技界與國際同行在認(rèn)識(shí)層面基本同步。約舒亞·本喬領(lǐng)銜撰寫的《國際人工智能安全報(bào)告》在中國受到關(guān)注，報(bào)告中提到“社會(huì)和政府在如何應(yīng)對(duì)AI不確定性的決策，將決定人類走向何方”值得人們深思。

被問到中美關(guān)系和兩國能否在AI上開展合作時(shí)，傅瑩表示，當(dāng)前地緣政治的干擾令許多人對(duì)中美AI合作不樂觀。她回憶2019年亨利·基辛格與美國企業(yè)家、計(jì)算機(jī)軟件工程師埃里克·施密特在北京參加AI安全圓桌會(huì)時(shí)，談到對(duì)AI未來風(fēng)險(xiǎn)的擔(dān)憂。她曾回應(yīng)說，如若中美攜手與世界各國合作，人類應(yīng)該有可能管控機(jī)器，但若相互排斥，甚至試圖利用高智能機(jī)器搞對(duì)抗，機(jī)器贏的概率恐怕更大。

過去幾年美國對(duì)華科技封鎖和打壓毒化了全球合作的氛圍。如果將21世紀(jì)第三個(gè)十年的世界形勢(shì)繪制成一幅平面圖，可以看到科技創(chuàng)新指數(shù)級(jí)上揚(yáng)的曲線，也可以看到中美兩國關(guān)系波動(dòng)的曲線，這兩條線不可避免地發(fā)生交叉。在這個(gè)科技大爆發(fā)的時(shí)代，人類最需要?jiǎng)訂T全部的智慧與能量開展合作之際，主要國家卻試圖關(guān)閉合作平臺(tái)。

與此同時(shí)，可以看到兩個(gè)平行的動(dòng)態(tài)趨勢(shì)。一是美國在虛擬世界的研發(fā)上領(lǐng)先，前沿技術(shù)公司和科技人員在AI技術(shù)上快速創(chuàng)新發(fā)展，并且擁有巨額的資本支撐；另一個(gè)是中國在現(xiàn)實(shí)世界的垂直應(yīng)用上領(lǐng)先，正在推動(dòng)廣泛和深入的技術(shù)應(yīng)用和創(chuàng)新，擁有強(qiáng)大的制造業(yè)和廣闊的市場基礎(chǔ)。從人類技術(shù)發(fā)展的歷史進(jìn)程可以自然地預(yù)期，這兩股力量的結(jié)合是未來AI安全、負(fù)責(zé)任應(yīng)用的最佳出路。然而，從過去幾年的情況看，許多人認(rèn)為前景似乎不那么光明。因此，地緣政治的干擾可以被認(rèn)為是對(duì)AI安全需要關(guān)注的第三個(gè)層面。

中方對(duì)中美合作和全球治理保持相對(duì)冷靜的積極態(tài)度，提出兩國應(yīng)該在分歧問題上尊重彼此核心利益和重大關(guān)切，堅(jiān)持相互尊重、和平共處、合作共贏的原則。

談到國際上關(guān)于AI技術(shù)發(fā)展的開源和閉源兩種路徑時(shí)，傅瑩說，現(xiàn)階段，從中國學(xué)界和企業(yè)的角度看，開源雖有風(fēng)險(xiǎn)，卻有利于及時(shí)發(fā)現(xiàn)和處理安全漏洞，而且符合中方關(guān)于技術(shù)造福人民的理念。相較之下，有些國家部分公司完全不透明的大模型更容易令人產(chǎn)生安全擔(dān)憂。同臺(tái)嘉賓約舒亞·本喬則擔(dān)心開源技術(shù)被不法分子利用，但他也承認(rèn)，開源更易發(fā)現(xiàn)潛在問題。

澎湃新聞?dòng)浾?南博一

(本文來自澎湃新聞，更多原創(chuàng)資訊請(qǐng)下載“澎湃新聞”APP)