參考消息網(wǎng)10月30日報道據(jù)美國趣味科學網(wǎng)站9月20日報道，強人工智能(AGI)是人工智能(AI)研究的一個領域。在這一領域，科學家們正在努力創(chuàng)建一個總體上比人類聰明的計算機系統(tǒng)。這些假設的系統(tǒng)可能具有一定程度的自我認識和自我控制能力——包括自己編輯代碼——并且無需接受訓練就能像人類那樣學習解決問題。 這個術語最早出現(xiàn)在《強人工智能》(施普林格出版社，2007年)一書中，這是由計算機科學家本·戈策爾和人工智能研究員卡西奧·彭納欽編纂的一套文集。不過，這個概念在人工智能的歷史上已經(jīng)存在了幾十年，并出現(xiàn)在許多熱門的科幻小說和電影中。 目前使用的人工智能服務——包括臉書網(wǎng)站使用的基本機器學習算法，甚至像ChatGPT這樣的大型語言模型(LLM)——都被認為是“弱”人工智能。這意味著它們可以比人類更好地執(zhí)行至少一項任務，如圖像識別，但它們只能執(zhí)行以訓練它們的數(shù)據(jù)為基礎的特定類型的任務或一組操作。而所謂的“強”人工智能將超越其訓練數(shù)據(jù)的限制，在生活和知識的各個領域展示人類水平的能力，并具有與人類相同的推理和語境化水平。 但由于人類還從未創(chuàng)造出AGI，科學家們關于它對人類可能意味著什么、哪些風險比其他風險更有可能出現(xiàn)以及可能產生的社會影響沒有達成共識。一些人此前曾猜測AGI永遠不會實現(xiàn)，但許多科學家和技術專家——包括計算機科學家雷·庫茨韋爾以及馬克·扎克伯格、薩姆·奧爾特曼和埃隆·馬斯克等硅谷高管——傾向于認為，AGI可以在未來幾年內實現(xiàn)。 力量倍增器 人工智能已經(jīng)在各個領域展示了一系列好處，從協(xié)助科學研究到節(jié)省人們的時間。例如，內容生成工具等較新的系統(tǒng)可以根據(jù)用戶的對話模式為營銷活動生成美術作品或起草電子郵件。但這些工具只能執(zhí)行經(jīng)過訓練的特定任務——基于開發(fā)人員向它們輸入的數(shù)據(jù)。而AGI可能為人類帶來另一些好處，尤其是在需要解決問題的領域。 開放人工智能研究中心(OpenAI)首席執(zhí)行官奧爾特曼在ChatGPT上線三個月后發(fā)表的一篇博文中寫道，假設的情況是，AGI可以幫助增加資源的豐富性，加速全球經(jīng)濟發(fā)展，并在發(fā)現(xiàn)新的科學知識、從而改變可能的極限方面提供幫助。奧爾特曼還說：“AGI有可能給每個人帶來令人難以置信的新能力；我們可以想象這樣一個世界：我們所有人在幾乎任何認知任務中都有機會獲得幫助，從而為人類的聰明才智和創(chuàng)造力提供巨大的力量倍增器?！?br> 災難性后果 然而，馬斯克在2023年說，AGI構成很多生存風險——從“錯位”，即系統(tǒng)的潛在目標可能與控制它的人類的目標不匹配，到未來系統(tǒng)消滅全人類的“非零可能性”。2021年8月發(fā)表在《實驗與理論人工智能雜志》上的一篇評論概述了未來AGI系統(tǒng)的幾個可能風險，盡管它可能帶給“人類巨大利益”。 這篇評論的作者寫道：“本評論確定了與AGI相關的一系列風險，包括AGI脫離人類所有者或管理者的控制，被賦予或設定不安全的目標，開發(fā)不安全的AGI，AGI的倫理、道德和價值觀不佳，對AGI管理不足和構成生存風險?！?br> 作者還假定，未來的技術可能“有能力通過創(chuàng)造更智能的自身版本以及改變其預先設定的目標，實現(xiàn)遞歸式的自我改進”。研究人員寫道，還有一種可能性是，人類群組創(chuàng)造AGI進行惡意使用，或者善意的AGI帶來“災難性意外后果”。 不可逆時刻 對于人類能否真的創(chuàng)造一個強大到足以成為AGI的系統(tǒng)，存在著不同的觀點，更不用說何時可以創(chuàng)造這樣一個系統(tǒng)了。 對在人工智能科學家中進行的幾次大型調查結果進行的評估顯示，普遍的共識是，AGI可能在本世紀末之前實現(xiàn)——但隨著時間的推移，看法也發(fā)生了變化。在21世紀第二個十年，人們普遍認為AGI大約還需要50年才能實現(xiàn)。但最近，這一估計被大幅削減至5至20年之間。 最近幾個月，一些專家提出，AGI系統(tǒng)將在這個十年的某個時候實現(xiàn)。這就是庫茨韋爾在他的《奇點越來越近》(企鵝出版社，2024年)一書中提出的時間線——我們實現(xiàn)AGI的那一刻代表著技術奇點。 這一刻將是一個不可逆的時刻，之后的技術增長將變得無法控制和不可逆轉。庫茨韋爾預計，AGI的里程碑將是在本世紀30年代出現(xiàn)一種超級智能，然后在2045年，人們將能夠將自己的大腦直接與人工智能連接起來，這將擴展人類的智能和意識。 科學界的其他人認為，AGI可能很快就會實現(xiàn)。例如，戈策爾提出，我們可能會在2027年前到達奇點，而“深層思維”公司的聯(lián)合創(chuàng)始人沙恩·萊格說，他預計AGI會到2028年實現(xiàn)。馬斯克也提出，到2025年底，人工智能將比最聰明的人類更聰明。（編譯/王海昉）
開放人工智能研究中心的標志（美聯(lián)社） |
