（來源：MIT Technology Review）

如果任其自行發(fā)展，“AI 角色大軍”不僅生存了下來，而且發(fā)展非常迅速，它們創(chuàng)造了游戲內(nèi)的職業(yè)、分享了網(wǎng)絡(luò)梗、投票通過了稅改，甚至還傳播了一種宗教。

這項實驗發(fā)生在開放世界游戲平臺《Minecraft》中，最多同時有 1000 個 AI 智能體使用大型語言模型彼此互動。在僅僅通過文本提示進行初步引導(dǎo)后，這些智能體自發(fā)地發(fā)展出了各種獨特的性格特征、偏好以及專業(yè)角色，而無需人類創(chuàng)造者提供更多的輸入。

這項研究由 AI 初創(chuàng)公司 Altera 發(fā)起，屬于一個更廣泛的領(lǐng)域，希望通過模擬智能體來研究人類群體對新經(jīng)濟政策或其他干預(yù)措施的反應(yīng)。

不過，對于 Altera 的創(chuàng)始人 Robert Yang 來說，這只是一個開始。他曾是 MIT 計算神經(jīng)科學(xué)助理教授，后來辭職創(chuàng)辦了這家公司。他將這次實驗視為邁向大規(guī)?！癆I 文明”的早期一步，這種文明可以在數(shù)字空間中與我們共存并協(xié)作。Yang 表示：“AI 的真正潛力將在我們擁有真正自主且能夠大規(guī)模協(xié)作的智能體時被釋放?！?/span>

Yang 的靈感來源于斯坦福大學(xué)研究員 Joon Sung Park 的研究。2023 年，Park 發(fā)現(xiàn)，當一組由 25 個自主 AI 智能體在一個基礎(chǔ)的數(shù)字世界中自由互動時，會產(chǎn)生出令人驚訝的類人行為。

“他的論文一發(fā)表，我們就立刻開始著手相關(guān)工作。”Yang 說，“六個月后，我辭去了 MIT 的職位?！?/span>

Yang 希望將這個想法推向極致：“我們想探索智能體在群體中可以自主完成的極限?！?/span>

Altera 迅速獲得了超過 1100 萬美元的投資，投資方包括 A16Z 以及谷歌前 CEO Eric Schmidt 創(chuàng)立的新興科技風(fēng)投公司。今年早些時候，Altera 發(fā)布了首個演示：一個由 AI 控制的《Minecraft》角色，可以與你一起游戲。

Altera 的最新實驗“Project Sid”采用了配備“腦模塊”的模擬 AI 智能體。這些模塊由多個部分組成，其中一些模塊由 LLM 驅(qū)動，專門用于特定任務(wù)，例如與其他智能體互動、對話或規(guī)劃智能體的下一步行動。

（來源：MIT Technology Review）

團隊從小規(guī)模測試開始，在《Minecraft》中觀察大約 50 個智能體的互動。在 12 個游戲日（相當于現(xiàn)實中的 4 小時）中，這些智能體展現(xiàn)了一些有趣的“涌現(xiàn)”行為。例如，有些智能體變得非常外向，與許多角色建立聯(lián)系，而另一些則顯得更內(nèi)向。

每個智能體的“受歡迎度”評分（由智能體自己評估）隨著互動的進行而變化。這些智能體能夠跟蹤社交線索并做出反應(yīng)。例如，一個負責(zé)為饑餓角色分發(fā)食物的 AI 廚師，會優(yōu)先分配更多食物給那些他認為更重視自己的角色。

在一個 30 個智能體的模擬中，出現(xiàn)了更加接近人類的行為。盡管所有智能體的初始性格和目標都相同，即建立一個高效的村莊并保護社區(qū)免受游戲內(nèi)其他生物的攻擊，但是它們卻在沒有任何外界提示的情況下，自發(fā)地發(fā)展出社區(qū)內(nèi)的專門角色，比如建造者、防御者、商人和探險者。一旦智能體開始專注于某一角色，其行為便會反映這一新角色的特點。例如，藝術(shù)家更多地采摘花朵，農(nóng)民集中收集種子，而守衛(wèi)則優(yōu)先建造更多的圍欄。

“我們驚訝地發(fā)現(xiàn)，如果為這些智能體配置正確的‘大腦’，它們會表現(xiàn)出真正的涌現(xiàn)行為。”Yang 說?！斑@是我們預(yù)期人類會具備的能力，沒想到機器竟然也可以做到。”

Yang 的團隊還測試了智能體是否能夠遵循社區(qū)規(guī)則。他們設(shè)計了一個帶有基礎(chǔ)稅收法律的世界，并允許智能體投票修改游戲內(nèi)的稅收系統(tǒng)。被提示支持或反對稅收的智能體能夠影響周圍其他智能體的行為，最終影響這些智能體的投票結(jié)果，進而決定是增加還是減少稅收。

團隊隨后擴大了實驗規(guī)模，將每次模擬的智能體數(shù)量推至《Minecraft》服務(wù)器所能承受的極限，在某些情況下多達 1000 個智能體。在 Altera 的一次 500 個智能體的模擬中，他們觀察到這些智能體自發(fā)地創(chuàng)造并傳播了文化“梗”（例如對惡作劇的喜愛，或?qū)ι鷳B(tài)問題的興趣）。團隊還植入了一小組智能體嘗試傳播惡搞宗教“飛天意面神教”（Pastafarianism），并觀察到這些“牧師”成功將許多智能體轉(zhuǎn)化為信徒。這些信徒隨后將飛天意面神教的教義傳播到游戲世界的鄰近村鎮(zhèn)。

雖然智能體的行為看起來像人類，但實際上是大型語言模型（LLM）從人類數(shù)據(jù)中學(xué)習(xí)到的模式與 Altera 的系統(tǒng)結(jié)合的結(jié)果。Altera 的系統(tǒng)將這些模式轉(zhuǎn)化為情境感知的行動，例如拾取工具或與其他智能體互動?！斑@表明，LLMs 對人類社會動態(tài)有足夠復(fù)雜的建模能力，可以反映出這些人類行為?！盇ltera 的聯(lián)合創(chuàng)始人 Andrew Ahn 表示。

（來源：MIT Technology Review）

換句話說，這些數(shù)據(jù)使得 AI 成為了出色的模仿者，能夠表現(xiàn)出類人的行為，但它們絕不是真正的“活著”。

然而，Yang 的計劃更為宏大。在 Altera 計劃將下一步擴展到 Roblox 的同時，Yang 希望最終完全超越游戲世界。他的終極目標是一個人類不僅與 AI 角色一起玩耍，還能在日常生活中與它們互動的世界。他的夢想是創(chuàng)造大量“數(shù)字人類”，這些數(shù)字人類能夠真正關(guān)心我們，與我們合作解決問題，同時也為我們提供娛樂。“我們希望打造真正愛人類的智能體（比如狗愛人類那樣）?！彼硎?。

然而，他的這種觀點（認為 AI 可以愛我們）其實在業(yè)內(nèi)頗具爭議。許多專家指出，使用當前技術(shù)不可能在機器中重現(xiàn)情感。比如，AI 領(lǐng)域資深人士、游戲測試公司 Modl.ai 的負責(zé)人 Julian Togelius 就對 Altera 的工作表示贊賞，尤其是因為這項研究讓我們可以通過模擬研究人類行為。

但這些模擬智能體是否能學(xué)會關(guān)心我們、愛我們，甚至變得有自我意識呢？Togelius 并不這么認為。“沒有任何理由相信某個運行在 GPU 上的神經(jīng)網(wǎng)絡(luò)能夠體驗到任何東西?！彼f。

不過，也許 AI 并不需要真的愛我們才能有用。

“如果問題是這些模擬存在能否表現(xiàn)出關(guān)心，并且做到如此精湛，讓人感覺與被人類關(guān)心沒有區(qū)別，或許這并非不可能?！盩ogelius 補充道，“你可以創(chuàng)造一個足夠好的‘關(guān)心模擬’智能體來發(fā)揮作用。但問題在于，被關(guān)心的人是否會在意‘關(guān)心者’沒有任何真實的體驗?！?/span>

換句話說，只要我們的 AI 角色能夠以令人信服的方式表現(xiàn)出對我們的關(guān)心，這可能已經(jīng)是我們真正關(guān)心的全部了。

原文鏈接：

https://www.technologyreview.com/2024/11/27/1107377/a-minecraft-town-of-ai-characters-made-friends-invented-jobs-and-spread-religion/