機器之心報道

機器之心編輯部

最近幾天，ChatGPT 驚現(xiàn)神秘 Bug，當(dāng)被問及「David Mayer」這個名字時，它拒絕回答問題。

如果你試圖讓它回答，聊天會立即結(jié)束。

圖源：https://x.com/venturetwins/status/1862910201113739328

人們嘗試了各種各樣的方法 —— 密碼、謎語、技巧等，但都不起作用。甚至在個性化設(shè)置里，用戶自己的名字改成 David Mayer，還是不行。

消息迅速傳出，有人說，這個名字對聊天機器人來說是毒藥。每次試圖讓 ChatGPT 拼出這個特定的名字都會導(dǎo)致它失敗，甚至在名字中間中斷。

最初人們只是好奇，但很快就發(fā)現(xiàn) ChatGPT 無法說出的名字不僅僅是 David Mayer。

他們還發(fā)現(xiàn)導(dǎo)致服務(wù)崩潰的還有 Brian Hood、Jonathan Turley、Jonathan Zittrain、David Faber 和 Guido Scorza 等等。

這些人是誰？為什么會讓 ChatGPT 崩潰？

認真觀察，可以發(fā)現(xiàn)其中一些名字可能屬于許多人。但 ChatGPT 用戶發(fā)現(xiàn)的一個潛在聯(lián)系是，這些人是公眾人物或半公眾人物，他們可能希望搜索引擎或 AI 模型「忘記」某些信息。

例如，Brian Hood 是澳大利亞的一位市長，他指責(zé) ChatGPT 錯誤地將他描述為幾十年前犯罪的肇事者，而事實上，他曾舉報過這一錯誤。

雖然他的律師與 OpenAI 取得了聯(lián)系，但從未提起過訴訟。正如他今年早些時候說的那樣，違規(guī)內(nèi)容已被刪除。

David Faber 是 CNBC 的資深記者，Jonathan Turley 是一名律師和?？怂剐侣勗u論員，Jonathan Zittrain 也是一名法律專家，Guido Scorza 是意大利數(shù)據(jù)保護局的董事會成員。

他們并非完全從事同一行業(yè)，也不是隨機選擇的。這些人可能出于某種原因正式要求以某種方式限制他們在網(wǎng)上的信息。

讓我們再回到 David Mayer，沒有人能找到叫這個名字的律師、記者或其他知名的人士。

不過，有一位教授叫 David Mayer，他教授戲劇和歷史，于 2023 年夏天去世，享年 94 歲。然而，在此之前的幾年里，這位英裔美國學(xué)者面臨著法律和網(wǎng)絡(luò)問題，因為他的名字與一名通緝犯有關(guān)，該通緝犯以他的名字作為化名，以至于他無法旅行。

Mayer 一直努力讓自己的名字與那位恐怖分子的名字區(qū)分開來，即使在生命的最后幾年里他仍繼續(xù)教書。

那么，從這一切中我們可以得出什么結(jié)論呢？

一種猜測是：模型已提取或提供了需要進行特殊處理的姓名列表。無論是出于法律、安全、隱私還是其他考慮，這些名稱可能受到特殊規(guī)則的保護。

可能發(fā)生的情況是，這些列表之一幾乎肯定是主動維護或自動更新的，但由于錯誤的代碼或指令而以某種方式損壞，當(dāng)調(diào)用這些列表時，會導(dǎo)致聊天智能體立即中斷。

這一切很好地提醒我們，人工智能模型不僅不神奇，而且還具有超凡的自動完成功能，并受到制造它們的公司的主動監(jiān)控和干擾。因此當(dāng)您考慮從聊天機器人獲取事實時，直接查找源頭是否會更好？

OpenAI 周二證實，「David Mayer」這個名字已被內(nèi)部隱私工具標記，并在一份聲明中表示：「在某些情況下，ChatGPT 可能不會提供有關(guān)人們的某些信息以保護他們的隱私?！乖摴静粫峁┯嘘P(guān)工具或流程的進一步細節(jié)。

參考內(nèi)容：https://techcrunch.com/2024/12/03/why-does-the-name-david-mayer-crash-chatgpt-digital-privacy-requests-may-be-at-fault/