泄露用戶聊天記錄標(biāo)題，ChatGPT突遭禁用！關(guān)閉一天后“殘缺版”重新上線

2024-5-8 12:02| 發(fā)布者: admin| 查看: 445| 評論: 0

摘要: 6個月前，幾乎只有科研人員在關(guān)注大型語言模型的發(fā)展。但去年年底ChatGPT的推出，給全世界帶來了重磅炸彈：機(jī)器現(xiàn)在能夠以一種與人類幾乎沒有區(qū)別的方式進(jìn)行交流。它們能夠在幾秒鐘內(nèi)寫出文字，甚至是編寫各大領(lǐng)域的 ...

6個月前，幾乎只有科研人員在關(guān)注大型語言模型的發(fā)展。但去年年底ChatGPT的推出，給全世界帶來了重磅炸彈：機(jī)器現(xiàn)在能夠以一種與人類幾乎沒有區(qū)別的方式進(jìn)行交流。它們能夠在幾秒鐘內(nèi)寫出文字，甚至是編寫各大領(lǐng)域的代碼，而且質(zhì)量往往非常高。

這個月，GPT-4的推出進(jìn)一步表明，人工智能正在以流星般的速度進(jìn)步，而且可能將像其他技術(shù)一樣從根本上改變?nèi)祟惿鐣?。在未來，人工智能極有可能將一系列工作任務(wù)自動化，在白領(lǐng)群體中，這一現(xiàn)象會尤為常見。放在以前，這幾乎是不可能的。

但是，技術(shù)進(jìn)步的同時，無疑也給人類帶來了新的難題。如何確保個人不會濫用技術(shù)？如何保護(hù)用戶的隱私？這些問題，都亟待解決。

↑GPT-4

泄露用戶聊天記錄標(biāo)題

ChatGPT關(guān)閉一天后“殘缺版”上線

據(jù)報道，當(dāng)?shù)貢r間周一上午，OpenAI暫時關(guān)閉ChatGPT服務(wù)，理由是公司收到了一個錯誤報告，稱ChatGPT允許一些用戶看到其他用戶聊天記錄的標(biāo)題。

OpenAI的一位發(fā)言人告訴外媒記者，用戶聊天記錄的標(biāo)題通常出現(xiàn)在ChatGPT網(wǎng)頁左側(cè)。雖然泄露了標(biāo)題，但用戶具體的對話內(nèi)容是不可見的。該發(fā)言人說，公司發(fā)現(xiàn)這一錯誤后，ChatGPT被暫時禁用。“一個未命名開源軟件的一個錯誤導(dǎo)致了這個問題。公司仍在調(diào)查確切的原因?！?br>
周一晚間，ChatGPT重新上線，但用戶的聊天記錄仍然丟失。“歷史記錄暫時不可用。我們正在努力盡快恢復(fù)這一功能?！绷奶祉撁骘@示。在周一晚間的聲明中，發(fā)言人也說，“ChatGPT現(xiàn)在已經(jīng)恢復(fù)在線，我們正在努力恢復(fù)聊天記錄?！?br>
此次意外出現(xiàn)后，許多人不禁開始擔(dān)憂，如何防止有人對人工智能進(jìn)行惡意破壞或者入侵？一個小小的安慰是，OpenAI和其他大公司都意識到，這些人工智能可能被人利用，用于發(fā)送垃圾郵件、傳播錯誤信息、創(chuàng)建惡意軟件、進(jìn)行有針對性的騷擾。OpenAI首席執(zhí)行官薩姆·奧特曼此前就曾警告稱，他擔(dān)心政府行動不夠迅速，無法圍繞人工智能推出限制性政策。

實際上，ChatGPT推出后，谷歌、蘋果、Meta、百度和亞馬遜等公司也不甘落后，希望自家的人工智能可以盡快進(jìn)入市場，并且插入到每一個可能的應(yīng)用和設(shè)備上。例如，ChatGPT已經(jīng)插入在了Bing搜索引擎中，而且很快就會出現(xiàn)在其他地方，比如車?yán)?、手機(jī)里、電視上。也許在激烈的市場競爭下，各大公司會將更多注意力放在制定預(yù)防性措施上。

大型語言模型生產(chǎn)成本越來越低

斯坦福大學(xué)不到600美元“復(fù)制”了GPT-3.5

目前看來，ChatGPT等大型語言模型的生產(chǎn)成本會越來越低。斯坦福大學(xué)近日的Alpaca模型就是一個很好的例子。在許多任務(wù)上，Alpaca的表現(xiàn)與ChatGPT十分相似。據(jù)悉，Alpaca建立在一個開源的語言模型上，訓(xùn)練成本不到600美元。

斯坦福大學(xué)的一個研究小組從Meta的開源LLaMA 7B語言模型開始。該小組使用GPT-3.5給LLaMA 7B提供了一套關(guān)于如何完成其工作的指令。接下來，他們對產(chǎn)生的Alpaca模型進(jìn)行了測試，并且將它與ChatGPT在各種領(lǐng)域（包括電子郵件寫作、社交媒體和生產(chǎn)力工具）的表現(xiàn)進(jìn)行對比。在這些測試中，Alpaca贏得了90項，ChatGPT贏得了89項。

“鑒于模型規(guī)模小，數(shù)據(jù)量不大，我們對這一結(jié)果相當(dāng)驚訝。”該團(tuán)隊寫道，“除了利用靜態(tài)評估集，我們還對Alpaca模型進(jìn)行了交互式測試，發(fā)現(xiàn)Alpaca在不同的輸入集上往往表現(xiàn)得與GPT-3.5類似。我們承認(rèn)，我們的評估在規(guī)模和多樣性方面可能是有限的?！?br>
該團(tuán)隊指出，他們還沒有對模型進(jìn)行微調(diào)，不能保證其安全無害?！叭绻覀兝^續(xù)尋求優(yōu)化的話，可能會更便宜?！?br>
紅星新聞記者徐緩實習(xí)記者梁宏

編輯郭莊責(zé)任編輯魏孔明

（下載紅星新聞，報料有獎?。?br>

泄露用戶聊天記錄標(biāo)題，ChatGPT突遭禁用！關(guān)閉一天后“殘缺版”重新上線