2022年12月，人工智能聊天機(jī)器人ChatGPT刷爆網(wǎng)絡(luò)，網(wǎng)友們爭先恐后去領(lǐng)略它的超高情商和巨大威力。參加高考、修改代碼、構(gòu)思小說......它在廣大網(wǎng)友的“鞭策”下不斷突破自我，甚至可以用一整段程序，為你拼接出一只小狗。那么，ChatGPT是如何煉成的？是否意味著AI已具有人類智能呢？
chatGPT的程序小狗 圖源：澎湃新聞 ChatGPT是啥？ 一個(gè)超神級(jí)別的自然語言生成式AI。 ChatGPT是人工智能公司OpenAI的GPT自然語言生成式模型的最新衍生品，可以進(jìn)行“你來我往”的多輪聊天。 ChatGPT被業(yè)內(nèi)認(rèn)為是，繼2020年NLP（自然語言處理）預(yù)訓(xùn)練模型——GPT-3之后的“GPT-3.5”。盡管不是傳聞中下一代自然語言生成模型GPT-4，但同樣對(duì)NLP以及人工智能領(lǐng)域有重要意義。
ChatGPT被網(wǎng)友認(rèn)為可代替谷歌搜索引擎 圖源：ins 一款A(yù)I，能有多神呢？ ChatGPT是GPT（或生成式預(yù)訓(xùn)練轉(zhuǎn)換器）文本生成AI系列的最新發(fā)展，根據(jù)從互聯(lián)網(wǎng)上獲取的大量文本樣本來進(jìn)行訓(xùn)練。 一經(jīng)發(fā)布，ChatGPT便在網(wǎng)友的瘋狂“檢測”和“調(diào)戲”中表現(xiàn)出各種驚人的能力。OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）表示，自11月30日至12月5日，ChatGPT的用戶數(shù)量已突破100萬，需求大于預(yù)期。 在廣大網(wǎng)友的不懈努力下，ChatGPT短短幾天之內(nèi)—— 參加了美國高校的入學(xué)資格考試（SAT），成績?yōu)橹械葘W(xué)生水平； 用《坎特伯雷故事集》風(fēng)格改寫了90年代熱門歌曲《Baby Got Back》； 用《老友記》主角口吻創(chuàng)作了劇本對(duì)白； 構(gòu)思了簡短的偵探小說； 簡要闡釋了經(jīng)濟(jì)學(xué)理論； 給出了消除經(jīng)濟(jì)不平等的六點(diǎn)計(jì)劃； 與人類進(jìn)行“心理戰(zhàn)”，猜想人類實(shí)際上想讓計(jì)算機(jī)做什么； 規(guī)劃了如何毀滅世界； 生成關(guān)鍵詞指導(dǎo)AI作畫； 扮演OpenAI，在系統(tǒng)內(nèi)構(gòu)建了ChatGPT套娃，相當(dāng)于“我”生了一個(gè)“我”......
ChatGPT的網(wǎng)絡(luò)界面 圖源：OpenAI ChatGPT是怎么煉成的？ 要想了解ChatGPT，我們首先了解一下GPT。 Generative Pre-trained Transformer是一種基于互聯(lián)網(wǎng)可用數(shù)據(jù)訓(xùn)練的文本生成深度學(xué)習(xí)模型。它用于問答、文本摘要生成、機(jī)器翻譯、分類、代碼生成和對(duì)話AI。 2018年，GPT-1誕生，這一年也是 NLP的預(yù)訓(xùn)練模型元年。 它可以： ·自然語言推理：判斷兩個(gè)句子的關(guān)系； ·問答與常識(shí)推理：輸入文章及若干答案，輸出答案的準(zhǔn)確率； ·語義相似度識(shí)別：判斷兩個(gè)句子語義是否相關(guān)； ·分類：判斷輸入文本是指定的哪個(gè)類別。 發(fā)展到GPT-3，系統(tǒng)的聊天能力已經(jīng)無限接近于人類，甚至有超越之勢。 而相對(duì)于GPT3通過海量學(xué)習(xí)數(shù)據(jù)進(jìn)行訓(xùn)練，ChatGPT又有進(jìn)步。 它被加入道德原則。 按照預(yù)先設(shè)計(jì)的道德準(zhǔn)則，ChatGPT會(huì)對(duì)不合理或無法回答的提問和請(qǐng)求“說不”。敢于質(zhì)疑、主動(dòng)承認(rèn)錯(cuò)誤，這樣的“性格”可以不斷提升AI本身對(duì)用戶意圖的理解以及結(jié)果的準(zhǔn)確性。當(dāng)然，盡管OpenAI非常小心，這種準(zhǔn)則也可能被聰明的提問方式繞開。
ChatGPT 指出問題錯(cuò)誤 圖源：澎湃新聞 它學(xué)會(huì)了從“人類反饋中強(qiáng)化學(xué)習(xí)”，即Reinforcement Learning from Human Feedback（RLHF）。 ChatGPT 使用“預(yù)訓(xùn)練-微調(diào)”的工作范式訓(xùn)練了一個(gè)初始模型：人類AI訓(xùn)練員提供對(duì)話，他們?cè)趯?duì)話中扮演雙方——用戶和AI助手，AI訓(xùn)練員可以訪問模型編寫的對(duì)話回復(fù)，并幫助AI調(diào)整回復(fù)內(nèi)容。
ChatGPT訓(xùn)練方法 圖源：OpenAI 被“調(diào)教”后的ChatGPT能夠識(shí)別惡意信息，識(shí)別后拒絕給出有效回答，或記住用戶之前所向它提問的內(nèi)容，以各種方式組合語境想法，變成一個(gè)靈感生成器。 對(duì)于AI發(fā)展來說，創(chuàng)建一個(gè)迭代反饋的閉環(huán)至關(guān)重要。 除了RLHF，該研究還使用了近端策略優(yōu)化算法（PPO）微調(diào)模型，對(duì)整個(gè)學(xué)習(xí)過程進(jìn)行了數(shù)次迭代。上線后，ChatGPT將大量客戶的反饋互動(dòng)用于AI 的學(xué)習(xí)，將其變成推動(dòng)AI進(jìn)步的關(guān)鍵一環(huán)。
ChatGPT鼓勵(lì)用戶多交流互動(dòng)以幫助其改進(jìn)模型 圖源：ins AI是否已具有人類智能？ 討論AI是否已具有真正的“智能”是人類的游戲。 圖靈測試（The Turing test）如今已然成為人工智能領(lǐng)域研究的核心目標(biāo)之一。它由艾倫·麥席森·圖靈提出，被公認(rèn)為是人工智能學(xué)科興起的標(biāo)志。圖靈測試將“思想能力”人為定義在功能和實(shí)用的范疇，為“智能”設(shè)定了條件。 圖靈測試究竟是什么意思？簡單來說，就是把機(jī)器關(guān)到小黑屋中，讓它和人類聊天對(duì)話，然后分辨小黑屋里回答問題的究竟是機(jī)器還是人類。如果無法辨別，就說明了機(jī)器具有和人一樣等級(jí)的智能，通過測試。 而迄今為止，還沒有AI模型能真正通過圖靈測試。 提及GPT-4會(huì)有怎樣的優(yōu)化，ChatGPT給出了以下答案： ChatGPT： GPT-4是一個(gè)大型語言模型，是目前人工智能領(lǐng)域最先進(jìn)的技術(shù)之一。它能夠在大量訓(xùn)練數(shù)據(jù)的基礎(chǔ)上，模擬人類的語言表達(dá)能力，并以相似的語言來回答問題。目前，GPT-4還在不斷優(yōu)化，可能會(huì)有以下一些方面的改進(jìn)： GPT-4可能會(huì)增加更多的訓(xùn)練數(shù)據(jù)，以提高它的知識(shí)面和準(zhǔn)確度。 GPT-4可能會(huì)增加更復(fù)雜的算法，以提高它的性能和處理能力。 GPT-4可能會(huì)增加更多的功能，例如語音合成、圖像識(shí)別等，以提高它的應(yīng)用能力。 GPT-4可能會(huì)增加更多的輸入輸出接口，例如聊天機(jī)器人、問答系統(tǒng)等，以提高它的使用方便性。 江湖傳言：GPT-4已通過了圖靈測試。 未來，AI是否可以真正具有人類智能？眾說紛紜。也許奇點(diǎn)已然臨近，也許依舊僅為空中樓閣。但不可否認(rèn)的是，ChatGPT必將引領(lǐng)一場人工智能領(lǐng)域的先鋒革命。 參考 | 參考消息網(wǎng)、界面新聞、澎湃新聞 整理 | 穆子葉 來源： 世界互聯(lián)網(wǎng)大會(huì) |
