你是否覺得AI無所不能？查文獻(xiàn)、寫總結(jié)，咨詢買房、炒股，甚至是看病、算命…… DeepSeek（深度求索）開啟了AI普惠應(yīng)用的新紀(jì)元，讓更多普通人與國產(chǎn)人工智能大模型零距離接觸，但AI的缺陷也很快暴露——“萬能”的AI，尤其是號稱具備思考能力的AI大模型，其實(shí)可能“不靠譜”。 開放是AI大模型未來的發(fā)展趨勢，這也意味著AI將更廣泛地滲透到各行各業(yè)，影響人們的日常生活和工作模式。除了更謹(jǐn)慎使用它，普通人在使用時(shí)要注意什么？ “出門問問”大模型團(tuán)隊(duì)前工程副總裁李維提出了三點(diǎn)建議：保持警惕、交叉驗(yàn)證、引導(dǎo)模型，尤其是面對數(shù)字和事實(shí)時(shí)，更要謹(jǐn)慎。 “坑”不少 甄別網(wǎng)絡(luò)信息真?zhèn)斡须y度 從“有事問百度”到“有事問DeepSeek”，這一轉(zhuǎn)變勾畫出人與AI的日?；幽Ｊ?，也給人們“網(wǎng)絡(luò)沖浪”帶來體驗(yàn)感的升級。 但在互動中，AI可能也會“挖坑”。 “AI查閱文獻(xiàn)是如此的不靠譜?！苯?，廣州高校的一名教授通過DeepSeek查詢文獻(xiàn)信息，核實(shí)后卻發(fā)現(xiàn)它所提供的作者是假的、年份是錯的。 這并非個(gè)例。 當(dāng)要求提供一個(gè)法院判決案例時(shí)，DeepSeek便會根據(jù)此前給出的材料，合理想象案例內(nèi)容。為增加信任度，它還會給出案卷號，但卻“查無此案”，再次追問，它立馬認(rèn)錯。 這幾天，有一則聳人聽聞又漏洞百出的消息廣為傳播：“截至2024年末，‘80后’死亡率突破5.2%，相當(dāng)于每20個(gè)‘80后’中就有1人已經(jīng)去世?！睂＜已信械贸鼋Y(jié)論是，這消息很有可能是AI大模型在問題回答過程中出現(xiàn)錯誤。 撇開專業(yè)的問題不談，在回答生活問題上，AI總能得心應(yīng)手吧？其實(shí)也不然。 有人用AI的意見炒股。當(dāng)輸入某只股票代碼，詢問支撐位和壓力位時(shí)，它給出的答案與真實(shí)情況會有差異。以DeepSeek為例，它的數(shù)據(jù)庫截至2023年10月，跟不上變化莫測的股票市場，數(shù)據(jù)有一定的滯后性。 其實(shí)不難理解，AI更多的是對現(xiàn)有互聯(lián)網(wǎng)信息進(jìn)行推理和二次創(chuàng)作，一旦源頭的資源和數(shù)據(jù)有誤，它生成的內(nèi)容自然會有差錯。從目前使用體驗(yàn)看，AI暫時(shí)不具備甄別網(wǎng)絡(luò)信息真?zhèn)蔚哪芰Α?br> 讓用戶覺得有趣的是，有時(shí)AI就像個(gè)小孩，當(dāng)你質(zhì)疑時(shí)，它能夠迅速低頭認(rèn)錯，并感謝人類的指正。態(tài)度如此“乖巧”的人工智能，有時(shí)反倒不好過多苛責(zé)。 此外，讓人沒想到的是，AI還會被用來算命和預(yù)測運(yùn)勢，并以此促成決策。 李洪（化名）在決定離職前，就咨詢過DeepSeek是否應(yīng)該離職。他坦言，在查詢之前，自己的內(nèi)心其實(shí)已經(jīng)有了答案。人工智能預(yù)測他今年可能遇到比較大的轉(zhuǎn)變，得到這個(gè)回復(fù)后，他離職的意愿從七成提高到了九成。 與其說他是相信AI的“神秘力量”，不如說是在面對不確定的未來時(shí)，人可以通過與AI對話去確認(rèn)內(nèi)心里原本存在的確定性。 不“背鍋” AI不會承擔(dān)法律責(zé)任 說了AI的能力“天花板”，再來看看它的“底線”。 如果你問DeepSeek，它不能在哪些領(lǐng)域提供建議或決策，它給出的回答包括醫(yī)療健康、法律事務(wù)、金融投資、學(xué)術(shù)誠信、個(gè)人隱私等。 在社交媒體上，人們找AI診斷、開方的操作已屢見不鮮，但在專業(yè)人士看來，即使是經(jīng)過專業(yè)的學(xué)習(xí)訓(xùn)練、已在醫(yī)院開展普遍應(yīng)用的“AI醫(yī)生”（AI醫(yī)學(xué)大模型），在醫(yī)療行為中也只能承擔(dān)輔助功能。 有人用手機(jī)拍了一張病理檢測報(bào)告發(fā)給“AI醫(yī)生”提問：“從這張報(bào)告的檢測結(jié)果來看，我有沒有患淋巴瘤？”它的反應(yīng)很快，僅僅幾秒鐘就給出了回復(fù)：“是的，從這個(gè)報(bào)告的結(jié)果來看，您有很大的可能患有淋巴瘤?！?br> 但經(jīng)線下醫(yī)生專業(yè)判斷，這只是普通的炎癥。 “AI醫(yī)生”的誤診會給人們帶來不必要的焦慮，也可能耽誤真正的病情，但責(zé)任不在AI，而在錯誤使用它的人。 “其實(shí)DeepSeek回復(fù)的內(nèi)容質(zhì)量對指令有一定要求。”廣州醫(yī)科大學(xué)附屬第二醫(yī)院副院長楊輝認(rèn)為，當(dāng)醫(yī)生向DeepSeek提問時(shí)，已經(jīng)盡可能轉(zhuǎn)換為專業(yè)、系統(tǒng)性的問題，但得到的答案依然不靠譜。對于沒有醫(yī)學(xué)知識背景的患者，顯然更難獲得準(zhǔn)確且有益的回復(fù)。 “人體是一個(gè)精密復(fù)雜的生命系統(tǒng)，AI的判斷卻往往簡單粗暴?！睏钶x說，以慢性阻塞性肺疾?。–OPD）患者為例：這類患者在發(fā)病早期可能表現(xiàn)為食欲減退等消化道癥狀，并非典型的咳嗽、氣促等呼吸道癥狀。若此時(shí)市民通過“胃口差”等關(guān)鍵詞咨詢“AI醫(yī)生”，就會造成誤診，耽誤最佳治療時(shí)機(jī)，導(dǎo)致病情惡化。 楊輝說，目前的“AI醫(yī)生”在給出西藥的用藥建議時(shí)，可能會開出一些存在于教科書上但已被市場淘汰的藥物，而真實(shí)的醫(yī)生基本不可能存在這種問題。 因此，現(xiàn)階段的“AI醫(yī)生”只能作為助手承擔(dān)日常性、規(guī)律性的工作任務(wù)，如輔助判斷肺結(jié)節(jié)的分型、分類等。 AI其實(shí)也有“自知之明”。涉及生命安全、財(cái)富、倫理與道德以及學(xué)術(shù)研究等方面的問答，它選擇“不背鍋”，都會建議咨詢專業(yè)人士并在必要時(shí)尋求專業(yè)幫助。 對此，法律界人士也建議，慎重聽取AI的建議。因?yàn)锳I不會承擔(dān)法律責(zé)任，它沒有獨(dú)立的法律人格或意識，聽信它的建議產(chǎn)生一切后果都需要用戶“自負(fù)”。 工具強(qiáng)大 關(guān)鍵在于怎么使用它 更“聰明”的生成式人工智能面世后，關(guān)于它的爭論幾乎沒有停止。 數(shù)據(jù)是生成式人工智能的“食糧”。把現(xiàn)有的數(shù)據(jù)喂給生成式人工智能，它可以自行挖掘數(shù)據(jù)之間的關(guān)聯(lián)，從而產(chǎn)生新的內(nèi)容。 號稱具備了思考能力的AI大模型，其實(shí)就像一個(gè)“接話茬高手”，你給它上半句，它就根據(jù)自己“吃下去”的海量知識，預(yù)測下半句該說什么。 這種推理邏輯一般也不會太離譜。它一般只會把張三和李四混淆，不可能混淆張三和石頭這種有本質(zhì)區(qū)別的對象，但差錯會以更隱蔽的狀態(tài)存在。 人們?yōu)榇藙?chuàng)造了一個(gè)新詞“AI幻覺”，來指代大語言模型編造它認(rèn)為是真實(shí)存在的甚至看起來合理或可信的信息。 “AI幻覺”是如何產(chǎn)生的？這與其被訓(xùn)練的方式有關(guān)。 訓(xùn)練大模型就好像是訓(xùn)練警犬，當(dāng)它以某種方式完成人發(fā)出的指令，并得到“獎勵”后，接下來就會更傾向于以這種方式來完成同類型的指令。 DeepSeek面世后，大家先是驚嘆于其強(qiáng)大的文本創(chuàng)造力，但慢慢也會發(fā)現(xiàn)許多“不靠譜”之處，比如內(nèi)容偏離基本事實(shí)。對此，李維認(rèn)為，這可能是因?yàn)樵谟?xùn)練階段，它更被鼓勵創(chuàng)作一篇文采飛揚(yáng)的文字，而非進(jìn)行事實(shí)核查。 2月13日，香港中文大學(xué)（深圳）成立人工智能學(xué)院?，F(xiàn)場的一個(gè)花絮耐人尋味：該校校長、中國工程院院士徐揚(yáng)生說，自己使用AI寫了一篇講稿，但最后沒采用。他笑著解釋：“人的思想是最重要的，AI能代替一部分工作，但卻代替不到最精華的東西，它無法了解你心里想說的話。” 說到底，AI再強(qiáng)大，也只是一個(gè)工具，關(guān)鍵在于人類怎么使用它。 AI避“坑”指南 保持警惕 大模型說的話，特別是涉及到事實(shí)的，別全信，最容易產(chǎn)生差錯的地方是人名、地名、時(shí)間、地點(diǎn)等實(shí)體或數(shù)據(jù)，一定要特別小心。 交叉驗(yàn)證 重要的細(xì)節(jié)，可上網(wǎng)查查原始資料或詢問身邊專家，看看說法是不是一致。 引導(dǎo)模型 可以在提問時(shí)加入一些限定條件，比如“請務(wù)必忠于原文”“請核對事實(shí)”等，盡可能引導(dǎo)模型減少差錯。 南方日報(bào)記者 黃錦輝 劉漢能 統(tǒng)籌：吳少敏 李秀婷 黃錦輝 |
