4月1日，中國(guó)電子學(xué)會(huì)主辦的第十六屆中國(guó)電子信息年會(huì)在廣東省珠海市召開，以“電子新時(shí)代·強(qiáng)國(guó)新征程”為主題，眾多院士、專家學(xué)者和企業(yè)代表圍繞基礎(chǔ)研究、前沿技術(shù)及應(yīng)用、青年人才培養(yǎng)等議題展開了學(xué)術(shù)交流和技術(shù)研討。中國(guó)電子學(xué)會(huì)副理事長(zhǎng)、百度首席技術(shù)官王海峰出席主論壇并作報(bào)告，闡釋了大模型技術(shù)發(fā)展與產(chǎn)業(yè)模式。 大模型成人工智能發(fā)展熱點(diǎn) 人工智能已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，具有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化程度高等典型特征的大模型正推動(dòng)產(chǎn)業(yè)應(yīng)用蓬勃發(fā)展，隨著大模型快速演進(jìn)，能理解、有邏輯、會(huì)推理、能創(chuàng)作、有情感的大語(yǔ)言模型有望帶來人工智能創(chuàng)新的爆發(fā)式增長(zhǎng)。 王海峰介紹，百度自2019年開始深耕預(yù)訓(xùn)練模型研發(fā)，經(jīng)過近4年積累和迭代，文心大模型已經(jīng)形成了系統(tǒng)性的大模型技術(shù)體系，包括自然語(yǔ)言處理、視覺、跨模態(tài)、生物計(jì)算等大模型，面向行業(yè)需求構(gòu)建的系列行業(yè)大模型，以及支撐大模型應(yīng)用的工具平臺(tái)，具備知識(shí)增強(qiáng)和產(chǎn)業(yè)級(jí)兩大特色。 據(jù)了解，文心知識(shí)增強(qiáng)大語(yǔ)言模型基于ERNIE及PLATO系列模型研發(fā)，是文心大模型家族的新成員，其關(guān)鍵技術(shù)包括有監(jiān)督精調(diào)、人類反饋的強(qiáng)化學(xué)習(xí)、提示等大語(yǔ)言模型都會(huì)采用的技術(shù)，以及知識(shí)增強(qiáng)、檢索增強(qiáng)和對(duì)話增強(qiáng)等百度已有技術(shù)優(yōu)勢(shì)的再創(chuàng)新。文心知識(shí)增強(qiáng)大語(yǔ)言模型通過知識(shí)內(nèi)化和知識(shí)外用兩種方式實(shí)現(xiàn)知識(shí)增強(qiáng)。知識(shí)內(nèi)化，是從大規(guī)模知識(shí)和無標(biāo)注數(shù)據(jù)中，基于語(yǔ)義單元學(xué)習(xí)，利用知識(shí)構(gòu)造訓(xùn)練數(shù)據(jù)，將知識(shí)學(xué)習(xí)到模型參數(shù)中。知識(shí)外用，是引入外部多源異構(gòu)知識(shí)，做知識(shí)推理、提示構(gòu)建等等。文心知識(shí)增強(qiáng)大語(yǔ)言模型的檢索增強(qiáng)，基于以語(yǔ)義理解與語(yǔ)義匹配為核心技術(shù)的新一代搜索架構(gòu)，通過引入搜索結(jié)果，為大模型提供時(shí)效性強(qiáng)、準(zhǔn)確率高的參考信息，更好地滿足用戶需求。在對(duì)話增強(qiáng)方面，基于對(duì)話技術(shù)和應(yīng)用積累，文心知識(shí)增強(qiáng)大語(yǔ)言模型具備記憶機(jī)制、上下文理解和對(duì)話規(guī)劃能力，實(shí)現(xiàn)更好的對(duì)話連貫性、合理性和邏輯性。 打通大模型產(chǎn)業(yè)化路徑 大模型依賴算法、算力和數(shù)據(jù)的綜合支撐，產(chǎn)業(yè)化還面臨許多挑戰(zhàn)，比如，模型體積大，訓(xùn)練難度高；算力規(guī)模大，性能要求高；數(shù)據(jù)規(guī)模大，數(shù)據(jù)質(zhì)量參差不齊。 對(duì)此，王海峰表示，具有算法、算力和數(shù)據(jù)綜合優(yōu)勢(shì)的企業(yè)，可以將模型生產(chǎn)的復(fù)雜過程封裝起來，通過低門檻、高效率的生產(chǎn)平臺(tái)，為千行百業(yè)提供大模型服務(wù)。 大模型帶來的三大產(chǎn)業(yè)機(jī)會(huì)已經(jīng)浮現(xiàn)，第一類是新型云計(jì)算，云的主流商業(yè)模式變?yōu)镸aaS，模型即服務(wù)（ModelasaService）；第二類是進(jìn)行行業(yè)模型精調(diào)的企業(yè)，可以調(diào)用通用大模型能力，基于行業(yè)知識(shí)和經(jīng)驗(yàn)為客戶提供解決方案；第三類是基于大模型底座進(jìn)行文本生成、圖像生成、音頻生成、視頻生成、數(shù)字人、3D等場(chǎng)景相關(guān)應(yīng)用開發(fā)的企業(yè)，即應(yīng)用服務(wù)提供商。 大模型帶來的智能化創(chuàng)新熱潮才剛剛開始，它距離AGI（通用人工智能）還有多遠(yuǎn)？ 王海峰認(rèn)為，正如人造衛(wèi)星永遠(yuǎn)不會(huì)和月球這樣的自然衛(wèi)星畫等號(hào)一樣，人工智能永遠(yuǎn)不會(huì)直接跟人類的智能完全畫等號(hào)，人工智能是模擬、延伸和拓展人的智能，最終目的是服務(wù)于人類更美好的生活和社會(huì)的發(fā)展。人工智能的通用性越來越強(qiáng)，部分能力已經(jīng)達(dá)到或超越人的水平，可以認(rèn)為AGI在一定程度上已經(jīng)實(shí)現(xiàn)了，但比起這個(gè)概念本身，人工智能為人類帶來的價(jià)值才是我們努力的方向。（科技日?qǐng)?bào)記者 劉艷） 來源： 科技日?qǐng)?bào) |
