獨家對話阿里云劉偉光：什么是真正的AI云

2025-1-9 11:15| 發(fā)布者: admin| 查看: 90| 評論: 0

摘要: 過去一年，云計算行業(yè)“內(nèi)卷式”競爭的趨勢漸消，但如何在生成式AI浪潮中蹚出一條云計算新路，沒有什么標(biāo)準(zhǔn)答案能參考，無論是海外的還是國內(nèi)的云服務(wù)商，都在一邊實踐一邊驗證。阿里云也不例外。阿里云智能集團資深 ...

過去一年，云計算行業(yè)“內(nèi)卷式”競爭的趨勢漸消，但如何在生成式AI浪潮中蹚出一條云計算新路，沒有什么標(biāo)準(zhǔn)答案能參考，無論是海外的還是國內(nèi)的云服務(wù)商，都在一邊實踐一邊驗證。

阿里云也不例外。阿里云智能集團資深副總裁、公共云事業(yè)部總裁劉偉光表示：“如果我不自己在一線去感受客戶的需求，我沒有辦法或者沒有信心去設(shè)計出面向未來幾年的戰(zhàn)略方向?！?br>
他的解決方法很簡單，也很有效。過去一年，他的日程表記錄下了至少162家客戶的走訪日程——這還不是全部。來自一線的AI應(yīng)用需求千差萬別，最終如何沉淀為公共云平臺的能力，這是劉偉光和阿里云公共云團隊面臨的挑戰(zhàn)。

在革命性技術(shù)發(fā)展的早期，需求是廣泛發(fā)散再到不斷收斂的過程，現(xiàn)階段的AI需求已經(jīng)能夠凝練出一些共性。

基礎(chǔ)大模型的先行者還在持續(xù)地訓(xùn)練大模型，垂直化應(yīng)用公司開始深度使用大模型，一些傳統(tǒng)公司探索用大模型進行業(yè)務(wù)的創(chuàng)新和提效。一個更值得關(guān)注的趨勢是，越來越多企業(yè)不僅是使用簡單調(diào)用大模型，而是在原有應(yīng)用中大量嵌入AI Agent，甚至在原有應(yīng)用之外開發(fā)AI原生應(yīng)用。

這些企業(yè)的需求集體推動了AI云的進化。如果說自2006年，云計算開創(chuàng)了一個時代，讓更多中小企業(yè)上云、節(jié)省成本和降低門檻，初步成為企業(yè)的數(shù)字化生產(chǎn)力工具。

那么，AI和云的結(jié)合，將云計算產(chǎn)業(yè)送入一個至關(guān)重要的節(jié)點，未來所有基礎(chǔ)設(shè)施的能力都會被AI所沖擊。被沖擊的過程就是云計算能力的完全迭代升級甚至重構(gòu)的過程，AI云時代已經(jīng)到來。

如同傳統(tǒng)IT時代的IOE（IBM的小型機、Oracle數(shù)據(jù)庫、EMC存儲設(shè)備），作為上一個計算紀(jì)元的代表產(chǎn)物，它們締造了通用算力的基礎(chǔ)設(shè)施底座；AI云則是典型的智能算力的基礎(chǔ)設(shè)施底座，大語言模型從誕生的第一天起，就生長在云上、成長在云上。

這一階段的云服務(wù)的重要標(biāo)志是——不論主動還是被動，企業(yè)擁抱云不是單純的IaaS（Infrastructure as a Service，基礎(chǔ)設(shè)施即服務(wù)）資源需求，而是IaaS、PaaS（Platform as a Service, 平臺即服務(wù)）、大語言模型、AI應(yīng)用等全棧能力，這個垂直技術(shù)棧的最佳承載毫無疑問便是云計算。

而對于云計算的最終使用者——企業(yè)而言，如何基于大模型形成智能時代的生產(chǎn)關(guān)系、發(fā)揮AI真正的價值成為一道必答題。

劉偉光在走訪162家客戶后，感知到越來越多的傳統(tǒng)企業(yè)級市場客戶、外資企業(yè)及跨國公司（MNC）不僅將資源遷移到云端，更是將業(yè)務(wù)系統(tǒng)全面云化，涵蓋網(wǎng)絡(luò)、存儲、大數(shù)據(jù)、數(shù)據(jù)庫等IaaS+PaaS一體化的全棧服務(wù)。

他給出了旗幟鮮明的觀點：“只有具備IaaS+PaaS一體化能力的云，才能被稱為真正的云。這是我今天對‘云’的定義。同樣地，在AI時代不創(chuàng)造社會價值的大模型，很難稱之為大模型?！?br>
關(guān)于上述問題，在鈦媒體《AI云年度10問》欄目中，鈦媒體集團聯(lián)合創(chuàng)始人、聯(lián)席CEO、ITValue發(fā)起理事劉湘明與阿里云智能集團資深副總裁、公共云事業(yè)部總裁劉偉光，以及阿里云智能集團副總裁、公共云首席解決方案架構(gòu)師韓鴻源，展開了一次對AI云的深度剖析。

以下為對話實錄，經(jīng)鈦媒體編輯整理。

右一為阿里云智能集團資深副總裁、公共云事業(yè)部總裁劉偉光；左一為鈦媒體集團聯(lián)合創(chuàng)始人、聯(lián)席CEO劉湘明

只有具備IaaS+PaaS一體化能力的云，才是真正的云

劉湘明：阿里云公共云事業(yè)部是去年11月底成立的，這一年以來作為公共云事業(yè)部總裁，你有什么感受？

劉偉光：我的第一感受是“希望”。無論是內(nèi)部產(chǎn)品研發(fā)的進展、AI能力的提升，還是大語言模型的日益精進，以及各行各業(yè)客戶在探索云和AI結(jié)合方面的實踐，都讓我對未來充滿信心——不僅是未來一年，甚至是接下來的5到10年。

今天，許多客戶不僅將云計算視為資源，更將其當(dāng)成數(shù)字化轉(zhuǎn)型的關(guān)鍵工具；同時，他們也不僅僅把AI看作創(chuàng)新手段，而是當(dāng)作推動產(chǎn)業(yè)升級、面向未來的戰(zhàn)略性武器。因此，我看到了非常大的希望。

劉湘明：AI可能是下一次“蒸汽機出現(xiàn)”的時刻，你提的“希望”我也特別認同。最近IDC發(fā)布《中國公有云服務(wù)市場（2024上半年）跟蹤》，顯示IaaS+PaaS市場同比增長12.2%，對比之前的增速，可以說中國公有云市場開始回暖了。其中 PaaS同比增長達21.9%，表現(xiàn)更突出一些，這里面阿里云依然保持市場領(lǐng)先和穩(wěn)定的提升。背后的原因有哪些？

劉偉光：從內(nèi)因來講，阿里云一直在踐行推動IaaS+PaaS一體化，而不僅僅把云當(dāng)成資源來進行售賣。我們希望客戶能大規(guī)模采用我們PaaS層的產(chǎn)品，尤其像數(shù)據(jù)庫、大數(shù)據(jù)、容器化、Serverless、開發(fā)運維工具等產(chǎn)品。PaaS層的能力和數(shù)據(jù)能力對企業(yè)業(yè)務(wù)有非常直接的支撐作用，甚至可以直接推動業(yè)務(wù)。當(dāng)PaaS的產(chǎn)品與客戶業(yè)務(wù)百分百結(jié)合在一起，才能真正激發(fā)生產(chǎn)力。

許多傳統(tǒng)企業(yè)級客戶、外資企業(yè)及跨國企業(yè)（MNC），已經(jīng)把IaaS+PaaS全棧搬上云去。因為他們認為全棧上云節(jié)省了采購、時間、創(chuàng)新成本，還縮短了創(chuàng)新的時間。

從外因角度看，這一年我拜訪了非常多客戶，發(fā)現(xiàn)他們對云的認知跟過去有了很大不同。很多客戶認識到云不僅僅是服務(wù)器資源，更提供豐富的數(shù)字化能力。比如，開源軟件發(fā)展速度遠超商業(yè)化軟件，在云上選擇各種具備不同技術(shù)能力且開源的組件，是最好的選擇。

如果客戶自行開發(fā)軟件、產(chǎn)品，所花費的人力成本、研發(fā)成本、服務(wù)器成本、創(chuàng)新成本、試錯成本都非常高。相比之下，云計算提供的開箱即用的PaaS化能力，可以直接助力客戶業(yè)務(wù)創(chuàng)新迭代。

越來越多的客戶意識到，IaaS+PaaS一體化才是充分利用云、用云來實現(xiàn)業(yè)務(wù)的迭代創(chuàng)新、幫助業(yè)務(wù)實現(xiàn)直接的增長的最好選擇。

阿里云服務(wù)了小紅書、喜馬拉雅、得物這種大型互聯(lián)網(wǎng)企業(yè)，他們通過阿里云的大數(shù)據(jù)產(chǎn)品，不僅激發(fā)了數(shù)據(jù)價值，更實現(xiàn)了對搜索、推薦、廣告等業(yè)務(wù)價值的直接提升。

獨家對話阿里云劉偉光：什么是真正的AI云

2024年，小紅書宣布成功遷移500PB數(shù)據(jù)湖至阿里云

最近，我跟很多同事講，沒有PaaS的云，很難稱之為云，只有具備IaaS+PaaS一體化能力的云，才是真正的云。

劉湘明：可能十年前，大家經(jīng)常問的問題是“為什么要上云”，處于搖擺狀態(tài)。但當(dāng)AI出現(xiàn)之后，大家發(fā)現(xiàn)需要的能力在本地再也無法獲得了，一定要在云上獲得。

劉偉光：非常對。我這一年遇到的企業(yè)幾乎沒有不談AI的。這里面有一個重要的契機——企業(yè)大模型應(yīng)用必須要跟數(shù)據(jù)結(jié)合，這就繞不過PaaS層的大數(shù)據(jù)、數(shù)據(jù)庫產(chǎn)品。沒有過去這么多年云計算規(guī)?；貜牡讓铀懔Φ骄W(wǎng)絡(luò)、存儲、大數(shù)據(jù)的積累，就不會有今天的大模型，它不可能在空中樓閣上建立起來。這也推動了很多客戶重新審視云計算中IaaS、PaaS、SaaS的意義。

劉湘明：從資源池到技術(shù)棧，企業(yè)的用云深度在不斷加強，從自研、自建向直接選擇PaaS層產(chǎn)品，從簡單的資源租賃到全棧上云，有哪些原因或者業(yè)務(wù)價值推動這種轉(zhuǎn)變？

劉偉光：從外部市場看，云上的技術(shù)優(yōu)勢非常明顯，所有的先進技術(shù)都優(yōu)先誕生在云上。企業(yè)會優(yōu)先選擇先進的技術(shù)棧，而先進的技術(shù)棧只有云上有。

從云計算從業(yè)者角度看，我們要滿足不同類型的客戶需求，就必須把能力做“厚”——不僅是滿足資源層面需求，還要做好容器化往上的所有PaaS層。

這里面還有一個與時俱進的點：云計算把所有客戶聚集在云上，跟IOE時代把客戶、技術(shù)散落在無數(shù)點上，是兩種不同的技術(shù)主張。過去沒有規(guī)?；臅r候，只能看單點需求；在云上，當(dāng)規(guī)模化的客戶每天調(diào)用大模型時，大模型對網(wǎng)絡(luò)、存儲、彈性計算等都有著非常大的推動作用。因此，今天云必須要為AI改變、適配、升級原有的技術(shù)能力，才能滿足今天AI使用者的需求。

沒有商業(yè)價值和社會價值的大模型，很難稱之為大模型

劉湘明：你出差很多，可能是國內(nèi)見客戶最多的人之一，對客戶的痛點、需求應(yīng)該也有很明顯的體感。有沒有統(tǒng)計過這一年大概見了多少客戶？他們有什么痛點和需求？

劉偉光：從公共云事業(yè)部成立到今天為止，我大概拜訪過162個客戶，走遍大江南北，看千行百業(yè)。如果不去一線感受不同行業(yè)和地域的客戶需求，就沒有辦法判斷在下一個財年我們?nèi)绾卧O(shè)計更好的戰(zhàn)略，支撐好市場。

大家對AI的需求千差萬別，有做基礎(chǔ)大模型的先行者還在持續(xù)訓(xùn)練大模型，有做垂直化應(yīng)用的公司在深度使用大模型，還有一些傳統(tǒng)行業(yè)的公司用大模型進行業(yè)務(wù)創(chuàng)新和提效……他們不僅是簡單調(diào)用，還會在原有應(yīng)用中大量嵌入AI Agent（智能體），還有很多客戶在原有的應(yīng)用之外去開發(fā)AI原生的應(yīng)用，不僅在手機端，還有PC端的企業(yè)應(yīng)用。

我認為，未來整個市場對于大語言模型的使用，無論是從模型調(diào)用還是開發(fā)自己的模型，一定不僅僅局限在手機APP上。未來會有更多應(yīng)用來自于企業(yè)應(yīng)用。這些企業(yè)的應(yīng)用如果站在大語言模型的肩膀上，其實真正釋放的是商業(yè)價值，是社會價值。

阿里云服務(wù)了很多To B企業(yè)、創(chuàng)造商業(yè)價值。比如在中華財險，他們通過阿里云通義千問，輸入目標(biāo)客戶各類情況的提示詞，就可以自動生成一份定制化團險保單。如果不完整可以再次對話，大模型會繼續(xù)設(shè)計。整個項目耗時只有人工的1‰或者1?。最后如果成交就會創(chuàng)造商業(yè)價值。

獨家對話阿里云劉偉光：什么是真正的AI云

2024年中華財險宣布新一代分布式核心系統(tǒng)全面上線，圖為中華財險與阿里云的簽約儀式

在快遞領(lǐng)域，中國快遞行業(yè)發(fā)展迅速，效率高、人員多、數(shù)據(jù)多且迭代快、場景多，大模型應(yīng)用就非常有效果。申通快遞和阿里云經(jīng)過多次碰撞、驗證場景之后，一起實現(xiàn)了大模型應(yīng)用在網(wǎng)點經(jīng)營分析、客服摘要、客服質(zhì)檢、地址校驗等多個物流場景的落地，實現(xiàn)客服違規(guī)率下降50%，信息處理率提升60%。

一家國內(nèi)領(lǐng)先的藍領(lǐng)招聘企業(yè)利用Qwen-Plus整理本地公眾號、微信群中的零散用工信息，降低了80%運營人力成本；使用模型檢測潛在的用工歧視、跨國用工等風(fēng)險信息，大幅提升平臺合規(guī)能力。此外，人崗匹配、搜索推薦、客服質(zhì)檢等場景灰度上線中。

此外，中國的跨境電商非常發(fā)達，一家垂類的電商企業(yè)，面對大量細分品類和近百萬SKU的日常上架及運營工作，通過通義大模型，進行商品關(guān)鍵詞生成、標(biāo)題提煉、商品描述，并輔助進行商品上架前的違規(guī)檢測，可以高質(zhì)量完成海量商品上線，提升商品上架效率。

還有，基于通義打造的智能招投標(biāo)信息服務(wù)平臺，利用大模型的自然語言理解和推理能力，通過Prompt工程識別項目名稱和公告名稱中的關(guān)鍵信息，進行關(guān)聯(lián)概率計算，向最終用戶提供與項目關(guān)聯(lián)的所有公告信息的搜索查詢服務(wù)。

盡管我們看到很多實實在在的效率提升成果，但從市場整體來看還是滄海一粟。未來中國在大語言模型發(fā)展和場景應(yīng)用上會迎來快速普及，我對未來充滿信心。因為越是人多，數(shù)據(jù)多、流程復(fù)雜、場景復(fù)雜的業(yè)務(wù)，大模型起到的效果就越明顯。

我們明年有個目標(biāo)，希望阿里云提供的推理資源能服務(wù)中國90%的AI agent、90%的AI原生應(yīng)用。如果說沒有PaaS的云今天不能稱為云，那么大模型不能創(chuàng)造社會價值和商業(yè)價值也是沒有意義的，所以我們朝著創(chuàng)造價值的方向來做。

劉湘明：AI在To B的價值要實現(xiàn)，意味著AI應(yīng)用和服務(wù)一定要無縫嵌入現(xiàn)有數(shù)據(jù)流和工作流，真正進入生產(chǎn)環(huán)境才能發(fā)揮價值，有哪些挑戰(zhàn)？

劉偉光：第一個難點是大家都知道AI重要，但是不知道如何下手，不知道大模型應(yīng)該跟企業(yè)的哪一個場景、哪一類數(shù)據(jù)結(jié)合才能最快出效果。

第二個難點是人才。在實現(xiàn)AI最后一公里建設(shè)的時候，在開源模型和推理資源基礎(chǔ)上構(gòu)建專屬模型、AI應(yīng)用、AI Agent等等工作是需要客戶自己來做，別人無法代勞。它是好幾件事情的組合：第一是AI應(yīng)用開發(fā)的范式；第二是這個范式之下所有要用到的AI工具鏈；第三是選擇基礎(chǔ)大模型；第四是合理選擇底層的推理資源。這四件事組合在一起才是開發(fā)一個AI agent或者AI應(yīng)用的充分且必要條件。

挑戰(zhàn)存在于方方面面，但同時我也看到很多客戶有獨立的AI規(guī)劃、AI預(yù)算，AI人才、AI辦公室……這是非常好的現(xiàn)象。因為只有真正把AI做成一個企業(yè)的一把手工程、企業(yè)級戰(zhàn)略項目，才有可能把AI真正跟企業(yè)完整融合在一起。

AI云，一個充滿想象力的新時代

劉湘明：現(xiàn)在人們對于AI基礎(chǔ)設(shè)施創(chuàng)新的關(guān)注度，遠不及對大模型和生成式AI服務(wù)的關(guān)注，你怎么看？

劉偉光：關(guān)注大語言模型或者AI對基礎(chǔ)設(shè)施的演變的，是非常小的一個客戶群體，比如這個領(lǐng)域?qū)I(yè)的工作者、觀察者，或者是基礎(chǔ)大模型的研發(fā)者。

更多人會關(guān)注AI應(yīng)用，這很正常。就像人們戴個AI眼鏡，關(guān)注的是它能實現(xiàn)什么功能，能翻譯嗎？能對話嗎？而不會關(guān)注背后是用什么技術(shù)來實現(xiàn)的。但支撐這些AI應(yīng)用創(chuàng)新的核心競爭力的基礎(chǔ)設(shè)施技術(shù)是非常重要的，就像我們打開水龍頭，不會關(guān)心它從哪個水廠流出來，但那個水廠的設(shè)備應(yīng)該是最先進的。所以，當(dāng)AI能力越來越強，提示詞工程產(chǎn)生的效果越來越好、反應(yīng)越來越快、對話越來越流暢的時候，實際上是因為背后的基礎(chǔ)設(shè)施能力非常強，這兩者是相輔相成的。

劉湘明：我們正站在一個拐點上，展望2025年，AI與云計算的結(jié)合將開啟一個充滿想象力的新時代，你預(yù)判未來的增長機會將發(fā)生在哪里？企業(yè)需要做好哪些準(zhǔn)備？

劉偉光：我的想象力是無窮的，這來自于我的客戶，我拜訪了這么多客戶，看到他們對AI未來發(fā)展感到興奮。

AI和云的結(jié)合是云二次騰飛的關(guān)鍵。從云計算提出來到今天將近20年時間，是讓全世界各種企業(yè)認識到云是先進技術(shù)的聚集地，云是讓更多中小企業(yè)上云，能節(jié)省成本。同時能夠把云不僅是資源，還是數(shù)字化生產(chǎn)力工具。

未來的所有基礎(chǔ)設(shè)施的能力都會被AI沖擊，這個過程就是能力的完全迭代、升級甚至重構(gòu)，這是一個AI云的時代。我相信未來各行各業(yè)都會不斷擁抱AI，基于大語言模型去構(gòu)建的AI應(yīng)用、AI agent會層出不窮，甚至可能會有專門的AI agent store，這會產(chǎn)生一個全新的世界。越來越多的客戶正加速擁抱云的進程，而且這次擁抱云不是簡簡單單是對IaaS的擁抱，而是包含IaaS、PaaS、AI資源、大語言模型、AI應(yīng)用、AI agent……是真正更加廣義的全棧。

對于企業(yè)來講，要進行更細分的資源規(guī)劃，從AI的頂層設(shè)計，到IT層面的AI人才、AI資源，包括AI開發(fā)工具，都要進行全方位考量。今天所有企業(yè)都要為AI重新準(zhǔn)備一套數(shù)字化工具或者AI工具鏈，這是企業(yè)應(yīng)該做好的事情。

我非常相信中國在擁抱AI這件事情上，不會比其他國家慢。中國的創(chuàng)新能力將在AI應(yīng)用時代爆發(fā)，這也是我所說的“希望”所在。

大語言模型應(yīng)在適合的場景發(fā)揮效果，而非泛化到解決一切問題

右一為阿里云智能集團副總裁、公共云首席解決方案架構(gòu)師韓鴻源；左一為鈦媒體集團聯(lián)合創(chuàng)始人、聯(lián)席CEO劉湘明

劉湘明：在2024年與企業(yè)的交流中，你看到高頻的問題或者關(guān)注點有哪些變化？這些高頻詞匯反映了企業(yè)在AI與云計算結(jié)合的新時代下，需求產(chǎn)生了什么變化？

韓鴻源：大語言模型的效果，還是要停留在其本身適合發(fā)揮的場景里討論，而不是泛化到一個解決一切問題的大模型。今天我們在做的所有事情，還是希望大語言模型能夠在業(yè)務(wù)里面發(fā)揮其支撐作用。

比如AI輔助寫代碼，這是所有大語言模型應(yīng)用領(lǐng)域里面，經(jīng)過了最充分的驗證、最能體現(xiàn)出直接效果的場景。通過調(diào)研大互聯(lián)網(wǎng)公司，我們看到絕大部分領(lǐng)先企業(yè)，已經(jīng)有20%甚至30%的代碼使用了AI輔助生成。通義靈碼已經(jīng)得到了比較廣泛的應(yīng)用。

有些大型企業(yè)客戶會采購上萬個座席的通義靈碼使用權(quán)，小一些的企業(yè)可能采購幾千個座席，這種情況現(xiàn)在已經(jīng)非常常見。當(dāng)客戶使用了這個工具之后，他會持續(xù)使用下去，會提出更多的需求，迭代之后也會逐步發(fā)揮更大的作用。

另外我們看到，除了大語言模型本身的變化外，它還推動了底層基礎(chǔ)設(shè)施的演進。許多客戶開始更多地利用GPU資源進行業(yè)務(wù)創(chuàng)新，例如在搜索和推薦系統(tǒng)中引入GPU以提升性能。

企業(yè)落地生成式AI的普遍難點和解決方案

劉湘明：生成式AI在企業(yè)落地的環(huán)境準(zhǔn)備、模型就緒、應(yīng)用工程三個階段中，企業(yè)普遍遇到了哪些難點？阿里云提供了哪些解決思路和方法？

韓鴻源：我從上往下說，先從應(yīng)用工程開始，在選擇合適的AI應(yīng)用場景時，我們看到兩個典型的做法。

一是構(gòu)建全新的應(yīng)用和業(yè)務(wù)系統(tǒng)時，希望引入AI或以AI為主構(gòu)建。這種情況我們充分地分析能力，尋找適合的應(yīng)用場景，并經(jīng)過驗證逐步迭代，最終使系統(tǒng)趨于完善。這種做法包袱比較小，見效快，但對現(xiàn)有業(yè)務(wù)的影響有限，依賴于新場景的需求。

另外一個是在既有應(yīng)用里引入AI以提升效率。這是我們比較看好的方向。企業(yè)內(nèi)部已有大量數(shù)字化系統(tǒng)支撐業(yè)務(wù)運轉(zhuǎn)，這些系統(tǒng)在構(gòu)建時AI尚未成熟，因此存在許多可以優(yōu)化的點。例如，許多業(yè)務(wù)流程依賴文字處理，涉及大量重復(fù)性工作。如果引入機器語言理解技術(shù)，將大幅提升效率。

從全球化范圍看，Salesforce等領(lǐng)先公司已經(jīng)展示了這種潛力，將其Agentforce平臺視為未來的增長點。

然而，這種潛力的釋放的前置條件是：流程會被使用足夠多的次數(shù)，否則改造成本有可能支持不了業(yè)務(wù)回報。

回到環(huán)境準(zhǔn)備和模型就緒階段，選擇合適的模型及其運行方式至關(guān)重要。尤其在國內(nèi)嚴(yán)格的合規(guī)要求下，通義提供了一個可靠的選擇，它不僅在國內(nèi)廣泛使用，在海外也是最受歡迎的開源模型之一。

下一步是決定如何支持模型運行。最簡單的方式是調(diào)用現(xiàn)成的模型服務(wù)。模型服務(wù)已成為云計算不可或缺的能力。用戶可以選擇直接使用模型的服務(wù)能力，或者根據(jù)特殊需求定制模型。

當(dāng)模型規(guī)模化使用時，優(yōu)化其運行環(huán)境變得非常關(guān)鍵。它直接涉及成本和生命周期管理，能否以低成本讓客戶持續(xù)有效地使用模型，發(fā)揮其最大價值，是一個重要挑戰(zhàn)。

云為整個模型使用全生命周期提供了一個非常好的條件。不管是從用戶的選擇角度還是靈活性上，都提供了非常多可能性。

企業(yè)的AI應(yīng)用部署范式

劉湘明：你覺得對于不同能力的企業(yè)，未來在模型的應(yīng)用部署方式上面，他們的選擇會有什么不同？

韓鴻源：如果想以最快的方式開展應(yīng)用開發(fā)，模型服務(wù)可能是一個入手最簡單的方式，而且這些模型本身經(jīng)過的驗證也比較多。

如果企業(yè)還是想要保留一部分知識產(chǎn)權(quán)，就會選擇另外一條路：使用一些模型做調(diào)整，或者在不做調(diào)整的情況下，自己把推理設(shè)施建起來，最后調(diào)用這些模型服務(wù)，實現(xiàn)相對偏私有域的應(yīng)用的使用方式，也是完全合理的需求。

通義千問會繼續(xù)保持開源開放，客戶完全可以選擇自己搭建推理平臺，把模型的調(diào)用變成自己內(nèi)部的事情，不讓別人介入到自己的模型調(diào)用過程中。

語言交互的推理有波峰波谷的效應(yīng)，云提供了一個比較好的選擇，大家在云上使用云的全球基礎(chǔ)設(shè)施，也可以保持自己運行的相對獨立性的情況下，保有自己的一些保密和隱私。

面向推理和多模態(tài)數(shù)據(jù)處理趨勢

劉湘明：推理也是今年特別熱的詞。推理市場的繁榮將對于企業(yè)使用公共云有哪些影響？又對公共云提出了哪些新的要求？深度用云的企業(yè)有哪些關(guān)注點？

韓鴻源：我覺得其實訓(xùn)練是更吸引眼球的，但一個模型的訓(xùn)練過程不直接產(chǎn)生任何實際價值，模型真正要發(fā)揮作用是在推理階段。訓(xùn)練投入會繼續(xù)增長，但模型要重復(fù)使用才能釋放價值，所以，未來推理投入占比可能會遠遠高于訓(xùn)練。

今天云上所有模型API服務(wù)本身就是一個推理，是包裝一層API之后被用戶去用，通義大模型本身會使用很大的推理資源來響應(yīng)客戶的需求。另一種，是客戶不想用現(xiàn)成的API方式使用模型，選擇自己去做推理。

通義系列模型在對外服務(wù)過程中積累了豐富的推理技術(shù)優(yōu)化經(jīng)驗，使用戶能夠直接享受這些技術(shù)帶來的紅利。比如，阿里云會提供通義模型服務(wù)、會提供百煉上調(diào)整模型的方式和使用模型的方式，包括工具鏈，同時也會提供PAI平臺去做更底層的能力承載，用戶可以基于這些做相對更自由一些探索。最終，我們是希望能夠去滿足用戶的全方位的需求。

劉湘明：“多模態(tài)數(shù)據(jù)”也是今年的一大熱詞。您如何看待多模態(tài)數(shù)據(jù)處理的需求和發(fā)展趨勢？在這個大趨勢下，阿里云在多模態(tài)數(shù)據(jù)的統(tǒng)一存儲、檢索和管理方面有哪些優(yōu)勢？

韓鴻源：一方面模型提取非結(jié)構(gòu)化數(shù)據(jù)的結(jié)構(gòu)化信息能力在提升，視覺語言模型具備了自動化的信息提取的能力，可以更好地理解這些多模態(tài)數(shù)據(jù)，讓以前無法有效使用的數(shù)據(jù)充分發(fā)揮作用。

另一方面，Agent和這些數(shù)據(jù)探索能力的結(jié)合蘊藏著巨大的潛力。以前，人們收集到的結(jié)構(gòu)化和半結(jié)構(gòu)化的數(shù)據(jù)需靠人去理解、探索，很多時候無法充分挖掘出數(shù)據(jù)的潛力。今天AI提供了自動化處理能力，結(jié)合大數(shù)據(jù)讓AI探索數(shù)據(jù)會成為一個非常有潛力的發(fā)展方向。

對云計算而言，除了提供基礎(chǔ)的資源供應(yīng)，上層軟件能力會變得越來越重要。

例如，將多模態(tài)數(shù)據(jù)管理能力被集中整合到特定產(chǎn)品中，實現(xiàn)對多種類型數(shù)據(jù)的統(tǒng)一管理。在RAG（檢索增強）過程中，這些數(shù)據(jù)可以在模態(tài)之間無縫切換和使用，大大簡化了客戶的操作復(fù)雜度和數(shù)據(jù)管理難度，從而更順暢地運行其業(yè)務(wù)流程。（本文首發(fā)于鈦媒體APP，作者 | 張帥，編輯 | 蓋虹達）