97国产精品一区二区视频_国产午夜毛片色哟哟_惠民福利国产91精品看黄网站在线观看_搡老熟女老女人一区二区三区_国产做a∨在线视频观看免费_日韩 综合 婷婷 图_成人黄色一级毛片片_萧山本地第一网络媒体_亚洲国产精品无码久久久曰_亚洲欧美日韩岛国色图

快捷導(dǎo)航

從英偉達到博通,AI行業(yè)“范式大轉(zhuǎn)變”

2024-12-18 10:27| 發(fā)布者: admin| 查看: 72| 評論: 0
摘要: 本文作者:李笑寅來源:硬AI上周五晚美股市場驚現(xiàn)“買博通、賣英偉達”:博通(broadcom)股價大漲27%,創(chuàng)下歷史最高單日漲幅,公司市值突破1萬億美元,同時芯片龍頭英偉達股價錄得3.3%的下跌。引爆買盤的導(dǎo)火索來自 ...
本文作者:李笑寅

來源:硬AI

上周五晚美股市場驚現(xiàn)“買博通、賣英偉達”:博通(broadcom)股價大漲27%,創(chuàng)下歷史最高單日漲幅,公司市值突破1萬億美元,同時芯片龍頭英偉達股價錄得3.3%的下跌。

從英偉達到博通,AI行業(yè)“范式大轉(zhuǎn)變”


引爆買盤的導(dǎo)火索來自博通CEO Hock Tan在當(dāng)天業(yè)績會上的大膽預(yù)測:2027年市場對定制款A(yù)I芯片ASIC的需求規(guī)模將達600億至900億美元。

有分析指出,這個數(shù)據(jù)如果實現(xiàn),意味著未來三年(2025-2027年),博通ASIC相關(guān)的AI業(yè)務(wù)將實現(xiàn)每年翻倍增長,這大幅提升了市場對于ASIC的預(yù)期,可能意味著ASIC有望迎來爆發(fā)期。

數(shù)據(jù)枯竭、邊際效益遞減……大模型從訓(xùn)練轉(zhuǎn)向推理


作為AI模型的第一階段,預(yù)訓(xùn)練是個不斷給模型“喂”數(shù)據(jù)并不斷迭代更新的過程。

為了提升模型性能,秉持著數(shù)據(jù)量、計算量和模型參數(shù)量規(guī)模越大越好(即Scaling law)的原則,各大科技巨頭紛紛哄搶當(dāng)前市面上性能最為強悍的英偉達GPU,讓囤積的GPU數(shù)量給AI模型效用“做擔(dān)?!薄?br>
然而,高強度、大規(guī)模的模型訓(xùn)練正在“榨干”全球數(shù)據(jù)庫,并且模型擴展邊際效益遞減的同時算力成本仍然高企,這引發(fā)了對AI訓(xùn)練階段是否已經(jīng)即將終結(jié)的討論。

近日,前OpenAI聯(lián)合創(chuàng)始人、SSI創(chuàng)始人Ilya Sutskever在NeurIPS 2024大會上發(fā)表演講時表示,預(yù)訓(xùn)練時代即將結(jié)束,數(shù)據(jù)作為AI的化石燃料是有限的,目前用于AI預(yù)訓(xùn)練的數(shù)據(jù)已經(jīng)達到了峰值。

OpenAI大神Noam Brown也于近日回應(yīng)稱,AI從2019年到現(xiàn)在,難以置信的成就都來自于數(shù)據(jù)和算力規(guī)模的擴大,但大語言模型仍然無法解決像井字棋這樣的簡單問題。

隨之而來的問題是:Is Scaling is All you Need?我們真的還需要再消耗更高的成本來訓(xùn)練更好的AI嗎?

從英偉達到博通,AI行業(yè)“范式大轉(zhuǎn)變”


外界的目光開始移至AI大模型的下一階段——邏輯推理。

作為大模型預(yù)訓(xùn)練的下一階段,邏輯推理是指基于現(xiàn)有大模型,開發(fā)AI在各細分垂直領(lǐng)域的應(yīng)用以實現(xiàn)終端落地。

從市面上的大模型產(chǎn)品看,包括谷歌的Gemini 2.0、OpenAI的o1等在內(nèi),AI Agent(智能體)目前已經(jīng)成為了各大公司的主攻方向之一。

隨著AI大模型日趨成熟,有觀點認為,以ASIC(專用集成電路)為代表的推理芯片將逐步取代以GPU為代表的訓(xùn)練芯片,成為各大AI公司的“新寵”。

而博通CEO對ASIC市場的樂觀預(yù)期在一定程度上印證了外界對AI范式轉(zhuǎn)向的預(yù)期,進而引發(fā)了上周五的股價暴漲。

ASIC是什么?比GPU更“專一”


半導(dǎo)體大致可以分為標準半導(dǎo)體和專用集成電路(ASIC)。標準半導(dǎo)體擁有標準化規(guī)格,只要滿足基本要求,就可以應(yīng)用于任何電子設(shè)備,而ASIC則是半導(dǎo)體制造商根據(jù)特定產(chǎn)品要求生產(chǎn)的半導(dǎo)體。

因此,ASIC一般會被應(yīng)用于特定設(shè)計和制造的設(shè)備中,執(zhí)行必要的功能。

AI運算也就由此衍生出兩條路徑:一種是英偉達GPU代表的通用路徑,適合通用高性能計算,另一種是ASIC定制芯片為代表的專用路徑。

作為標準半導(dǎo)體成品,GPU在處理大規(guī)模并行計算任務(wù)時表現(xiàn)出色,但當(dāng)處理大規(guī)模矩陣乘法時,存在內(nèi)存墻問題,而經(jīng)過特殊設(shè)計的ASIC就可以解決這個問題,一旦大規(guī)模量產(chǎn),ASIC的性價比會更高。

簡單來說就是,GPU貴在目前產(chǎn)品成熟、產(chǎn)業(yè)鏈成熟,而ASIC的想象力在于更“專一”,并且在處理單個運算任務(wù)時能實現(xiàn)更高的處理速度和更低的能耗,因此也更適用于推理端邊緣計算。

為科技巨頭定制AI芯片,成了邁威爾和博通的“搖錢樹”


由于GPU產(chǎn)能趨緊且價格昂貴,眾多科技巨頭開始加入自研ASIC芯片的隊伍,僅供自家使用。

有觀點認為,谷歌是AI ASIC芯片的先驅(qū),因其于2015年發(fā)布第一代TPU(ASIC)產(chǎn)品,同樣具有代表性ASIC芯片還包括亞馬遜的Tranium和Inferentia、微軟的Maia、Meta的MTIA以及特斯拉的Dojo等。

在自研AI芯片的上游供應(yīng)鏈上,邁威爾和博通是常年稱霸的兩大制造商。

邁威爾的崛起離不開其新領(lǐng)導(dǎo)層的成功戰(zhàn)略。仿佛早有預(yù)見般,該公司CEO Matt Murphy自2016年上任以來,趁公司重組之際將公司戰(zhàn)略重心轉(zhuǎn)向為科技巨頭定制芯片,成功在AI大潮中抓住了機遇。

除了谷歌和微軟兩個大客戶,邁威爾還在近期與亞馬遜AWS簽訂了為期5年的合作協(xié)議,幫助亞馬遜設(shè)計自有AI芯片。業(yè)內(nèi)人士認為,這將助推邁威爾AI定制芯片業(yè)務(wù)在下一財年實現(xiàn)翻倍增長。

作為邁威爾的主要競爭對手,博通同樣擁有谷歌、Meta和字節(jié)三家大客戶。

有分析預(yù)計,到2027-2028年,每家客戶都會達到1年百萬片ASIC的采購規(guī)模,隨著第四和第五大客戶也開始快速爬升,這些科技公司的芯片訂制訂單將在未來幾年給博通帶來十分可觀的AI收入。

隨著AI大模型進入“下半場”,真正的推理端剛剛開始,關(guān)于芯片的又一場鏖戰(zhàn)即將打響。正如博通的CEO Hock Tan此前所預(yù)言:

“未來50%的AI Flops(算力)都會是ASIC,甚至CSP(超大規(guī)模云計算產(chǎn)商)內(nèi)部自用100%都將是ASIC”。

本文來自華爾街見聞,歡迎下載APP查看更多

鮮花

握手

雷人

路過

雞蛋

關(guān)注我們:東遠物聯(lián)

抖音

微信咨詢

咨詢電話:

199-2833-9866

D-Think | 廣州東遠智能科技有限公司

地址:廣州市白云區(qū)北太路1633號廣州民營科技園科創(chuàng)中心2棟16樓

電話:+86 020-87227952 Email:[email protected]

Copyright  ©2020  東遠科技  粵ICP備2024254589號

免責(zé)申明:部分圖文表述來自于網(wǎng)絡(luò),如有侵權(quán)請聯(lián)系作者刪除!