網絡邊緣AI推理，Lattice低功耗FPGA的又一大用武之地

2024-12-4 09:22| 發(fā)布者: admin| 查看: 108| 評論: 0

摘要: 最近FPGA這個市場好不熱鬧，國內FPGA第一股安路科技登陸科創(chuàng)板，瑞薩宣布進軍FPGA。老大賽靈思和老二Altera已經相繼被收購，老三Lattice近年來憑借低功耗在FPGA市場闖出一番天地。過去四年來，Lattice的出貨量已達10 ...

最近FPGA這個市場好不熱鬧，國內FPGA第一股安路科技登陸科創(chuàng)板，瑞薩宣布進軍FPGA。老大賽靈思和老二Altera已經相繼被收購，老三Lattice近年來憑借低功耗在FPGA市場闖出一番天地。過去四年來，Lattice的出貨量已達10億顆，儼然成為了全球出貨量最大的FPGA廠商。

FPGA已經存在了幾十年，發(fā)展到現(xiàn)在，將FPGA用于AI是一大趨勢。FPGA在加速 AI 相關工作負載（尤其是推理）方面顯示出巨大潛力。使用 FPGA 加速機器學習和深度學習過程的主要優(yōu)勢是它們的靈活性、自定義并行性以及為多種目的重新編程的能力?，F(xiàn)在Lattice嗅到了邊緣計算AI推理的商機。

為什么選擇FPGA實現(xiàn)網絡邊緣AI？

目前，網絡邊緣的計算正在快速興起。有很多新的應用都在邊緣端發(fā)展出新的應用和使用場景。據ABI的研究調查表明，預計到2024年設備端的AI推理功能將覆蓋近60%的設備。Lattice看到了這其中的機會，正在將FPGA運用到邊緣計算AI推理中。

那為什么要選擇FPGA來實現(xiàn)網絡邊緣的AI呢？要知道，AI的算法靈活多變，技術每天都在推陳出新。FPGA相對來說是更適合網絡邊緣來實現(xiàn)AI計算的技術。因為FPGA硬件可編程的最大特點也可以適應快速變化的機器學習算法。憑借本身的特點，可以做靈活的計算資源，包括預處理、后處理、圖像處理和濾波等數(shù)據。還能進行性能擴展，可并行和串行執(zhí)行多個案例。

再來很重要的一點是，由于邊緣端對功耗的敏感度和尺寸的大小是有比較嚴格的要求，而小封裝和低功耗恰好是Lattice FPGA的特點。Lattice的FPGA可以在網絡邊緣AI實現(xiàn)一毫瓦到低于一瓦的超低功耗。同時，Lattice FPGA內嵌了很多安全功能區(qū)域，具有很高的安全性。

反過來，AI技術的快速創(chuàng)新對可編程邏輯器件FPGA來說是有利的，F(xiàn)PGA可以配合AI技術隨時為用戶提供最佳體驗。據Lattice亞太區(qū)資深市場開拓經理林國松的深一步解釋，近十年來AI模型快速發(fā)展，從下圖中可以看到從2012年到2021年AI分類模型創(chuàng)新的數(shù)量在逐年遞增。由于AI技術的不斷創(chuàng)新，導致不斷有新的實現(xiàn)方式產生。而新的實現(xiàn)方式的產生需要有更快的硬件來實現(xiàn)，這就需要硬件和算法上的優(yōu)化。