• 正文
  • 相關推薦
申請入駐 產業(yè)圖譜

國產MCU,做好AI化的準備了嗎?

2023/05/20
2669
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

半導體行業(yè)正面臨一個巨大的轉折點,以語言大模型為代表的人工智能技術的質變,讓整個世界處于計算范式轉折的前夜,并行計算即將成為主流,半導體行業(yè)被裹挾其中。哲庫的飲恨離場,不過是芯片產業(yè)風云巨變的開場。

上個月底,阿里云宣布了“史上最大規(guī)模降價”,其中核心產品價格全線下調15%-50%,存儲產品最高降價50%。對于云服務廠商來說,支撐起高效和高性價比服務的,是硬件云計算能力的雙重優(yōu)勢。云計算也是大模型軍備競賽的技術支撐,ChatGPT就是鮮活案例。

ChatGPT能真正實現(xiàn)大規(guī)模應用,背后少不了微軟的支持。微軟云OpenAI是ChatGPT的獨家云供應商,ChatGPT大模型訓練所需要的海量數據,也來自微軟云多年的積累。正如李彥宏所言,“之前企業(yè)選擇云廠商更多看算力、存儲等基礎云服務。未來,更多會看框架好不好、模型好不好,以及模型、框架、芯片、應用這四層之間的協(xié)同?!?/p>

阿里云宣布要上市,為什么是現(xiàn)在?因為人工智能時代,以GPU、TPU為代表的異構計算芯片,將成為智能化基礎設施。阿里云如果不能主動折舊(降價),融資(上市即加杠桿)擁抱新的基礎設施架構,可能會錯過下一波而被邊緣化。

縱觀全球計算主芯片,異構已經不是一個未來潮流,而是現(xiàn)實落地的主流和頂流。

蘋果新一代SOC芯片產品,M2 Pro 和 M2 Max,大幅集成GPU功能。M2 Pro芯片提升M2 芯片原有架構,帶來多達12核的中央處理器和多達19核的圖形處理器,M2 Max芯片在 M2 Pro的強大性能基礎上更進一步,帶來多達38核的圖形處理器。兩款芯片還有增強的定制技術加持,包括速度更快的16核神經網絡引擎,每秒可進行最多達 15.8 萬億次運算,較前代芯片快達40%。

Intel一直在為其異構架構理念不停地做重磅收購,2015年收購FPGA供應商Altera,2016年收購AI芯片供應商Nervana,2017年收購了ADAS芯片供應商Mobileye和AI芯片供應商Movidius,2018年收購eASIC,2019年收購云端AI芯片供應商Habana Labs。

AMD收購Xilinx后,Zynq異構系列的戰(zhàn)略不用多說,傳言AMD與微軟合作,合作開發(fā)一款代號為雅典娜(Athena)的自主研發(fā)的人工智能芯片。

谷歌張量處理器(tensor processing unit,TPU)是該公司為機器學習定制的專用芯片(ASIC),第一代發(fā)布于2016年,成為了AlphaGo背后的算力。與GPU相比,TPU采用低精度計算,在幾乎不影響深度學習處理效果的前提下大幅降低了功耗、加快運算速度。同時,TPU使用了脈動陣列等設計來優(yōu)化矩陣乘法與卷積運算。

如今TPU已經發(fā)展到了第四代,雖然每個TPU的處理速度都比不上最好的英偉達AI芯片,但谷歌用于連接芯片和在芯片之間傳遞數據的光電路交換技術彌補了性能差異。

其他互聯(lián)網公司也有自研芯片的,但基本上都是基于ARM架構,比如亞馬遜的推理芯片Inferentia和訓練芯片Trainium,還有META昨天剛剛發(fā)布的AI加速器芯片MTIA(Meta訓練和推理加速器)。

AI風潮之下,沒有什么領域不會被波及,AI深入到邊緣和終端裝置,已經是一個長期必然的大方向,我相信MCU也不會例外。

隨著物聯(lián)網設備的普及和應用場景的擴大,對于更智能化和自主決策能力的需求也在增加,作為物聯(lián)網設備中必不可少的大腦——MCU,正朝著更智能化、更強大的方向發(fā)展。

傳統(tǒng)認知中,人工智能(AI)相關的深度學習應用,只有算力充沛的MPU或者是PC才能玩得轉,MCU作為邊緣物聯(lián)網的主控芯片,其在AI中擔任的主要功能是推理和決策。

將AI能力集成到MCU上,使得AI算法可以實時地在設備本地進行處理和響應,而無需依賴于云端或其他遠程服務器。這提高了系統(tǒng)的實時性和即時響應能力,使得設備能夠更快速地做出決策和反應,且可以在低功耗的情況下實現(xiàn)高效的AI計算。

現(xiàn)在為邊緣設備創(chuàng)建機器學習模型正成為一種大的趨勢,這些模型稱為微型機器學習或TinyML,它主要適用于內存和處理能力有限的設備,以及互聯(lián)網連接不存在或有限的設備。TinyML使在MCU上運行深度學習模型成為可能。TinyML在MCU上的應用越來越普遍。

各大MCU巨頭其實很早就已開始布局。

恩智浦:2018年推出了機器學習軟件eIQ軟件,該軟件能夠在恩智浦EdgeVerse微控制器微處理器(包括i.MX RT跨界MCU和i.MX系列應用處理器)上使用。并推出了AI工具鏈NANO.AI。最近恩智浦推出了MCX N系列,MCX N94x和MCX N54x MCU系列中集成了恩智浦設計的用于實時推理的專用片上神經處理單元 (NPU)。據悉,與單獨使用CPU內核相比,片上NPU的ML吞吐量最高可提高30倍。

ST:2021年6月3日,意法半導體宣布收購邊緣AI軟件專業(yè)開發(fā)公司Cartesiam。Cartesiam成立于2016年,總部位于法國土倫,專門從事人工智能開發(fā)工具研發(fā),讓基于Arm的MCU具有機器學習和推理能力。ST即將推出第一個帶有神經網絡硬件處理單元(Neural-Art Accelerator)的通用微控制器——STM32N6,這款MCU與其STM32MP1微處理器(運行頻率為 800MHz 的雙 Cortex-A7)相比,STM32N6 的推斷速度提高了25倍。

瑞薩:去年瑞薩收購了Reality AI,主要為汽車、工業(yè)和商業(yè)產品中的高級非視覺傳感提供范圍廣泛的嵌入式人工智能和微型機器學習 (TinyML) 解決方案。

英飛凌:2023年5月16日,英飛凌宣布,已收購總部位于瑞典斯德哥爾摩的初創(chuàng)公司Imagimob AB。Imagimob是快速增長的微型機器學習和自動機器學習(TinyML 和 AutoML)市場的領先者。以提升其微控制器和傳感器上的TinyML邊緣 AI 功能。

國內MCU廠商大部分仍處于模仿兼容傳統(tǒng)STM32的同質化水平,忙于內卷比拼價格,生存還是個問題,基本上還顧不上未來的布局。

我司作為MCU的新進廠商,由于客戶需求與STM32兼容,但是在其中贈送了FPGA的異構邏輯,F(xiàn)PGA本身就可以用于并行加速用,其核心架構與TPU的脈動陣列矩陣運算有異曲同工的相似之處。我們下一代產品中擴大邏輯容量后將可直接與TinyML的邊緣推理整合。

我們正在邁入AIoT時代,AI深入到邊緣和終端裝置,已經是一個長期必然的大方向。做好技術準備,國產廠商方能迎接未來轉折窗口的挑戰(zhàn)。

 

相關推薦