芯原超低能耗NPU可為移動(dòng)端大語(yǔ)言模型推理提供超40 TOPS算力
芯原股份(芯原,股票代碼:688521.SH)宣布其超低能耗且高性能的神經(jīng)網(wǎng)絡(luò)處理器(NPU)IP現(xiàn)已支持在移動(dòng)端進(jìn)行大語(yǔ)言模型(LLM)推理,AI算力可擴(kuò)展至40 TOPS以上。該高能效NPU架構(gòu)專為滿足移動(dòng)平臺(tái)日益增長(zhǎng)的生成式AI需求而設(shè)計(jì),不僅能夠?yàn)锳I PC等終端設(shè)備提供強(qiáng)勁算力支持,而且能夠應(yīng)對(duì)智慧手機(jī)等移動(dòng)終端對(duì)低能耗更為嚴(yán)苛的挑戰(zhàn)。 芯原的超低能耗NPU IP具備高度可配置、可擴(kuò)展的