NVIDIA 發(fā)布 NVIDIA NVLink Fusion?,這款全新芯片將助力行業(yè)用戶通過全球領(lǐng)先且廣泛采用的計算互連架構(gòu) —— NVIDIA NVLink? 打造的強健合作伙伴生態(tài)系統(tǒng),構(gòu)建半定制 AI 基礎(chǔ)設(shè)施。
MediaTek、Marvell、Alchip Technologies、Astera Labs、Synopsys 和 Cadence 是首批采用 NVLink Fusion 的廠商,可支持定制化芯片縱向擴展(Scale-up)以滿足模型訓練和代理式 AI 推理等要求嚴苛的工作負載的需求。使用 NVLink Fusion,富士通和 Qualcomm CPU 還可與 NVIDIA GPU 進行整合,以構(gòu)建高性能的 NVIDIA AI 工廠。
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:“一場翻天覆地的變革正在發(fā)生:數(shù)據(jù)中心架構(gòu)數(shù)十年來首度必須從根本上徹底改變 —— AI 正在融入每個計算平臺。NVLink Fusion 將 NVIDIA AI 平臺和豐富的生態(tài)系統(tǒng)對外開放,助力合作伙伴構(gòu)建專用 AI 基礎(chǔ)設(shè)施?!?/p>
NVLink Fusion 還為云服務(wù)商提供了便捷的途路,他們可以使用自定義 ASIC、NVIDIA 機架級系統(tǒng)和 NVIDIA 端到端網(wǎng)絡(luò)平臺,將 AI 工廠擴展到數(shù)百萬個 GPU。該平臺支持高達 800Gb/s的吞吐量,搭配 NVIDIA ConnectX?-8 SuperNIC、NVIDIA Spectrum-X? 以太網(wǎng)和 NVIDIA Quantum-X800 InfiniBand 交換機,以及即將到來的光電一體化封裝網(wǎng)絡(luò)交換機。
相互關(guān)聯(lián)的技術(shù)生態(tài)系統(tǒng)
通過 NVLink Fusion,超大規(guī)模企業(yè)可以與 NVIDIA 合作伙伴生態(tài)系統(tǒng)協(xié)作,無縫集成 NVIDIA 機架級解決方案,輕松部署至數(shù)據(jù)中心基礎(chǔ)設(shè)施。
MediaTek、Marvell、Alchip、Astera Labs、Synopsys 和 Cadence 等 AI 芯片制造合作伙伴使用 NVIDIA NVLink Fusion 技術(shù)打造可部署的自定義 AI 計算系統(tǒng)。
MediaTek 副董事長兼 CEO Rick Tsai 表示:“借助我們的世界級 ASIC 設(shè)計服務(wù)和在高速互連領(lǐng)域深厚的專業(yè)知識,MediaTek 正與 NVIDIA 合作構(gòu)建下一代 AI 基礎(chǔ)設(shè)施。我們之間的合作始于汽車領(lǐng)域,現(xiàn)在進一步延伸,讓我們能提供可擴展、高效而靈活的技術(shù),以滿足云級 AI 快速增長的需求?!?/p>
Marvell 董事長兼 CEO Matt Murphy 指出:“Marvell 正與 NVIDIA 合作,重新定義 AI 工廠集成的邊界。Marvell 定制芯片與 NVLink Fusion 相結(jié)合,為客戶構(gòu)建先進 AI 基礎(chǔ)設(shè)施提供了靈活、高性能的基礎(chǔ)架構(gòu),可滿足下一代萬億級參數(shù) AI 模型需要的高帶寬、可靠性和敏捷性需求?!?/p>
Alchip CEO Johnny Shen 稱:“Alchip 正通過自己的設(shè)計和制造生態(tài)系統(tǒng),包括先進工藝和經(jīng)驗證的封裝技術(shù),以及在 ASIC 行業(yè)靈活的合作模式和支持,推動 NVLink Fusion 技術(shù)的普及應(yīng)用。我們致力于確保下一代 AI 模型能夠進行高效訓練和部署,以滿足未來智能應(yīng)用的需要?!?/p>
Astera Labs CEO Jitendra Mohan 表示:“長久以來我們與 NVIDIA 緊密合作,現(xiàn)在能夠提供專為 NVLink Fusion 生態(tài)系統(tǒng)量身設(shè)計的連接解決方案,我們感到十分雀躍。低延遲、高帶寬的縱向擴展互連產(chǎn)品與原生內(nèi)存語義支持相結(jié)合,對于最大限度地提高 AI 服務(wù)器利用率和性能至關(guān)重要。通過 NVLink 解決方案,我們的縱向互連產(chǎn)品系列得到了擴展,為超大規(guī)模廠商和企業(yè) AI 客戶提供了更多選項,并加快了產(chǎn)品上市速度?!?/p>
Synopsys 總裁兼 CEO Sassine Ghazi 說:“數(shù)據(jù)中心正在轉(zhuǎn)型成為 AI 工廠,Synopsys 行業(yè)領(lǐng)先的 AI 芯片設(shè)計解決方案和基于標準的接口 IP 將成為關(guān)鍵推動者。我們對 NVIDIA NVLink Fusion 的支持,表明我們致力于為下一代 AI 和高性能計算構(gòu)建開放、可擴展的生態(tài)系統(tǒng)?!?/p>
Cadence 芯片解決方案集團高級副總裁兼總經(jīng)理 Boyd Phelps 指出:“ 高性能計算 和 AI 工作負載的需求獨特且瞬息萬變,構(gòu)建先進定制 AI 系統(tǒng)的超大規(guī)模企業(yè)客戶,依賴 Cadence 提供從數(shù)據(jù)中心到邊緣的關(guān)鍵技術(shù)支撐。我們?nèi)轿坏?IP 產(chǎn)品系列,包括設(shè)計 IP、Chiplet 基礎(chǔ)設(shè)施、子系統(tǒng)和其他關(guān)鍵 IP,將與 NVIDIA NVLink 生態(tài)系統(tǒng)互為補充,加速交付功能強大、高效節(jié)能且可大規(guī)模生產(chǎn)的 AI 工廠?!?/p>
借助 NVLink Fusion,富士通和 Qualcomm 等 AI 創(chuàng)新企業(yè)還可在機架級擴展架構(gòu)中將其自定義 CPU 與 NVIDIA GPU 相結(jié)合,顯著提升 AI 性能。
富士通 CTO Vivek Mahajan 表示:“富士通先進的 CPU 技術(shù)與 NVIDIA 全棧 AI 基礎(chǔ)設(shè)施相結(jié)合,可將性能提升到更高水平。富士通的下一代處理器 FUJITSU-MONAKA 是一款基于 Arm 的 2 納米 CPU,旨在實現(xiàn)極高的能效。將我們的技術(shù)與 NVIDIA 架構(gòu)直接相連,標志著我們通過世界領(lǐng)先的計算技術(shù)推動 AI 發(fā)展的愿景向前邁出了關(guān)鍵一步,這為開發(fā)新型可擴展、自主且可持續(xù) 的 AI 系統(tǒng)奠定了基礎(chǔ)?!?/p>
Qualcomm 總裁兼 CEO Cristiano Amon 表示:“Qualcomm 先進的自定義 CPU 技術(shù)與 NVIDIA 全棧 AI 平臺相結(jié)合,可為數(shù)據(jù)中心基礎(chǔ)設(shè)施帶來強大、高效的智能。由于能夠?qū)⒆远x處理器連接到 NVIDIA 的機架級擴展架構(gòu),我們正將高性能、高效節(jié)能計算的愿景推廣到數(shù)據(jù)中心?!?/p>
NVIDIA NVLink 展示了經(jīng)業(yè)界驗證的規(guī)模
為了以節(jié)能高效的方式更大限度地提高 AI 工廠的吞吐量和性能,第五代 NVIDIA NVLink 平臺應(yīng)用于 NVIDIA Grace Blackwell 計算密集型機架,為每個 GPU 提供 1.8 TB/s的總帶寬,比 PCIe 5.0 快 14 倍。
領(lǐng)先的超大規(guī)模企業(yè)皆已開始部署 NVIDIA NVLink 整機架解決方案,可以通過 NVLink Fusion 在 NVIDIA 機架架構(gòu)上實現(xiàn)異構(gòu)芯片數(shù)據(jù)中心標準化,從而加快上市速度。
專為 AI 工廠打造的軟件
應(yīng)用 NVIDIA NVLink Fusion 互連的 AI 工廠由統(tǒng)一運營和編排軟件平臺 NVIDIA Mission Control? 提供支持,可自動完成對 AI 數(shù)據(jù)中心和工作負載的復(fù)雜管理。
NVIDIA Mission Control 可強化 AI 工廠運營的各個環(huán)節(jié) —— 從配置部署、驗證基礎(chǔ)設(shè)施、再到編排關(guān)鍵任務(wù)工作負載,幫助企業(yè)更快啟動和運行前沿模型。
供應(yīng)情況
NVIDIA NVLink Fusion 芯片設(shè)計服務(wù)和解決方案現(xiàn)在可通過 MediaTek、Marvell、Alchip、Astera Labs、Synopsys 和 Cadence 獲取。