CXL 高速互聯(lián)：破解 AI 時代“內(nèi)存墻”新途徑，你知道多少！

緊跟技術(shù)熱點和行業(yè)方向，很多芯片設(shè)計大廠都在招聘高速互聯(lián)，Link，片間互聯(lián)等技術(shù)人才，這篇文章簡單介紹一下CXL技術(shù)。

AI 大模型的快速發(fā)展推動“算力”和“存力”需求快速增長，與此同時，對“運力”也提出了更高的需求，系統(tǒng)需要更高的帶寬、更快的傳輸。但內(nèi)存的性能提升速度遠低于處理器的性能提升速度，導(dǎo)致處理器無法充分發(fā)揮其計算能力。

“內(nèi)存墻”問題由來已久，在 AI 時代表現(xiàn)的愈發(fā)明顯，“算力”和“運力”之間的差距越來越大。Transformer 類的模型參數(shù)的數(shù)量呈現(xiàn)指數(shù)增長，每兩年增加 410 倍，而 GPU 內(nèi)存僅以每兩年 2 倍的速度擴展。

大模型參數(shù)量增長速度遠超硬件迭代速度

帶寬增長與算力增長差距明顯

CXL 高速互聯(lián)應(yīng)運而生，提高內(nèi)存利用效率

CXL(Compute Express Link)技術(shù)是一種新型的高速互聯(lián)技術(shù)，旨在提供更高的數(shù)據(jù)吞吐量和更低的延遲，同時實現(xiàn)內(nèi)存共享、提高內(nèi)存利用效率，為化解“內(nèi)存墻”問題提出新的解決方案。

它最初由英特爾、AMD 和其他公司聯(lián)合推出，并得到了包括谷歌、微軟等公司在內(nèi)的大量支持。CXL 的目標(biāo)主要是為了解決 CPU 和設(shè)備、設(shè)備和設(shè)備之間的內(nèi)存鴻溝，解決內(nèi)存分割造成的較大浪費、不便和性能下降。CXL 通過將計算和存儲分離，形成內(nèi)存池，從而能動態(tài)按需配置內(nèi)存資源，提升效率。

CXL 內(nèi)存池化和共享

CXL 提高內(nèi)存利用效率，技術(shù)優(yōu)勢明顯

CXL 通過將計算和存儲分離，形成內(nèi)存池，從而能動態(tài)按需配置內(nèi)存資源，提升效率。CXL 技術(shù)具有優(yōu)勢：

1）CXL 延遲較低，通常為 10ns，而 PCIe 的延遲為 100ns。

2）CXL 支持內(nèi)存一致性，一致性的缺乏限制了 PCIe 應(yīng)用程序。

3）CXL 地址空間可按定義緩存，PCIe 則不可以。

CXL 版本持續(xù)升級迭代，國際巨頭紛紛加入 CXL 聯(lián)盟

CXL 歷經(jīng) 5 個版本的升級發(fā)展。CXL1.0 于 2019 年 3 月發(fā)布，后歷經(jīng) 1.1、2.0、3.0 版本，2023 年 11 月，CXL 聯(lián)盟發(fā)布了最新的 CXL3.1 版本。隨著CXL 技術(shù)的不斷演進，未來數(shù)據(jù)中心各個計算節(jié)點和內(nèi)存節(jié)點的互聯(lián)將更加快速、高效和靈活。

CXL 聯(lián)盟由英特爾牽頭成立，目前成員已經(jīng)超過 255個，涵蓋了主要的 CPU、內(nèi)存、存儲和網(wǎng)絡(luò)設(shè)備制造商。國際巨頭加入 CXL聯(lián)盟，積極布局 CXL 技術(shù)，推出支持 CXL 技術(shù)的產(chǎn)品，助力 CXL 的發(fā)展。

CXL 市場空間廣闊，DRAM 占據(jù)主要份額

CXL 高速互聯(lián)目前處于市場應(yīng)用的早期階段，未來采用 CXL 協(xié)議服務(wù)器的占比持續(xù)提升。Yole 預(yù)測到 2028 年，CXL 市場總收入將超過 150 億美元，DRAM 將占據(jù) CXL 市場的主要份額，Yole 預(yù)計到 2028 年，DRAM 占到 CXL 市場規(guī)模的 79%。

三星和海力士相繼推出了采用 CXL 內(nèi)存控制器的 CXL 內(nèi)存模組，三星推出其首款支持 CXL2.0 的 128GB DRAM，加速下一代存儲器解決方案的商用化進程。

更多關(guān)于CXL的技術(shù)文檔，可以私信我獲取。

新的一年開始了，想看市場機會，及時聯(lián)系我，我羅列了超過10家頭部企業(yè)和行業(yè)獨角獸企業(yè)招聘。都能內(nèi)推或輔導(dǎo)推薦！?。?/p>