• 正文
  • 推薦器件
  • 相關推薦
申請入駐 產業(yè)圖譜

全新DDR5內存架構滿足AI時代存儲需求

2024/07/02
1810
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

在如今諸多移動設備中,電源管理IC(PMIC)是最常見的芯片之一,它主要用于管理主機系統(tǒng)中的電源設備,將電池電壓轉換并分配到各個組件,就像人體的心臟向各個器官供血一樣。包括像攝像頭、顯示、移動AP以及存儲器等器件都需要PMIC芯片的支持。

尤其隨著AI技術的發(fā)展,對于應用于數據中心中的DDR存儲器提出了新的要求。Rambus產品營銷副總裁John Eble表示:“目前,隨著基于大語言模型(LLM)生成式AI技術的不斷發(fā)展,它的功能也變得越來越強大,需要實現多模態(tài)輸入和輸出等功能,如給AI提供一段文字作為指令,AI產出的內容可能是一張圖片;或者所輸入的指令是包含了圖片和文字的組合,而AI能夠提供的是一張有改進的圖片;也有可能輸入的時是多張圖片和一段文字,而AI能夠產出一段視頻,所以當這種多模態(tài)的輸入輸出功能被實現以后,生成式AI將有著無限的可能性?!?/p>

而為了實現這些功能,AI模型需要越來越多的數據量進行訓練,以Open AI的ChatGPT為例,2022年發(fā)布的GPT-3使用了1750億個參數進行訓練;而在不久后,即2023年發(fā)布的GPT-4,它的訓練參數量已經大幅增長至1.5萬億個。

如此龐大的AI工作負載也對內存帶寬和容量的需求大幅增長,尤其在AI訓練階段,主內存的容量需求通常需要是GPU內存容量的兩倍,并且還有一個額外的需求,就是這部分的主內存也必須有著非常高的帶寬。只有這樣,才能讓GPU本地內存滿足這個數據的吞吐速度。

基于此,DDR內存也進行了架構更新,新一代的DDR內存產品DDR5,它相較于前一代的DDR4最大的變化就是將PMIC芯片放在了DDR5內存條上。

John Eble表示:“在DDR4之前,PMIC芯片都集成在主板上,而到DDR5,將PMIC芯片放置在了DIMM端。這種改變帶來了諸多優(yōu)勢,一是不僅可以節(jié)省主板空間,而且不再需要設計來自主板的電壓調節(jié)對內存模塊的支持;

二是由內存模組上的PMIC向模組提供輸入高壓12V電源,避免通過模塊連接器從主板向內存模組組件輸出如1V的電壓,大大降低了輸電網絡上的IR下降問題;

三是為DIMM上的敏感元件提供了更嚴格的電容容差,幫助實現更高的DDR5目標性能水平?!?/p>

那為何需要做這一改變呢?John Eble解釋道:“這與DDR5采用的全新架構有關。相較于DDR4,DDR5已經開始轉移到了雙通道架構,如下圖中的雙通道RCD在主機端以DDR5速度運行。因此,它的運行速度與DRAM相同。圖中每個引腳開關頻率將比DDR4高出一倍多。DDR5的每通道最高頻率速度達到8400MT/s(最高可達8800MT/s)。

因此,更高的數據傳輸速率(裕度至關重要)、所有這些數據信號所需的連接器引腳數量的增加以及主電源電壓從1-1.2伏降至1.1伏,這些因素共同促使我們決定采用專用的電源管理IC,幫助控制更加精細的電壓?!?/p>

DDR5和DDR4 RDIMM架構對比

因此,Rambus近期推出了全新的DDR5服務器PMIC系列,支持廣泛的數據中心用例。據John Eble介紹,Rambus DDR5服務器PMIC系列包含了符合JEDEC超高電流(PMIC5020)、高電流(PMIC5000)和低電流(PMIC5010)規(guī)范的三款產品。

其中,PMIC5020將使未來幾代DDR5 RDIMM的性能和容量達到新的基準。Rambus的這一PMIC芯片系列與其DDR5 RCD、SPD Hub個溫度傳感器IC一起組成了一個完整的內存接口芯片組,適用于各種DDR5 RDIMM配置和用例,也就是為RDIMM制造商提供“一站式”的解決方案。

另據John Eble介紹,極高電流的PMIC 5020目標是約30安培的最大持續(xù)直流電流,是這三種服務器PMIC中最新定義的。Rambus也是首家提供樣品的公司。

高電流PMIC 5000一直是主要的PMIC,支持的最大持續(xù)直流電流大約為20安培。這款特定的PMIC針對標準到四階模塊,容量為64GB、96GB和128GB。低電流PMIC 5010面向容量較低的市場,它支持的最大持續(xù)電流約為12安培。

另外Rambus的DDR5產品也已經通過所有3家主要DRAM供應商的認證,RDIMM制造商不需要再進行重新驗證,節(jié)省了產品開發(fā)時間,加快了產品的上市時間。

當然,將PMIC集成到內存條上也面臨著一些設計挑戰(zhàn)。John Eble表示,首先是散熱問題。PMIC會產生熱量,而且它靠近對熱非常敏感的DRAM芯片,這是一個問題。因此,進行熱模擬并確保熱量以一種不會影響模塊的方式消散,這一點非常重要。

第二個設計挑戰(zhàn)實際上是如何將PMIC及其無源元件安裝在模塊上,因為模塊的尺寸是固定的,而且模塊上已經有很多元器件了。因此,為PMIC騰出空間,確保其功率完整性達到最佳狀態(tài),并確保其不會造成任何干擾或散熱問題,這是一個很大的挑戰(zhàn)。

第三個挑戰(zhàn)是確保PMIC上的開關穩(wěn)壓器不會將任何不需要的噪聲引入DIMM的其他部分。

最后一個設計挑戰(zhàn)是需要確保PMIC芯片可靠且強大?,F在PMIC位于可維修模塊上,它可能會經歷某些壓力條件,如將模塊插入插座或將其拔出時,需要進行插拔操作,這可能會影響到PMIC芯片。

AI時代的來臨,為諸多行業(yè)帶來了變革,內存作為關鍵組件之一,也不例外。在模塊上安裝PMIC就是一個顯著的變化,John Eble表示,這遵循了微電子行業(yè)將供電設備盡可能靠近使用點的趨勢,但DDR5內存模塊是第一個在內存模塊上集成PMIC的主要內存類型。未來,隨著對更高性能和電源效率的需求不斷增長,可能會定義新型內存模塊。而且,這些模塊很有可能會繼續(xù)在模塊上集成PMIC,以進一步優(yōu)化電源管理并提高整體系統(tǒng)性能。

推薦器件

更多器件
器件型號 數量 器件廠商 器件描述 數據手冊 ECAD模型 風險等級 參考價格 更多信息
LTC6905IS5-100#PBF 1 Linear Technology LTC6905-XXX - Fixed Frequency SOT-23 Oscillator; Package: SOT; Pins: 5; Temperature Range: -40°C to 85°C
暫無數據 查看
DLT1040ST1 1 Agilent Technologies Inc Fiber Optic Emitter, Through Hole Mount
暫無數據 查看
ATS16A 1 CTS Corporation Parallel - Fundamental Quartz Crystal, 16MHz Nom, GREEN, RESISTANCE WELD, METAL PACKAGE-2
$0.35 查看

相關推薦

登錄即可解鎖
  • 海量技術文章
  • 設計資源下載
  • 產業(yè)鏈客戶資源
  • 寫文章/發(fā)需求
立即登錄