美光如何應(yīng)對人工智能帶來的機會和挑戰(zhàn)？

美光企業(yè)副總裁暨存儲部門總經(jīng)理Jeremy Werner

手機、PC、數(shù)據(jù)中心、汽車……市場變革帶來海量存儲需求

隨著人工智能（AI）技術(shù)，特別是生成式AI的快速發(fā)展，全球數(shù)據(jù)量預(yù)計將達到前所未有的數(shù)百ZB量級，這不僅對存儲設(shè)備的性能和容量提出了更高要求，也對整個存儲行業(yè)提出了新的挑戰(zhàn)。

在CFMS 2024峰會期間，美光企業(yè)副總裁暨存儲部門總經(jīng)理Jeremy Werner，在其演講《美光計算與存儲：推動AI革命中，深入探討了 AI技術(shù)在推動社會和企業(yè)變革方面的巨大潛力。在當(dāng)天舉行的媒體采訪中，Jeremy Werner對與非網(wǎng)記者詳細闡述了美光面對AI快速發(fā)展所帶來的挑戰(zhàn)和機遇，以及美光如何通過創(chuàng)新技術(shù)應(yīng)對這些挑戰(zhàn)。

通過深入討論美光如何通過其存儲和內(nèi)存解決方案助力AI技術(shù)的發(fā)展，Werner展示了美光在推動技術(shù)革新方面的重要角色。從數(shù)據(jù)中心到邊緣設(shè)備，無論是PC、智能手機還是汽車，美光的技術(shù)都在推動AI技術(shù)的發(fā)展，提升了處理性能和效率。

最近幾年，AI技術(shù)的迅猛發(fā)展幫助人類解決了一系列的全球性挑戰(zhàn)，從治療疾病、解決饑餓問題到應(yīng)對氣候變化等，揭示了AI技術(shù)的廣泛應(yīng)用前景。AI技術(shù)也對邊緣設(shè)備產(chǎn)業(yè)的發(fā)展產(chǎn)生了巨大影響，包括PC、智能手機和汽車。

Jeremy Werner對與非網(wǎng)記者表示，隨著生成式AI技術(shù)逐漸進入PC領(lǐng)域，用戶對更快的內(nèi)存和存儲的需求隨之增長。而智能手機市場也伴隨生成式AI技術(shù)的大量應(yīng)用落地，對更高性能和更大容量的內(nèi)存和存儲的需求也隨之增加。此外，隨著無人駕駛技術(shù)的發(fā)展，汽車對內(nèi)存和存儲的需求將大幅增長。針對上述不同市場，美光憑借其廣泛的產(chǎn)品組合和最高的可靠性標準，已準備好應(yīng)對這些新增需求帶來的挑戰(zhàn)。

如何應(yīng)對AI發(fā)展帶來的挑戰(zhàn)？

Werner首先指出，面對AI時代對性能和容量雙重提升的需求，美光遇到的最大挑戰(zhàn)之一是如何在不犧牲用戶體驗的前提下，提供更高效能和更大容量的存儲解決方案。他強調(diào)了功耗管理的重要性，指出為了延長電池壽命并避免設(shè)備過熱，必須精心設(shè)計和優(yōu)化存儲產(chǎn)品。此外，Werner還討論了如何在提升存儲容量的同時保持產(chǎn)品價格在消費者和客戶端可接受的范圍內(nèi)，這是美光在市場競爭中需要解決的關(guān)鍵問題。

針對容量提升的挑戰(zhàn)，Werner詳細介紹了美光的QLC NAND技術(shù)及其在解決容量問題上的重要作用。他指出，通過QLC NAND，美光能夠以非常低的成本不斷提升存儲容量，同時確保不會對用戶體驗產(chǎn)生負面影響。這一技術(shù)的應(yīng)用，使得美光在全球市場上保持領(lǐng)先地位，尤其是在PC和其他電子設(shè)備的存儲解決方案方面。Werner強調(diào)，通過對QLC技術(shù)的不斷創(chuàng)新和優(yōu)化，美光可以在容量、性能和成本之間找到最佳平衡，為消費者提供高性價比的產(chǎn)品。

在性能提升方面，Werner討論了SSD技術(shù)的重要性，特別是在降低功耗和提高數(shù)據(jù)訪問速度方面的應(yīng)用。他說明了美光如何通過將SSD技術(shù)與硬件和固件緊密集成，優(yōu)化設(shè)備的功耗管理和性能。這些技術(shù)的融合不僅提升了產(chǎn)品的整體性能，也使得它們能夠更好地支持未來AI技術(shù)的發(fā)展需求。

如何助力數(shù)據(jù)中心的性能與功耗提升？

數(shù)據(jù)中心正成為AI技術(shù)發(fā)展的核心應(yīng)用場景。Werner指出，數(shù)據(jù)中心最寶貴的資產(chǎn)是數(shù)據(jù)，而數(shù)據(jù)需要存儲在內(nèi)存和硬盤上。美光致力于推動數(shù)據(jù)中心的性能極限，通過高帶寬內(nèi)存(HBM)、高密度DDR5內(nèi)存和創(chuàng)新的存儲解決方案，如CXL內(nèi)存和SSD驅(qū)，來提高GPU的數(shù)據(jù)處理效率和性能。

Werner分享了美光在HBM3E產(chǎn)品上取得的進展，這一技術(shù)不僅提高了性能，還降低了功耗。Werner特別提到了HBM3E技術(shù)的核心地位及其對AI未來的關(guān)鍵作用。HBM3E技術(shù)的推出，旨在滿足高性能計算設(shè)備如GPU在AI和機器學(xué)習(xí)應(yīng)用中對于極速數(shù)據(jù)傳輸的需求。通過這項技術(shù)，美光能夠為GPU提供必要的數(shù)據(jù)支持，確保它們以最高效率運作。

此外，DDR5內(nèi)存技術(shù)在提升容量密度和減少延遲方面取得了重大突破，進一步推動了數(shù)據(jù)中心的效率。在討論美光的SSD技術(shù)時，Werner特別提到了9400 SSD對AI模型訓(xùn)練和推理性能的積極影響。這些技術(shù)進展不僅提高了數(shù)據(jù)處理的速度，還降低了延遲，為AI應(yīng)用提供了必要的技術(shù)支撐。

除了推動數(shù)據(jù)中心的效率，美光還專注于數(shù)據(jù)中心的功耗管理。Werner詳細解釋了高效的冷卻解決方案，包括水冷和浸入式冷卻，對于保持大型GPU工作效率至關(guān)重要。通過HBM3E技術(shù)，美光能夠在不犧牲性能的前提下，顯著降低數(shù)據(jù)中心的總體功耗，從而提升整個系統(tǒng)的能效比。

據(jù)介紹，美光在解決數(shù)據(jù)中心的存儲問題時，展現(xiàn)了其在技術(shù)創(chuàng)新和產(chǎn)品部署上的領(lǐng)先地位。通過不斷推出如176層、232層NAND技術(shù)以及1α/1β DRAM技術(shù)等創(chuàng)新產(chǎn)品，顯示了其在內(nèi)存和存儲領(lǐng)域的技術(shù)領(lǐng)導(dǎo)力。這些技術(shù)進步不僅提高了數(shù)據(jù)處理的效率和速度，也為用戶帶來了更高的性價比，展現(xiàn)了美光在提升存儲產(chǎn)品性能和降低成本方面的不懈追求。

除此之外，Werner還介紹了美光在大容量固態(tài)硬盤（HCSSD）領(lǐng)域的進展，特別是美光6500 ION SSD的推出。這款產(chǎn)品基于業(yè)界領(lǐng)先的232層NAND制程工藝，超越了業(yè)界傳統(tǒng)的192層標準，為AI大語言模型訓(xùn)練和其他數(shù)據(jù)密集型應(yīng)用提供了強大的存儲解決方案。這標志著美光在提供大容量、高性能SSD方面的持續(xù)創(chuàng)新和領(lǐng)先地位，滿足了市場對于處理大規(guī)模數(shù)據(jù)集的迫切需求。

美光的核心策略和愿景是什么？

除了追求技術(shù)的領(lǐng)先性，美光科技對于產(chǎn)品設(shè)計的另一個關(guān)鍵考量是確保軟件管理的簡易性和高效性。由于每個存儲層都具有其獨特的復(fù)雜性，美光通過技術(shù)創(chuàng)新簡化了存儲管理，使得數(shù)據(jù)存取更為高效，同時降低了成本。例如，通過增強SSD的性能和降低其成本，美光希望能夠讓SSD層成為替代傳統(tǒng)硬盤的更佳選擇。這種策略不僅提升了數(shù)據(jù)訪問的速度和效率，也為客戶提供了更為經(jīng)濟實惠的存儲方案。

在追求技術(shù)創(chuàng)新的同時，美光非常重視產(chǎn)品的信任度和可信度。美光確保每當(dāng)推出新產(chǎn)品時，市場上都能夠即時找到，這反映了美光對市場需求快速響應(yīng)的能力和對客戶承諾的堅持。Werner表示，美光的每一項技術(shù)創(chuàng)新和產(chǎn)品推出，都是為了真正意義上幫助客戶解決問題，提升其數(shù)據(jù)處理和存儲的能力。除了在產(chǎn)品和技術(shù)上的不斷創(chuàng)新外，美光還通過提供立即可用的解決方案，加強了與客戶之間的信任關(guān)系，進一步鞏固了其作為存儲解決方案領(lǐng)域領(lǐng)導(dǎo)者的地位。

在面對AI時代的挑戰(zhàn)和機遇時，美光科技的策略和愿景顯得尤為關(guān)鍵。作為全球領(lǐng)先的創(chuàng)新內(nèi)存和存儲解決方案提供商，美光科技對于未來存儲產(chǎn)品的發(fā)展有著清晰而深遠的見解。其核心理念是“建立客戶和市場的信任”。Jeremy Werner認為，無論是數(shù)據(jù)的存儲還是調(diào)用，信任都是最寶貴的資產(chǎn)。這種信任不僅體現(xiàn)在產(chǎn)品的安全性、性能、耐用性、服務(wù)質(zhì)量、延遲、容量和價格等多個方面，而且還涉及到對客戶隱私和敏感信息的保護。這表明，美光不僅追求技術(shù)上的卓越，也深刻理解了在當(dāng)今社會中，數(shù)據(jù)安全和隱私保護的重要性。

CXL還是HBM？存儲技術(shù)的未來趨勢

對于高端存儲芯片的未來，Werner表達了其對于技術(shù)進步和市場變革的樂觀態(tài)度。隨著AI技術(shù)的不斷進步，對于存儲性能和容量的要求也在不斷提升。美光認為，高性能、低成本的SSD將在未來的存儲市場中扮演越來越重要的角色，逐步取代傳統(tǒng)的存儲解決方案。這一過程雖然可能需要較長時間，但隨著技術(shù)的成熟和市場的適應(yīng)，高端存儲芯片的發(fā)展勢頭將更加迅猛。

Werner還探討了針對AI市場的存儲產(chǎn)品技術(shù)革新。對于近期出現(xiàn)的如索尼的硬盤容量翻倍技術(shù)，以及光存儲技術(shù)的突破。Werner認為，這些創(chuàng)新展示了存儲技術(shù)領(lǐng)域的活力和多樣化的發(fā)展方向。然而，Werner強調(diào)，一個新技術(shù)要想在市場上取得成功并成為主流，必須滿足兩個關(guān)鍵條件：具有競爭力的成本和用戶的廣泛接受。即使是具有技術(shù)先進性的解決方案，也必須考慮到其商業(yè)化的可行性，以及如何在實際應(yīng)用中為用戶帶來真正的價值。

在對CXL技術(shù)和未來存儲解決方案的展望中，Werner認為，CXL技術(shù)依然擁有其在未來市場中不可替代的位置。隨著數(shù)據(jù)處理需求的增加，以及對于更高效、成本效益更好的存儲解決方案的追求，CXL作為一種高速、高效的連接技術(shù)，提供了一個在高性能計算環(huán)境中靈活擴展內(nèi)存和存儲資源的可能。在處理大規(guī)模AI模型或龐大的數(shù)據(jù)庫時，傳統(tǒng)的多socket CPU服務(wù)器配置可能不再是成本效益最優(yōu)的選擇。CXL技術(shù)的引入，可以使系統(tǒng)設(shè)計師利用較少的CPU sockets（例如1-2個），通過CXL高速互聯(lián)來實現(xiàn)DRAM的擴展，這不僅減少了硬件成本，同時也提高了系統(tǒng)的整體效率和靈活性。

關(guān)于CXL技術(shù)以及其與HBM在未來高性能計算中的互補性，Werner認為CXL和HBM都在高性能計算時代扮演著重要角色。隨著HBM的容量快速增加，將催生更多的內(nèi)存及相關(guān)設(shè)備容量的擴張，需要更多的本地存儲以實現(xiàn)更好的配合。CXL技術(shù)在這一進程中將發(fā)揮關(guān)鍵作用，尤其在支持大加速器內(nèi)存概念方面顯示出其重要性，即GPU能夠直接從系統(tǒng)內(nèi)存和存儲設(shè)備中獲取數(shù)據(jù)，無需CPU參與。這一進展不僅標志著存儲技術(shù)的進一步發(fā)展，也為市場發(fā)展提供了更多潛力和空間。

最后，針對生成式AI和文生視頻的發(fā)展，Werner也發(fā)表了自己的觀點。他認為隨著文生視頻技術(shù)的普及，預(yù)期會產(chǎn)生大量的視頻內(nèi)容，這將對存儲產(chǎn)品產(chǎn)生重大影響。生成的視頻不僅數(shù)量龐大，而且由于人們傾向于保留而不刪除這些內(nèi)容，因此對存儲容量的需求將會大幅增長。這種趨勢對存儲市場來說是一個利好消息，預(yù)示著未來將會有爆炸式的增長需求。

綜上所述，生成式AI和文生視頻技術(shù)的興起，以及CXL與HBM的互補使用，都預(yù)示著對高性能、大容量存儲產(chǎn)品的需求將會顯著增長。這對美光而言既是挑戰(zhàn)也是機遇，要求行業(yè)持續(xù)創(chuàng)新以滿足未來的存儲需求。Werner最后指出，隨著人工智能技術(shù)的進步和應(yīng)用領(lǐng)域的擴展，存儲解決方案必須不斷創(chuàng)新以適應(yīng)更加復(fù)雜的計算需求和數(shù)據(jù)管理挑戰(zhàn)。