1. 首頁 > 生活百科 > >

SK海力士開發AI專用內存技術三重奏

人工智能ai顯示器

SK海力士開發AI專用內存技術三重奏

SK海力士不滿足于僅僅發布三項新的AI NAND技術 ， 還在為AI市場開發新的DRAM產品技術 ， 表示希望成為全棧AI內存創造者 。
SK海力士同時供應DRAM和NAND產品 ， 并在11月3日在首爾舉行的\"SK AI峰會2025\"上展示了其專注于AI內存的理念 。 背景是內存性能跟不上GPU發展 ， 導致GPU的高帶寬內存（HBM）容量和性能與GPU自身能力之間出現脫節 。 SK海力士表示 ， 這一障礙被稱為\"內存墻\" 。 盡管SK海力士已經開發并領導HBM市場 ， 提供比標準DRAM更高的帶寬內存 ， 但這還不夠 。
總裁兼CEO郭魯正表示：\"我們將成為構建'全棧AI內存'的創造者 ， 作為共同架構師、合作伙伴和生態貢獻者 。 \"
有兩種潛在產品：定制HBM和AI DRAM（AI-D） 。 公司表示\"定制HBM是將GPU和ASIC中的某些功能集成到HBM基板中的產品 ， 以最大化GPU和ASIC的性能 ， 并降低HBM的數據傳輸功耗 。 \"例如 ， 我們了解到它將HMB控制器從連接HBM堆棧到GPU的中介層一端的GPU堆棧移動到另一端的HBM基板芯片中 。
SK海力士、閃迪和美光都在開發HBM4和HBM4E版本 ， 最多支持16層堆棧 。 SK海力士在活動中提到了2029-2031年期間的下一代HBM5和HBM5E技術 。
正在準備三種類型的AI-D：AI-D O（優化）、AI-D B（突破）和AI-D E（擴展） 。
【SK海力士開發AI專用內存技術三重奏】AI-D O是一種低功耗、高性能DRAM ， 有助于降低總擁有成本 。 它使用MRDIMM、SOCAMM2和LPDDR5R技術 。
MRDIMM是多路復用雙列直插式內存模塊 ， 同時操作兩個內存等級以提高內存數據訪問速度 。 SOCAMM2是用于AI服務器的低功耗小型壓縮附加內存模塊 。 它由JEDEC固態技術協會作為開放行業標準（JESD318）開發 ， 而非任何單一公司 。
SK海力士DRAM營銷部門執行副總裁兼負責人李鐘元表示：\"SOCAMM2是AI領域的DDR5殺手——相同容量 ， 一半功耗 ， 雙倍插槽 。 \"他將128GB SOCAMM2（9.6GT/s ， 約10W）與128GB DDR5 RDIMM（5.6GT/s ， 約25W）進行了比較 。
LPDDR5R是低功耗雙倍數據速率5 RAS ， 比傳統LPDDR更可靠 ， RAS代表可靠性、可用性、可維護性 。
AI-D B是SK海力士對內存墻障礙的解決方案 ， 具有\"靈活內存分配的超高容量內存\"特性 。 它包括CMM（計算快速鏈路內存模塊）技術和PIM（內存內處理）技術 。 CMM是連接CPU、GPU、內存和高性能計算系統中其他組件的接口 ， 支持大規模超快速計算 。
SK海力士表示 ， PIM將計算能力集成到內存中 ， 解決AI和大數據處理中的數據移動瓶頸 。
據我們了解 ， AI-D B采用2TB內存刀片 ， 使用16個128GB SOCAMM2模塊 。 每個刀片都是CXL結構NUMA節點 ， GPU操作系統可以看到最多16PB的內存地址空間 ， 最多1000個GPU貢獻其內存容量 。 一個GPU可以根據工作負載需求從這個池中借用備用內存容量來增加其內存容量 。 郭魯正說：\"內存墻是AI擴展的最大障礙 。 AI-D B將打破它 。 \"
AI-D E是一個不太具體的技術理念 。 它指的是在數據中心之外使用包括HBM在內的內存產品 ， SK海力士希望將DRAM的使用案例擴展到機器人、移動性和工業自動化等領域 。
SK海力士正在與英偉達合作開發HBM ， 并通過使用英偉達Omniverse的晶圓廠數字孿生技術提升自身晶圓廠生產力 。 公司表示與OpenAI在高性能內存方面有長期合作 ， 并與臺積電合作開發下一代HBM基板芯片 。 它還與NAVER Cloud合作 ， 為真實數據中心環境優化下一代AI內存和存儲產品 。
可以在這里觀看包括郭魯正在首爾活動上的演講視頻 。 不過 ， 視頻是韓語的 。
Q&A
Q1：什么是內存墻？為什么它會阻礙AI發展？
A：內存墻是指內存性能跟不上GPU發展 ， 導致GPU的高帶寬內存容量和性能與GPU自身能力之間出現脫節的現象 。 這成為AI擴展的最大障礙 ， 因為數據傳輸速度限制了整體系統性能 。
Q2：SK海力士的AI-D技術有哪些類型？各自有什么特點？
A：SK海力士開發了三種AI-D技術：AI-D O是低功耗高性能DRAM ， 幫助降低總擁有成本；AI-D B是超高容量內存 ， 具有靈活內存分配功能 ， 可以打破內存墻；AI-D E是將內存產品擴展到數據中心之外的應用領域 。
Q3：SOCAMM2相比DDR5有什么優勢？
A：根據SK海力士的數據 ， 128GB SOCAMM2相比128GB DDR5 RDIMM具有顯著優勢：相同容量下功耗減半（約10W vs 25W） ， 速度更快（9.6GT/s vs 5.6GT/s） ， 并且支持雙倍插槽數量 。


    推薦閱讀