隨著人工智慧(AI)模型規模從數十億參數急遽膨脹至數兆參數,處理器與記憶體之間的數據傳輸,已成為系統功耗、延遲與發熱的主要元兇。為了突破這項瓶頸,矽谷半導體公司 TetraMem 與南韓半導體大廠 SK海力士展開深度合作,探索全新的運算架構。
雙方發表的最新研究論文名為「具備高效深度可分離卷積的憶阻器記憶體內運算系統單晶片」,並成功榮登知名學術期刊《先進智能系統》(Advanced Intelligent Systems)的封面故事。這項技術採用類比記憶體內運算(A-IMC)架構,直接在模型權重所在的記憶體位置進行矩陣運算,徹底減少數據搬移,大幅提升系統級的效能與能源效率。
TetraMem 執行長 Glenn Ge 表示,隨著 AI 持續演進,未來的突破不僅需要運算能力的提升,更需要記憶體與系統架構的創新。他相信,以記憶體為中心的運算與類比記憶體內運算,將成為解決未來 AI 能效與散熱挑戰的關鍵技術。
SK海力士副總裁 Soo Gil Kim 也對此次合作成果表示肯定,指出這項專案展現了為未來 AI 系統探索創新記憶體技術與全新運算架構的價值。雙方未來將持續在記憶體技術、運算架構與系統整合上深化合作,以因應下一代 AI 基礎設施對高效能、低功耗及永續運算的需求。