半導體
力積電攜手十家台灣半導體供應商,主攻邊緣AI
Computex登場前夕,力積電攜手十家台灣半導體產業鏈供應商:愛普、晶豪、工研院、智成、Skymizer、滿拓、Zentel、力晶微元等,一起全力推廣邊緣運算edgeAI,共同推出3D AI半導體解決方案,瞄準語言模型推論和影像辨識兩大AI應用市場,從IP、IC設計服務、高頻寬記憶體架構、存算整合架構、電源管理晶片到晶圓堆疊、3D封裝等不同層次的技術展示,凸顯台灣以半導體科技為核心,助力全球AI業界發展高效能、低功耗、低成本的創新應用。
力積電在Wafer-on-Wafer晶圓堆疊與3D封裝領域耕耘多年,今年與以下的合作夥伴在Computex展中共同以3D AI半導體解決方案為主題設置展覽專區:
愛普:
提出適合用在AI與HPC應用的VHM技術,透過WoW的多點IO連結,以及愛普自訂的通訊協定,每GB的VHM可以提供超過4TB/s的頻寬並且擁有極為出色的耗能表現。VHMStack為多層堆疊架構的VHM解決方案,提供可擴展的頻寬與容量,滿足SoC對高效能的需求。再者,VHMInterposer與SoC以3D堆疊方式整合,可以保留 VHM的高頻寬優勢,同時具備 Silicon Interposer 的繞線能力。 VHMInterposer每10平方毫米可提供超過1.2GB的記憶體容量,並可整合S-SiCap,進一步強化 SoC 的電源及訊號完整性。
晶豪:
針對本地AI推論需求推出次世代aiPIM技術,搶攻AI 3D記憶體運算市場。晶豪的aiPIM(AI Processing-in-Memory)架構技術,以儲存運算一體化的3D晶片結構,象徵晶豪科進軍 AI 邊緣運算晶片市場的關鍵里程碑,目標打造具備高整合、高頻寬與低功耗 的在地普惠AI運算平台。aiPIM 技術是由晶豪科技主導,藉由與工研院與力積電提供的先進製程與 3D 堆疊代工技術,成功實現記憶體模組與 AI 核心的垂直整合,大幅減少資料搬移延遲,實現在記憶體內直接運算(in-memory computing)的目標。使用者甚至不需要更換舊的CPU,只需要外接新款的aiPIM記憶體,便可以瞬間獲得高效能的AI模型加速。
在市場應用方面,晶豪的aiPIM將導入至智慧相機、物聯網節點、智慧音箱、可攜式裝置等應用場景。未來也將針對工業監控、醫療影像、及私有化語音助手等AI模型提供專用記憶體模組,協助客戶實現邊緣AI即時處理與資料隱私保障的雙重需求。
Zentel:
針對邊緣AI運算的高頻寬、低功耗需求展出RD-LE-HBM(Right-Density, Low-Energy, High-Bandwidth Memory),是一款專為邊緣AI應用設計的記憶體產品。Zentel利用力積電的先進堆疊技術和數十年的記憶體生產經驗,提供「Right-Density」、「Low-Energy」和「High-Bandwidth」記憶體產品,將讀寫資料的傳輸距離盡可能縮短,從而實現高帶寬和低能耗的目標。此記憶體產品將為邊緣AI應用提供更高效、更低延遲、更低能耗的解決方案,進一步推動邊緣AI的發展和應用。
Skymizer:
展示HyperThought高效AI加速器 IP。HyperThought是 Skymizer最新一代 AI 加速器 IP,建構於指令集 LISA v3 架構上,原生支援 Multimodal推論與Agentic Workflow,具備高擴展性與 SoC 整合彈性,適用於行動、車載與嵌入式平台。
HyperThought 的關鍵優勢之一在於記憶體與頻寬的高度最佳化,其軟硬體協同設計平台能平衡運算吞吐與資源瓶頸,透過智慧記憶體調度與低精度運算(INT8/FP16),在有限頻寬下提升效率,支援多模型同時執行與即時反應,特別適用於邊緣裝置部署。
滿拓:
展示優化語言模型的AI IP新一代生成式 AI 解決方案,聚焦於專為大型語言模型LLM設計的高效 AI IP,加速文本理解、語音處理與影像生成等多模態任務。AI IP 針對記憶體存取深度優化,即使在低頻寬環境下仍能維持穩定高效的運算效能,展出內容亦涵蓋高效訓練伺服器與完整工具鏈,協助企業簡化模型訓練與部署流程,強化生成式 AI 在不同應用場景中的導入效率與靈活性。
工研院:
展示與力積電合作的MOSAIC 3D AI 晶片展現透過3D堆疊實現存算一體的創新成果。目前關鍵記憶體存取技術就是HBM,但因製作工序複雜且價格高貴,僅限用於高階伺服器產品。工研院與力積電合作研發全球首款將邏輯運算和記憶體整合在一起,設計出可彈性延伸的3D堆疊技術「MOSAIC 3D AI 晶片」,使晶片間的傳輸距離從微米(um)大幅縮短至奈米(nm),產生的熱能也僅十分之一,成本也僅五分之一。此技術具有模組化、多層次、易於擴展的優勢,可滿足各類型AI產品的應用需求,從攜帶式終端、邊緣運算裝置到HPC伺服器,實現GAI無所不在的願景。
智成:
利用晶圓堆疊將ARM處理器與DRAM整合的IC Design Service House。做出全球第一顆成功結合ARM Ethos-U65 NPU和Cortex-M55,並採用3D Wafer-on-Wafer(WoW)的IC設計公司。智成電子提供客戶獨特的DRAM Controller IP、3D WoW IC設計,到生產製造和封裝測試的一站式Turnkey服務,確保每款晶片設計皆符合最高標準。