運算記憶體整合Chiplet應用於邊緣自然語言裝置
發布日期:115/04/09
聚焦AI運算晶片及矽智財開發,結合國內半導體設計、製造業者,建立國內自主且易於銜接既有產品之應用生態,開發出運算與記憶體整合小晶片(Chiplet),解決記憶體頻寬限制並滿足大型語言模型AI 運算,並在既存晶片產品下,快速升級成具備語言模型運算功能,讓生成式AI產品能快速滲透到各式產品中。
為突破生成式AI運算中大量資料存取,高速資料交換需求,開發自主化運算晶片、記憶體及整合技術,並紓解High Bandwidth Memory(HBM)取得不易及價格高昂導致普及不易問題。本技術運用AI運算與記憶體小晶片堆疊技術,開發垂直高速傳輸矽智財,將資料傳輸路徑縮短提升速度;並透過專用型生成式AI運算單元及分散式記憶體管理矽智財,將龐大的生成式AI模型參數於小晶片堆疊中就地運算處理;效能面可實現生成式AI運行頻寬提升8倍、能耗降低90%,並大幅降低成本。其中整合了國內晶片及記憶體設計、製造,並結合產品應用建立生態系,帶動臺灣半導體產業在AI應用中建立市場主導權。供應面可取代高成本HBM,補足矽中介層產能缺口,強化成熟製程的應用利基,並結合中小IC設計公司與新創企業的創新能量,推動AI晶片在可攜式及邊緣市場落地,提升供應鏈韌性,強化全球競爭優勢。
自113年起,晶創計畫成果已逐步導入國內業界,包括AI晶片、矽智財及軟硬體設計方案,並攜手產業合作開發新一代生成式AI晶片。工研院亦積極串聯臺灣人工智慧晶片聯盟(AITA),共同推動生成式AI產業化,促進推論晶片國產化,協助國內廠商切入AI加速晶片市場,拓展臺灣在AI晶片與異質整合技術上之競爭力。
晶創計畫研發成果已於2025 Computex協同廠商進行產品概念發表,展示產品架構及應用場景,吸引來自國內外廠商、專家熱烈交流,強化臺灣於半導體、AI與高效運算領域的國際鏈結與技術影響力。未來將持續結合產學研資源,配合政府政策工具,協助國內業者突破AI晶片設計瓶頸、加速產品開發與應用落地,建構自主AI生態系,引領臺灣邁向智慧科技新時代。
資料來源:經濟部