計畫名稱
兼具本土與永續輕量智慧代理技術研發:跨模態語言模型至邊緣部署之整合架構
計畫目標
本計畫對以下三大挑戰,提出一套整合性的解決方案。
(1) 技術主權的威脅與建立自主核心之必要過去,我國AI發展高度依賴由國外巨頭所建構的模型與平台。此種依賴不僅使我們在技術發展上受制於人,更在資料治理與文化適應性上潛藏著深遠的危機。
(2) 永續發展的壓力與綠色AI的需求大型 AI 模型的訓練與推論過程需要龐大的算力支援,其所耗費的能源已成為全球性的新興環境議題,其原因在於大型語言模型本身龐大的參數量。
(3) 前瞻應用的安全挑戰與可信賴 AI 的建構隨著 AI 從雲端走向終端,以檢索增強生成 (Retrieval Augmented Generation, RAG) 和 AI 代理人 (Agent) 為代表的新型態架構,正快速導入教育、醫療等與民生高度相關的場域。然而,其應用安全風險也日益凸顯。
計畫概述
智慧農業神農代理人本計畫整體聚焦於建構台灣本土可控的輕量化 大語言模型基礎設施,同時推動其在教育與智慧能源場域的落地應用,打造可信賴 、可部署、永續發展的AI技術體系。本計畫涵蓋以下四個子計畫,分別對應AI自主、強健、安全與綠能的四大面向:
子計畫一:台灣社群輕量化大語言模型 目標在於建構具多語能力、低資源可運行的本土大語言模型,結合混合專家與線性 注意力機制,實現本地訓練、即時檢索與高效生成。
子計畫二:主權模型驗證與安全強健性建構 著重於模型智慧財產的保護與 RAG 系統的對抗安全性,提出新一代浮水印技術 CuSphere 與針對語意檢索的細粒度攻擊防禦機制。
子計畫三:AI 教育代理之本土化應用與教練式任務執行框架 發展具備任務導向能力與可解釋性的本地教育 AI 代理人,結合指令微調、多代理協 作與 RAG 技術,提升教育AI的在地適應與實務應用性。
子計畫四:壓縮與量化語言模型於邊緣綠色部署與智慧能源場域落實 聚焦模型壓縮、量化與終端部署,結合 SVD 與知識蒸餾技術,促進AI模型在低功耗 環境下的部署能力,落實綠色 AI 與永續應用。
透過上述四子計畫的緊密協作,本計畫將從模型核心研發延伸至安全機制與場域應 用,形成完整 AI 技術鏈,進一步強化台灣在新世代主權AI與智慧應用領域中的自主 與競爭力。
