組合式 AI (Composite AI) 架構指南：Multi-Agent 與混合智慧

一、什麼是組合式 AI？從單一模型到系統架構的範式轉移

過去三年，企業 AI 導入的主流敘事圍繞著一個簡單的邏輯：選擇一個「最強的」大型語言模型（LLM），部署到業務場景中，期待它解決所有問題。這種「Single-model-fits-all」的思維在概念驗證（PoC）階段往往表現不錯——GPT-4 或 Claude 確實能在聊天機器人、文件摘要、翻譯等通用任務上展現驚人的能力。然而，當企業試圖將這些單一模型推進到真正的生產環境時，一系列結構性問題浮現：模型在特定領域的準確率不足、缺乏可解釋的推理過程、無法與企業既有的規則系統整合、在需要多步驟協調的複雜流程中容易「迷失」。

Gartner 在其 2026 年十大策略性技術趨勢報告中^[1]，將組合式 AI（Composite AI）定義為：「一種將多種 AI 技術與非 AI 技術進行模組化組合的架構方法，以解決單一技術無法有效處理的複雜業務問題。」這個定義的關鍵不在於任何單一技術的突破，而在於架構層面的思維轉換——從「找一個最強的模型」轉變為「設計一個最適合的系統」。

組合式 AI 的核心技術元件包括但不限於：

• 大型語言模型（LLM）：提供自然語言理解、生成、以及通用推理能力
• 知識圖譜（Knowledge Graph）：以結構化圖形表示領域知識、實體關係與業務規則^[4]
• 規則引擎（Rule Engine）：編碼確定性的業務邏輯、法規約束與流程規範
• 電腦視覺（Computer Vision）：處理影像與影片中的視覺資訊
• 最佳化演算法（Optimization）：求解排程、路徑規劃、資源配置等數學最佳化問題
• 傳統機器學習（Classical ML）：處理結構化數據的分類、迴歸、異常偵測等任務

這些技術各有其不可替代的優勢與固有的侷限。LLM 善於理解語義但容易幻覺；知識圖譜精確但需要人工維護；規則引擎確定性高但缺乏彈性。組合式 AI 的精髓在於：讓每種技術發揮其最強項，同時用其他技術補償其弱項。這不是一種妥協，而是一種系統工程的智慧。

與單一模型方法的根本差異

為了更清楚地理解組合式 AI 的價值定位，以下從六個維度比較組合式 AI 與單一 LLM 方法的差異。

二、Multi-Agent 系統：組合式 AI 的旗艦實現方式

如果說組合式 AI 是一種架構哲學，那麼 Multi-Agent 系統就是這種哲學最具體、最活躍的技術實現。Multi-Agent（多代理人）系統的核心概念是：將一個複雜任務分解為多個子任務，由各自專精的 AI 代理人協同完成，每個代理人可以使用不同的模型、工具和知識庫。

Agent 的定義與架構

Anthropic 在其 2025 年的技術文件^[3]中，將 Agent 定義為一種「能夠自主規劃、使用工具、並根據環境回饋調整行動的 AI 系統」。與簡單的 LLM 對話不同，Agent 具備三個關鍵能力：環境感知（透過工具讀取外部資訊）、行動規劃（將目標分解為可執行的步驟序列）、自主迭代（根據執行結果判斷是否需要調整計畫）。

當多個這樣的 Agent 被組織成一個協同系統時，就形成了 Multi-Agent 架構。Wu 等人在 AutoGen 論文中^[2]展示了一種基於多代理人對話的框架，讓多個 Agent 透過結構化的對話協議協同完成複雜任務——例如一個 Agent 負責撰寫程式碼、另一個負責審查、第三個負責執行測試，形成一個自動化的軟體開發團隊。

Multi-Agent 的主流架構模式

根據代理人之間的組織關係，Multi-Agent 系統可分為三種主流架構模式：

模式一：階層式（Hierarchical）。設定一個「Orchestrator Agent」（編排者）作為總指揮，負責接收使用者任務、分解為子任務、分派給專精的 Worker Agent 執行，並匯總結果。這是最常見的企業級架構，因為它的控制流清晰、易於監控和除錯。CrewAI^[6] 框架即以此模式為基礎，允許開發者定義角色（Role）、目標（Goal）和工具（Tools），由框架自動編排代理人的協作流程。

模式二：對等式（Peer-to-Peer）。所有 Agent 地位平等，透過共享的訊息匯流排（Message Bus）進行通訊。每個 Agent 監聽特定類型的事件，並根據自身能力決定是否響應。這種模式的彈性最高，適合需要動態擴展的場景，但控制流較難追蹤。AutoGen^[2] 的「Group Chat」模式即屬此類。

模式三：管線式（Pipeline）。Agent 以固定的順序串聯，前一個 Agent 的輸出作為下一個的輸入，形成一條處理管線。這種模式最適合工作流程固定且步驟明確的場景——例如文件處理管線：OCR Agent → 分類 Agent → 摘要 Agent → 品質審查 Agent → 歸檔 Agent。

Multi-Agent 在組合式 AI 中的角色

Multi-Agent 系統之所以是組合式 AI 的旗艦實現方式，在於它天然地支持異質技術的整合。在一個 Multi-Agent 系統中，不同的 Agent 完全可以使用不同的底層技術：Reasoning Agent 使用 OpenAI o3 進行深度推理、Retrieval Agent 使用知識圖譜 + 向量資料庫進行混合檢索、Validation Agent 使用規則引擎進行合規驗證、Vision Agent 使用電腦視覺模型處理影像。每個 Agent 是一個獨立的技術封裝單元，Agent 之間透過統一的通訊協議交換結構化的資訊——這正是組合式 AI「模組化組合多種技術」理念的最佳體現。

Anthropic 的技術指南^[3]強調了一個實務原則：不要為了使用 Multi-Agent 而使用 Multi-Agent。如果一個簡單的 LLM chain 加上幾個 tool call 就能解決問題，那就不需要引入多代理人的複雜度。Multi-Agent 的價值在於處理那些需要多種專業能力協同、且存在非平凡的協調邏輯的場景。

三、知識圖譜 + LLM：結構化知識與語義理解的融合

組合式 AI 的第二個核心架構模式是知識圖譜與大型語言模型的整合。Pan 等人在 IEEE TKDE 發表的權威路線圖論文^[4]中，系統性地歸納了 LLM 與知識圖譜（KG）之間三種整合方式，這三種方式恰好對應了組合式 AI 的不同設計取向。

三種整合模式

模式一：KG 增強 LLM（KG-enhanced LLM）。將知識圖譜作為 LLM 的外部知識來源，在推論階段注入結構化的事實知識。GraphRAG^[7] 是這種模式的典型代表——它透過自動建構知識圖譜並結合社群摘要，讓 LLM 在生成回答時能夠存取全域性的結構化知識，而非僅依賴向量語義相似度。這種模式的最大價值在於大幅減少 LLM 的幻覺：當模型的回答可以錨定在明確的知識圖譜事實上時，胡編亂造的空間被壓縮。

模式二：LLM 增強 KG（LLM-enhanced KG）。利用 LLM 的語言理解能力自動化知識圖譜的建構與維護。傳統知識圖譜的建構高度依賴領域專家的人工標註，成本極高且難以規模化。LLM 改變了這個局面：它可以從非結構化文本中自動抽取實體與關係、解析同義詞、推斷隱含的語義連結，將知識圖譜的建構成本降低一至二個數量級。

模式三：LLM-KG 協同推理（Synergized LLM + KG）。LLM 和知識圖譜在推理過程中交替運作——LLM 根據使用者問題在知識圖譜上進行「圖上推理」（Graph Reasoning），沿著實體關係鏈逐步探索答案，當圖譜資訊不足時再調用 LLM 的生成能力進行推斷。這種模式最接近人類專家的推理方式：在已知事實的基礎上進行邏輯推演，而非憑空生成。

企業級 KG + LLM 架構設計

在企業級的組合式 AI 架構中，知識圖譜 + LLM 的整合通常遵循以下架構層次：

數據層：企業內部的結構化資料（ERP、CRM、MES）與非結構化文檔（合約、規範、報告）作為知識來源。

圖譜建構層：LLM 驅動的自動化管線從數據層抽取實體、關係與屬性，持續更新圖資料庫（如 Neo4j 或 Amazon Neptune）中的知識圖譜。

檢索融合層：結合知識圖譜的結構化查詢（Cypher / SPARQL）與向量資料庫的語義檢索，形成混合檢索策略。GraphRAG^[7] 的 Local Query 和 Global Query 雙模機制即在此層運作。

推理層：LLM 根據檢索融合層提供的結構化知識與原始文本上下文，進行推理與回答生成。知識圖譜中的事實作為「硬約束」限制 LLM 的輸出空間，規則引擎對輸出進行最終合規驗證。

四、Neuro-symbolic AI：神經網路與符號推理的第三波浪潮

如果 Multi-Agent 是組合式 AI 在系統層面的實現方式，那麼 Neuro-symbolic AI 就是在演算法層面的核心理論基礎。Garcez 和 Lamb 在其具有里程碑意義的論文^[5]中，將 AI 的發展劃分為三波浪潮：第一波是以專家系統為代表的符號主義 AI（1950s-1990s），擅長邏輯推理和知識表示，但無法從數據中學習；第二波是以深度學習為代表的連結主義 AI（2010s-），擅長模式識別和從數據中學習，但缺乏可解釋的邏輯推理能力；第三波即 Neuro-symbolic AI，融合了兩者的優勢。

為何企業需要 Neuro-symbolic AI？

純神經網路方法（包括最先進的 LLM）面臨四個企業級應用的根本挑戰。

第一，可解釋性不足。當一個 LLM 拒絕核准一筆貸款申請時，它無法提供符合法規要求的拒絕理由追溯鏈。金融監管機構要求的是「因為申請人的負債比超過 X%，且信用評分低於 Y，根據《銀行法》第 Z 條」這樣的結構化推理路徑，而非 LLM 的「根據綜合評估判斷」。

第二，確定性保證。在藥物交互作用檢查、航空維修決策、核電廠安全評估等場景中，系統必須保證在相同輸入條件下永遠產出相同的結論。LLM 的隨機性本質使其無法單獨滿足此要求。

第三，資料效率。深度學習模型通常需要大量標註數據才能學會新領域的知識。但在醫療罕見疾病診斷、軍事裝備故障分析等場景中，歷史案例極其稀少。符號系統可以從少量規則和知識中進行精確推理，不依賴海量數據。

第四，知識遷移。當業務規則改變時（例如新法規上路），神經網路需要重新訓練或微調，而符號系統只需更新規則庫——改變即時生效，無需模型訓練週期。

Neuro-symbolic AI 的實現架構

在組合式 AI 的架構中，Neuro-symbolic AI 的整合通常採用以下設計模式：

「Neural Frontend + Symbolic Backend」模式。前端使用神經網路（LLM 或電腦視覺模型）處理非結構化輸入——理解使用者的自然語言查詢、辨識影像中的物件、將語音轉為文字。後端使用符號系統（知識圖譜 + 規則引擎）進行邏輯推理和決策。兩者之間透過一個「Grounding Layer」（接地層）進行橋接：將神經網路的軟性輸出（概率、語義向量）轉換為符號系統可處理的硬性輸入（結構化實體、邏輯命題）。

「Symbolic Guardrail」模式。LLM 作為主要的推理與生成引擎，但其輸出在到達使用者之前，必須通過符號系統的驗證層。驗證層檢查 LLM 的輸出是否符合預定義的業務規則、邏輯一致性和法規約束。若違反任何規則，系統拒絕該輸出並要求 LLM 重新生成，或直接以符號系統的確定性結果覆蓋 LLM 的輸出。

「Interleaved Reasoning」模式。神經網路和符號系統在推理過程中交替運作。例如，在醫療診斷場景中：LLM 先根據病患主訴生成初步假設（神經推理）→ 知識圖譜查詢該假設相關的症狀和檢驗指標（符號查詢）→ LLM 根據查詢結果和病歷資料精煉假設（神經推理）→ 規則引擎檢查最終診斷是否符合醫學指引（符號驗證）。

五、台灣企業的組合式 AI 導入實踐

資策會 MIC 的 2026 年研究報告^[9]指出，台灣企業對組合式 AI 的認知正在從「單純了解」快速轉向「積極導入」。IDC Taiwan 的市場預測^[10]更進一步估計，2026 年台灣企業在組合式 AI 相關技術上的投資將較 2025 年成長超過 180%。以下是三大產業的代表性導入案例。

製造業：智慧品質檢測與排程最佳化

台灣半導體及電子零組件製造業率先擁抱了組合式 AI 的架構思維。典型的智慧工廠品質檢測系統整合了三種以上的 AI 技術：電腦視覺模型即時偵測晶圓表面的微觀缺陷、傳統 ML 模型（如 XGBoost）根據製程參數預測缺陷發生機率、知識圖譜儲存設備-製程-缺陷之間的因果關係、規則引擎根據品質標準自動判定是否需要停機檢修。這些技術元件由一個 Orchestrator 系統統一協調，形成一條完整的品質管理管線。

在排程最佳化領域，組合式 AI 的價值更為顯著。傳統的 LLM 無法求解大規模的數學規劃問題（如數百台機台、數千筆訂單的排程最佳化），而純最佳化演算法又無法理解非結構化的排程約束（如「客戶 A 的急件必須在週三前出貨，但設備 B 的 PM 排在週二」）。組合式 AI 的做法是：LLM 解析自然語言的排程需求並轉換為結構化約束 → 知識圖譜提供設備能力與物料依賴關係 → 最佳化引擎（如 OR-Tools 或 Gurobi）求解最優排程方案 → LLM 將方案翻譯為人可閱讀的排程報告。這種人機協作的排程系統，其效率較純人工排程提升 30-50%，且較純最佳化方案更能適應臨時變更。

金融業：智慧風控與法規遵循

台灣金融業是組合式 AI 導入最積極的產業之一，主要驅動力來自兩個面向：一是金管會對 AI 應用的監管要求（可解釋性、審計軌跡、公平性），二是國際反洗錢（AML）合規的壓力。

一家台灣大型銀行的反洗錢系統採用了典型的 Neuro-symbolic AI 架構：傳統 ML 模型（隨機森林 + 圖神經網路）負責從交易數據中偵測異常模式和關聯網路、知識圖譜儲存實質受益人（UBO）的持股關係與受制裁名單的關聯、規則引擎編碼金管會的洗錢態樣定義與申報門檻、LLM 負責自動撰寫可疑交易報告（STR）並根據調查官的自然語言查詢進行案件說明。這個系統將誤報率降低了 45%（因為知識圖譜提供的結構化關係減少了不必要的警報），同時將報告撰寫時間從平均 90 分鐘縮短至 15 分鐘。

在授信審核場景中，組合式 AI 讓銀行可以同時滿足效率與合規的要求：LLM 自動解析借款人提交的財報和營運計畫書、知識圖譜查詢借款人與其關係人的交叉持股及關聯交易歷史、信用評分模型計算違約機率、規則引擎根據《銀行法》和內部授信政策產出符合法規的審核建議。整個流程產出完整的推理軌跡，可供稽核單位追溯。

醫療產業：輔助診斷與臨床決策支援

醫療產業是組合式 AI 價值最高但導入門檻也最高的領域。台灣的醫療 AI 新創與大型醫學中心正在探索一種「Human-in-the-Loop 組合式 AI」架構，核心設計原則是：AI 輔助但不替代醫師的臨床決策。

一個典型的臨床決策支援系統（CDSS）整合了以下技術元件：醫學影像 AI（如胸部 X 光的結節偵測模型、病理切片的細胞分類模型）提供視覺診斷輔助、醫學知識圖譜（基於 SNOMED CT 和 ICD-11 本體）提供疾病-症狀-藥物的結構化關聯、藥物交互作用規則引擎根據藥典數據庫自動檢查處方安全性、LLM 根據病歷摘要和上述系統的輸出，為醫師生成結構化的鑑別診斷報告和治療建議參考。

這種架構的關鍵設計在於每個技術元件的責任邊界明確：影像 AI 負責「看」、知識圖譜負責「知」、規則引擎負責「把關」、LLM 負責「說」——而最終的診斷決策權永遠在醫師手中。這種責任分工不僅符合醫療 AI 的倫理要求，也讓系統在出錯時能夠明確追溯問題出在哪個技術環節。

六、組合式 AI 的架構設計原則與實務建議

基於全球企業的最佳實踐與台灣產業的落地經驗，我們歸納出組合式 AI 架構設計的六大核心原則。

原則一：模組化與鬆耦合

每個 AI 技術元件應被設計為獨立的服務（Microservice），透過標準化的 API 介面進行通訊。這意味著：LLM 可以從 GPT-4 替換為 Claude 或私有化部署的開源模型，而不影響其他元件；知識圖譜可以從 Neo4j 遷移至 Amazon Neptune，而上層應用無需修改；新的技術元件（如一個新的電腦視覺模型）可以隨時插入架構，只需實作約定的 API 介面。

原則二：分層治理與責任邊界

組合式 AI 架構應明確劃分三個治理層次：感知層（Perception）負責理解輸入——NLP、電腦視覺、語音辨識；認知層（Cognition）負責推理決策——LLM 推理、知識圖譜查詢、規則引擎判定；行動層（Action）負責執行輸出——API 調用、資料寫入、報告生成。每一層的技術元件有其明確的責任範圍和錯誤處理機制，當系統產出錯誤結果時，可以精確定位問題出在哪一層的哪一個元件。

原則三：漸進式導入，從簡單組合開始

不要試圖一次建構一個完美的組合式 AI 系統。建議的導入路徑是：

Phase 1 — LLM + 規則引擎（1-3 個月）：在現有的 LLM 應用上疊加規則引擎作為輸出驗證層。這是最低成本的組合，但能立即解決 LLM 幻覺和合規問題。

Phase 2 — 加入知識圖譜（3-6 個月）：以 LLM 自動化建構領域知識圖譜，並整合至 RAG 架構中（即 GraphRAG）。這一步顯著提升系統的知識深度和跨文件推理能力。

Phase 3 — Multi-Agent 編排（6-12 個月）：將不同的技術元件封裝為獨立的 Agent，引入 Orchestrator 進行統一編排。這一步實現端到端的業務流程自動化。

Phase 4 — 持續最佳化與擴展（12 個月以上）：根據生產環境的回饋持續調整各元件的配置、引入新的技術元件（如最佳化引擎、電腦視覺模型）、建構自動化的效能監控與 A/B 測試機制。

原則四：統一的可觀測性架構

組合式 AI 系統的除錯複雜度遠高於單一模型。當系統產出不正確的結果時，問題可能出在 LLM 的推理、知識圖譜的資料品質、規則引擎的邏輯、Agent 之間的通訊，或這些環節的任意組合。因此，必須建構統一的可觀測性（Observability）架構——包括分散式追蹤（Distributed Tracing，記錄每個 Agent 的輸入、輸出和執行時間）、指標監控（Metrics Monitoring，追蹤各元件的準確率、延遲和成本）、以及日誌聚合（Log Aggregation，集中管理所有元件的執行日誌）。

原則五：人機協作的設計模式

組合式 AI 不是要完全取代人類決策者，而是要建構一個人機協作的增強決策系統。在架構設計上，這意味著在關鍵決策節點設置「Human-in-the-Loop」斷點——系統在高風險或低信心的決策上暫停執行、呈現推理過程和備選方案、等待人類審核者的確認後再繼續。這種設計不僅是倫理要求，也是實務必要：在系統尚未累積足夠的領域經驗之前，人類專家的判斷仍是不可或缺的品質保證。

原則六：資料治理先行

組合式 AI 架構的複雜度在於多種技術元件共享和交換數據。資料治理必須在架構設計之初就納入考量：定義清晰的數據所有權（哪個團隊負責哪些知識圖譜的品質）、建立數據品質的量化指標（圖譜覆蓋率、關係準確率、規則庫完整性）、以及制定數據隱私的分級策略（哪些數據可以傳給雲端 LLM、哪些必須在地端處理）。McKinsey 的調查^[8]發現，AI 專案失敗的最常見原因不是演算法問題，而是資料問題——這個教訓在組合式 AI 的語境下更加重要。

七、組合式 AI 的技術成熟度與未來展望

資策會 MIC^[9] 和 IDC Taiwan^[10] 的研究共同指出，組合式 AI 在 2026 年正處於從「早期採用」邁向「主流應用」的關鍵轉折點。以下是五個值得關注的技術趨勢。

趨勢一：Agent 框架的標準化與互操作性。目前 Multi-Agent 生態系中存在大量的框架——AutoGen^[2]、CrewAI^[6]、LangGraph、Semantic Kernel 等——但彼此之間缺乏統一的通訊協議和 Agent 描述標準。Anthropic 提出的 Model Context Protocol（MCP）和 Google 的 Agent2Agent 協議正在朝標準化邁進。預計 2026 年下半年將出現更成熟的跨框架互操作方案。

趨勢二：知識圖譜的自動化運維。知識圖譜的最大痛點不是初始建構，而是持續維護——業務知識不斷更新，圖譜必須同步反映這些變化。LLM 驅動的自動化圖譜維護管線（變更偵測 → 增量更新 → 一致性檢查 → 版本管理）將在 2026 年逐步成熟，大幅降低知識圖譜的長期運維成本。

趨勢三：邊緣端的組合式 AI。隨著端側 AI 晶片（如 Apple Neural Engine、Qualcomm Hexagon NPU）的算力提升，部分組合式 AI 的技術元件將可部署在邊緣裝置上——例如工廠端的電腦視覺模型 + 輕量規則引擎，僅在需要深度推理時才調用雲端的 LLM。這種混合部署架構將顯著降低延遲和網路頻寬需求。

趨勢四：組合式 AI 的自動架構搜索。當前的組合式 AI 架構設計高度依賴人類架構師的經驗。未來可預見的方向是：利用 Meta-Agent 自動搜索最適合特定業務場景的技術元件組合和連接方式——類似於 AutoML 對模型超參數的自動搜索，但層次更高，搜索的是架構級的設計決策。

趨勢五：法規驅動的 Neuro-symbolic AI 需求。歐盟 AI Act 和台灣正在研擬的 AI 基本法均要求高風險 AI 系統具備可解釋性和可審計性^[9]。這將直接推動 Neuro-symbolic AI 的需求——因為純神經網路方法在現行法規框架下很難滿足可解釋性的要求，而組合式 AI 中的符號元件天然具備推理軌跡的可追溯性。

八、結語：從技術堆疊到智慧系統的進化

組合式 AI 不是一種新的 AI 技術，而是一種新的 AI 架構思維。它承認一個被產業長期忽視的事實：沒有任何單一 AI 技術能夠獨自解決企業面臨的複雜問題。LLM 的語義理解再強，仍需要知識圖譜的結構化知識來錨定事實；深度學習的模式識別再準，仍需要規則引擎的確定性邏輯來保障合規；單一 Agent 的推理能力再優秀，仍需要多代理人的分工協作來處理端到端的業務流程。

對台灣企業而言，組合式 AI 的導入不應被視為一次性的技術投資，而應被視為一個持續演進的架構建設過程。Gartner^[1] 的建議是：從當前最具痛點的業務場景出發、選擇最少的技術元件組合來解決該場景、在驗證 ROI 後再逐步擴展元件和場景。這種「Minimum Viable Composition」的策略，遠比一次性建構大而全的 AI 平台更務實、風險更低。

2026 年的 AI 競爭已不再是「誰有最強的模型」，而是「誰能最有效地組合多種 AI 技術來解決真實的業務問題」。組合式 AI 正是通往這個目標的架構方法論。那些率先掌握組合式 AI 設計能力的企業，將在接下來的 AI 落地競賽中取得結構性的優勢。