跳到主要內容

AI 301 · 模組 6

Orchestration Patterns 與 Collaboration Topologies

誰負責協調整個 Multi-Agent System?

開始第一節
已完成 0 / 7
同步我的進度加入梯次後,進度可跨裝置保存,講師也能看到

資訊

加入後,你已完成的模組編號會連同「學員代碼」傳送給講師,講師可以看到你的進度。請使用講師提供的代碼,不要輸入姓名、公司機密或其他個資。進度資料與該梯次的其他資料一起保存。

學習目標

  • 說明六種 Orchestration Pattern:Supervisor / Worker、Planner / Executor、Specialist Team、Peer-to-Peer、Hierarchical 與 Hybrid
  • 區分集中式 Orchestration、分散式 Collaboration 與 Hybrid Orchestration
  • 用八個面向比較 Pattern:控制、彈性、延遲、溝通複雜度、成本、可稽核性、穩健性與權限管理
  • 說明成本、延遲與複雜度的取捨,以及為什麼通常選「足夠且最簡單」的 Pattern
  • 完成活動 6,並產出 Orchestration Pattern Design

Orchestration Patterns

9 分鐘

誰來協調整個系統?

角色、Delegation、訊息與 Shared Context 是零件。Orchestration 是把這些零件安排好,讓團隊像一個系統一樣運作。關鍵的設計問題是:控制權在誰手上?是一個協調者、所有 Agent 一起,還是兩者混合。

核心問題

誰負責協調整個 Multi-Agent System?

安置控制權的三種方式
風格白話意思典型優點
集中式 Orchestration由一個 Agent 或角色指揮其他 Agent,並決定下一步控制清楚,容易稽核
分散式 CollaborationAgent 彼此直接協調,沒有單一指揮者彈性高,沒有單點失效
Hybrid Orchestration整體流程由中央控制,其中允許有界線的 Peer 協作在控制與彈性之間取得平衡

資訊

Topology 是「誰和誰對話」的形狀。接下來三張投影片介紹六種 Pattern,A 到 F。每一種都附有圖示的文字版,看不到圖也能閱讀。

重點: Orchestration 是關於控制權放在哪裡的選擇:集中式、分散式或 Hybrid。

9 分鐘

Pattern A:Supervisor / Worker 與 Pattern B:Planner / Executor

Pattern A:Supervisor / Worker
  1. Supervisor 接收目標並拆分工作
  2. Supervisor 把任務交給 Agent A、Agent B 與 Agent C
  3. 每個 Worker 把結果回傳給 Supervisor
  4. Supervisor 把結果彙整成一份輸出

資訊

Pattern A 的文字版:最上方是一位 Supervisor,其下有三位 Worker:Agent A、Agent B 與 Agent C。箭頭從 Supervisor 向下指向每位 Worker,並有箭頭從每位 Worker 回到一個彙整(Aggregate)步驟。Worker 之間不互相對話,所有協調都經過 Supervisor。
Pattern B:Planner / Executor
  1. Planner 把目標變成 Plan
  2. Executor 執行 Plan 的各個步驟
  3. Executor 回傳 Result
  4. Planner 或 Evaluator 審查 Result,必要時調整 Plan

資訊

Pattern B 的文字版:Planner 產出一份 Plan。Plan 往下交給一個或多個 Executor。它們的 Result 往上回到 Planner 或 Evaluator,後者可能把調整後的 Plan 再往下送。這是一個迴圈:規劃、執行、審查。
各自適合的情況
Pattern適合時機注意事項
A:Supervisor / Worker工作可拆成獨立的部分,最後需要一個彙整的答案Supervisor 會成為瓶頸與單點失效
B:Planner / Executor一開始步驟不明確,需要計畫與審查一份不好的 Plan 會擴散到每一個 Executor
自我檢測

在 Pattern A 中,Worker 通常如何交換資訊?

在 Pattern A 中,Worker 通常如何交換資訊?

重點: Supervisor / Worker 以中樞集中控制。Planner / Executor 把規劃與執行分開,並加上審查迴圈。

9 分鐘

Pattern C:Specialist Team 與 Pattern D:Peer-to-Peer

Pattern C:Specialist Team
  1. Research Agent 蒐集資料
  2. Analysis Agent 解讀資料
  3. Verification Agent 檢查主張與來源
  4. Reporting Agent 撰寫最終輸出

資訊

Pattern C 的文字版:四位專家排成一列,依序是 Research、Analysis、Verification、Reporting。工作由左往右單向流動,每位專家用 Message Contract 交接給下一位。

Pattern D 拿掉中央協調者。Agent 直接彼此對話,自行商量該怎麼做。

資訊

Pattern D 的文字版:四個 Agent,A、B、C 與 D,排成方格。A 與 B 雙向相連,C 與 D 雙向相連。A 與 C 也雙向相連,B 與 D 也雙向相連。任何一個 Agent 都能傳訊息給鄰近的 Agent,沒有單一指揮者。
各自適合的情況
Pattern適合時機注意事項
C:Specialist Team工作是已知的順序,每個階段需要不同的專長順序僵硬,早期的錯誤會沿著流程往下傳
D:Peer-to-Peer問題是開放式的,Agent 交換看法會有幫助訊息量成長很快,較難稽核,也較難分配權限
自我檢測

哪一個 Pattern 沒有單一協調者,讓 Agent 直接互傳訊息?

哪一個 Pattern 沒有單一協調者,讓 Agent 直接互傳訊息?

重點: Specialist Team 是依專長分工的流水線。Peer-to-Peer 很有彈性,但較難控制與稽核。

9 分鐘

Pattern E:Hierarchical 與 Pattern F:Hybrid

Pattern E:Hierarchical
  1. Lead Agent 擁有整體目標
  2. 各 Sub-team Lead 帶領一組專家
  3. Specialist Agent 做細部工作
  4. 結果經由 Sub-team Lead 往上傳回 Lead Agent

資訊

Pattern E 的文字版:共三層。最上層是一位 Lead Agent。其下有數位 Sub-team Lead。每位 Sub-team Lead 之下有一組 Specialist Agent。指示一次往下一層,結果一次往上一層。Specialist 與自己的 Lead 對話,不直接與最上層對話。

Pattern F,Hybrid Orchestration,結合中央控制與有界線的 Peer 協作。由協調者掌握整體流程,但在明確限制內,一小群 Agent 可以直接彼此商量。

資訊

Pattern F 的文字版:最上方有一位中央協調者掌握整體流程。在某一個步驟內,允許兩到三個 Agent 直接互傳訊息。這段交流有上限,例如最多幾輪,結果再回到協調者。
各自適合的情況
Pattern適合時機注意事項
E:Hierarchical系統很大,可以拆成有各自目標的子團隊層數越多延遲越高,上下傳遞的資訊也容易被稀釋
F:Hybrid需要整體控制,但某些步驟適合自由討論界線必須清楚,否則容易滑向失控的 Peer 閒聊

注意

Agent 與層數不是越多越好。每多一個 Agent 或一層,就多一分成本與延遲,也多一分人類必須能審查的內容。
自我檢測

Hybrid Pattern 與純粹的 Peer-to-Peer 有何不同?

Hybrid Pattern 與純粹的 Peer-to-Peer 有何不同?

重點: Hierarchical 靠分層子團隊擴展。Hybrid 混合中央控制與有界線的 Peer 協作。

比較 Pattern

8 分鐘

Orchestration 面向與取捨

要選 Pattern,每次都用同一組面向來比較。沒有任何 Pattern 在八個面向上都勝出。

八個 Orchestration 面向
面向要問的問題
控制是否有一個清楚的地方決定下一步?
彈性團隊面對意外的調適能力如何?
延遲結果準備好之前要經過幾次傳遞?
溝通複雜度需要設計與理解多少訊息與連線?
成本一個任務用掉多少 Agent 呼叫與力氣?
可稽核性人類能否追溯是誰決定了什麼?
穩健性某個 Agent 失敗或出錯時會怎樣?
權限管理要讓每個 Agent 只有所需的存取權限有多容易?
大致傾向(起點,不是規則)
Pattern控制彈性成本與延遲可稽核性
A:Supervisor / Worker高中中,中樞增加傳遞次數高
B:Planner / Executor高中中到高,有審查迴圈高
C:Specialist Team中低低到中,固定流水線高
D:Peer-to-Peer低高高,訊息很多低
E:Hierarchical高中高,層數多中
F:Hybrid中到高中到高中到高中

資訊

表格的文字版:集中式的 A、B 與 E,在控制與可稽核性上偏高,但會增加傳遞次數。Peer-to-Peer 的 D 彈性高,但控制與可稽核性低,訊息成本最高。Specialist Team 的 C 最便宜也最簡單,但彈性最低。Hybrid 的 F 介於其間。
自我檢測

某個任務的階段順序固定且已充分了解,預算也很低。哪一個選擇最合理?

某個任務的階段順序固定且已充分了解,預算也很低。哪一個選擇最合理?

重點: 用同樣的八個面向比較 Pattern,並選擇能滿足需求的最簡單 Pattern。

實作與成果

8 分鐘

活動 6:Choose the Orchestration Pattern

拿一個模擬情境,或你在前面單元設計的 Multi-Agent 團隊,為它選出一個 Orchestration Pattern。

  1. 重述情境
    寫下目標、角色,以及讓這項工作困難的地方。
  2. 列出兩到三個候選 Pattern
    從 Supervisor / Worker、Planner / Executor、Specialist Team、Peer-to-Peer、Hierarchical 與 Hybrid 中挑選。
  3. 依面向比較
    為控制、彈性、延遲、溝通複雜度、成本、可稽核性、穩健性與權限管理評分。
  4. 選擇並說明理由
    選出一個 Pattern,理由至少引用三個面向。
  5. 標出人類檢查點
    標示人類在哪裡審查或核准,特別是高影響的步驟。

注意

隱私提醒:請使用模擬或已公開的情境。請勿輸入公司機密、客戶個資或未經授權的敏感資訊。
自我檢測

哪一種選擇 Pattern 的理由最有力?

哪一種選擇 Pattern 的理由最有力?

重點: 列出候選 Pattern、依面向比較、選擇並說明理由,並標出人類審查的地方。

8 分鐘

Orchestration Pattern Design

把你在活動 6 的選擇整理成一份簡短的設計,讓其他人可以審查。

  1. 寫出 Pattern 與理由
    說明選出的 Pattern 與主要理由。
  2. 用文字描述 Topology
    寫出誰和誰對話,以及控制權在哪裡。除了圖之外,一定要附文字描述。
  3. 說明接受的取捨
    註記你接受的成本、延遲與複雜度,以及放棄了什麼。
  4. 加入人類監督點
    列出人類在哪裡審查並負起責任。

資訊

成果:Orchestration Pattern Design。內容包括情境、候選 Pattern、依八個面向所做的比較、選出的 Pattern 與理由、Topology 的文字描述、接受的取捨,以及人類監督點。請保留,稍後放進你的 Multi-Agent Architecture Canvas。
自我檢測

為什麼 Topology 除了圖,還要附上文字描述?

為什麼 Topology 除了圖,還要附上文字描述?

重點: 在你的 Orchestration Pattern Design 中記錄 Pattern、以文字描述的 Topology、接受的取捨與人類監督點。

接下來做什麼?