90 分鐘
影子模式:先看不動手
影子模式(shadow mode)讓 AI 針對真實案件產出判斷,但不直接影響案件處理結果,人工流程照常進行。這個階段的目的是在零風險的情況下,觀察 AI 判斷與人工實際處理之間的一致程度。
影子模式的記錄重點| 項目 | 說明 |
|---|
| 一致案件比例 | AI 判斷與人工最終處理結果相符的案件比例,依 SYN-CS-001 六種案件類別分別統計 |
|---|
| 分歧案件 | AI 判斷與人工不一致的案件,逐筆記錄分歧原因(不是只記錄「不一致」三個字) |
|---|
| 高風險案件表現 | restricted_access、no_answer 等高風險類別的 AI 表現是否特別不穩定 |
|---|
| 系統穩定度 | 影子模式期間是否出現工具失效或延遲,作為進入下一階段前的技術風險指標 |
|---|
注意
常見錯誤:影子模式跑了幾天看起來一致率很高,就急著跳過小範圍確認使用直接全面上線。影子模式只證明「AI 判斷通常跟人一樣」,不能證明「人工確認的流程設計也可行」,這是兩件不同的事。
重點: 影子模式驗證的是 AI 判斷品質,不是完整的人機協作流程;兩者都要驗證過才能全面上線。
90 分鐘
轉為小範圍人工確認使用的門檻
從影子模式進到「AI 產出建議、人工確認後才生效」的小範圍試行,需要明確的轉換門檻,而不是憑感覺覺得「差不多了」。
影子模式 → 小範圍確認使用 轉換門檻範例| 條件 | 說明 |
|---|
| 一致案件比例達標 | 例如 normal 與 outdated_source 類案件一致率達到 Kickoff 設定的門檻 |
|---|
| 高風險案件零重大分歧 | restricted_access 類案件在影子模式期間沒有出現越權建議 |
|---|
| 錯誤處理機制實測有效 | Module 4 設計的人工接手觸發至少實際運作過一次,且回應時效符合設計 |
|---|
| Sponsor 與流程負責人共同確認 | 雙方書面確認可以進入下一階段,而不是技術團隊單方面決定 |
|---|
資訊
小範圍人工確認使用階段,仍然只涵蓋一部分案件量或一部分人員,讓 AI 建議真正影響案件處理結果,但保留人工最終核可,逐步擴大範圍前都要重新檢視是否符合擴大門檻。
重點: 轉換門檻要在 Kickoff 或 Module 5 開始前就先定義好,不能等影子模式跑完才臨時決定「差不多可以了」。
90 分鐘
Pilot Log 紀律
Pilot Log 是 Module 6 評估與 Module 9 高階簡報的原始證據來源,記錄不完整或不一致,後面所有的分析都會失去可信度。
Pilot Log 必填欄位| 欄位 | 說明 |
|---|
| 時間與版本 | 執行時間、對應的版本號(架構或設定是否在 Pilot 期間變更過) |
|---|
| 任務與使用範圍 | 案件類型、屬於影子模式還是小範圍確認使用 |
|---|
| 結果 | AI 建議、人工最終決定、兩者是否一致 |
|---|
| 例外與接手 | 是否觸發人工接手,觸發原因與回應時間 |
|---|
| 影響與處理 | 若發生錯誤,實際影響範圍與後續處理方式 |
|---|
- 1練習:填寫五筆 Pilot Log(使用 SYN-CS-001)
模擬小範圍確認使用階段的五筆案件記錄。 - 2案件 1-2:一致案件
記錄 normal 類案件,AI 建議與人工確認一致的完整 Log。 - 3案件 3:分歧案件
記錄一筆 conflicting_sources 類案件,AI 與人工判斷不一致,說明分歧原因。 - 4案件 4:觸發人工接手
記錄一筆 missing_context 類案件觸發接手,附上回應時間。 - 5案件 5:異常事件
記錄一筆系統延遲事件,說明對案件處理的實際影響與後續處理。
重點: Pilot Log 的品質決定了後面評估與簡報的可信度;沒有記錄的事件,等於沒有發生過。
90 分鐘
Pilot 期間的異常應變演練
受控 Pilot 期間應該至少演練一次真正觸發 Module 1 定義的停止觸發條件時,團隊實際如何應變,而不是等真的發生才第一次嘗試。
異常應變演練情境範例(沿用 SYN-CS-001)| 情境 | 應變重點 |
|---|
| AI 建議洩漏其他客戶資訊的風險徵兆 | 立即依 Module 1 停止觸發條件評估是否喊停,並記錄評估過程 |
|---|
| 知識庫來源大量過期未更新 | 暫停自動回覆,改為全面人工覆核,直到來源更新 |
|---|
| 小範圍試行使用者集體反映建議品質下降 | 啟動 Module 4 錯誤分類重新檢查,暫緩擴大試行範圍 |
|---|
資訊
演練的紀錄本身就是 Module 7 治理審查所需的證據之一:停止權不是紙上條款,而是經過至少一次實際或模擬演練確認可行的機制。
重點: 停止權如果從未演練過,遇到真正的風險事件時往往會猶豫不決;演練紀錄是治理審查的重要證據。