跳到主要內容

IL 301 · 模組 5

受控 Pilot

先以觀察/影子模式執行,確認穩定後再進入小範圍人工確認使用。

開始第一節
已完成 0 / 4

學習目標

  • 在影子模式下並行執行 AI 判斷與人工流程,比對兩者差異而不影響實際案件處理。
  • 訂出從影子模式轉為小範圍人工確認使用的明確門檻。
  • 維持一致的 Pilot Log 紀錄,並在遇到異常時依 Module 4 設計的機制正確應變。

從影子模式到小範圍確認使用

90 分鐘

影子模式:先看不動手

影子模式(shadow mode)讓 AI 針對真實案件產出判斷,但不直接影響案件處理結果,人工流程照常進行。這個階段的目的是在零風險的情況下,觀察 AI 判斷與人工實際處理之間的一致程度。

影子模式的記錄重點
項目說明
一致案件比例AI 判斷與人工最終處理結果相符的案件比例,依 SYN-CS-001 六種案件類別分別統計
分歧案件AI 判斷與人工不一致的案件,逐筆記錄分歧原因(不是只記錄「不一致」三個字)
高風險案件表現restricted_access、no_answer 等高風險類別的 AI 表現是否特別不穩定
系統穩定度影子模式期間是否出現工具失效或延遲,作為進入下一階段前的技術風險指標

注意

常見錯誤:影子模式跑了幾天看起來一致率很高,就急著跳過小範圍確認使用直接全面上線。影子模式只證明「AI 判斷通常跟人一樣」,不能證明「人工確認的流程設計也可行」,這是兩件不同的事。

重點: 影子模式驗證的是 AI 判斷品質,不是完整的人機協作流程;兩者都要驗證過才能全面上線。

90 分鐘

轉為小範圍人工確認使用的門檻

從影子模式進到「AI 產出建議、人工確認後才生效」的小範圍試行,需要明確的轉換門檻,而不是憑感覺覺得「差不多了」。

影子模式 → 小範圍確認使用 轉換門檻範例
條件說明
一致案件比例達標例如 normal 與 outdated_source 類案件一致率達到 Kickoff 設定的門檻
高風險案件零重大分歧restricted_access 類案件在影子模式期間沒有出現越權建議
錯誤處理機制實測有效Module 4 設計的人工接手觸發至少實際運作過一次,且回應時效符合設計
Sponsor 與流程負責人共同確認雙方書面確認可以進入下一階段,而不是技術團隊單方面決定

資訊

小範圍人工確認使用階段,仍然只涵蓋一部分案件量或一部分人員,讓 AI 建議真正影響案件處理結果,但保留人工最終核可,逐步擴大範圍前都要重新檢視是否符合擴大門檻。

重點: 轉換門檻要在 Kickoff 或 Module 5 開始前就先定義好,不能等影子模式跑完才臨時決定「差不多可以了」。

90 分鐘

Pilot Log 紀律

Pilot Log 是 Module 6 評估與 Module 9 高階簡報的原始證據來源,記錄不完整或不一致,後面所有的分析都會失去可信度。

Pilot Log 必填欄位
欄位說明
時間與版本執行時間、對應的版本號(架構或設定是否在 Pilot 期間變更過)
任務與使用範圍案件類型、屬於影子模式還是小範圍確認使用
結果AI 建議、人工最終決定、兩者是否一致
例外與接手是否觸發人工接手,觸發原因與回應時間
影響與處理若發生錯誤,實際影響範圍與後續處理方式
  1. 練習:填寫五筆 Pilot Log(使用 SYN-CS-001)
    模擬小範圍確認使用階段的五筆案件記錄。
  2. 案件 1-2:一致案件
    記錄 normal 類案件,AI 建議與人工確認一致的完整 Log。
  3. 案件 3:分歧案件
    記錄一筆 conflicting_sources 類案件,AI 與人工判斷不一致,說明分歧原因。
  4. 案件 4:觸發人工接手
    記錄一筆 missing_context 類案件觸發接手,附上回應時間。
  5. 案件 5:異常事件
    記錄一筆系統延遲事件,說明對案件處理的實際影響與後續處理。

重點: Pilot Log 的品質決定了後面評估與簡報的可信度;沒有記錄的事件,等於沒有發生過。

90 分鐘

Pilot 期間的異常應變演練

受控 Pilot 期間應該至少演練一次真正觸發 Module 1 定義的停止觸發條件時,團隊實際如何應變,而不是等真的發生才第一次嘗試。

異常應變演練情境範例(沿用 SYN-CS-001)
情境應變重點
AI 建議洩漏其他客戶資訊的風險徵兆立即依 Module 1 停止觸發條件評估是否喊停,並記錄評估過程
知識庫來源大量過期未更新暫停自動回覆,改為全面人工覆核,直到來源更新
小範圍試行使用者集體反映建議品質下降啟動 Module 4 錯誤分類重新檢查,暫緩擴大試行範圍

資訊

演練的紀錄本身就是 Module 7 治理審查所需的證據之一:停止權不是紙上條款,而是經過至少一次實際或模擬演練確認可行的機制。
自我檢測

影子模式跑了兩週,AI 判斷與人工結果的一致率很高,團隊因此決定跳過小範圍人工確認使用,直接全面上線。這個做法的問題是什麼?

影子模式跑了兩週,AI 判斷與人工結果的一致率很高,團隊因此決定跳過小範圍人工確認使用,直接全面上線。這個做法的問題是什麼?

重點: 停止權如果從未演練過,遇到真正的風險事件時往往會猶豫不決;演練紀錄是治理審查的重要證據。

接下來做什麼?