跳到主要內容

IL 301 · 模組 6

評估

比較 Pilot 結果與基準,並誠實揭露工作量、難度與人員異動等干擾因素。

開始第一節
已完成 0 / 3

學習目標

  • 把 Pilot 期間的實際結果和 Module 2 重新記錄的基準做對照,而不是和過時的舊基準比較。
  • 辨識並揭露可能影響結果解讀的干擾因素:工作量變化、案件難度組成變化、人員異動。
  • 看懂一份刻意保留錯誤的評估報告範例,並找出忽略干擾因素會如何誤導結論。

對照基準與揭露干擾因素

60 分鐘

對照基準,分開報告品質、時間與成本

評估的比較基準,是 Module 2 在 Pilot 開始前重新驗證過的現況流程紀錄,而不是 IL 101 或 IL 201 階段更早期、可能已經過時的 baseline log。品質、時間、成本三者必須分開報告,不能用單一綜合指標掩蓋任何一個面向變差的情況。

評估報告的三個獨立面向
面向衡量方式常見錯誤
品質依 SYN-CS-001 六種案件類別分別統計正確率、覆核修改幅度只報告整體平均正確率,掩蓋高風險類別(如 restricted_access)表現不佳
時間全流程時間,包含輸入準備、AI 處理、人工覆核與修正、重做只計算 AI 產出建議的時間,不含人工覆核與修正時間
成本含工具費用、覆核人力、維運與例外處理成本只計算工具授權費用,忽略新增的覆核與維運人力成本

注意

常見錯誤:AI 輔助全流程時間如果只計算「AI 產出建議」的秒數,而不含後續等待、覆核、修正與重做,會嚴重低估實際投入的時間。

重點: 評估報告要能回答「品質變好了嗎」「時間變快了嗎」「成本變低了嗎」三個獨立問題,不能用一個綜合分數含糊帶過。

60 分鐘

揭露干擾因素

Pilot 期間往往不是「唯一改變的變數是 AI 輔助」,工作量、案件難度組成、人員配置都可能在同一段期間內變化。如果不揭露這些干擾因素,觀察到的改善或惡化可能完全來自其他原因,卻被誤判成 AI 的效果。

三類常見干擾因素
干擾因素需要檢查的問題
工作量變化Pilot 期間案件量是否比基準期間明顯增加或減少(例如促銷活動帶來的尖峰)
案件難度組成Pilot 期間處理的案件類別比例,是否比基準期間更偏向簡單案件
人員配置Pilot 期間是否有資深人員離職、新人加入,或臨時支援人力調度

資訊

揭露干擾因素不是為了否定 Pilot 的價值,而是讓 Sponsor 與治理審查者能判斷「觀察到的改善,有多少可以歸因於 AI 輔助」,這正是 IL 301 評估要比 IL 201 評估更嚴謹的地方:IL 201 在受控實驗環境比較,IL 301 是在真實變動的營運環境中評估。

重點: 沒有揭露干擾因素的評估報告,即使數字漂亮,也無法讓人判斷這是不是 AI 真正的貢獻。

完整範例:找出忽略干擾因素的錯誤

60 分鐘

完整範例(SYN-CS-001):找出其中刻意保留的錯誤

以下是示範服務公司 A 客服知識助理(SYN-CS-001)的評估報告草稿摘要,其中刻意保留一處常見錯誤。閱讀時請先自己找出問題,再往下看修訂說明。

評估報告草稿摘要(含刻意保留的錯誤)
指標Pilot 期間結果基準期間結果報告結論
平均全流程處理時間4.2 分鐘/件7.0 分鐘/件結論:AI 輔助讓處理時間縮短 40%,效率大幅提升
整體正確率92%88%結論:品質同步提升,沒有取捨問題
案件量Pilot 期間 1,200 件/週基準期間 900 件/週(報告未提及此差異)
人員配置Pilot 期間有 2 位資深客服請長假,由 3 位新進客服支援基準期間人力配置穩定(報告未提及此差異)

注意

找到問題了嗎?報告完全沒有揭露 Pilot 期間案件量增加 33%、且有資深人力請假由新進人員支援這兩項重大干擾因素,就直接把處理時間縮短歸因於 AI 輔助。案件量增加時,人員可能被迫加快處理速度並犧牲部分品質檢查步驟;而新進人員支援也可能改變了案件分派方式。這些都可能是時間縮短的部分原因,卻完全沒有被揭露。

錯誤版本結論

結論:AI 輔助讓處理時間縮短 40%,效率大幅提升,品質同步提升,沒有取捨問題。

修訂版本結論

揭露干擾因素
Pilot 期間案件量比基準期間高 33%,且有 2 位資深客服請假由新進人員支援,這兩項因素可能同時影響處理時間與品質,無法完全排除其影響。
重新歸因
在控制案件量與人員配置差異後(例如只比較相同週間、相同人員配置的子集),AI 輔助對處理時間的實際貢獻需要更謹慎的估計,初步估計縮短時間中至少有一部分來自案件量增加下的流程壓縮,而非全部來自 AI。
品質與時間的取捨
正確率從 88% 提升到 92%,但同時處理時間下降,需要進一步確認是否有覆核步驟被省略,而不是直接宣稱「品質與時間同步提升,沒有取捨」。
建議的下一步
延長 Pilot 期間或補做一組人員配置與案件量相近的子樣本比較,才能提出更可信的歸因結論。

資訊

這個修訂說明就是本課程要求的「一個逐步完成的範例,包含至少一處錯誤及修訂說明」。練習時,請對照自己專案的評估報告,檢查是否也忽略了工作量、案件難度組成或人員配置的變化。
自我檢測

範例評估報告聲稱「AI 輔助讓處理時間縮短 40%,效率大幅提升」,最主要的問題是什麼?

範例評估報告聲稱「AI 輔助讓處理時間縮短 40%,效率大幅提升」,最主要的問題是什麼?

重點: 最容易被忽略的評估錯誤,往往藏在「數字看起來很漂亮」的報告裡;沒有揭露的干擾因素,比揭露但無法完全排除的干擾因素更危險。

接下來做什麼?