Pilot 期間往往不是「唯一改變的變數是 AI 輔助」,工作量、案件難度組成、人員配置都可能在同一段期間內變化。如果不揭露這些干擾因素,觀察到的改善或惡化可能完全來自其他原因,卻被誤判成 AI 的效果。
三類常見干擾因素
干擾因素
需要檢查的問題
工作量變化
Pilot 期間案件量是否比基準期間明顯增加或減少(例如促銷活動帶來的尖峰)
案件難度組成
Pilot 期間處理的案件類別比例,是否比基準期間更偏向簡單案件
人員配置
Pilot 期間是否有資深人員離職、新人加入,或臨時支援人力調度
資訊
揭露干擾因素不是為了否定 Pilot 的價值,而是讓 Sponsor 與治理審查者能判斷「觀察到的改善,有多少可以歸因於 AI 輔助」,這正是 IL 301 評估要比 IL 201 評估更嚴謹的地方:IL 201 在受控實驗環境比較,IL 301 是在真實變動的營運環境中評估。
重點: 沒有揭露干擾因素的評估報告,即使數字漂亮,也無法讓人判斷這是不是 AI 真正的貢獻。
完整範例:找出忽略干擾因素的錯誤
60 分鐘
完整範例(SYN-CS-001):找出其中刻意保留的錯誤
以下是示範服務公司 A 客服知識助理(SYN-CS-001)的評估報告草稿摘要,其中刻意保留一處常見錯誤。閱讀時請先自己找出問題,再往下看修訂說明。
評估報告草稿摘要(含刻意保留的錯誤)
指標
Pilot 期間結果
基準期間結果
報告結論
平均全流程處理時間
4.2 分鐘/件
7.0 分鐘/件
結論:AI 輔助讓處理時間縮短 40%,效率大幅提升
整體正確率
92%
88%
結論:品質同步提升,沒有取捨問題
案件量
Pilot 期間 1,200 件/週
基準期間 900 件/週
(報告未提及此差異)
人員配置
Pilot 期間有 2 位資深客服請長假,由 3 位新進客服支援
基準期間人力配置穩定
(報告未提及此差異)
注意
找到問題了嗎?報告完全沒有揭露 Pilot 期間案件量增加 33%、且有資深人力請假由新進人員支援這兩項重大干擾因素,就直接把處理時間縮短歸因於 AI 輔助。案件量增加時,人員可能被迫加快處理速度並犧牲部分品質檢查步驟;而新進人員支援也可能改變了案件分派方式。這些都可能是時間縮短的部分原因,卻完全沒有被揭露。
錯誤版本結論
結論:AI 輔助讓處理時間縮短 40%,效率大幅提升,品質同步提升,沒有取捨問題。
修訂版本結論
揭露干擾因素
Pilot 期間案件量比基準期間高 33%,且有 2 位資深客服請假由新進人員支援,這兩項因素可能同時影響處理時間與品質,無法完全排除其影響。