AI 302 · 模組 4
哪些結果可以自動繼續？哪些結果必須先被確認？
開始第一節在單元 3，你讓 Run 在中斷後可以繼續。能夠可靠地繼續的 Run，也會可靠地帶著錯誤的結果繼續。本單元的核心問題是：哪些結果可以自動繼續？哪些結果必須先被確認？
某個 Workflow 撰寫回覆通知，並把每份草稿直接交給寄送 Step。其中一份草稿引用了一個截止日，但來源規定裡並沒有這個日期。格式完全正確，所以沒有任何東西發出警告。通知寄出後，系辦花了一週向收件者更正這個錯誤。
注意
Gate 是放在 Step 之間的檢查。Verification 問的是輸出是否正確，Validation 問的是它是否符合原本要滿足的需求。Gate 套用這些檢查，並決定接下來會發生什麼。Gate 有幾種：Quality Gate 檢查結果是否夠好，Safety Gate 檢查是否可能造成傷害，Policy Gate 檢查是否符合規則。
文字版說明：輸出進入 Gate。Gate 有四種可能的結果。Pass 表示 Run 繼續。Retry 表示重新嘗試該 Step。Human 表示在任何事繼續之前由人審查。Fail 表示 Run 停止或進入 Recovery。Gate 不會讓結果停留在未定義的狀態。
| Gate | 它問的問題 | 範例 |
|---|---|---|
| Quality Gate | 結果夠好嗎？ | 回覆完整並回答了問題 |
| Safety Gate | 這會造成傷害嗎？ | 回覆沒有洩漏個人資料 |
| Policy Gate | 符合規則嗎？ | 回覆沒有承諾例外 |
為什麼 Gate 有四種結果（Pass、Retry、Human、Fail），而不是只有 Pass 與 Fail？
Gate 的品質取決於背後的檢查。不同的 Verification 來源適合不同的問題，而且可以組合使用。優先採用適合該問題、最可靠的來源，並且不要把模型自己檢查自己當作強而有力的證據。
| 來源 | 適合用於 | 限制 |
|---|---|---|
| Deterministic Rule | 明確的是非檢查，例如日期範圍或必填欄位 | 無法判斷語意 |
| Schema Validation | 檢查輸出的結構與型別 | 無法說明內容是否為真 |
| Trusted Source Comparison | 把說法與核准的文件比對 | 只和來源本身及其時效一樣好 |
| Second-model Evaluation | 大規模判斷品質或一致性 | 可能有相同的盲點，不是證明 |
| Policy Check | 依書面規則檢查 | 規則可能無法涵蓋所有情況 |
| Human Review | 需要判斷、脈絡與責任時 | 較慢，也耗費注意力 |
一份草稿引用了某個截止日。哪一種 Verification 來源最適合檢查該截止日是否正確？
Human-in-the-Loop 指的是設計人參與的位置，而不是模糊地承諾「有人在看」。每一種模式都有明確的觸發條件，以及人要做的明確動作，Run 也會保留 Approval State，讓大家知道決定了什麼。
| 模式 | 適用時機 | 範例 |
|---|---|---|
| 行動前審查 | 在 Run 繼續之前，由人查看結果 | 職員在草稿被使用之前先閱讀 |
| 不可逆動作前核准 | 在無法復原的動作之前，必須由人同意 | 寄出正式通知之前先核准 |
| 不確定時 Escalation | 系統不確定，所以把決定交給人 | 兩個來源不一致，由人決定 |
| 因政策或營運需要而 Override | 人可以改變或停止系統原本要做的事 | 政策調整期間，主管暫停一批作業 |
Approval State：等待人的 Run 應該明顯處於暫停狀態，並記錄誰核准或拒絕、何時、依據什麼證據。結合單元 3，暫停的 Run 是已建立 Checkpoint 的 Run，等人決定之後就可以 Resume。
資訊
哪一種 Human Control 模式適合寄出正式通知、且無法撤銷的動作？
要決定 Gate 給出哪一種結果，設計需要規則。三個概念可以幫上忙：需要什麼 Evidence、多高的 Confidence 才算足夠，以及多高的 Risk 就不應在沒有人的情況下繼續。
| 概念 | 意思 | 範例 |
|---|---|---|
| Evidence Requirement | 結果通過之前必須提出什麼 | 每個說法都引用來源段落 |
| Confidence Threshold | 檢查要多有把握才能自動通過 | 低於門檻時送交人工審查 |
| Risk Threshold | 不經人可以允許多大的影響 | 任何會變更紀錄的動作都要核准 |
| Safe Stop 條件 | Run 何時必須停止而不是猜測 | 來源互相衝突，而且沒有人可以判斷 |
文字版說明：Gate 先檢查 Evidence 是否存在。高 Risk 的結果送交人核准。低 Confidence 的結果送交人審查。只有通過所有檢查的結果才會自動通過。只看 Confidence 分數並不足夠，因為它可能是錯的。
資訊
某個結果的 Confidence 很高，但會變更正式紀錄。Gate 應該怎麼做？
活動 4 稱為 Automatic or Human Gate？先做範例，再用你自己的 Workflow 練習。請不要在此練習中輸入真實的公司機密、客戶個人資料或任何未經授權的敏感資訊。
| 動作 | 決定 | 理由 |
|---|---|---|
| 把請求文字複製到工作 State | 自動繼續 | 低風險且完全可逆 |
| 檢查回覆是否包含所有必填欄位 | 自動驗證 | 可由 Deterministic Rule 決定 |
| 把回覆中的截止日與政策文件比對 | 自動驗證，若不一致則人工審查 | 有可信來源，但不一致需要判斷 |
| 把正式回覆寄給收件者 | 需要人工核准 | 不可逆，且影響真實的人 |
| 承諾截止日的例外 | 禁止 | 這不是 Workflow 該做的決定，只有具權限的人可以做 |
資訊
在範例中，為什麼寄出正式回覆被設定為需要人工核准？
