AI 在 Data Science 中能做什麼、不能做什麼
學習目標:理解 AI 可協助 framing、code、debug、解讀、文件,但責任仍在人。
你把一份「服務支援分析資料包」丟給 AI 助理,問它:「幫我看看哪個服務組別最需要增加人力。」AI 很快回了一段程式碼、一張圖表,還有一段結論:「B 組的案件量最高,建議優先增援。」這個回答看起來很完整,但它背後隱藏了好幾個沒有被檢查的假設:AI 怎麼知道 value 欄位這次代表的是案件量、而不是平均處理時數?它有沒有排除掉 status 為草稿、之後會被覆蓋的列?如果沒有人去檢查,這個看似合理的結論很可能只是一個寫得很流暢的錯誤。
把 AI 的輸出當作答案
「AI 說某組案件量最高」直接被引用進報告,沒有人確認 value 欄位這次對應的是哪一個指標,也沒有人檢查是否混用了 draft、superseded 與 validated 三種狀態的資料。
把 AI 的輸出當作提案,人來驗證
- AI 能做什麼
- 快速列出候選分析角度、草擬程式碼、指出可能的資料問題、把統計結果轉成白話說明、整理成文件草稿。
- AI 不能做什麼
- 不能確認欄位的業務定義是否正確、不能保證程式碼真的讀懂資料的 grain、也不能替代人對最終結論負責。
- 人要做什麼
- 確認資料 context、逐行檢查關鍵程式碼、驗證結論是否真的來自資料,並在交付前做出「這個結果可以信任」的判斷。
import pandas as pd
# clean:服務支援分析資料包,一列代表某個服務組別在某個期間的一筆量能記錄
df = pd.read_csv("DS202_Analysis_Package_Clean.csv", parse_dates=["period"])
df.shape
df.dtypes
df[["record_id", "period", "group", "value", "unit", "status"]].head()
# 先問:這次的 value 欄位,單位(unit)是什麼?status 有幾種?
df["unit"].unique()
df["status"].unique()| 角色 | AI 適合做的事 | 仍需要人確認的事 |
|---|---|---|
| Framing | 列出候選預測問題或分析角度 | 哪一個角度真的對應到業務決策 |
| Code | 草擬讀取、清理、彙總程式碼 | 欄位定義、單位與 grain 是否正確被使用 |
| Debug | 指出可能的錯誤或不一致 | 這個錯誤修正後,結論是否需要重新檢查 |
| 解讀 | 把統計結果轉成白話摘要 | 摘要有沒有比實際數據更樂觀或武斷 |
| 文件 | 整理 prompt、程式碼與結論成文件草稿 | 文件是否誠實反映限制與未驗證之處 |
同一個分析群組在某個月份的 value 是 58.4。若這代表案件量(unit=count),58.4 件是偏低的工作量;若這代表平均回應時數(unit=hours),58.4 小時卻是嚴重超時的警訊。AI 給出的結論「58.4,數值偏高」,若沒有先確認 unit 代表哪一個指標,這句話往哪個方向解讀都說得通,卻只有一個是對的。
- 先確認 value 這次代表哪一個 unit(指標),再談數字高低
- 確認是否已排除 status 為 draft 或 superseded 的列
- 確認是否已排除 sensitive_flag 為真、不應流入一般分析的列
- 確認彙總的 group、period 範圍,是否真的對應你想回答的問題
注意
資訊
AI 助理針對服務支援資料給出一段流暢的分析結論,且程式碼能順利執行、沒有出現任何錯誤訊息。這代表什麼?