跳到主要內容

AI 102 · 模組 2

Context 是由什麼組成的?

AI 在完成任務時,可能需要哪些類型的資訊?

開始第一節
已完成 0 / 7
同步我的進度加入梯次後,進度可跨裝置保存,講師也能看到

資訊

加入後,你已完成的模組編號會連同「學員代碼」傳送給講師,講師可以看到你的進度。請使用講師提供的代碼,不要輸入姓名、公司機密或其他個資。進度資料與該梯次的其他資料一起保存。

學習目標

  • 說出七類 Context(上下文):Instructions、User Context、Task Context、Reference Knowledge、Conversation History、State / Memory、Tool / Retrieval Results
  • 把一項實際的資訊歸入適當的 Context 類型,並說明理由
  • 說明 Conversation History(對話歷史)為什麼「全部歷史不等於全部都有用」
  • 區分 State(狀態)與 Memory(記憶),並判斷資訊該屬於哪一種

問題與需求

7 分鐘

一份採購評估報告,AI 需要知道什麼?

上個單元我們知道,AI 的輸出取決於指令加上 Context。但「Context」聽起來很籠統。要判斷哪些資訊值得提供,先要能說出它有哪些種類。

工作情境(模擬)

請協助我為新一批教學用平板電腦,撰寫一份採購評估報告。

為了完成這份報告,AI 可能需要:

  • 格式與語氣的要求
  • 你的部門與職責
  • 報告的期限,以及目前進行到哪一步
  • 採購政策與產品規格
  • 你剛剛在對話中說過的補充
  • 主管偏好的報告版型
  • 從報價系統查到的最新價格

這些資訊的性質很不一樣:有的是每次任務都要重新提供,有的可以長期保留,有的必須即時查詢。把它們分清楚,是 Context 設計的第一步。

重點: 不同資訊有不同的性質。先分類,才能決定怎麼處理。

七類 Context

10 分鐘

七類 Context 一覽

本課把 Context 分成七類。這是幫助思考的工具,不同來源的資料可能同時屬於多個類型,重點是知道自己在處理哪一種資訊。

七類 Context(以平板電腦採購評估為例,資料為模擬)
類型回答什麼問題例子
1. Instructions(指令)AI 要怎麼做?角色、任務、限制、輸出格式、成功條件
2. User Context(使用者背景)誰在用、為了什麼?使用者的職務、部門、工作目標、偏好、權限
3. Task Context(任務背景)這件事進行到哪裡?目標、期限、已完成與未完成事項、下一步
4. Reference Knowledge(參考知識)有哪些依據可以參考?採購政策、SOP、法規、產品文件
5. Conversation History(對話歷史)剛才說過什麼?前面幾輪的提問、回答與補充
6. State / Memory(狀態與記憶)目前進度如何?哪些資訊要長期記住?「法務尚未審查」;「主管偏好一頁摘要」
7. Tool / Retrieval Results(工具與檢索結果)剛剛查到了什麼?資料庫查詢、網路搜尋、RAG 結果、API 回應

資訊

第 7 類只在這裡建立概念,讓你知道 AI 可以把「剛查到的資料」放進 Context。工具如何被安全地呼叫,會在 AI 201 學習。

重點: 七類 Context:指令、使用者背景、任務背景、參考知識、對話歷史、狀態與記憶、工具與檢索結果。

9 分鐘

前四類:指令、使用者、任務、參考知識

  1. Instructions(指令)
    角色、任務、限制、格式與成功條件。這是 AI 101 已經練習過的部分。
  2. User Context(使用者背景)
    使用者的角色、部門、目標與偏好。它讓 AI 知道「為誰而做」,但只需提供與任務有關的部分。
  3. Task Context(任務背景)
    目標、期限、已完成與未完成的事項、下一步。它讓 AI 接得上目前的進度。
  4. Reference Knowledge(參考知識)
    政策、SOP、法規、產品文件、研究論文、手冊。這類資料通常很多,而且一次只用得到一小部分。

注意

個人化的資訊,不代表所有資訊都應該提供給 AI。使用者背景只需要給到「完成這項任務所需的程度」。

參考知識尤其容易出現「整份貼上」的習慣。想一想:一份 30 頁的手冊,你只是要問請假天數,AI 真的需要讀完全部嗎?

自我檢測

同事每次詢問請假規定時,都把完整的 30 頁員工手冊貼進對話。這個做法最大的問題是什麼?

同事每次詢問請假規定時,都把完整的 30 頁員工手冊貼進對話。這個做法最大的問題是什麼?

重點: 參考知識通常很多,但每次任務只需要其中相關的一小部分。

對話歷史

8 分鐘

Conversation History:全部歷史不等於全部都有用

Conversation History(對話歷史)是這次對話裡已經出現過的內容。對話越長,歷史越多。但不是每一句話都值得一直帶著走。

處理對話歷史的四種方式
方式做法適合的情況要留意
Recent History(近期歷史)保留最近幾輪任務連續、上下文很接近較早但重要的限制可能被擠掉
Relevant History(相關歷史)只挑出與目前問題有關的部分對話很長,話題有切換需要判斷什麼算「相關」
Summary(摘要)把前面的重點濃縮成幾句話需要保留決定與限制摘要若寫錯,錯誤會一直延續
Compression(壓縮)把長內容縮短,只保留必要資訊篇幅有限壓縮會遺失細節,重要細節要先標出

資訊

摘要與壓縮是由 AI 或工具產生的,屬於衍生資料。若某個數字或限制很重要,例如預算上限,請回頭對照原文,而不是只相信摘要。
自我檢測

一場很長的對話進行到第 100 輪,AI 開始提出超過預算上限的方案,而上限是在第 3 輪提到的。下列哪一種做法最合理?

一場很長的對話進行到第 100 輪,AI 開始提出超過預算上限的方案,而上限是在第 3 輪提到的。下列哪一種做法最合理?

重點: 對話歷史需要取捨:保留近期、相關與必要的部分,重要限制要重述並核對。

State 與 Memory

9 分鐘

State 與 Memory:進度是一回事,長期偏好是另一回事

State(狀態)與 Memory(記憶)常被混為一談,但它們回答的問題不同。

State(狀態):現在進行到哪裡

  • 已取得報價
  • 尚未完成法務審查
  • 主管已核准第一階段
  • 隨任務推進而改變,任務結束後通常就不再重要

Memory(記憶):未來還可能有價值

  • 使用者偏好:例如喜歡一頁式摘要
  • 專案背景:例如專案名稱與目標
  • 常用格式與長期設定
  • 跨越多次任務仍然有用,但需要定期檢查是否過時

注意

Memory 不等於永久保存所有對話。要記住什麼,應該有理由,而且使用者要能知道、能修改、能刪除。個人資料與機密資訊,不應因為「方便」就被記住。

判斷的簡單問法:「這件事下週、下個月換一個任務時,還需要嗎?」需要,才是 Memory 的候選;只跟這次進度有關,就是 State。

自我檢測

「報價已取得,但法務尚未審查」這句話在採購任務中屬於哪一類?為什麼?

「報價已取得,但法務尚未審查」這句話在採購任務中屬於哪一類?為什麼?

重點: State 說明目前進度,Memory 保存未來仍有價值的資訊。兩者都需要人來決定與更新。

實作

6 分鐘

工具與檢索結果,以及分類實作

Tool / Retrieval Results(工具與檢索結果)是 AI 在任務過程中「剛剛查到」的資料,例如資料庫查詢、網路搜尋、RAG(檢索增強生成)結果或 API 回應。它們進入 Context 之後,就和其他資訊一樣,需要被檢查。

  • 它從哪個來源查到的?
  • 它是哪一天、哪一個版本的資料?
  • 它是否完整,還是只是搜尋到的片段?

現在請到練習頁:你會拿到 20 項資訊,請把每一項歸入七類 Context 之一,並試著說明理由。有些資訊可能同時符合兩類,這時請想想它「在這個任務裡扮演的角色」。

自我檢測

準備採購評估時,AI 從檢索結果帶回一份價目表,內容看起來完整,但檔案標示為三年前的版本。最合適的處理是什麼?

準備採購評估時,AI 從檢索結果帶回一份價目表,內容看起來完整,但檔案標示為三年前的版本。最合適的處理是什麼?

重點: 檢索與工具帶回來的資料,也要檢查來源、日期與版本。

重點回顧

6 分鐘

重點回顧:先分類,再選擇

完成

看到一項資訊時,先問:這是哪一類 Context?它在這個任務裡扮演什麼角色?
  • 七類 Context:Instructions、User Context、Task Context、Reference Knowledge、Conversation History、State / Memory、Tool / Retrieval Results
  • 參考知識通常很多,但每次只需要相關的部分
  • 對話歷史需要取捨,重要限制要重述並核對
  • State 是目前進度,Memory 是未來仍有價值的資訊
  • 工具與檢索結果仍要檢查來源、日期與版本

知道有哪些種類之後,下一個問題是:這些資訊真的都值得讓 AI 看到嗎?第 3 單元會提供一組判準。

重點: 分類是為了選擇:知道資訊屬於哪一類,才能決定怎麼處理它。

接下來做什麼?