跳到主要內容

AI 103 · 模組 1

從 Context 到 Agent Memory

如果 AI 不再只完成一次任務,而是持續工作,它需要記住什麼?

開始第一節
已完成 0 / 6
同步我的進度加入梯次後,進度可跨裝置保存,講師也能看到

資訊

加入後,你已完成的模組編號會連同「學員代碼」傳送給講師,講師可以看到你的進度。請使用講師提供的代碼,不要輸入姓名、公司機密或其他個資。進度資料與該梯次的其他資料一起保存。

學習目標

  • 區分 Prompt、Context、Memory、Knowledge 與 Skills,並說明 Context 與 Memory 的差異
  • 說明為什麼持續運作的 Agent 需要超出單一 Context Window 的 Memory
  • 區分 Working Memory、Short-Term Memory 與 Long-Term Memory,並認得 Episodic、Semantic、User、Task 與 Organizational Memory
  • 運用「立即使用 → 暫時保留 → 長期記住 → 不儲存」框架,判斷一項資訊應如何處理

問題與需求

8 分鐘

每次都從零開始的助理

在 AI 102 你學會為「單一任務」決定 AI 該知道什麼。但真實工作往往不是一次性的。一個每週都協助你的助理,面對的是另一個問題:哪些資訊應該從這次工作帶到下一次?

工作情境

一位採購人員每週一請 AI 助理整理供應商追蹤清單。每個星期一她都得重新說明一次:摘要用三個重點的格式、已解決的供應商不用列、上週團隊已同意等待修正版報價。

這裡有兩件事同時發生。第一,模型只能看到目前 Context Window(上下文視窗)裡的內容;對話結束,或視窗被填滿之後,先前的內容就不再可見。第二,這位採購人員一再為「本來可以保留的資訊」重複付出成本。

  • 她偏好的格式(穩定、值得保留)
  • 等待修正版報價的決定(具體、有日期、可能過期)
  • 今天的暫時計算過程(現在有用,不值得保留)
  • 某位供應商聯絡人的私人電話(可能根本不該儲存)

注意

相反的錯誤代價同樣不小。什麼都記住的 Agent 會累積雜訊、過時的事實,以及不該保留的資訊。重點不是「它能不能記住」,而是「它該記住什麼」。

重點: 持續運作的 Agent 需要 Memory,但關鍵能力是選擇該保留什麼,而不是全部保留。

核心概念

9 分鐘

Context 與 Memory 的差別

Context 是 AI 在執行目前任務時「看得到的資訊」。Memory(記憶)則是刻意保存在目前視窗之外、以便日後取回的資訊。Memory 不等於 Context:放在記憶中的資訊,要被選出並重新放回 Context,才會真正發揮作用。

本課程要分清楚的五個詞
名詞它回答的問題例子(模擬情境)
Prompt(提示詞)AI 要做什麼、怎麼做?「用三個重點整理本週的供應商追蹤清單。」
Context(上下文)AI 現在看得到什麼?本週的供應商表格與目前的指令
Memory(記憶)先前保留了什麼?團隊上週同意等待修正版報價
Knowledge(知識)它以哪些參考資料為依據?現行的採購規定
Skills(技能)如何完成可重複的任務?供應商追蹤審查的步驟
Memory 如何進入任務
  1. Memory:先前工作保留下來的資訊
  2. Select:只挑出這次任務需要的部分
  3. Context:被選出的記憶加入目前視窗
  4. AI Output:依 Context 產出,再由人審核

本課程有一條主線:Know、Remember、Retrieve、Organize、Act、Optimize。本模組是「Remember」這一步,並且從「什麼值得被記住」開始問起。

自我檢測

上週使用者對助理說「摘要一律給我三個重點」。本週開新對話,助理卻回覆冗長的段落。最可能的原因是什麼?

上週使用者對助理說「摘要一律給我三個重點」。本週開新對話,助理卻回覆冗長的段落。最可能的原因是什麼?

重點: Context 是 AI 現在看到的,Memory 是留給日後的。Memory 要被選回 Context 才有用。

10 分鐘

Memory 的類型

人們用「記憶」指很多不同的東西。用三個問題來分類會更清楚:能維持多久、是什麼性質的內容、屬於誰?下列分類刻意有重疊,同一項資訊可以同時從三個角度描述。

分類 Memory 的三個角度(示意)
角度類型說明例子(模擬情境)
時間長短Working Memory(工作記憶)Agent 在執行這一步時手上握有的內容,也就是目前的 Context此刻正在比較的表格三列資料
時間長短Short-Term Memory(短期記憶)在本次對話或短期專案中保留,之後捨棄今天任務的中間計算結果
時間長短Long-Term Memory(長期記憶)跨對話、跨任務保存,直到被更新或遺忘使用者偏好的報告格式
內容性質Episodic Memory(情節記憶)有時間與情境的特定事件上週二通話結束時,雙方同意寄出修正版報價
內容性質Semantic Memory(語意記憶)不綁定單一事件的一般事實或規則超過 NT$50,000 的採購需要三家報價
歸屬範圍User Memory(使用者記憶)屬於某一個人偏好三個重點的摘要
歸屬範圍Task Memory(任務記憶)屬於某一項進行中的工作追蹤清單正在等兩家供應商回覆
歸屬範圍Organizational Memory(組織記憶)由團隊或組織共用,需要明確的負責人部門共同約定的檔案命名規則

資訊

並非每一種記憶都適合自動保存。個人記憶與組織記憶牽涉隱私與所有權問題,模組 2 會把這些問題整理成政策。
自我檢測

Agent 回想:「在上週二的供應商通話中,我們同意週五前寄出修正版報價。」這最接近哪一種 Memory?

Agent 回想:「在上週二的供應商通話中,我們同意週五前寄出修正版報價。」這最接近哪一種 Memory?

重點: 問三件事:多久、什麼性質、屬於誰。同一項資訊可以同時是長期的、情節的、屬於使用者的。

判斷框架

8 分鐘

立即使用、暫時保留、長期記住、不儲存

新資訊出現時,Agent(以及設計它的人)可以依序問一個問題:這項資訊接下來該怎麼處理?

Memory 判斷框架
  1. Use Now(立即使用):只有這一步需要,留在目前 Context
  2. Keep Temporarily(暫時保留):本次對話或專案有用,之後放掉
  3. Remember Long-Term(長期記住):穩定、可重複使用、值得保留,且適合保留
  4. Do Not Store(不儲存):敏感、不必要或未經授權,不可保留
  1. 這項資訊在任務結束後還重要嗎?
    不重要就用完即放。大多數資訊屬於這一類。
  2. 它穩定且可能被重複使用嗎?
    偏好或已確立的規則可能值得長期記住;一次性的數字則不必。
  3. 它適合保留嗎?
    個人資料、機密資料與密碼即使保留起來很方便,也通不過這一關。
  4. 查詢比記住更合適嗎?
    會變動的文件或即時數值,通常在需要時回到來源取得,而不是複製進 Memory。模組 3 會深入說明。

注意

Do Not Store 是一項真正的決定,不是剩下的選項。公司機密、客戶個資、密碼與金鑰,除非經過授權且系統為此設計,否則不應放進 AI 對話或記憶儲存區。
自我檢測

使用者在請 AI 協助撰寫電子郵件時,順口提到某位客戶的身分證字號。依框架,最適當的處理是什麼?

使用者在請 AI 協助撰寫電子郵件時,順口提到某位客戶的身分證字號。依框架,最適當的處理是什麼?

重點: 大多數資訊是用完即放。長期記住是刻意的選擇,有些資訊則完全不可儲存。

實作

8 分鐘

實作:Memory Decision Exercise

以下有 8 項模擬資訊。請為每一項選出一個類別,再與同伴或講師討論。有些案例可以合理地歸到兩邊,重點是你能說明理由。請不要在這個練習中輸入真實的公司機密、客戶個資或任何未經授權的敏感資訊。

8 項資訊(請自行判斷)
案例資訊思考方向
1使用者的請求:「請把這一段縮短」任務結束後還重要嗎?
2使用者說:「我一律要三個重點的摘要,請記住」穩定、可重複使用,而且是使用者主動要求
3今天任務第 2 步算出的中間合計本次對話有用,但要留多久?
4每季修訂一次的請假辦法存起來的副本會一直正確嗎?
5順口提到的客戶身分證字號需要嗎?適合保留嗎?
6上週會議決定將上線日延後兩週有日期的具體決定;誰負責這項記錄?
7不小心貼進對話的一組密碼應該怎麼處理?當事人該做什麼?
8今天的匯率記住它對明天有幫助嗎?
  • Current Context:只有這一步需要
  • Temporary Memory:對話或專案期間保留,之後捨棄
  • Long-Term Memory:跨任務保存,且有明確理由與負責人
  • External Knowledge:留在來源處,需要時再檢索
  • Do Not Store:不可保留
自我檢測

員工手冊有 80 頁,而且每季修訂。Agent 需要回答一個請假問題。哪一種處理最合適?

員工手冊有 80 頁,而且每季修訂。Agent 需要回答一個請假問題。哪一種處理最合適?

重點: 判斷每項資訊該怎麼處理,就是這項技能的核心。是否長期保留,仍由人來決定。

重點回顧

7 分鐘

重點回顧:從「知道什麼」到「保留什麼」

完成

Agent 保留任何東西之前:它該立即使用、暫時保留、長期記住,還是不儲存?

AI 102:AI 這次任務該知道什麼?

  • 選出相關、可信、最新的 Context
  • 決定什麼不該提供
  • 在單一任務內運作

AI 103:Agent 長期該保留什麼?

  • 區分 Context 與 Memory
  • 分類為使用、保留、記住或不儲存
  • 跨對話、跨任務運作

Human–AI–Human 仍然成立:由人定義什麼可以被記住,Agent 依規則執行,再由人審核並對保留的內容負責。下一個模組會把這些想法變成設計:Agent 的記憶應如何建立、使用、更新與遺忘?

重點: Memory 是一項經過設計的決定,而不是自動功能:立即使用、暫時保留、長期記住,或不儲存。

接下來做什麼?