每個工具都要回答的五個安全問題
讓 AI 連接工具與資料威力強大,也是最容易出問題的地方。在信任或建置任何工具之前,它必須能回答五個問題。答不出來的工具,就還沒有準備好被使用。
- 誰可以呼叫它?
任何人、已登入的使用者,還是只有特定角色?必須在伺服器端強制執行,而不只是在介面上隱藏。 - 它能存取哪些資料?
公開頁面、內部紀錄,還是個人資料?存取範圍應限於工具所需的最小範圍。 - 它是唯讀還是可寫入?
只能讀取的工具,與能修改、刪除、發布或寄送的工具,風險截然不同。 - 失敗時會發生什麼事?
使用者會看到易懂的訊息,還是 AI 悄悄用猜測補上缺口? - 結果附帶什麼證據?
來源、時間戳記與連結,讓人可以查證答案從何而來。
資訊
下列哪一項是每個工具都必須回答的五個問題之一?