Tool Calling
工具呼叫
工具呼叫是模型用規定格式的參數,請求使用某個外部工具。是否執行、要怎麼執行,仍由主程式決定。
另一個例子
使用者同意搜尋後,旅遊代理用 get_flights 查詢指定日期前往 TPE 的航班。主程式先檢查權限和參數,再執行工具並附上來源。模型提出工具請求,不代表已經執行,也不代表獲准改變真實世界的狀態。
主要部分
- 01工具定義
- 02結構化 arguments
- 03host 授權與結果
什麼時候用
AI 需要用結構化介面存取外部資料或操作,而且主程式會檢查並授權時,可以使用這個詞。
什麼時候不要用
提供影響很大的工具前,要做好安全控制。包含最小權限、參數檢查、必要確認、安全重試和稽核紀錄。
程式裡的名稱
model request → host validation → tool result 上線前要檢查
檢查模型與提示詞版本、參考資料、有版本編號的評估集與指標。驗證答案能否連回來源證據,也要檢查工具權限與隱私。再檢查常見失敗、拒答、安全退路與人工覆核。也要檢查監控、成本、速度與回復方式。
預期成果:使用或評估 工具呼叫 (Tool Calling),讓 AI 行為可以衡量,也能連回證據。 使用者情境:使用者同意搜尋後,旅遊代理用 get_flights 查詢指定日期前往 TPE 的航班。主程式先檢查權限和參數,再執行工具並附上來源。模型提出工具請求,不代表已經執行,也不代表獲准改變真實世界的狀態。 AI 方法或概念:工具呼叫 (Tool Calling)。 適用理由:AI 需要用結構化介面存取外部資料或操作,而且主程式會檢查並授權時,可以使用這個詞。 不應使用的情況:提供影響很大的工具前,要做好安全控制。包含最小權限、參數檢查、必要確認、安全重試和稽核紀錄。 AI 要求:定義輸入與參考證據。設定模型和工具權限。使用有版本編號的評估資料與指標。說明失敗、拒答、隱私、速度與成本限制。 營運防護:保留可查詢記錄,並隱藏其中的敏感資料。提供使用者看得懂的安全退路。標出必須由人員覆核的步驟,並定義模型或提示詞的回復方式。 驗收條件:在有版本編號的評估集上記錄目前基準與目標。測試邊界案例與惡意輸入。驗證安全退路、監控、權限與回復方式。 證據與限制(證據邊界):沒有一份官方標準能管到全部內容。不同團隊、平台或框架的用法可能不同。 待確認:目標任務、模型與版本、評估負責人、參考資料、風險門檻、工具權限,以及正式環境的安全退路。
檢查這份需求
請 AI 程式助手檢查目前如何使用 工具呼叫 (Tool Calling)。 定義:工具呼叫是模型用規定格式的參數,請求使用某個外部工具。是否執行、要怎麼執行,仍由主程式決定。 正式環境檢查:檢查模型與提示詞版本、參考資料、有版本編號的評估集與指標。驗證答案能否連回來源證據,也要檢查工具權限與隱私。再檢查常見失敗、拒答、安全退路與人工覆核。也要檢查監控、成本、速度與回復方式。 修改程式前,先列出看到的證據、缺口、嚴重程度,以及最小且安全的修正。