Tool Calling
工具调用
工具调用是模型用规定格式的参数,请求使用某个外部工具。是否执行、要怎么执行,仍由主程序决定。
另一个例子
用户同意搜索后,旅行代理用 get_flights 查询指定日期前往 TPE 的航班。主程序先检查权限和参数,再执行工具并附上来源。模型提出工具请求,不代表已经执行,也不代表获准改变真实世界的状态。
主要部分
- 01工具定义
- 02结构化 arguments
- 03host 授权与结果
什么时候用
AI 需要用结构化接口访问外部数据或操作,而且主程序会检查并授权时,可以使用这个词。
什么时候不要用
提供影响很大的工具前,要做好安全控制。包括最小权限、参数检查、必要确认、安全重试和审计记录。
代码里的名称
model request → host validation → tool result 上线前要检查
检查模型与提示词版本、参考数据、有版本号的评估集与指标。验证答案能否连回来源证据,也要检查工具权限与隐私。再检查常见失败、拒答、安全备用做法与人工复核。也要检查监控、成本、速度与恢复方式。
预期结果:使用或评估 工具调用 (Tool Calling),让 AI 行为可以衡量,也能连回证据。 用户场景:用户同意搜索后,旅行代理用 get_flights 查询指定日期前往 TPE 的航班。主程序先检查权限和参数,再执行工具并附上来源。模型提出工具请求,不代表已经执行,也不代表获准改变真实世界的状态。 AI 方法或概念:工具调用 (Tool Calling)。 适用理由:AI 需要用结构化接口访问外部数据或操作,而且主程序会检查并授权时,可以使用这个词。 不应使用的情况:提供影响很大的工具前,要做好安全控制。包括最小权限、参数检查、必要确认、安全重试和审计记录。 AI 要求:定义输入与参考证据。设置模型和工具权限。使用有版本号的评估数据与指标。说明失败、拒答、隐私、速度与成本限制。 运营防护:保留可查询记录,并隐藏其中的敏感数据。提供用户看得懂的安全备用做法。标出必须由人工复核的步骤,并定义模型或提示词的恢复方式。 验收标准:在有版本号的评估集上记录当前基线与目标。测试边界案例与恶意输入。验证安全备用做法、监控、权限与恢复方式。 证据与限制(证据边界):没有一份官方标准能涵盖全部内容。不同团队、平台或框架的用法可能不同。 待确认:目标任务、模型与版本、评估负责人、参考数据、风险阈值、工具权限,以及生产环境的安全备用做法。
检查这份需求
请 AI 编程助手检查当前如何使用 工具调用 (Tool Calling)。 定义:工具调用是模型用规定格式的参数,请求使用某个外部工具。是否执行、要怎么执行,仍由主程序决定。 生产环境检查:检查模型与提示词版本、参考数据、有版本号的评估集与指标。验证答案能否连回来源证据,也要检查工具权限与隐私。再检查常见失败、拒答、安全备用做法与人工复核。也要检查监控、成本、速度与恢复方式。 修改程序前,先列出看到的证据、缺口、严重程度,以及最小且安全的修正。