Computer Use
AI 计算机操作
AI 计算机操作让模型查看屏幕，并返回点击、输入或滚动等操作。主程序会检查并执行每个允许操作。
screen → action → harness → next screen当前屏幕：expense.test智能体打开测试报销应用，填好 $248 草稿。它会在提交前停下，也会记录每个屏幕和操作。屏幕截图输入金额允许・执行screen → model action → harness check/execute → next screenOPS另一个例子
智能体打开测试报销应用，填好 $248 草稿。它会在提交前停下，也会记录每个屏幕和操作。
主要部分
- 01当前屏幕
- 02模型返回操作
- 03目标和操作参数
- 04主程序检查
- 05操作结果和新屏幕
- 06人工确认、记录和停止
什么时候用
必须操作图形界面，而且没有合适的稳定 API 时，可以使用。也要加入隔离、操作限制、确认和停止规则。
什么时候不要用
有测试过的 API 时，应优先使用。付款、删除、输入敏感信息或更改账户前，都要由人员确认。
代码里的名称
screen → model action → harness check/execute → next screen 上线前要检查
检查模型与提示词版本、参考数据、有版本号的评估集与指标。验证答案能否连回来源证据，也要检查工具权限与隐私。再检查常见失败、拒答、安全备用做法与人工复核。也要检查监控、成本、速度与恢复方式。
预期结果：使用或评估 AI 计算机操作 (Computer Use)，让 AI 行为可以衡量，也能连回证据。 用户场景：智能体打开测试报销应用，填好 $248 草稿。它会在提交前停下，也会记录每个屏幕和操作。 AI 方法或概念：AI 计算机操作 (Computer Use)。 适用理由：必须操作图形界面，而且没有合适的稳定 API 时，可以使用。也要加入隔离、操作限制、确认和停止规则。 不应使用的情况：有测试过的 API 时，应优先使用。付款、删除、输入敏感信息或更改账户前，都要由人员确认。 AI 要求：定义输入与参考证据。设置模型和工具权限。使用有版本号的评估数据与指标。说明失败、拒答、隐私、速度与成本限制。 运营防护：保留可查询记录，并隐藏其中的敏感数据。提供用户看得懂的安全备用做法。标出必须由人工复核的步骤，并定义模型或提示词的恢复方式。 验收标准：在有版本号的评估集上记录当前基线与目标。测试边界案例与恶意输入。验证安全备用做法、监控、权限与恢复方式。 证据与限制（证据边界）：它只代表该来源的官方说法。其他平台或团队可能有不同用法。 待确认：目标任务、模型与版本、评估负责人、参考数据、风险阈值、工具权限，以及生产环境的安全备用做法。
检查这份需求
请 AI 编程助手检查当前如何使用 AI 计算机操作 (Computer Use)。 定义：AI 计算机操作让模型查看屏幕，并返回点击、输入或滚动等操作。主程序会检查并执行每个允许操作。 生产环境检查：检查模型与提示词版本、参考数据、有版本号的评估集与指标。验证答案能否连回来源证据，也要检查工具权限与隐私。再检查常见失败、拒答、安全备用做法与人工复核。也要检查监控、成本、速度与恢复方式。 修改程序前，先列出看到的证据、缺口、严重程度，以及最小且安全的修正。