Agent Sandbox
智能体沙箱
智能体沙箱是一个受限制的环境,让 AI 智能体运行代码或工具。它会和计算机其他部分隔开,但保护范围要看具体设计。
harness | sandbox → reviewed artifact临时副本・不含敏感信息编程智能体在仓库的临时副本中工作。它不能联网、无法读取敏感信息,运行时间和磁盘空间也有限。可信控制程序网络关闭・60 秒差异+审计isolated files/process/network + resource limits + export gateOPS另一个例子
编程智能体在仓库的临时副本中工作。它不能联网、无法读取敏感信息,运行时间和磁盘空间也有限。
主要部分
- 01隔离文件空间
- 02进程运行边界
- 03网络规则
- 04凭证规则
- 05资源和时间上限
- 06输出关卡和记录
什么时候用
智能体需要隔离工作区、保留本地工具状态,或运行有风险的代码时,可以使用。文件、网络、凭证、进程、时间和输出都要受限。
什么时候不要用
不要把普通文件夹叫作沙箱。隔离也不能代替权限检查、监控或人工审核。
代码里的名称
isolated files/process/network + resource limits + export gate 上线前要检查
检查模型与提示词版本、参考数据、有版本号的评估集与指标。验证答案能否连回来源证据,也要检查工具权限与隐私。再检查常见失败、拒答、安全备用做法与人工复核。也要检查监控、成本、速度与恢复方式。
预期结果:使用或评估 智能体沙箱 (Agent Sandbox),让 AI 行为可以衡量,也能连回证据。 用户场景:编程智能体在仓库的临时副本中工作。它不能联网、无法读取敏感信息,运行时间和磁盘空间也有限。 AI 方法或概念:智能体沙箱 (Agent Sandbox)。 适用理由:智能体需要隔离工作区、保留本地工具状态,或运行有风险的代码时,可以使用。文件、网络、凭证、进程、时间和输出都要受限。 不应使用的情况:不要把普通文件夹叫作沙箱。隔离也不能代替权限检查、监控或人工审核。 AI 要求:定义输入与参考证据。设置模型和工具权限。使用有版本号的评估数据与指标。说明失败、拒答、隐私、速度与成本限制。 运营防护:保留可查询记录,并隐藏其中的敏感数据。提供用户看得懂的安全备用做法。标出必须由人工复核的步骤,并定义模型或提示词的恢复方式。 验收标准:在有版本号的评估集上记录当前基线与目标。测试边界案例与恶意输入。验证安全备用做法、监控、权限与恢复方式。 证据与限制(证据边界):它只代表该来源的官方说法。其他平台或团队可能有不同用法。 待确认:目标任务、模型与版本、评估负责人、参考数据、风险阈值、工具权限,以及生产环境的安全备用做法。
检查这份需求
请 AI 编程助手检查当前如何使用 智能体沙箱 (Agent Sandbox)。 定义:智能体沙箱是一个受限制的环境,让 AI 智能体运行代码或工具。它会和计算机其他部分隔开,但保护范围要看具体设计。 生产环境检查:检查模型与提示词版本、参考数据、有版本号的评估集与指标。验证答案能否连回来源证据,也要检查工具权限与隐私。再检查常见失败、拒答、安全备用做法与人工复核。也要检查监控、成本、速度与恢复方式。 修改程序前,先列出看到的证据、缺口、严重程度,以及最小且安全的修正。