Model Grader
模型评分器
模型评分器会按照书面规则，用 AI 模型为一份输出打分或分类。它也可能判断错误，所以要用人工评过的示例检查。
output + rubric + grader → score + review规则：正确・有来源・会升级处理团队用同一份评分规则评估 200 条客服回复。人员会检查意见不同的案例，也会把评分器和人工结果对比。0.74 / 1.00门槛 0.8027 / 30 一致item + output + rubric + grader model → score or labelOPS另一个例子
团队用同一份评分规则评估 200 条客服回复。人员会检查意见不同的案例，也会把评分器和人工结果对比。
主要部分
- 01评测题目
- 02待评输出
- 03评分规则
- 04参考答案或示例
- 05评分模型和提示词
- 06分数、理由和人工检查
什么时候用
开放式答案很多，无法只用完全相同的内容比对时，可以使用。先用人工评过的示例测试评分器。
什么时候不要用
不要把模型分数当作客观事实。也不要透露目标结论，或暗示答案来自哪个系统。
代码里的名称
item + output + rubric + grader model → score or label 上线前要检查
检查模型与提示词版本、参考数据、有版本号的评估集与指标。验证答案能否连回来源证据，也要检查工具权限与隐私。再检查常见失败、拒答、安全备用做法与人工复核。也要检查监控、成本、速度与恢复方式。
预期结果：使用或评估 模型评分器 (Model Grader)，让 AI 行为可以衡量，也能连回证据。 用户场景：团队用同一份评分规则评估 200 条客服回复。人员会检查意见不同的案例，也会把评分器和人工结果对比。 AI 方法或概念：模型评分器 (Model Grader)。 适用理由：开放式答案很多，无法只用完全相同的内容比对时，可以使用。先用人工评过的示例测试评分器。 不应使用的情况：不要把模型分数当作客观事实。也不要透露目标结论，或暗示答案来自哪个系统。 AI 要求：定义输入与参考证据。设置模型和工具权限。使用有版本号的评估数据与指标。说明失败、拒答、隐私、速度与成本限制。 运营防护：保留可查询记录，并隐藏其中的敏感数据。提供用户看得懂的安全备用做法。标出必须由人工复核的步骤，并定义模型或提示词的恢复方式。 验收标准：在有版本号的评估集上记录当前基线与目标。测试边界案例与恶意输入。验证安全备用做法、监控、权限与恢复方式。 证据与限制（证据边界）：没有一份官方标准能涵盖全部内容。不同团队、平台或框架的用法可能不同。 待确认：目标任务、模型与版本、评估负责人、参考数据、风险阈值、工具权限，以及生产环境的安全备用做法。
检查这份需求
请 AI 编程助手检查当前如何使用 模型评分器 (Model Grader)。 定义：模型评分器会按照书面规则，用 AI 模型为一份输出打分或分类。它也可能判断错误，所以要用人工评过的示例检查。 生产环境检查：检查模型与提示词版本、参考数据、有版本号的评估集与指标。验证答案能否连回来源证据，也要检查工具权限与隐私。再检查常见失败、拒答、安全备用做法与人工复核。也要检查监控、成本、速度与恢复方式。 修改程序前，先列出看到的证据、缺口、严重程度，以及最小且安全的修正。