Model Grader
模型評分器
模型評分器會依照書面規則，用 AI 模型為一份輸出打分或分類。它也可能判錯，所以要用人工評過的範例檢查。
output + rubric + grader → score + review規則：正確・有來源・會升級處理團隊用同一份評分規則評量 200 則客服回覆。人員會檢查意見不同的案例，也會把評分器和人工結果相比。0.74 / 1.00門檻 0.8027 / 30 一致item + output + rubric + grader model → score or labelOPS另一個例子
團隊用同一份評分規則評量 200 則客服回覆。人員會檢查意見不同的案例，也會把評分器和人工結果相比。
主要部分
- 01評測題目
- 02待評輸出
- 03評分規則
- 04參考答案或範例
- 05評分模型和提示指令
- 06分數、理由和人工檢查
什麼時候用
開放式答案很多，無法只用完全相同比對時，可以使用。先用人工評過的範例測試評分器。
什麼時候不要用
不要把模型分數當成客觀事實。也不要透露目標判定，或暗示答案來自哪個系統。
程式裡的名稱
item + output + rubric + grader model → score or label 上線前要檢查
檢查模型與提示詞版本、參考資料、有版本編號的評估集與指標。驗證答案能否連回來源證據，也要檢查工具權限與隱私。再檢查常見失敗、拒答、安全退路與人工覆核。也要檢查監控、成本、速度與回復方式。
預期成果：使用或評估 模型評分器 (Model Grader)，讓 AI 行為可以衡量，也能連回證據。 使用者情境：團隊用同一份評分規則評量 200 則客服回覆。人員會檢查意見不同的案例，也會把評分器和人工結果相比。 AI 方法或概念：模型評分器 (Model Grader)。 適用理由：開放式答案很多，無法只用完全相同比對時，可以使用。先用人工評過的範例測試評分器。 不應使用的情況：不要把模型分數當成客觀事實。也不要透露目標判定，或暗示答案來自哪個系統。 AI 要求：定義輸入與參考證據。設定模型和工具權限。使用有版本編號的評估資料與指標。說明失敗、拒答、隱私、速度與成本限制。 營運防護：保留可查詢記錄，並隱藏其中的敏感資料。提供使用者看得懂的安全退路。標出必須由人員覆核的步驟，並定義模型或提示詞的回復方式。 驗收條件：在有版本編號的評估集上記錄目前基準與目標。測試邊界案例與惡意輸入。驗證安全退路、監控、權限與回復方式。 證據與限制（證據邊界）：沒有一份官方標準能管到全部內容。不同團隊、平台或框架的用法可能不同。 待確認：目標任務、模型與版本、評估負責人、參考資料、風險門檻、工具權限，以及正式環境的安全退路。
檢查這份需求
請 AI 程式助手檢查目前如何使用 模型評分器 (Model Grader)。 定義：模型評分器會依照書面規則，用 AI 模型為一份輸出打分或分類。它也可能判錯，所以要用人工評過的範例檢查。 正式環境檢查：檢查模型與提示詞版本、參考資料、有版本編號的評估集與指標。驗證答案能否連回來源證據，也要檢查工具權限與隱私。再檢查常見失敗、拒答、安全退路與人工覆核。也要檢查監控、成本、速度與回復方式。 修改程式前，先列出看到的證據、缺口、嚴重程度，以及最小且安全的修正。