reward-bench

reward-bench 是 AllenAI 联合华盛顿大学发布的首个奖励模型（RM）评测基准，数据集由 24 个子集、约 5 万条 prompt-chosen-rejected 三元组构成，覆盖 Chat、Chat-Hard、Safety、Reasoning 和 Prior-Set 五大场景，用“chosen 得分高于 rejected 即算赢”的统一规则，让任何 RM（包括 DPO 隐式奖励模型或传统分类器）都可在同一排行榜上横向比较其在指令遵循、安全拒答、代码推理等维度上的能力与稳定性 。