reward-bench-2

reward-bench-2 是 Allen Institute for AI 2025 年 1 月推出的第二代奖励模型评测基准，专为检验 RLHF、DPO 乃至推理阶段 Best-of-N 等后训练流程中 Reward Model 的真实能力而设计。它从 WildChat 等从未用于下游任务的新颖人类提示中采样，覆盖指令遵循、事实性、数学推理、安全、聚焦度及“多正确答案”六大领域，共 6 个挑战性子集。