RewardBench

RewardBench是一个用于评估奖励模型（包括通过直接偏好优化（DPO）训练的模型）能力和安全性的基准。