Reflection 详解开源模型 Beam 的安全训练与评估方法 - AI 情报频道

精选理由

原文拆解了 Beam 的安全训练方法与双轨评估体系，并给出关键数字，为开源模型安全实践提供可参照的路径。

AI 摘要

Reflection 发布博文，讲解其开源权重模型 Beam 的安全训练与评估方法，并推出开源安全研究计划 Project Iris。Beam 在 Iris Safety Evaluations 对话任务中拒绝 89% 的有害请求，为所测开源权重模型中最高，同时遵守 82% 的安全相关无害请求；安全对齐教师模型从 100B 增至 501B 参数后，过度拒绝相对下降 48.7%。