返回 AI 情报
精选2026-11-16T08:00:00.000ZOpenAI:官网动态

OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估

精选理由

OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。

AI 摘要

OpenAI 宣布与四家独立评估机构 Apollo Research、METR、Transluce 和 Goodfire 签署协议,启动首阶段嵌入式安全评估。评估专家将获得模型 checkpoint、源码、训练数据和监控系统等内部资源,分别评估模型暗中违背开发者意图的可能性、模型内部可解释性、最大 RL 训练运行的未对齐行为以及后训练对齐评测的质量覆盖。

原文

Original Title

OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估

Source

OpenAI:官网动态

Site

openai.com

Published

2026-11-16T08:00:00.000Z

阅读原文· openai.com

继续阅读