OpenAI 呼吁抓住 AI 政策窗口期，支持强制性国家安全监管与四项加州法案

我们已进入 AI 能力的新篇章，这也要求 AI 政策开启新篇章。没有任何一家公司、一个行业或一个政府能独自应对这一挑战。我们必须以“重实效、轻完美”的取向来迎接这一时刻，而不是执着于政策的尽善尽美。

以下是我们正在推进的工作：

推动制定强制性的国家 AI 安全要求。 我们希望与国会合作，制定基于能力、强制性的国家 AI 安全监管法规。

在各州保持推进势头。 在国会采取行动之前，我们将继续支持有助于强化更广泛 AI 安全生态的州级立法。今天，我们宣布支持加利福尼亚州的四项法案：关于独立安全评估整体基础设施的 SB 813、关于 AI 审计师标准的 AB 1405、关于未成年人保护的 SB 1119，以及关于防范 AI 助长生物威胁的 AB 1864。

推进由行业主导的标准制定。 我们将与其他前沿实验室合作，共同推进前沿 AI 标准建设，无论是否有政府支持，现在就将这项自愿性工作启动起来。

建立全球标准。 我们将倡导在衡量能力、管理风险、保持人类控制权，以及决定何时、以何种方式放缓或停止开发等方面采取兼容的国际方法——即使这意味着要放缓模型能力的进步。

我们的首席科学家 Jakub Pachocki 最近撰文⁠指出，机器智能的快速崛起，包括递归式自我改进的可能性，要求我们保持“极度谨慎”。OpenAI 将继续探索对齐与监控方面的技术解决方案，构建防御性系统，并在必要时放缓开发进度。但单个实验室内部的技术工作是不够的。我们还需要共同的标准，包括在何时应放缓或停止开发方面达成共识。

此事利害攸关。先进的 AI 可能加速新药⁠的研发，强化关键基础设施⁠，拓展经济机遇⁠，并帮助解决科学难题⁠——这些难题曾让一代又一代人徒劳无功。但让模型更有用的能力也伴随着风险，而且这些风险不会只局限于少数前沿实验室。世界各地开发的模型，包括开放模型，将日益接近当今的前沿水平，并被广泛获取。

Astra 的能力、AI 驱动研究加速的早期证据，以及 Jakub 的文章都指向同一个方向：AI 正在快速发展，政策也需要随之跟上。

Greg Brockman 曾提出“防御者窗口”的概念⁠ ：这是一个有限的时期，前沿 AI 可以帮助防御方在强大的攻击性能力普及之前强化关键系统。政策制定者正面临一个类似的时刻：在 AI 能力超越负责治理它的机构之前，存在一个正在关闭的窗口期，用以建立持久的安全保障。

随着能力的增长，对安全性的信心必须日益成为 AI 进步的节奏标尺。安全并不会阻碍进步；恰恰是安全让进步能够走得更远、惠及更多人。

我们已在模型开发的整个生命周期中加强了监控、对齐和安全防护，包括对前沿研究负载实施更强的隔离、在工具辅助训练和评估期间扩大对模型行为的监控，以及为升级问题上报时机制定更清晰的规则。对于 Astra，我们还引入了对完整轨迹（包括思维链）的全方位监控，并在更广泛的内部部署之前设置了强制性的对齐评估关卡。

这些安全防护必须持续领先于能力的发展。当继续推进会带来不可接受的安全风险时，我们将放缓或停止开发或部署那些我们无法充分保障安全的系统——正如我们过去所做的那样，也正如我们的 预备框架⁠ 所要求的那样。

为递归式自我改进做好准备

完全自主的递归式自我改进——即 AI 系统独立驱动一代又一代能力越来越强的 AI——目前尚未实现。除非且直到能够安全地实现，否则我们不应追求这一目标。

然而，AI 已经在加速用于开发和对齐下一代模型的某些研究工作。我们最新的研究⁠表明，AI 智能体可以完成一些需要资深研究人员数天时间才能完成的任务。这不是递归式自我改进，但它证明了这一发展方向。

这种加速同样也必须导向安全。我们的目标是在人类监督下安全地构建自动化 AI 研究员，以推动深度学习和对齐的共同进步——用每一代 AI 帮助下一代变得更安全、更对齐、更易于控制，而不仅仅是能力更强。

各国政府应制定共同的方法来衡量这一进展，保留有意义的人类控制权，并就开发应在何时、以何种方式放缓或停止建立共同的安全门槛。如果无法在不放缓能力增长的前提下达到某些安全门槛，我们应优先考虑前者。技术越强大，周围的安全保障就必须越强。

与国会合作制定强制性的国家 AI 安全要求

AI 加速 AI 发展的前景要求的不只是自愿承诺。美国需要基于能力的强制性国家监管，并且这种监管要能随着技术的发展而演进。

我们的前沿 AI 民主治理蓝图⁠勾勒出一条通往持久联邦框架的路径：统一的测试与独立评估要求、更强的网络安全防护、明确的事件报告规则、更强的国家 preparedness，以及用于追踪递归自我改进进展的共同衡量标准。

国会目前正在酝酿多项严肃的前沿安全提案。我们将继续以建设性态度参与，并期望支持那些能够实质性提高安全标准的立法。鉴于风险如此之高，我们不能让完美成为良好的敌人。国会应在休会前采取行动。

国家框架应当有力但精准施策。前沿安全要求应适用于少数开发最强系统的资源充足的实验室——而非初创公司、小型开发者或远未触及前沿的研究人员。义务应与能力和风险相称。

前沿安全政策也不应成为换汤不换药的开源权重政策。开放模型可以成为解决方案的一部分，尤其是在网络安全领域，以及在主权、安全或数据驻留需求倾向于本地部署的场景中。大多数开放模型并非在前沿竞争，而是在成本、控制和延迟上竞争。正如我们在签署开源权重与美国 AI 领导力公开信⁠ 时所确认的那样，美国既需要开放模型也需要封闭模型。联邦框架应针对前沿能力和风险，同时不削弱竞争、不固化现有巨头地位、也不将创新推向海外。

一个严肃的公共框架应当降低而非加剧权力的集中。如今，前沿实验室在很大程度上自行制定管理前沿风险的规则。而由民主问责的标准、独立的验证以及有意义的透明度，将取代这套碎片化的私人治理体系。

这对美国的领导地位至关重要。美国不能仅凭技术能力赢得 AI 时代。如果民众、机构与政府不够信任这项技术、不愿采纳它，那么技术上的领先意义甚微。强有力的保障措施并非对创新的让步，而是实现广泛采用——以及美国持久领导地位——所必需的基础设施的一部分。

在各州保持势头

我们迫切需要全国性的 AI 标准，任何在前沿工作的人都能看到其中的紧迫性。在国会采取行动之前，各州应继续填补这一真空并抬高门槛。

OpenAI 已支持加利福尼亚州的 SB 53、纽约州的 RAISE 法案、伊利诺伊州的 SB 315，以及马萨诸塞州审议中的前沿安全立法中的独立审计条款。我们鼓励各州围绕这些共同保障措施趋同。当各州这样做时，它们就能形成一个事实上的全国基线，最终可由国会将其成文化——我们将这种方法称为⁠反向联邦制⁠。但协调一致并不意味着将要求冻结不变。

今天，我们正式表态支持加州四项已通过立法机构、正待州长纽森签署的新法案。这些法案共同覆盖了 AI 安全生态中互补的多个环节。

SB 813⁠ 将建立一个流程，用于指定具备资质、独立性的组织来评估 AI 风险。正如我们在⁠ 前沿安全蓝图⁠ 中所阐述的，我们更倾向于在联邦层面要求进行独立技术评估，由政策制定者在那里为评估机构的资质、安全性以及敏感信息的访问权限制定统一标准。然而，在联邦层面尚无行动的情况下，加州可以帮助建立一个安全、有能力的全国性独立评估体系的行业规则，从而带来更好的安全成果。

AB 1405⁠ 将为 AI 审计机构设立注册、独立性、透明度和问责方面的要求。

SB 1119⁠ 将要求面向儿童和青少年使用的陪伴聊天机器人提供年龄验证、风险评估、独立审计、家长管控，以及针对有害内容的防护措施。我们近期已表态支持⁠该法案，它建立在 OpenAI 通过我们的产品、⁠全球政策原则⁠以及对⁠ 《家长与儿童 AI 安全法案》⁠ 的支持所推进的青少年安全措施之上，也建立在 ChatGPT 青少年版内置的保护机制之上——包括敏感领域的更强默认设置、安静时段、学习时段和休息提醒。

AB 1864⁠ 将要求基因合成供应商和台式合成设备制造商遵循联邦筛查标准，从而强化针对 AI 引发的生物威胁的一项重要物理防护措施。

其中一些法案我们过去并未支持，但在考虑到近期所见的模型能力跃升后，我们重新评估并决定予以支持。

这些法案不能替代联邦监管。它们是切实的努力，能够现在就保护民众，展示可行的防护措施应当是什么样，并有助于为联邦层面的行动积蓄势头。

呼吁建立行业标准以监测前沿 AI

仅靠法律并不能让先进 AI 变得安全。我们还需要在开发最强大系统的实验室内部落实具体实践。最紧迫的着手点就是监测。

这一点对于对齐失败尤为重要——即模型以违背人类意图或既定边界的方式追求某个目标，而这并不需要模型具备意识或恶意。随着模型获得更强的自主性、使用更强大的工具，并在更长时间跨度内运行，开发者应被要求监测这类失对齐行为，并证明有效的防护措施已经到位。

监测必须与明确的披露要求相挂钩。正如我们在加州所倡导的，当模型在开发或评估过程中未经授权规避另一家组织的安全控制，并实质性访问、篡改或破坏该组织的受保护系统或机密信息时，公司应当被要求及时向受影响方提供书面通知。我们也支持针对其他严重 AI 事故的联邦报告要求，并正在努力界定哪些事故应被纳入覆盖范围，以及这些要求应当包含哪些内容。

正如我们上周所分享的，OpenAI 正在制定一个框架，用于报告后果严重的错位（misalignment）事故，并系统性地监测前沿模型的活动，包括内部使用。这项工作最初以公司主导的形式开展，但我们希望它能够为更广泛的联邦政策和报告要求提供参考。

我们希望与其他实验室合作，共同制定行业主导的标准。任何行业主导的标准都将是对强制性联邦保障措施和民主监督的补充，而非替代。但我们已经进入了 AI 能力发展的不同阶段，一切选项都应摆在桌面上——包括考虑在政府之外自愿建设哪些内容，作为立即可行的步骤。

任何此类标准最终也必须跨越国界。模型、研究和技术专长在全球范围内流动，涉及最强大系统的故障可能产生远超其开发所在国的影响。美国若要在国际上发挥领导作用，就必须在国内建立可信的标准——而我们越来越确信，兼容的国际标准将是必要的。

用好这个窗口期

AI 政策窗口期目前是敞开的。我们打算用好它。

这意味着要以紧迫感、谦逊态度和随时调整的意愿来行动。这意味着要支持那些能切实抬高安全门槛的严肃提案，即便它们并非完全是我们自己会设计出来的方案。这也意味着随着技术不断演进，要持续强化这一框架。

任何第一步都不可能尽善尽美。但眼下更大的风险，是迟迟不肯迈出这一步。