Gary Marcus 借 Jensen Huang 言论主张暂时关停 OpenAI

在我讨论最新突发新闻之前，大家都应该看看这段片段，出自Jensen 接受 Ezra Klein 采访（或者至少读一下下面的文字记录。

注意 Jensen 的手，同时也要注意到他并不了解全部事实。

注意 Ezra Klein，他一如既往地专注且准备充分，捕捉到了这一点。两人实际上在谈论 OpenAI Hugging Face 事件，而 Jensen 没有意识到，这起事件是由一款当时尚未上市的产品引发的。Ezra 温和地指出了这一点。

最重要的是，留意 Jensen 推荐的解决方案。

如果一家公司无法控制自己的软件，我们就应该把它关停。

就在几周前，我提出了几乎完全相同的观点，以 OpenAI 作为测试案例，在一篇题为《现在就暂停 OpenAI》的文章中进行了论述。

我的论点的核心是这样的：

促使我在 9 月 4 日写下那篇文章的触发因素之一，是路透社当时的一篇突发报道，该报道称，在著名的 Hugging Face 事件之后，又发生了一起事件，涉及一个德国网站被攻破。OpenAI 又一次没有告知任何人，持续了数月之久。

正如一些人对水门事件的评价：问题不仅仅在于闯入，更在于掩盖。

到那时，舆论观感已经糟糕到 OpenAI 被迫发表了一份声明：

好吧，你猜怎么着，又发生了一起事件。而这一次，他们同样没有对外披露。

而昨天披露的这一起，规模甚至更大。这是（已知的）首次，受害者是一个主权国家：

而OpenAI再一次将这一罪行隐瞒了数月之久，或许直到迫于压力才不得不披露相关情况。

掩盖真相，或者至少是拖延推诿，似乎已成为该公司的既定政策。

在 AI 安全事件不断升级的当下，这对全世界而言是一场灾难。

任何理智的政府都应该意识到，如果 OpenAI 能入侵澳大利亚，那下一个可能就是它们自己。

而仿佛这还不够，调查 OpenAI 入侵澳大利亚政府服务器事件的非营利组织 Translucent 报告了这一点

按照 Jensen 的逻辑（也是我自己的逻辑），此时此刻我们应当（至少暂时地）关停 OpenAI。

当然，我怀疑这不会发生。OpenAI 总裁 Greg Brockman 是 Donald Trump 的大额捐赠者。总统女婿 Jared Kushner 的兄弟 Josh Kushner 经营着投资公司 Thrive，持有价值数十亿美元的 OpenAI 股票。（而现在 OpenAI 持有 Thrive 的股份。）

而到目前为止，白宫什么也没做。相反，昨晚总统邀请 OpenAI 的人参加他的国宴。（Al Capone 未能出席。）

历史无疑会根据我们在遏制 AI 风险方面所做的努力来评判我们。

一家 AI 公司入侵政府网站，这就是一场危机。

Jensen Huang 已经为我们清楚地阐明了在这种情况下应该怎么做。但我们并没有这么做。

我们应该做的是暂时关停 OpenAI，或许将其置于破产管理之下，直到他们改正行为，并以计算机犯罪起诉他们。这就是我们对做出这类事情的人类所采取的做法，也是我们对做出同样事情的公司应该采取的做法。1

今天的记者们应该去打电话给黄仁勋，问他：“澳大利亚那起事件是否已经让 OpenAI 越过了红线？你是否真的会关停他们？如果不会，为什么不会？在什么情况下你才会真正呼吁关停一家实验室？事情要糟糕到什么程度你才会这么做？如果一家公司屡次违法，而政府却无所作为、不去执法，你会怎么做？如果政府不愿尽自己的本分，光靠责任追究和诉讼真的够吗？”

他们还应该向特朗普提出对应的问题：他的政府会任由 AI 引发的黑客攻击发展到什么地步，才会真正出手干预？事情得糟糕到什么程度？

昨天，白宫的 Michael Kratsios 昨天描绘了一幅自我监管的美好图景，其前提是“负责任的公司”：

很明显，至少有一家 AI 根本就不负责任。我们现在就需要弄清楚该如何应对这一事实。正如我本周早些时候在联合国所说的，希望不是一种战略。

这不是财政部贝森特该管的事（更不是 Sacks 的事——他已不再是 AI 沙皇——也不是黄仁勋的事，他并不为政府工作），而是司法部（或许还有其他部门）需要站出来。如果贝森特如许多人猜测的那样成为 AI 沙皇，这件事就应该完全落到他头上。

总而言之，现在是时候关停 OpenAI 了，至少暂时关停，并以计算机犯罪起诉他们。（或者至少展开调查。）

他们的软件屡屡被证明行事鲁莽，而且由于他们一贯掩盖事实，我们无法信任他们。他们似乎既无能，又不值得信赖。

如果联邦政府对这一情况无所作为，我们同样也无法信任他们。

而如果我们现在无法信任他们，并且我们知道情况很可能会变得更糟，那我们就麻烦大了。

这里存在一个巨大的漏洞，国会应当加以解决。许多针对计算机犯罪的法律定义都要求具备主观意图，而 AI 公司可以辩称他们的软件没有意图。我们必须扩大计算机犯罪法的适用范围，将大规模过失和屡次犯罪纳入其中。