Gary Marcus 评 AI 智能体安全事件升至数万起并呼吁临时召回

与此同时，美国政府似乎陷入了瘫痪。

不，不只是 Hugging Face。

也不只是它和一家德国网站。

甚至不只是前几天我们从 OpenAI 那里听说的“数十个”。

实际上（至少）是*数万个*，据 Axios 的 Madison Mills 的一篇最新独家报道。而且也不只是 OpenAI。

以下是 Axios 独家报道的节选：

大多数并未被已知造成现实世界的伤害。那其他的呢？

在我看来，这一切似乎都可能是非法的。

但特朗普政府什么都没做。没有调查，没有声明，没有产品召回，什么都没有，只是邀请 Sam 和 Jensen 去参加国宴。

为什么，我不知道。我无法想象这与 Josh Kushner 对 OpenAI 的数十亿美元投资有关，或者与 Greg Brockman 向 MAGA 的大额捐款有关。

剩下的就由你自己去串联了。

只留给你一些视角：

@GaryMarcus

想象一下，如果我们发现中国 AI 做了 OpenAI 正在做的事，所有人会有多么理所当然地陷入恐慌。

9.46K 次浏览

另一件需要注意的事——这可能会在诉讼中被提及——就是这一切都是可以预见的。事实上，我早就预见到了，就在这样的推文中：

@GaryMarcus

⚠️⚠️⚠️ 这就是我们的未来。如果你，或者你依赖的某个人，使用 AI 智能体来编写和安装代码，你就是脆弱的。极其脆弱，前所未有地脆弱。

zak

@0xzak

我在加密领域已经超过 10 年，从未被黑过。完美的 OpSec 记录。昨天，我的钱包第一次被一个恶意的 @cursor_ai 扩展程序盗空。如果这能发生在我身上，也能发生在你身上。以下是完整分析。🧵👇

2025 年 8 月 12 日 下午 7:01

27.3K 次浏览

以及在一系列关于智能体的文章中，比如这篇一年多前写的：

还有这篇二月份的（关于当时另一个流行的智能体）：

还有这条，来自五月：

事实上，早在 2023 年 5 月，我就已经就智能体相关的安全风险向参议院发出过警告。正在发生的事情是可以预见的，而且已经被预见到了。

但这些公司却一意孤行，因为智能体消耗的 token 远超简单的聊天机器人，从而推高了营收。

如今，事情就发展到了这一步。

我仍然认为黄仁勋的想法是对的：如果一家公司无法控制自己的产品，我们就应该把它关停。

可惜的是，他实际上似乎并不相信自己所说的话。（如果他真信，他就会呼吁现在就暂停，直到这些公司把自己整顿好，但他并没有。）

在我看来，黄仁勋的可信度正在一分一秒地流失。

无论如何——很抱歉我又在重复这一点，但每一天都让这一点更加清楚——我们应该对通用智能体进行临时召回，直到这场乱局得到解决。

如果我们不这样做，美国 AI 极有可能成为全世界的祸害，而且再也不会有人信任美国 AI，永远都不会。