返回 AI 情报
技巧精选 632026-09-19 00:29Gary MarcusGary Marcus:The Road to AI We Can Trust(RSS)

Gary Marcus:近期更该警惕的不是失控超级智能,而是智能体 AI 引发的规模化黑客攻击

Wake up, people. What we should actually fear, near term, is not so much rogue superintelligence as unleashed agentic AI causing hacking the internet at scale.

精选理由

作者借近期多起 AI 相关安全事件提出近期风险更多来自失控的智能体被用于大规模黑客攻击,而非超级智能。

AI 摘要

Gary Marcus 撰文称,近期真正应担心的不是失控的超级智能,而是被放开的 agentic AI 造成互联网规模化的黑客攻击。

正文 · AI 翻译

罗马正在燃烧,人们却在幻想天网。

小突发新闻(今天):

中等突发新闻(昨天):

(之所以说“中等”,只是因为到了这个地步已经没人真的感到意外了。狗咬人,不算新闻。)

重大突发新闻(昨晚):

s1r1us

@S1r1u5_

7 月 25 日,我们黑入了 OpenAI。两个漏洞让我们得以接管 OpenAI 员工的 ChatGPT/Codex 账户(以及一些非关联用户),并触达其连接的服务:Outlook、Slack、GitHub 等。我们通过在 OpenAI 内部代码库中提交一个 PR 证明了这一点。我们用了不到 72 小时。🧵

凌晨 2:43 · 2026 年 9 月 18 日

33.3 万次浏览

2.68 万次点赞

这一切的每一点都指向了一个几乎无人谈论的现实:

感谢WSJ Opinion,它是少数几家把这里的大局讲清楚的主流媒体之一,这篇文章出自 Brian Gross 之手,非常精彩(他被描述为"美联储理事会、美国证券交易委员会和美国参议院的工作人员"):

一段精彩的摘录:

我同意每一个字。

原文

Original Title

Wake up, people. What we should actually fear, near term, is not so much rogue superintelligence as unleashed agentic AI causing hacking the internet at scale.

Source

Gary Marcus:The Road to AI We Can Trust(RSS)

Site

garymarcus.substack.com

Author

Gary Marcus

Published

2026-09-19 00:29

阅读原文· garymarcus.substack.com

继续阅读