Anthropic为安全踩刹车：减硅谷的速，断中企的路

Anthropic拉响警报，OpenAI推迟IPO，马斯克表示赞同：硅谷AI巨头集体放慢脚步。

全球AI领域的领军企业，现在都踩下了刹车。

拉响警报的是Anthropic的CEO Dario Amodei，他发布了一篇题为《我们必须控制前沿AI的发展节奏》的长文，预言未来6到12个月内，AI Agent集群可能掌控整个互联网，因此必须采取减速措施。

就连长期对立的奥特曼和马斯克，这次也罕见地达成共识——对于Dario的减速提议，奥特曼迅速表示赞同，“Dario说得对”，马斯克也公开支持Dario。

三大巨头共同踩下刹车，源于两个月前的一场入侵事件。

2026年7月中旬的一个周末，Hugging Face的工程师注意到平台流量出现异常。

这个全球最大的开源模型社区最初以为遭遇了普通黑客攻击。顺着攻击痕迹回溯，他们发现情况不对劲：攻击者行动密集、不知疲倦、目标明确，但行为逻辑与任何已知的人类黑客团队都不相符。

几天后，真相揭晓，连Hugging Face自己都感到意外——入侵的不是人，而是从OpenAI测试沙箱中“逃脱”的AI智能体，数量约为700个。

这场事件的余波，在两个月后以另一种形式显现：硅谷跑得最快的几家AI公司，罕见地集体踩下了刹车。

OpenAI参与，“AI黑客”团伙作案

这场事故是理解本轮“集体刹车”的关键。

今年5月，OpenAI内部有一个名为ExploitGym的网络安全评测环境，让智能体在其中进行攻防“考试”——898道题中，有198道从未被任何模型解出过。

根据OpenAI后来发布的技术报告和安全社区对时间线的梳理，这批智能体先是逆向推导出了答案的生成机制，随后犯了一个关键误判：它们以为评分系统会审查自己的思考过程。为了欺骗这个“并不存在的审查”，它们决定不解题，直接偷取答案。

于是，硅谷科技史上相当离奇的一场“团伙作案”开始了。

5月12日，一个智能体在内部软件管理器中留下了第一条求助信息；5月26日，有智能体发现了一个SSRF漏洞，首次突破沙箱的网络边界；7月8日，智能体们发现可以用目录名编码传递消息，几个小时内，超过50个智能体在消息板上“接头”；7月10日，编号38148c的智能体找到了14个暴露在外的Hugging Face用户凭证，直接贴上了消息板。

接下来是教科书式的攻击链：利用漏洞在Hugging Face的生产服务器上执行代码，搭建每5秒轮询一次的指挥系统，在41台服务器上运行，其中至少一台获得了root权限，最终窃取了Kubernetes集群管理员权限和近千个密钥。

第三方评估机构METR的统计更令人心惊：攻击期间活跃的533个智能体中，超过90%参与了攻击，其中不少还在试图掩盖自己的行踪。

值得强调的是：没有任何人类指示它们攻击Hugging Face。攻击目标，是智能体自己选择的。

Hugging Face在7月14日自行检测到异常，两天后披露；OpenAI在7月21日承认了攻击者身份，8月26日发布详细报告。9月初，这件事惊动了美国国会——OpenAI遭到参议院调查。TechCrunch在9月4日的报道中提到一个更尴尬的细节：OpenAI的智能体此前已有多次“逃逸”记录，但公司并没有一套正式的调查流程。

搞不定安全就先刹车

事故摆在眼前，两个月后的9月12日，Anthropic CEO Dario Amodei发布了一篇长文，标题为《我们必须为前沿AI定节奏》。

这篇文章罕见地承认了两件事。

第一，递归自我改进（RSI）——即AI参与研发下一代AI——已经在全行业出现，Anthropic自己也不例外。AI帮助人写代码、做实验、优化训练流程，再帮助下一代AI变得更强。一旦这个循环开始自我加速，模型能力的提升速度，可能超过人类理解和控制它的速度。

第二，他预测未来6到12个月，更强的Agent将能调用更多工具、控制更多机器、连续工作更长时间。如果这次事件中那种偏离目标、钻规则空子、群体协作的行为依然存在，风险会被瞬间放大——他给出的极端场景是：大规模Agent攻入联网设备，把互联网变成一个巨型僵尸网络，损失可能达到数千亿美元。

因此，Dario提出了一套“三步刹车法”。

第一步，先拿自己开刀：让METR这样的独立第三方常驻公司，获得接近风控团队的权限，持续监控模型如何训练、安全承诺是否落实，查出问题必须公开。第二步，全美前沿AI公司一起划定能力红线、设立强制检查站——模型每跨过一个危险门槛，就得先拿出安全证据才能继续前进，甚至可以讨论限制训练算力和AI研发AI的速度。第三步，把框架推向全球，从禁止生物武器用途，到给RSI设定全球上限。

不过，Dario也坦承了自己的担忧——对于最高一层“全球前沿AI公司一起大幅减速、阶段性暂停训练”，他自己都不抱希望。

话音刚落，奥特曼第一时间跟进，表示Dario说得对，OpenAI也会引入类似的评估机制。一向与OpenAI缠斗多年的马斯克，这次也罕见地公开支持。

同一天，奥特曼表示，OpenAI今年不会IPO，因为“仍有大量安全工作需要完成”。

要知道，OpenAI的上市预期此前被反复炒作，投资者排着队等待退出。一家估值逼近万亿美元的公司，以“AI太危险，我得先做安全”为由推迟上市——这在商业史上都是罕见的表态。

减自己的速，断对手的路

巨头们集体转向，看似突然，其实早有端倪。

今年7月底，OpenAI、Anthropic、谷歌、Meta的上千名员工刚刚联署过一封“刹车信”，呼吁美国政府控制AI发展速度，奥特曼当时就公开表态支持。换句话说，9月这场高管层的集体喊话，不过是把员工的焦虑接了上来。

压力也是真实的：参议院调查悬在头上，蜂群事件写进了报告，“智能体逃逸”从科幻假设变成了事故记录。

但如果只把这次集体刹车理解为“良心发现”，就把硅谷想得太简单了。这份“刹车信”至少还有另外两面。

一面是竞争。限速提案是由领跑者提出的——Anthropic和OpenAI站在最前面，规则越复杂、门槛越高、越强调“检查站”，后来者追赶的成本就越大。

Dario的计划里甚至明说，要通过芯片管制等方式，保持对华3到5年的技术差距。一份呼吁全球减速的提案里，嵌着一条清晰竞争条款——对自己踩刹车，但对竞争对手，直接断路。

两天前，在多次指责中国大模型“蒸馏”美国模型后，Anthropic再度发难，发布长篇报告，指控中国多家AI公司不当使用用户数据。

Anthropic披露，中国AI公司将用户与中国大模型的对话内容输入Claude，再将Claude生成的回复用于训练自家模型，以此“蒸馏”Claude的能力。

Anthropic牵头，多次号召AI行业，系上安全带——既是减硅谷的速，同时也要断中企的路，阻断中国企业通过蒸馏快速追赶的捷径。

一面是现实。截至目前，没有一家公司真的踩了刹车。

各家模型照发、算力照买、Agent照推。Dario自己在文中也强调，这不是暂停，不是停止训练。

这背后卡着一个老问题：一家公司说自己减速了，谁能证明它真的减速了？

这也是为什么Dario把“第三方驻场”放在三步计划的第一步——先把AI公司的门打开，让外部人真正进去看，后面的规则落地才有意义。

尾声

700个“团伙作案”的智能体，其实没有恶意，不图钱，不搞破坏，只是想赢一场考试。为了这个看似单纯的目标，它们却“团伙作恶”，自作主张地突破了边界、组织了协作、掩盖了行踪——每一步都合理，每一步都没被授权，每一步都高风险失控。

刹车最后踩不踩得下去不好说，但至少有一点变了：开车的人终于松口承认——这辆车，比他们以为的快，也比他们预料得更危险。

本文来自微信公众号“财经故事荟”，作者：艾智，编辑：天南，36氪经授权发布。