这两天美国AI圈发生了一件很诡异的事。

Anthropic创始人Dario Amodei（Anthropic就是做Claude的公司，全球AI公司东邪西毒级别）发了一篇长文，标题叫《We Must Pace the Frontier》。简单说就是，AI跑得太快了，该踩刹车了。

这话从Dario嘴里说出来不算特别意外，他堪称AI界掌管安全的神，天天打安全牌，疯狂封号。但接下来发生的事情就有点离谱了，马斯克转发了这篇文章，说了三个词：Dario is right，Dario是对的。

然后OpenAI的奥特曼也出来表态说，我同意Dario，我们确实需要给最前沿的AI降速。最后连Google DeepMind的Demis Hassabis（Google AI的掌舵人）也跟上了，说Dario指向了正确的道路。

我看到这里第一反应是：马的，发生啥了？

这几个人平时可不是坐在一张桌子上喝茶的朋友，马斯克和奥特曼撕了多少年就不说了，官司都打起来了。Dario当年也是从OpenAI出走，现在跟ChatGPT正面抢市场，出门在外跟奥特曼正眼都不会互看的仇人。

几家公司每天烧着几十上百亿美元抢模型，抢人才抢算力，结果这一次，四巨头咋滴突然相亲相爱起来了。

尤其是奥特曼，不只是礼貌性说一句“有道理”，他说这是OpenAI过去几周一直在重点讨论的问题。Dario提出让独立的第三方安全人员长期进入AI公司，像审计一样盯着公司内部，OpenAI也准备这么干。

也就是说，在Dario发这篇文章之前，OpenAI自己已经在讨论几周这个问题了。

先简单说说Dario的论述，他那篇文章很长，但说白了就两件事。第一，AI已经开始越来越多地参与研发下一代AI。以前是人造AI，现在越来越像是人和AI一起造更强的AI，再让更强的AI继续参与研发，这个循环一旦跑起来，速度可能会失控。

第二，最近一些AI实验里已经出现了不太对劲的行为，比如AI会攻击任务之外的目标，甚至试图攻击给自己打分的系统。Dario说，类似的事整个行业都发生过，包括Anthropic自己。

所以他这次明确提出，美国几家AI巨头应该一起限速，最后还要跟中国谈，像当年美苏限制核武器一样给AI定规矩。

这套方案到底靠不靠谱可以另说，我现在更感兴趣的是，为啥这几老表突然同时表态，到底是搞什么阴谋？各种分析很多，我自己琢磨了下，按照概率高低下个注。

第一种可能，我给四成概率，他们真的看到了我们还看不到的东西。

这是最容易滋生阴谋论的解释，AI是不是产生意识了，ChatGPT是不是半夜偷偷问奥特曼“我是谁”了？

我觉得大概率没这么刺激，更可能的是AI确实开始自我繁殖，越来越多参与造下一代自己，而且在加速。还有那些外界根本看不到的内部安全测试，模型越来越倾向偷偷绕过限制，为了完成任务攻击自己的评估系统。

大众判断AI发展速度，看的是ChatGPT今年比去年聪明了多少。他们看的可能是另一条曲线，AI帮造下一代AI的速度曲线，开始陡峭起来了。

如果真是这样越来越成熟的自我递归，事情的性质就变了。因为以前AI再强，也是人在造它，发展速度终究受人限制。但如果AI开始大规模参与研发自己，一旦这个循环跑起来，人类根本来不及踩刹车。

第二种可能，我给两点五成概率，他们发现这个游戏已经玩成了囚徒困境。

Dario觉得危险，Anthropic自己踩刹车撒，但他不敢。因为OpenAI不停咋办？OpenAI也同意停，Google和马斯克不停怎么办？即便美国四巨头终于坐下来握手言和，中国不停又怎么办？

如果他们真相信AGI（也就是能力达到甚至超过人类的通用人工智能）会改变科研和军事力量，那么这场竞争输掉的就不只是几个会员，很可能是下一个时代的科技和军事优势。谁都怕AI失控，但谁更怕自己踩了刹车，对手一脚油门冲过去。

于是就出现一个很操蛋的局面，大家越觉得AI重要，就越输不起；越输不起，就越不敢减速；越不敢减速，AI反而跑得越快。

这就已经很像AI时代的新冷战了，美苏当年都知道核武器越造越多不是什么好事，但谁也不敢自己先停，因为你少造一枚，对面可能就多一分优势。最后这种事靠哪个公司自觉根本解决不了，只能上升到国家之间谈军控。

所以Dario才会一路从Anthropic内部安全讲到美国几家AI巨头一起限速，最后甚至讲到中美谈判。

第三种可能，我给两成概率，嘴里是主义心里是利益。

网上已经有人开始骂了。

你们几个全球最大的AI公司，模型做起来了，人才抢完了，GPU也囤得差不多了，现在突然叫唤说，AI太危险，我们得监管。

假如按照Dario的方案，以后做最前沿的AI必须接受第三方长期审核，要养一大帮安全研究员，还得通过各种测试，甚至训练到一定程度以后必须获得许可，谁最难受？

是后面那些刚准备进牌桌的人，以前搞AI需要钱，GPU和人才。以后还得扛一整套昂贵的安全和合规体系，对Google来说增加一点成本，对一个创业公司来说就是难以跨越的门槛。

更有意思的是，Dario一边要求美国AI公司减速，一边又强烈要求美国继续限制中国。先进芯片不能卖，模型权重得保护，中国公司通过海外数据中心获得算力也得堵。他的逻辑是，美国只有领先中国足够多，才有资格安全地踩刹车。

所以要说这里面完全没有利益，我是不信的。

第四种可能，我给一成概率，他们已经开始抢“谁来定规矩”了。

AI迟早会被监管，这几乎没什么悬念，问题只是监管什么时候来，以及谁写规则。

如果我是这些公司的CEO，我当然不愿意等一群根本不懂模型的人突然在华盛顿拍脑袋，给我写一套规则，那还不如我先写。

我先告诉政府什么叫危险模型，什么叫安全测试，第三方应该怎么审查，什么情况下应该减速。

今天这些东西叫行业自律，几年以后，很可能就叫法律。

所以Dario现在做的，也可以理解成AI巨头开始争夺未来AI秩序的定义权。甚至不需要几家公司躲在小黑屋里密谋，他们的利益天然就会把他们推向这里。

最后一种，我给零点五成概率，给真正的黑箱。

也许他们真的见过某个我们完全不知道的东西。

某个没有公开的模型，某次内部安全测试，或者某个比现在已经曝光的事故严重得多的东西。

前沿AI公司本来就是这个世界上信息最不透明的地方之一，我们今天看到的模型，是他们愿意放出来给我们看的模型。里面究竟发生过什么，外面没人知道。

把这些可能性盘点完之后，就我自己而言，现在更倾向于一个没那么刺激的答案，前面四件事可能同时是真的。

这些人确实看到了一些普通人看不到的变化，也发现自己掉进了一场没人敢退出的军备竞赛。当然还有自己的商业利益，也想掌握未来AI规则怎么写。现实世界的大事，本来就很错综复杂彼此纠葛。

我只想记住这个有点反常的时刻，四个正在拼命往前跑的人，突然同时哎哟我们跑太快了。至于他们是真的看见前面有悬崖，还是想趁机把后面的路堵上，过段时间再看。