27岁研究员辞职：造AI的人真心相信，它能杀死我们所有人
9月8日，一条推文发出来，24小时内被看了9500万次。两天过去，已经接近一亿次。
发帖的人叫Jacob Coxon，27岁，只写了一句话：我今天从Anthropic辞职了。
如果只是辞职，不稀奇。稀奇的是接下来的两件事：他辞职信里写的东西，和公司的回应。
上一集我们聊过，OpenAI把油门踩到底了。今天故事的主角换成它的老对手Anthropic——这家公司不仅把油门也踩到底，还有一个人，直接从车上跳了下去。
他的履历亮眼得吓人：过去三年，他在全球最顶尖的两家AI实验室做核心的预训练研究——先在OpenAI，是GPT-4o系统卡上白纸黑字的署名贡献者；今年7月，跳槽到Anthropic。
打个比方，如果AI是一辆车，预训练就是造发动机，他就是离发动机图纸最近的那批人。
更扎心的是他跳槽的原因：他是冲着Anthropic的安全名声去的——负责任扩展政策、可解释性研究、红队测试，业内公认它做得最认真。结果不到半年，他不是跳去下家，是直接离开整个牌桌，正式退出AI行业。
9月9日，他发了一整篇长帖，还接受了《华尔街日报》独家专访。我给大家翻译三句最狠的。
他在帖子里还留了一句话，值得细品："接受这场竞赛、进入'终局'，是一场傲慢的豪赌——它不应该由一家私人公司，从自己的Slack里发起。"
你可能觉得，每年不都有几个离职放狠话的？这次不一样。不一样在：公司里管刹车的人，站出来说他说得对。
管刹车的人说：他说得对
第一个站出来的是Evan Hubinger，Anthropic对齐科学的负责人。对齐是干什么的？说白了，就是研究"怎么让AI听人类的话、别反过来干掉我们"。他是全公司管刹车的那个人。
什么叫超过10%？你坐一辈子飞机，空难概率都到不了这个数。这是全人类灭绝的概率，十分之一。
翻译成人话：负责"别让AI杀了我们"的总工程师说，刹车还没造出来，也不知道哪天能造出来。而油门，一直踩着。
第二个站出来的是Samuel Marks，公司"可扩展监督"团队的负责人。他以个人身份发声："AI开发者相信，他们的技术可能导致人类灭绝，这可能发生在未来几年。总的来说，员工越资深，越担忧。"他还说明了自己为什么还留在公司：继续做安全研究，是为了尽量降低那种结果发生的概率。
一个辞职的人说：公司要放出一头怪物。两个在职的、专门管安全的人说：他说得对。这已经不是内斗了——这是全公司都同意，但，不停，照做不误。
顺便说一句，质疑声也有。有人在Hacker News上说这是"末日人设"表演。但他GPT-4o系统卡的署名白纸黑字，质疑的人拿不出任何反证。
既然都知道危险，为什么没人踩刹车？
问题来了：既然所有人都知道危险，为什么没有一个人踩刹车？有个词，叫囚徒困境。
Jacob自己开过药方：实验室之间达成"配速协议"，谁也不许超速；做不到，就请政府介入，哪怕代价是临时禁止提升模型能力。他对协调持乐观态度——但被问到现实时他承认：照现在这个走法，行业并没有走在协调的路上。
为什么难？因为你停，别人不停。谁踩刹车谁出局，谁不踩刹车，大家一起往前冲。这场游戏的规则就是：明知道前面可能是悬崖，每个人的最优选择，依然是加速。
证据都是现成的
先发布，后警告。每个人都想要一个更安全的世界，但没有一个人愿意先松开自己的油门。这就是2026年的AI。
一个黑色幽默
Anthropic正在筹备上市，估值目标最高两万亿美元，募资1000亿，可能超过SpaceX成为人类历史上最大的IPO。给它撑腰的数字是营收——年化营收已超650亿美元，一年前还只有不到8亿。
它讲给投资人听的故事是什么？"我们是最重视安全的那家AI公司。"
现在这块招牌，被自己人当众掀了。走的人说不安全，留下的人说他说得对。下个月就要路演了，这个故事，我不知道他们打算怎么讲下去。
有个网友的评论一针见血："这就像70年代埃克森的科学家警告全球变暖会毁掉地球，然后埃克森照样拼命钻油。"只不过AI留给我们的刹车距离，比石油短得多。
80年前，我们已经演过一遍
说实话，看完这些我后背一阵发凉，因为我脑子里冒出来的是80年前的画面。
1945年7月16日，新墨西哥州的沙漠，人类第一颗原子弹爆炸。奥本海默站在远处，看着那朵蘑菇云，后来他说，那一刻他想起《薄伽梵歌》里的一句话："我现在成了死神，世界的毁灭者。"
这句话很多人听过，但很少有人知道上下文——那是一个王子站在战场上，对面是他自己的亲人和朋友，他不想打。神告诉他：你站在这个位置，就注定要打。你不打，别人也会打，该发生的照样发生。
80年前，没有一个人在造原子弹的时候停下来。80年后，至少有人造着造着说：我不造了，我下车。但有用吗？没用。车还在开，你不造，别人照样造。连下车的人自己都知道：没用。
所以最后，我想说一句中国话，不是西方的。《道德经》里有四个字：知止不殆。意思是，知道在哪里停下，才不会翻车。
两千多年前，我们的老祖宗就把这事说明白了。今天硅谷最聪明的一群人，揣着两万亿美元，还在重新学这一句——而且，大概率还没学会。
说实话，我做了二十多年建筑设计，看完这件事最不舒服的地方，不在AI本身，在"程序"这两个字。
在我们这行，一座楼能不能住人，从来不是因为设计师聪明，而是因为有人盯着它：图纸要审，结构要验，材料要一组一组试压。甲方催得再急，该走的程序一个都不敢省。为什么？因为楼塌了，压死的是人，不是KPI。
现在造AI这件事，相当于图纸还没画完，就往里搬家具、住人了。管刹车的人自己承认刹车还没造出来，跑得最快的人说等不起，剩下的人都在赌——赌出事的不是自己。
我不懂大模型，但我懂一门手艺的规矩：你把安全当成成本，它迟早会变成代价。
所以我站Jacob。不是因为他辞职辞得漂亮，是因为他把很多人心里明白、嘴上不说的话，说出来了。
这趟车我下不去，也没地方下。但有件小事是我能做到的：不跟着喊"再快点"。
还是"末日戏太多"派？
如果你是Jacob，你会不会下车？评论区聊聊。
转发给身边的人，喜欢这类AI一线深度观察，点个「在看」，这个系列我会继续写下去。