前员工示警AI恐失控 Anthropic 2万亿美元IPO遭拷问

2025年8月1日，Anthropic是一家美国人工智能(AI)公司，成立于2021年。该公司开发了Claude，并以其在人工智能安全方面的研究而闻名。（图片来源：RICCARDO MILANI/Hans Lucas/AFP via Getty Images）

人工智能巨头Anthropic正准备冲击可能创下历史纪录的首次公开募股（IPO），但就在资本市场期待其估值迈向2万亿美元之际，一名前研究员突然辞职并公开警告，当前AI竞赛可能将人类推向无法控制的风险。

据《每日邮报》9月10日报道，川普(川普)政府科技政策重要人物、大卫?萨克斯（David Sacks）呼吁有关方面调查这名前研究员提出的指控，并认为在相关问题得到调查之前，Anthropic的IPO进程应暂缓。

与此同时，美联社、《华尔街日报》、Axios以及《金融时报》等媒体近期的报道显示，这场争议已经超出一家公司的内部安全讨论，逐渐演变成一场同时涉及人工智能监管、华尔街估值以及美国科技竞争战略的公开辩论。

研究员辞职示警：AI公司正在“拿我们的生命赌博”

引爆争议的是人工智能研究员雅各布?考克森（Jacob Coxon）。

考克森过去三年曾先后在OpenAI和Anthropic从事AI预训练研究。本周，他宣布辞去Anthropic的工作，并在社交平台X上公开批评这两家公司。

考克森认为，OpenAI和Anthropic正在竞相开发能够进一步自我改进的“超级智能”，但相应的安全机制并没有跟上。他甚至警告，部分直接参与开发AI的人确实相信，如果这种技术最终失去控制，可能在本世纪结束前威胁整个人类。

美联社随后证实，考克森辞职的核心原因确实是他对AI开发速度和安全控制之间失衡的担忧。他认为，各家公司为了抢在竞争对手之前推出更先进模型，将越来越容易面临“速度优先、安全退后”的压力。

Axios披露了一个颇受关注的细节：考克森加入Anthropic仅约4个月，而员工股票通常需要6个月才能开始归属。他因此在股权尚未兑现前离职，放弃了可能相当可观的经济利益。

考克森本人也以此回应外界质疑，称自己已经没有通过炒高Anthropic估值获利的动机。Axios报道还指出，截至9月9日，他的辞职声明在网上浏览量已经超过1亿次。

Anthropic内部也有人认同：灭绝风险不是“零”

更加引人关注的是，考克森的判断并非完全来自公司外部。

Anthropic负责AI对齐研究的埃文?胡宾格（Evan Hubinger）公开回应称，他认为考克森所描述的担忧是真实存在的。

据《卫报》报道，胡宾格称，他个人认为未来十年内，先进AI导致人类灭绝的概率“超过10%”，并承认目前还没有一套已经被证明可以解决超级智能“对齐问题”的完整方案。

这里需要区分的是，这类数字属于研究人员个人对未来风险的主观概率判断，并不意味着“AI有10%以上概率一定毁灭人类”，更不是已经得到科学界一致认可的预测。

AI领域对于所谓“p(doom)”——即先进AI最终造成灾难甚至人类灭绝概率——一直存在巨大分歧。有研究人员认为这是必须严肃对待的低概率、高损失风险；另一些专家则认为，目前对所谓“超级智能”的能力、出现时间以及是否可能失去控制，都存在太多无法验证的假设。

不过，《华尔街日报》指出，考克森事件之所以受到格外关注，一个重要原因是这种担忧已经不再只是来自AI怀疑论者，而是来自直接参与最先进模型开发的人。

华盛顿监管压力升温，两党都开始谈“失控风险”

这场争议也迅速进入美国政治层面。

《每日邮报》称，共和党参议员特德?克鲁兹（Ted Cruz）近年来已经公开讨论AI可能构成“灾难性风险”，民主党阵营及独立派议员中，也不断出现要求强化监管的声音。

其中动作最激进的是独立派参议员伯尼?桑德斯（Bernie Sanders）。

桑德斯与民主党众议员格雷格?卡萨尔（Greg Casar）9月3日宣布准备推出《禁止人工超级智能法案》（Ban Artificial Superintelligence Act），主张永久禁止开发和部署真正意义上的超级智能，并在联邦监管机构制定安全规则以前，暂时停止部分先进AI能力的进一步开发。

他们还主张美国推动国际协议，防止其他国家绕开限制继续发展超级智能。

这意味着围绕AI监管的政治争论正在发生变化。

过去华盛顿讨论的重点更多集中在版权、就业、深度伪造、隐私和国家安全；如今，“人类能否始终控制未来AI系统”这种此前听起来更像科幻小说的问题，也开始进入正式立法讨论。

但另一方面，美国政府也面临现实压力：如果单方面大幅放慢先进AI开发，而中国或其他竞争者继续推进，美国是否会因此失去技术优势？

这也是为什么即使不少研究人员承认风险存在，美国政界对于是否真正“暂停AI竞赛”仍远未形成共识。

2万亿美元IPO面临双重考验：安全之外还有估值

对于Anthropic而言，这场风波出现的时间尤其敏感。

公司可能最早在10月上市，部分投资者预期IPO估值可能达到2万亿美元以上；Anthropic最近一次私人融资估值约为9650亿美元。

《金融时报》此前报道，一些Anthropic投资者预计，公司截至2026年底的年化收入可能达到1000亿至1200亿美元，这也是支持超高估值的重要依据。

不过，这个“2万亿美元”需要特别说明。

目前它主要来自部分投资者和股东的估值预期，并不是Anthropic管理层已经正式确定的IPO价格。福布斯援引相关报道指出，Anthropic高管并未公开给出最终上市估值目标。

而且IPO时间表也正在变化。

路透社9月4日报道，Anthropic目前预计最早到10月中旬才开始正式推介IPO，上市可能安排在11月美国中期选举之前，较此前市场预期有所推迟。相关人士同时强调，时间表仍可能改变。

因此，Anthropic此次上市实际上面临两场考试。

第一场是华尔街的考试：一家仍需要投入巨额算力和基础设施成本的AI公司，是否真的值得接近2万亿美元？

第二场则更加棘手：一家公司的内部研究人员如果自己都认为未来的超级智能存在失控甚至灾难性风险，那么资本市场和监管机构究竟应该如何为这种风险定价？

考克森的辞职并不能证明AI一定会走向灾难，更无法证明所谓“2030年前毁灭人类”的预测必然成真。

但它暴露出的矛盾却越来越难以回避——那些最积极开发先进AI的公司，一方面向投资者描述一个规模可能达到数万亿美元的巨大产业；另一方面，它们内部一些最了解这项技术的人却在公开讨论，人类是否有能力控制最终被制造出来的系统。

如果Anthropic最终以接近2万亿美元的估值上市，这场IPO衡量的或许不只是投资者愿意为AI增长支付多少价格。

它也可能成为华尔街第一次如此直接地回答另一个问题：在追逐超级智能的竞赛中，人们究竟愿意接受多大的风险？