人工智能近期的进展在五角大楼和国家安全机构内部引发了巨大震荡。

7月中旬，美国众多大型军事承包商收到了一封来自空军措辞严厉的信函，信中写道：9月1日前，所有用于武器和控制系统的软件必须彻底清除人工智能公司Anthropic开发的产品。若不遵守这一要求，它们与五角大楼的所有业务都将面临终止风险。

然而不到一个月，这些承包商又收到了一纸出人意料的撤回令：他们可以——至少在目前——无视先前关于清除Anthropic产品的指令。

这再次凸显出近几个月来席卷国家安全机构的人工智能冲击浪潮带来的混乱与矛盾。五角大楼这样的机构至今仍在使用上世纪50年代设计的飞机，却要拼命追赶以月为单位能力飞速跃升的人工智能模型。

在Anthropic的案例中，这种紧张关系进一步加剧。该公司曾试图对美军使用其技术施加限制，国防部长皮特·海格塞斯为此与其首席执行官达里奥·阿莫代伊公开交恶。

国家安全局高级官员认为，若失去Anthropic强大的Mythos模型，要发现和修复五角大楼自身系统的安全漏洞将困难得多。事实上，尽管最初下令禁用Anthropic，国家安全局仍被允许继续使用该公司的产品。

现任及前任官员说，当时正在用Mythos进行关键测试，以评估它入侵高度防护的外国网络的潜力。按照一名近期离职的美国高级官员的说法，停止使用Mythos将相当于“单方面解除武装”。Mythos已经具备实施进攻性网络行动的潜力，这让数字军备竞赛进一步提速。

从国防部到中央情报局和国家安全局，政府已投入数十亿美元，利用人工智能研发可减少人工干预的自主武器、测试军事网络漏洞，甚至测试核密码，以确保这些系统不会被敌方的人工智能攻破。人工智能对川普总统提出的“金穹”太空导弹防御愿景也至关重要——尽管在许多专家看来，这一构想近乎天方夜谭。

但此前的这些工作几乎都没有预料到Mythos及其同类人工智能模型所具备的能力，也没有充分考虑到中国可能只需几个月就能拥有强大且成本更低的版本。这可能会大大增强中国渗透美国的通信网络、供水系统和电网的能力——正如中国在拜登政府时期发起的两次大规模攻击（“伏特台风”和“盐台风”）中成功做到的那样。



Anthropic联合创始人兼首席执行官达里奥·阿莫代伊，去年摄于纽约。

“这些都是我们在人工智能成为每日头条之前就在谈论和担忧的事情，”拜登政府时期担任网络安全与基础设施安全局局长的珍·伊斯特利说。“而现在之所以不同、问题之所以变得更加紧迫，原因在于人工智能可能对这些能力产生的放大效应。”

迄今为止，川普政府的应对摇摆不定：先是放弃了对这一行业的不干预态度，随后一度切断外国人（包括Mythos的部分发明者）访问该模型的渠道，继而又解除了这一禁令。

本月早些时候，政府召集了包括OpenAI和Anthropic在内的大型“前沿”人工智能模型开发企业的高管，告知他们新模型将接受政府审查，以确保它们不能被用于制造生物武器，或入侵美国的机密系统及控制核武器的通信网络。

（《纽约时报》已对OpenAI和微软提起诉讼，指控其侵犯与人工智能系统相关的新闻内容版权。两家公司否认相关指控。）

但政府审查流程豁免了“开放”模型（包括许多由中国公司开发的模型），这类模型的代码可由用户自行修改。

一家获悉新政策的企业高级主管表示，这一政策毫无道理，因为开放模型同样可能带来危险。与许多业内人士一样，该主管不愿具名，以免触怒政府官员。

五角大楼否认自身应变不足。他们表示，尽管遭遇了Anthropic禁令，美国军方依然维持着对全球最先进人工智能系统的即时访问能力。一名以匿名为条件讨论五角大楼政策的官员表示，国防部近期在谷歌Gemini一款新模型商业发布后四天内完成了整合部署。

超过1300名人工智能从业者呼吁美国放缓研发步伐。包括川普政府内部人士在内的其他人则以一个问题回应：“那中国呢？”他们担心美国会失去据评估目前保持的约六个月领先优势。



去年上海世界人工智能大会上展出的华为Ascend Atlas 900 A3超节点。

这种担忧也引发了争论：美国针对领先芯片制造商英伟达部分最强大芯片的出口限制是否能有效阻止中国获得追赶所需的算力。出口管制也可能适得其反，促使中国企业转而通过黑市获取芯片，或者进一步加大自主研发力度。

当下的美国国家安全形势很容易让人联想到冷战初期。当时美国是世界上唯一拥有核武器的国家，并竭力拖延苏联赶上。（广岛和长崎遭遇原子弹袭击四年后，苏联在1949年8月底试爆了第一颗原子弹。）中央情报局局长约翰·拉特克利夫最近也援用了这一类比，称把人工智能的能力“视为数字核武器”并“不算言过其实”。

但如同大多数历史类比，这种比较也存在局限。核武器当时完全掌握在国家手中，且制造和投送核武器的基本技术80年来几乎没有变化。

人工智能却是在私营部门开发的，并向所有人开放。许多最强大的模型每周都在更新，其能力和不可预测性也是在不断发展过程中才逐渐被发现。美国专家估计，中国在最先进人工智能模型的研发方面可能只落后美国六个月甚至更短时间，但在制造支撑人工智能发展的先进半导体方面，中国可能仍落后美国数年。

但已有证据表明，美国的主要技术和经济对手也对正在释放的能力感到不安。一些中国官员私下已在讨论某种形式的军备控制，尽管无人知晓这如何实现。

“他们意识到存在能力差距，这可能对我们有利，”乔治城大学教授、曾任美国国家安全委员会官员的麦艾文(Evan S. Medeiros)说。“在核军控和导弹防御问题上，我们始终无法让他们坐到谈判桌旁。但在人工智能问题上，他们似乎更有意愿。”

川普曾表示，当他9月底在华盛顿与中国国家主席习近平会面时，人工智能将再次成为讨论议题。预计双方在今年晚些时候还有两次会晤。

但谈及人工智能时，川普从未阐明其政策目标，也未在近期表达对人工智能代理程序寻求突破自身限制、或自主入侵外部企业和网络等问题的忧虑。当有消息称人工智能被用于设计一种自然界不存在的新病毒——这一发展既可能预示真正的医学进步，也可能预示生物武器，白宫未作任何回应。

但有一点是明确的：一年前让国家安全界担忧的许多假设性情景已经开始成为现实。

在五角大楼，惩罚Anthropic的举措事与愿违



国防部长皮特·海格塞斯，今年早些时候摄于五角大楼。由于Anthropic试图对其技术使用施加限制，他与该公司首席执行官达里奥·阿莫代伊公开交恶。

海格塞斯及其助手清除Anthropic代码在国防业内引发的混乱只增不减。空军在通知承包商清除所有Anthropic代码一个月后，又发送了另一条消息，告诉他们“暂缓执行”——至少目前如此。

《纽约时报》获得的一份更新通知写道：“目前，不要求你们从库存中移除与空军部和空军系统及网络对接的Anthropic产品或服务。”通知同时警告，最新指引可能根据诉讼结果再次被推翻。

这些反复无常的指令反映了海格塞斯的困境：他试图惩罚一家深度嵌入军工复合体的领先人工智能巨头，同时又不能妨碍军方的国家安全使命。

当被问及这一明显反转时，一名五角大楼官员称新空军指引是临时性的，并表示在国防部范围内清除Anthropic产品的指令不会打折扣。

公开层面，五角大楼拒绝让步。在接受采访时，五角大楼官员暗示，该部与Anthropic之间的敌意始于这家硅谷公司开始提出一些军方认为荒谬的要求——关于Claude for Government模型（一个广受欢迎的公开人工智能模型的特殊版本）应如何使用。高级官员称，Anthropic向他们提交了25页的限制条款。

经过几个月的争执，这25页被缩减为两项限制。在2月五角大楼的一次会议上，阿莫代伊告诉海格塞斯，除非军方明确保证，这些产品不会被用于对美国人的国内监控或生产最终不受人类监督的完全自主武器，否则公司不会向军方提供任何产品。

但这并没有解决问题。国防部长态度强硬，指出雷神公司无权决定其生产的导弹如何用于对付敌人；海格塞斯表示，这些决定完全属于政府官员的职权范围，而非企业高管。当阿莫代伊拒绝让步时，五角大楼宣布该公司构成“供应链风险”——并禁止军事使用。

今年5月，负责研究和工程的国防部副部长埃米尔·迈克尔对《纽约时报》记者表示，Anthropic是自作自受，而五角大楼过度依赖单一人工智能程序供应商是个错误，即使其产品似乎领先于竞争对手和中国。当被问及该公司能做些什么来重新获得国防部的好感时，迈克尔表示：“在战争部就别指望了。”



埃米尔·迈克尔去年在参议院军事委员会作证。

五角大楼官员称，他们已基本完成从军事计算系统中移除Anthropic的工作。据官员称，曾经使用“Claude for Government”的军事系统中，已有接近100%的系统用其他前沿模型替换了Anthropic的产品——该版本曾经过修改用于机密网络。此外，五角大楼已在其Maven系统中停止使用所有Anthropic工具——该系统用于分析情报并为对伊朗战争中的空袭提供目标建议。

受禁令影响的军工承包商一直不愿谈论此事，或许是担心触怒他们最大的客户。洛克希德·马丁鲍司的一位发言人在声明中拒绝对其收到的要求清除Anthropic的信件直接置评，但表示“我们遵循总统和战争部的指示”。该发言人补充说，预计对其业务“影响极小”，因为其任何工作都不依赖单一大型语言模型，但未点名Anthropic。

但五角大楼与Anthropic的决裂并不彻底。

在阿莫代伊与海格塞斯闹翻仅两个月后，Anthropic发布了Mythos，一款特别适合发现和利用软件漏洞的人工智能产品。川普政府曾一度禁止所有外国人接触该程序——现在看来像是过度反应，随后又撤销了禁令。

这让五角大楼陷入了困境：它刚刚禁止自己使用可能是历史上最强大的新型网络武器。

“恐慌开始了，”一位近期离开政府的前官员说。

虽然五角大楼不允许Claude用于情报分析或代码编写，但官员表示，国安局已被允许以“实验性”方式使用Anthropic先进Mythos模型的某些版本。该机构既在测试美国军方计算机网络防御能力，也在寻找从中国到俄罗斯、朝鲜和伊朗等对手网络中的潜在弱点。

重新思考对人工智能监管的反对立场



川普总统与曾担任政府高级科技官员的戴维·萨克斯，去年夏天摄于白宫。

这种不一致不仅限于五角大楼；商务部、财政部和白宫也存在大量类似情况。随着川普的助手来来去去，各部门争相争取包大话语权，从出口管制到人工智能模型国家安全审查，本届政府在各色事务上的决策更多是由一时冲动和内部影响而非一套明确原则驱动。

在其任期第一年内，政府的做法是不干预，遵循风险投资家戴维·萨克斯的主张——他在今年早些时候离开政府前一直负责人工智能和加密货币政策。

在去年发布人工智能行动计划后，川普政府大幅削减监管并鼓励出口，希望让世界依赖萨克斯所称的“美国技术栈”。今年5月，在萨克斯等人说服下，川普撤回了一项要求人工智能公司向政府提交模型进行安全审查的行政命令草案，认为90天的审查要求过于严格，会给中国竞争对手带来优势。

但官员和其他人士表示，Mythos的威力让政府内部人士感到不安。到今年6月，政府实施了人工智能行业有史以来最严厉的管控措施，切断外国人访问Anthropic模型的权限，包括一些开发该模型的工程师。两周后，它在没有公开解释的情况下解除了对外国人的禁令。

在处理对开发新模型和建设数据中心至关重要的英伟达芯片方面也出现了类似的反复。去年4月，川普政府叫停了一款英伟达人工智能芯片的对华出口，它是此前获准在中国销售的最后一批人工智能芯片之一。

但川普在去年7月改变了立场，此前他在椭圆形办公室会见了英伟达首席执行官黄仁勋。川普表示，这些此前被视为国家安全威胁的销售可以放行，只要美国政府能从中分得一杯羹。



英伟达首席执行官黄仁勋去年在华盛顿出席“赢取人工智能竞赛”峰会。

同样，本届政府还撤销了拜登政府时期的一项规定，即确保最强大的芯片只能自由出售给美国的亲密盟友，对其他国家的销售都要受到限制。川普政府官员曾表示将出台替代措施，但他们在替代方案上争执不下。与此同时，一些美国公司得出结论，既然规定已撤销，它们可以自由地向在中国境外运营的部分中国企业出售先进芯片。

川普后来访华与习近平会面，黄仁勋和其他行业高管也随行前往中国。

本届政府目前正应对相互冲突的安全考量与政治风向。如果它对新兴的人工智能先锋实验室管控过严，并威胁切断外国访问权限，可能会将欧洲人推向中国的模型。如果监管不到位，则可能招致灾难，尤其是若发生更多让公众担忧该技术正失控的事件。

美国外交关系协会高级研究员、前拜登政府官员克里斯·麦圭尔表示，川普政府在出口管制方面的姿态一直“前后不一”。

他说，该政府目前正担忧来自中国开源模型的竞争，但此前已收回了许多曾阻碍中国人工智能发展的措施。而且，它将其最严厉的限制措施指向了Anthropic——一家美国公司，而非中国公司。

“你在放松对中国的出口管制，你在留下漏洞，而你第一次对人工智能使用出口管制却是为了打击一家美国公司？”麦圭尔说。