美管制Anthropic模型 防中俄军事情报利用

美国商务部最近首度引用《2018年出口管制改革法案》（ECRA）对人工智能（AI）技术实施管制，要求AI新创公司Anthropic暂停向全球所有目的地及外籍人士提供其最先进的Mythos 5与Fable 5模型。

商务部官员担心，这些模型具备的强大功能，可能被中共、俄罗斯，或其它具安全风险的国家之军事情报人员利用。

怀疑中共关联组织已获取模型的存取权限

此次出口管制行动背后，与白宫对中共获取技术的担忧密切相关。

消息人士向美国数位媒体Semafor透露（链接），川普政府实施限制的部分原因，是怀疑一个“与中方有关的组织”已获取了Mythos模型的存取权限。

虽然目前尚不清楚该组织如何取得权限，但美国政府担心，一旦中共政府掌握该模型，将对美国国家安全构成重大威胁。

除了直接滥用模型功能外，美国官员更担心中国可能尝试对该模型进行“反向工程”（Reverse-engineering），透过所谓的“蒸馏”（Distillation）过程进行复制，进而开发出具备类似性能的中国模型。

担忧加剧军事情报威胁与安全漏洞

根据路透社取得的一封信函副本，美国商务部长卢特尼克（Howard Lutnick）警告Anthropic执行长阿莫代伊（Dario Amodei），若不遵守这项出口禁令，将面临“即时的刑事与民事处罚”。

卢特尼克明确表示，采取行动是因为官员们担忧，这些模型可能被中俄或其它“关注国家”（countries of concern）的军事情报人员利用。

政府官员还指出，Fable 5可能存在一种可绕过安全防护的“越狱”方法，使其原本被限制的网络安全能力遭到启用。所谓“越狱”，是指使用者透过特定方式绕过AI模型的安全限制，让模型回答原本应被阻挡的高风险请求。

据CNBC报道，Anthropic认为，政府关切的是一种“潜在、狭窄、非普遍性的越狱”情况，也就是使用者可能绕过Fable 5的一道网络安全防护，要求模型读取特定代码库并修复软件缺陷。这项防护原本是为了防止Fable 5被用于识别软件漏洞。

Anthropic全面下架与回应

面对政府指令，Anthropic已于上周五将两款模型全面下架，甚至其内部的外籍员工也被禁止存取。

Anthropic发言人指出，该公司已禁止从中国境内访问其产品，并表示白宫在有关“越狱”风险的对话中，并未提及中国获取Mythos的问题。

该公司在声明中强调：“如果这项标准应用于整个产业，我们认为这基本上将使所有尖端模型供应商的新模型部署陷于停顿。”

消息人士表示，Anthropic的主要投资者亚马逊（Amazon）在事件中扮演了关键角色。

一名白宫官员向CNBC证实，亚马逊执行长贾西（Andy Jassy）是多名向川普政府高阶官员表达担忧的科技领袖之一，他们关切Anthropic最新AI模型中的安全风险。

亚马逊发言人对此表示：“作为服务众多私部门与公共部门客户的领导级云端供应商，政府就潜在安全风险咨询我们的意见，这并非罕见情况。”

目前，Anthropic的技术团队正与商务部及国家网络总监（National Cyber Director）密切接触，试图寻求解决方案。

预计执行长阿莫代伊与商务部长卢特尼克，将于法国举行的G7会议期间继续磋商。