美官员：AI模型Mythos发现美涉密系统漏洞

周二（6月23日），一位美国官员向媒体透露，人工智能巨头Anthropic研发的AI模型Mythos 5，在一次测试中发现了美国政府高度机密的电脑系统漏洞。 此事进一步引发外界猜测，美政府近期限制Mythos 5使用权限的决定，可能与该模型展现出的强大漏洞挖掘能力有关，但官方尚未证实两者存在直接关联。

这位不愿具名的官员向美联社透露，Anthropic与美国情报机构合作，利用Mythos模型测试电脑系统中的漏洞。该官员指出，测试在数小时内就发现了某些漏洞，不过这并不意味着该模型有能力在短时间内“直接利用”这些漏洞并发动攻击。

该官员表示，此次测试是透过Anthropic发起的“玻璃之翼计划”（Project Glasswing）进行的。该计划汇集了谷歌等其它科技巨头，旨在保护全球关键作业系统免受Mythos造成的“严重冲击”，因为这些关键作业系统攸关公共安全、国家安全与经济运作等重要基础设施。

事实上，在美国官员透露此事的前一天（6月22日），五眼联盟就曾发出警告，指出尖端的AI模型性能可能在短短几个月内，就会突破并“颠覆”全球各国政府和企业的网络安全攻防系统，呼吁各界紧急采取行动应对威胁。（参见《五眼联盟警告：AI网攻威胁提速 须加强防御》）

联邦参议员马克‧沃纳（Mark Warner，维吉尼亚州民主党）曾在6月11日参议院银行、住房和城市事务委员会的听证会上，提及这项测试。

当时沃纳指出，“这款工具在模拟测试中突破了绝大多数机密系统的安全防线，且花费的时间不是几周，而是短短数小时。”他补充道，这项资讯来自美国国家安全局（NSA）兼网络司令部司令约书亚‧鲁德（Joshua Rudd）将军。

美国国家安全局与Anthropic的发言人，均拒绝对此事置评。

百位资安高层吁美政府撤销禁令

另外，Anthropic长期主张在推进前沿AI能力的同时，应建立更严格的安全评估与治理机制，担心过快发展AI恐导致它脱离人类的掌控，甚至开始自主迭代更新，最终危及人类。

川普政府先前因担心不法分子，可能会利用Mythos 5寻找设备作业系统、银行、其它关键基础设施的漏洞，下令Anthropic停止向任何外籍人士提供旗下AI模型Fable 5与Mythos 5的存取权限。由于Anthropic难以准确筛选用户身份，于6月12日全面暂停了所有用户的存取权限。

针对暂停权限一事，Anthropic透露，美国政府认为有人找到了“破解”（越狱，Jailbreak）Fable 5的方法，这意味着该AI能被破解安全限制，最终变得跟Mythos 5一样危险。

作为Anthropic旗下Claude系列AI模型，Fable 5是一款偏向安全、稳健、可靠输出的模型，而Mythos 5更偏向创造力、推理力，更强的生成能力。

不过，超过100位资安界人士（包括Adobe和Nvidia高层在内），近日联名致信美国政府希望撤销该禁令。

信中称，Mythos模型在发现软体漏洞、将漏洞武器化方面相当出色，但其能力并非独一无二。联名信指出，若在缺乏充分证据的情况下限制美国最先进的网络防御AI工具，恐削弱美国在网络安全领域与竞争对手国家的竞争力。