Anthropic最新模型的安全风险

加拿大央行以及该国主要银行和金融机构于周五召开会议，讨论由Anthropic最新人工智能模型引发的网络安全风险。加拿大财政部长Fran?ois-Philippe Champagne的发言人确认该会议于周五举行。

此次会议紧随本周早些时候美国政策制定者采取的类似行动。媒体周四报道称，美国财政部长贝森特和美联储主席鲍威尔紧急召集华尔街高管，讨论Anthropic的Mythos及类似AI模型。

加拿大方面的会议由“加拿大金融部门韧性小组”成员参与，该小组由加拿大六家最大的银行代表组成，例如加拿大皇家银行和多伦多道明银行。其他成员还包括多伦多证券交易所的母公司、联邦财政部以及加拿大金融机构监管办公室在内的金融监管机构（OSFI）。

加拿大金融部门韧性小组由加拿大央行牵头，是一个公私合作机制，其使命是“提升加拿大关键金融体系的运营韧性”。加拿大央行发言人表示：“我们已注意到这一问题，并高度重视网络安全。”

代表包括六大银行在内数十家机构的行业组织加拿大银行家协会，未就Anthropic模型或此次会议作出具体评论。该协会发言人表示，银行正通过“长期存在的、行业特定的监管要求和内部框架”来管理与人工智能相关的风险。

加拿大金融机构监管办公室（OSFI）一位发言人在邮件声明中表示：“我们正与各机构积极沟通，以提高对这一问题的认知，并评估其对金融系统韧性的潜在影响。”该监管机构正就“先进人工智能模型的最新发展及其潜在网络安全影响”与银行保持接触。

此次会议以及OSFI的表态，进一步表明全球监管机构日益担忧：更强大的AI模型可能催生针对金融行业的新型网络攻击。

银行正越来越多地组建专门团队，利用AI降低成本并发掘商业机会，但同时也在努力管理这一快速发展技术所带来的风险。自2023年以来，OSFI已被赋予职责，评估银行和保险公司是否具备足够的政策来防范安全威胁，并已发布技术与网络风险管理指南。

该发言人表示：“OSFI目前不计划因这一新兴威胁在短期内调整现有指南”，但会继续与加拿大网络安全中心协调，分享威胁信息及缓解措施，并持续监测相关风险。

Anthropic表示，其Mythos模型是一种高度复杂的新系统，能够识别并利用主流操作系统和网络浏览器中的漏洞。由于能力过于强大，公司决定不向公众发布该模型，而是成立了一个名为“Glasswing项目”的小组，向部分大型科技公司以及摩根大通提供测试访问权限。

这些公司将使用该模型测试自身产品，查找可能被利用的漏洞并反馈结果，Anthropic则据此确定需要为该技术设置哪些安全护栏。在美国，包括高盛、花旗集团和美国银行在内的一些华尔街银行正在进行内部测试。