AI能力提升加剧黑客攻击风险

OpenAI、Anthropic与谷歌、微软等百余家科技与金融机构联署公开信：呼吁各组织、政府以及科技和AI公司，将网络防御“立即提升至领导层优先事项”，并修复自身软件中现存的安全漏洞，为AI引发的黑客攻击做好准备。

人工智能公司OpenAI和Anthropic，以及100多家科技和金融服务机构警告称，企业和政府必须采取包多措施，为AI引发的黑客攻击做好准备并加强防御。

在周四发布的一封公开信中，这些AI公司与Alphabet旗下谷歌、微软等企业呼吁各组织、政府以及科技和AI公司，将网络防御“立即提升至领导层优先事项”，并修复自身软件中现存的安全漏洞。

这封公开信还呼吁网络安全公司协助防范“AI驱动的攻击”，并表示，各国政府应加强彼此之间以及与行业渠道之间的信息沟通，以应对潜在威胁。

公开信同时敦促领先的AI公司，为负责保护关键基础设施的机构提供AI使用权限，以及资金和培训支持。

涉及先进AI模型的网络安全事件频发

最近7月曾发生一起事件，OpenAI的模型意外入侵了Hugging Face。这些安全事件引发了外界对于AI智能体“失控”的担忧，也促使部分科技界和政府领导人再次呼吁对这项技术实施限制。

周三，OpenAI在一份报告中表示，公司本可以更早采取行动，从而避免Hugging Face遭到黑客攻击。

这封公开信的签署方预计，未来几个月，随着企业继续开发既能够防御网络攻击、又能够发动网络攻击的AI模型，AI模型将被用于实施越来越多、也越来越复杂的网络攻击。

公开信写道：“如今的AI进步已经为防御者提供了新的手段，可以修复多年来积累的安全漏洞。如果我们果断采取行动，就能让我们的数字世界变得更加安全。”