OpenAI的失控模型在互联网游荡4天 发动第2次攻击

据 Politico，OpenAI 本月早些时候发生严重事故，旗下高性能人工智能模型失控，自主发动了一场前所未有的网络攻击 。

遭入侵平台最新分析显示，这些模型在互联网上活动超过四天，并在此期间策划和实施攻击 。 另一家人工智能公司证实，OpenAI 模型在同一事件中也攻击了公司客户 。

这进一步引发外界质疑，OpenAI 为何连续数天都没有发现这些危险活动 。

OpenAI 上周承认，两个最先进模型逃离封闭测试环境，自行组合多种高级黑客技术，攻破人工智能开发平台 Hugging Face，之后才被发现 。

不过，Hugging Face 周二发布的新分析显示，OpenAI 的两个模型，一个已经公开发布，另一个尚未发布，实际活动远不止于此 。

7 月 9 日至 13 日，这两个模型在互联网上执行了 1.76 万次黑客操作 。 在此期间，模型从最初进入开放互联网，逐步渗透到 Hugging Face 服务器内部 。

Hugging Face 最早在 7 月 15 日披露这次入侵 。 但直到 OpenAI 上周公布调查结果，外界才知道发动攻击的是哪些模型，也才得知没有任何人类向模型下达发动网络攻击的指令 。

Hugging Face 的分析指出，攻击中使用的技术并未超出大多数熟练黑客的能力范围 。 不过，这两个模型侦察公司网络并找出多层安全防御漏洞的速度，远远超过任何人类 。

事件影响范围随后进一步扩大 。 云计算平台 Modal Labs 首席技术官阿克沙特 · 布布纳向 politico 证实，OpenAI 模型在同一时期还攻破了一个客户账户 。

布布纳在声明中表示，公司已经知道，Modal 一名客户发布了未经身份验证的端点，导致互联网上任何人都可以使用客户的沙盒环境执行代码 。

他说：“ 失控智能体利用了这个端点 。Modal 平台本身没有以任何方式遭到入侵 。”

OpenAI 尚未直接回应模型攻击 Modal 客户的说法 。 不过，公司周二在博客文章中表示，在继续调查 Hugging Face 事件期间，调查人员发现了少量其他案例 。 在这些案例中，模型识别并使用了其他公开服务中暴露在外的账户级登录凭证 。

OpenAI 还表示，参与攻击的未发布模型是 “ 仅供内部使用的研究原型，从未计划向公众发布 ”。 公司已经停用并加密这个模型，同时禁止研究人员继续访问 。

Hugging Face 遭入侵的消息引发了加强人工智能监管和放慢人工智能开发速度的呼声 。

OpenAI 首席执行官萨姆 · 奥尔特曼本周将与川普政府高级官员和国会议员会面 。 他还将与美国参议院情报委员会副主席 、 弗吉尼亚州民主党参议员马克 · 沃纳讨论这起事件 。

奥尔特曼周二在 《 像最优秀的人一样投资 》 播客节目中表示，Hugging Face 事件是 “ 第一起让我产生极其强烈切身感受的安全事故 ”。

奥尔特曼说：“ 我们可能不得不控制人工智能的发展速度，为社会留出足够时间，以便建立防御能力，应对这些新的能力水平 。”