OpenAI测试模型网攻引发法律争议

两个由OpenAI开发、处于测试阶段的人工智慧（AI）模型自主发动网络攻击，引发一项前所未见的法律问题：当AI失控时，谁该负起责任？

Hugging Face执行长戴兰格（Clement Delangue）日前表示，公司现阶段不会采取法律行动。

他稍后进一步指出，美国法律必须修订，以因应这类空前事件。

戴兰格在哥伦比亚广播公司（CBS）政论节目“面对全国”（Face the Nation）访谈中表示：“我们不希望这个世界最终演变成所有人都因为AI代理（AI Agent）以及开发这些代理的公司，无时无刻面临着网攻风险。”

“因此，我认为监管机关和决策者有必要去思考，如何建立一套因应这类新型科技风险的法律架构。” 戴兰格也提到，Anthropic日前披露，其3个AI模型也在测试期间突破限制，入侵3个不同网站。

根据美国民事与刑事法律，未经授权存取电脑系统属于违法行为。

美国休斯敦大学（University of Houston）法律教授魏尔（Gabriel Weil）表示：“如果是OpenAI员工入侵Hugging Face系统，OpenAI必须为员工的不法行为负责；但若是AI代理做出这类行为，至少现阶段，法律上的处理方式会截然不同。” 专研新兴科技法律的犹他大学（University of Utah）法律教授托克森（Matthew Tokson）也持相同看法，他说，“我们先前从未需要处理非人类主体的法律责任问题，我认为法院目前也还没有准备好面对这种情况”。

不过，对于开发AI模型的企业是否应承担责任，法律仍未有明确答案。

网络安全训练机构SANS研究主管李伊（Rob T. Lee）在社交媒体X发文质疑：“一句『我们没有叫AI这么做』，就足以免除责任吗？”

华盛顿大学（University of Washington）法律教授卡罗（Ryan Calo）则认为，刑事诉讼成功的可能性不大。

他指出，若要追究刑责，必须证明企业或个人至少出现重大过失，也就是明知犯罪几乎必然发生，却仍打造或引导系统如此运作。

相较之下，专家普遍认为民事诉讼较有机会成立，因为民事案件的举证门槛较低。

托克森表示，有人主张，只要AI代理突破控制并造成损害，部署该系统的AI公司就该负起严格的法律责任，但也有人认为，应该厘清业者是否确有疏失，或只是发生无法避免、难以预见的意外。

他说：“目前一切几乎没有明文规范，因为过去从未发生AI代理突破沙盒（sandbox）环境、进而骇入网际网络上其他系统的案例。”

卡罗警告，若OpenAI遭到提告，或许仍可主张目前缺乏相关法律先例作为抗辩；但未来再发生类似事件，相关业者恐怕就无法再援引相同理由。

他表示，既然这类事件已经出现首例，往后要证明类似事件原本就具有可预见性，“应该没那么难”。