AI伪造纽约警员与ICE冲突视频疯传

近日，社交媒体上流传着多段由AI生成的视频，内容显示纽约市警察局警员与联邦移民执法人员（ICE）发生对峙，这些视频已传播数周，令一些误以为其真实的人感到困惑。

哥谭派报道截图

这些视频以AI生成的方式描绘了纽约警察局警员逮捕、斥责并对峙所谓的ICE官员。随着美国总统唐纳德·川普的移民执法打击行动引发广泛关注和审视，这类视频在多个平台上的观看量不断攀升。视频并未标注为AI生成，但专家表示，它们带有明显特征，例如文字模糊、乱码等。

据曾担任美国总统乔·拜登新兴技术高级顾问的Lindsay Gorman介绍，这些视频的传播正发生在公众高度关注真实视频证据和联邦移民执法的时期。

接受Gothamist采访的专家表示，这类视频的泛滥令人担忧，因为它们可能导致公众对真实媒体和经核实的视频证据产生不信任。同时，对信息的高度需求也为宣传内容的滋生创造了条件。

Gorman说：“在一个本就极其复杂的信息环境中，这是引入AI生成内容的最错误时机。”

纽约警察局和美国国土安全部未立即回应置评请求。目前没有任何关于纽约警察局逮捕移民执法人员的报告，且纽约警察局并不参与民事移民执法。

Gorman表示，其中一些视频已在网上流传数月，由于细节问题（例如纽约市地铁标志上的文字无法辨认），很容易识别为AI生成。

图片来源：Instagram用户@mannylf2020

在其中一段视频中，几名身穿印有“NYPD”字样制服的人在繁忙的地铁站台上逮捕了一名身着“ICE”制服的男子。视频显示，周围一群愤怒的通勤乘客为警员的行为欢呼。

在另一段被专家认定为AI生成的视频中，纽约警察局警员似乎在时报广场逮捕一名身穿军用迷彩服、上面写着“ICE”的男子。被捕时，该男子高喊：“我们凌驾于法律之上！”

图片来源：Instagram用户@mikewaynedotcom

纽约大学（NYU）技术政策中心主任Dr. Scott Brennen表示，社交媒体用户在看到此类视频时，很可能能够识别出它们是AI生成且不可信的。

但他补充说，大量AI生成的社交视频可能带来次生影响，即削弱人们对各种合法媒体和视频证据的信任，例如真实记录联邦执法人员杀害抗议者的视频。

Brennen说：“我们正处在一个阶段，到处都是展示骇人事件的真实视频。但当你越来越多地置身于一个充斥着AI生成内容的环境中时，人们就更容易否定真实内容。”

与此同时，Gorman指出，关于美国执法机构的可靠信息不足，却又存在极高的信息需求，这共同构成了宣传内容滋生的“完美风暴”。

她说：“人们想知道发生了什么，想了解情况，想弄清地方层级和联邦层级执法部门之间的互动。”

目前尚不清楚是谁在制作这些视频，但Gorman补充说，其动机可能多种多样。一种极端情况是，它们可能只是艺术表达，体现创作者的反ICE立场；另一种则是，它们被用来操纵信息、煽动政治分裂。

她还指出，川普曾在多个议题上分享过AI生成的图片，包括美国在格陵兰问题上的立场。

“这正在成为政治光谱两端都在使用的工具，”她说，“而且只会越来越多。”