随着美、以与伊朗之间的军事冲突升级，一场由人工智能（AI）驱动的虚假信息风暴正席卷全球社交网络。专家向BBC Verify透露，日益普及的生成式AI技术正被在线创作者利用，通过制造虚假的战争影像大肆牟利。

崩塌的门槛：分钟级造假

分析发现，大量AI视频和伪造卫星图像在网上累计获得了数亿次观看。昆士兰科技大学数字媒体专家蒂莫西·格雷厄姆指出：“过去需要专业团队制作的内容，现在用AI工具几分钟就能完成。制造逼真冲突影像的门槛已基本崩塌。”



自2月28日美以发动打击及伊朗反击以来，社交媒体成了信息集散地，但也沦为造假者的天堂。一段显示“导弹袭击特拉维夫”的AI视频被分享数万次；另一段声称“迪拜哈利法塔着火”的假视频在民众恐慌之际广泛传播。

令人担忧的是，X平台的聊天机器人Grok在面对询问时，竟多次错误地坚持认为这些AI视频是真实的。牛津互联网研究所研究员马赫萨·阿利马尔达尼警告：“这严重破坏了人们对验证信息的信任，让记录真实证据变得异常困难。”

卫星图像也“深度造假”

本次冲突的一个新特点是AI生成卫星图像的出现。一张声称显示美国驻巴林海军基地受损严重的照片被广泛传播。然而，通过谷歌SynthID水印检测器发现，该图由AI生成。其漏洞在于：图片中停放的三辆车位置与2025年的真实卫星影像完全一致。



生成式AI专家亨利·阿杰德表示，目前可用的逼真造假工具——从OpenAI的Sora到谷歌的Veo，再到中国的Seedance——其易得性和低廉成本是前所未有的。

互动的诱惑：虚假信息生意经

为何造假者乐此不疲？答案是变现。X平台产品负责人透露，“99%”的相关账号试图通过发布高互动内容来套取平台的收益分成。格雷厄姆估计，验证用户每百万次展示可获得8至12美元，“一旦进入变现计划，病毒式AI内容就是赚钱机器，这已成为终极的虚假信息企业。”

面对乱象，X平台宣布将暂停未标注AI标签的冲突视频变现，阿利马尔达尼认为这是一个“信号”，但TikTok和Meta尚未对此回应。



“基于互动驱动的变现与准确信息之间存在本质矛盾，”格雷厄姆总结道，“这个问题没有简单的解决方案，甚至可能永远无法解决。”