AI或真人：欧盟新规强制“贴标签”辨真假

欧盟“人工智慧法案”新规2日上路，企业须开始对聊天机器人、深伪技术及AI生成内容等，加上标记与数位浮水印等标签，被视为AI的“cookie横幅时刻”重演，网络将如同先前不断冒出cookie通知一样，涌现大量AI通知，目的虽是提高透明度、预防假信息，但业界担心过度标记反而变成一种疲劳轰炸。

欧盟“人工智慧法案”新规2日上路，企业须开始对聊天机器人、深伪及AI生成内容等，加上标记与数位浮水印等标签。 路透

从网络零售商到旅游业者、广告代理商等欧洲企业，正竞相为聊天机器人、深伪技术及AI生成的行销素材加上标签，以符合欧盟推出的首批针对消费者的AI法规。新规要求企业在客户与AI系统互动时必须充分告知，并再由AI生成的图像、音讯和视讯上予以标示，未遵守者将被处罚款。

Cooley律师事务所的律师梵?埃克形容，这将是AI的“cookie横幅时刻”。他指的是在欧洲隐私体制下无所不在的cookie通知。他说，目前为止，AI法案在很大程度上依然相当抽象，不过可以确定的是大家都将开始看到标签，告知某些内容是由AI生成的。

欧盟其实也是借此测试，看看能否在不减缓技术采用速度的情况下，让AI对消费者更加透明。欧盟执委会主席冯德莱恩希望当地企业更迅速地采用AI，以免在全球AI竞赛中落后美国和中国。布鲁塞尔已公布AI超级工厂计划、增加对算力的投资，并承诺减少官僚流程以提升竞争力，并降低欧洲对美国科技供应商的依赖。

然而，许多公司认为，当局要求企业加快部署AI，却又得遵守仍难以解读的新规则，实在非常为难，因为执委会在新规开始适用前几周才公布指引，让企业几乎没有时间调整。德国电商Zalando表示，执委会的指引增添“另一层不必要的监管”，“新的指引并未带来我们所期待的清晰度”。

此外，执委会的指引也可能引发“执行碎片化”的风险，因为不同的企业可能会对规则有不同的解读。

零售游说团体欧洲商业(Eurocommerce)也警告，无差别加标签的方式可能产生不合比例的法遵成本，同时也让消费者感到困惑。加上标签的目的原本是让消费者与AI生成的素材互动时，能提高警觉。但欧洲电脑暨通讯产业协会(CCIA Europe)警告，该指引对“深伪”技术的定义过于广泛，导致几乎任何AI生成的内容都需要加上标签，“如果每张图片和内容都一视同仁地对待，那加标签就一点意义也没有了”。

不过执委会官员指出，业者对于“即使透过AI进行小幅修改也需过度标记”的想法是误解，并指出这是与产业界谘商后推出的新规，已更符合比例原则。

对部分公司而言，新规不过将是其已采用的措施正式化，例如线上西洋棋平台Chess.com执行长阿莱贝斯特指出，该公司深知，让用户明确知道对手是真人或机器人，至关重要。该平台上个月有超过2.5亿场人类与机器人的对弈。

这些提高透明度的规则，仅是欧盟AI法案的一部分。该法案已于2024年8月生效，但并未一次同时上路。欧盟执委会2日也获得新权力，得以审查具有“系统性风险”的通用AI模型。一旦违规，科技公司最高恐被处以上一年度全球总营业额3%或1.500万欧元的罚款。

然而，在科技业及部分欧盟国家的压力下，执委会已将所谓“高风险系统”的法规要求延后至2027年12月上路。对此，一位律师指出，“问题不在于这项法案有多繁重，而在于它难以预测且不断变动。企业非常不喜欢这点”。