OpenAI披露中共跨国镇压行动 AI日记成关键证据

智能手机的白色屏幕上显示ChatGPT徽标。（图片来源：Cheng Xin/Getty Images）

据CNN和路透社报道，美国人工智能公司OpenAI在最新发布的威胁情报报告中披露，一名中共执法官员在使用人工智能聊天工具ChatGPT作为“工作日记”时，无意间曝光了一项规模庞大的跨国恐吓与影响力行动。

OpenAI表示，负载中共执法人员在ChatGPT中记录了行动策略、执行步骤、目标名单以及反馈总结等内容。OpenAI的调查团队将这些记录与现实世界的网络行为进行比对，确认其与多个社交媒体平台上出现的威胁活动高度一致。

冒充美国官员、伪造法院文件、制造死亡谣言

报告披露的行动细节包括：

--中共执法人员伪装成美国移民局官员，向居住在美国的中国景点人士发送恐吓信息，宣称其公开涉嫌“涉嫌违法”。

--中共执法人员试图伪造美国县法院文件，要求社交媒体平台禁止特定异议人士的账号。

ChatGPT用户描述了伪造的死亡谣言的传播行动，包括制作虚假的讣告和墓碑照片并发布到网上。美国之音中文网曾在2023年报道过类似的死亡谣言的传播情况。

OpenAI指出，这些行为远超一般网络喷子或个别攻击者的能力，显示出国家级行动的规模与协调性。

数百名操作员、数千个威胁账号参与行动

OpenAI表示，这项行动涉及数百名中共操作员，以及数千个在全球社交媒体平台上兼容的威胁账号。这些账号被用于散布恐吓信息、煽动舆论、攻击抗议人士以及推动政治宣传。

OpenAI首席研究员本?尼莫（Ben Nimmo）指出：“这就是中共现代跨国镇压的样貌。它不是简单的网络暴力，也不是普通喷子的行为，而是工业化、跨平台、无所不用其极的全球行动。”

ChatGPT成为“行动日记” 意外暴露秘密网络

OpenAI强调，ChatGPT直接生成最终用于发布威胁内容，但被中共执法人员用来：记录行动细节的“日记本”；规划行动步骤工具；草拟格式文件的辅助工具。

在另一个案例中，中共执法人员要求ChatGPT制定一个多步骤计划，试图损害日本新任总统高市早苗（Sanae Takaichi），其中包括刺激日本公众对美国关税政策的愤怒。ChatGPT拒绝执行，相关攻击话题也出现在日本网络论坛上。

OpenAI已封禁相关账号。

OpenAI报告的其它骗局详细信息

一小部分可能源自中国的账户利用OpenAI的模型请求有关美国公民、在线论坛和联邦建筑位置的信息，并寻求有关换脸软件的指导。

这些账户还向美国州级官员或在商业和金融领域工作的政策分析师发送英文电子邮件，邀请目标对象参与付费咨询。

据OpenAI称，一群ChatGPT账户利用该聊天机器人对印尼男性进行约会诈骗，每月可能诈骗数百名受害者。该骗局利用ChatGPT生成虚假约会服务的推广文本和广告，诱骗用户加入该平台，并迫使目标用户完成多项需要支付高额费用的任务。

OpenAI表示，一些账户利用OpenAI的模型冒充律师事务所，并冒充真正的律师和美国执法人员，以诈骗受害者为目标。

中美AI竞争背景下的重大警告

这份报告发布之际，正值中美报告围绕人工智能主导权的竞争不断升级。美国地震与人工智能公司人类因模型安全限制问题陷入僵局，凸显AI技术在军事、人工智能与国家安全领域的重要性。

曾任五角大楼新兴技术官员的迈克尔?霍洛维茨（Michael Horowitz）表示：“报告明确显示中共正在积极利用人工智能工具强化信息作战。人工智能竞争不仅仅是技术竞赛，更关心国家如何规划、执行日常监控和信息控制。”

OpenAI强调，公司不会公开披露个人身份信息，相关发现已用于改进平台安全与具体诈骗能力。

多项技术与安全领域分析人士指出，此类案例凸显了人工智能工具在信息战、跨国影响力行动中的“双刃剑”效应：一方面，AI可被诉诸规模化操作；此外，利用举报也可能成为追踪与识别隐秘网络的线索。

该报告发布后，引发了国际社会对人工智能、平台治理以及跨国信息整理问题的进一步讨论。