中共实体涉利用OpenAI寻求监控建议 账户遭封

OpenAI于周二（10月7日）发布最新“公开威胁报告”，证实已关闭了数个ChatGPT账户，这些账户与中共政府实体疑似有关联，涉嫌利用AI寻求开发大规模监控工具、协助网络钓鱼等违反OpenAI国家安全政策的行为。

上述报告显示，在美中竞相发展和规范AI技术之际，威权国家滥用生成式AI技术所带来的潜在安全风险。

主要违规行为：寻求大规模监控方案

OpenAI发现，被关闭账户曾提出寻求多项具体监控工具的请求，旨在利用这些工具大规模监控线上或线下流量。该行为违反了该公司禁止使用其模型进行未经授权监控的政策。具体情况包括：

寻求社交媒体“监听”工具。有账户曾要求ChatGPT协助设计宣传材料和项目计划，以开发一种AI驱动的社交媒体监听工具。据称该工具是用于政府客户。这种工具即为“探测器”，能够爬取X（原Twitter）、Facebook、Instagram、Reddit、TikTok和YouTube等社交媒体信息，以扫描特定的极端主义言论、民族、宗教和政治内容。

寻求维吾尔族相关预警模型。另一个账户疑似与中共政府实体有关，曾要求ChatGPT协助撰写一份提案，提案是关于建立一个“高风险维吾尔族相关流入预警模型”（High-Risk Uyghur-Related Inflow Warning Model）。该提案旨在分析交通订票记录并与警方记录比对，以追踪维吾尔族群体的出行动向。

其它恶意活动：网络钓鱼与技术竞争

除了与监控相关的请求外，OpenAI还发现这些与中方相关的账户从事其它恶意和技术探索行为：

协助恶意软件活动与网络钓鱼。有数个使用中文的账户利用ChatGPT协助网络钓鱼（phishing）和恶意软件（malware）活动。

研究DeepSeek。这些账户还要求ChatGPT模型研究中国AI公司DeepSeek，以探索如何通过DeepSeek实现额外的自动化能力。

国际影响与其它威胁

同时，OpenAI在报告中提及来自其它国家地区的恶意活动，显示AI滥用已成为全球性问题。

OpenAI还禁用了与疑似俄语犯罪集团相关联的账户，他们使用ChatGPT协助开发恶意软件，其中包括远端操控木马和凭证窃取堡具。

尽管恶意活动持续不断，OpenAI表示，自从2024年2月开始公开发布威胁报告以来，该公司已报告超过40个违反其使用政策的网络账户。OpenAI补充道，他们的模型成功拒绝公开恶意请求，且没有证据证明他们的模型为不法之徒增强新型攻击能力提供了便利。

报告说，尽管本次关闭的用户疑似与中共相关，但值得注意的是，OpenAI模型并未在中国大陆正式提供服务。该公司推测，这些用户可能是通过VPN或其它方式才得以接触其网站。

OpenAI也在报告中警告，“中国（中共）在推进其专制版AI方面正取得实质性进展”，这凸显必须警惕AI技术在威权统治下被滥用的重大风险。