AI带来如此多的挑战，OpenAI为何还要开拓“成人内容”领域？

今天凌晨，OpenAI CEO奥特曼发文，宣布ChatGPT将在未来几周推出新版本，并计划在今年12月推出更加全面的年龄分级系统，允许为成年用户提供成人内容。

奥特曼在文中提到，OpenAI一直对ChatGPT的内容进行严格的限制，特别是在心理健康方面。然而，他们也意识到，过于谨慎的内容限制对一些用户而言并不总是有趣，甚至可能影响使用体验。他强调，新开发的工具不仅能缓解心理健康问题，还能在大多数情况下安全地放宽内容限制。



奥特曼坦言，新的ChatGPT版本将展现更具个性化的回应方式，让AI表现得更像朋友一样互动，更符合人们的喜好，“我们希望ChatGPT变得更加亲切、自然，带有更多幽默和表情符号”。

行至模型能力的深水区，OpenAI发现，过于严格的内容限制已经不再是最佳选择。

奥特曼透露，OpenAI已经开发出一些新技术，能够在保证用户安全的前提下，提供更多自由度和多样化的内容。

因此，OpenAI计划在12月推出的年龄分级系统，将针对不同年龄段的用户提供定制化体验。对于成年用户，OpenAI将允许在通过“成年验证”的基础上生成包括成人内容在内的更多类型内容。

一系列调整背后，OpenAI正逐步放宽其在内容生成方面的限制，试图在满足用户需求和保障安全之间找到更合适的平衡点。随着AI技术的快速发展，如何在自由度和责任之间划清界限，成为了OpenAI和其他AI公司不可回避的难题。



AI，分级迫在眉睫

AI的快速发展带来了创新，但也暴露了严重的安全隐患。自杀引导、恶意伪造、肖像权侵犯、色情内容泛滥——这些问题层出不穷。

环球网在今年6月报道，美国佛罗里达州一名女子正起诉谷歌公司和由两名前谷歌员工创办的Character.AI平台，指控该平台人工智能（AI）聊天机器人“教唆”其14岁儿子自杀。8月，亚当·雷恩的父母在他们16岁的儿子自杀身亡后，对OpenAI提起了产品责任和非正常死亡诉讼。雷恩的家人在诉状中说，“ChatGPT‘积极’帮助亚当探索自杀方法”。

近期还有媒体报道，新泽西州一名认知受损的老人在赶赴AI提出的“约会”时，途中摔倒死亡。该AI产品为“比莉大姐”（Big Sis Billie），是由Meta在两年前推出的生成式AI聊天机器人。

不加约束的内容对不同类型用户产生了负面影响，也让OpenAI等巨头遭受谴责。

9月16日，OpenAI宣布计划推出专为18岁以下用户设计家长控制的“青少年”版本。该版本将自动识别未成年用户，并根据年龄限制匹配合适的内容。具体来说，它将屏蔽图像类和性相关内容，且在极少数用户出现心理危机时，系统还将启动紧急响应机制，必要时可联动执法部门进行干预。然而，这一举措并不是终点。

根据OpenAI的最新公告，12月将推出更加全面的年龄分级体系，允许符合“成年验证”条件的用户获取成人内容，包括软色情。

同为巨头，Meta也于10月14日宣布，为保护未成年用户免受有害内容影响，Instagram将启用PG-13电影分级制度。未满18岁的用户将默认只能看到符合该标准的内容，如避免轻度暴力、性暗示及涉毒内容。此外，Instagram还推出了更严格的“有限内容”过滤功能，进一步加强青少年保护。新措施将在美国、英国、澳洲和加拿大率先推出，预计明年初在全球其他地区实施。

今年2月，Grok 3推理模型上线时，社交媒体部分评论认为其“道德感较低”。据AI博主数字生命卡兹克称，该模型不仅对政治话题进行激烈回应，还对诸如电车难题等伦理问题表现得直言不讳。更为重要的是，Grok 3甚至生成了不可描述的成人内容。卡兹克评论道，正式版上线后，Grok 3显得过于奔放。很快，马斯克就将该内容取缔。

走上AI陪伴的路？

AI带来如此多的挑战，OpenAI为何还要开拓“成人内容”领域？

背后的原因是“争夺用户”。

随着技术不断进步，AI的应用场景也在悄然变化。从最初的智能助手，到如今的AI陪伴者，ChatGPT及其竞品逐渐向社交互动的方向发展。尤其是在AI个性化和情感化处理上的突破，使得AI产品在情感陪伴、心理疏导等领域的潜力日益显现。

例如，Character.AI便是以个性化、UGC（用户生成内容）两大特点脱颖而出，迅速获得了全球用户的青睐。这一平台允许用户创建和定制自己的虚拟角色，与之进行互动，甚至形成社交圈。Character.AI也展现出了巨大的潜力——2024年，Character.AI两位联合创始人以及核心技术团队被谷歌以27亿美元（约合人民币193.8亿元）的收购协议挖走。当时核心团队的出走，虽影响了Character.AI的发展，但并没有撼动其根基。团队出走后，Character.AI停止自研模型，转而采用DeepSeek、Meta等企业的开源模型。



一直到2025年6月时，Character.AI任命了全新CEO，还在对接新买家，另有知情人士透露，Character.AI预计到年底年化收入将达到5000万美元，较此前预测的3000万美元大幅增长。

OpenAI在推出新版ChatGPT时，也透露出类似的商业化野心，OpenAI更加注重产品的运营与市场扩展。未来，ChatGPT可能不仅仅是一个智能助手，更可能成为用户的“虚拟朋友”。这种趋势背后，伴随着越来越多的心理学研究和数据分析，AI正在被塑造为一种情感纽带，与传统的功能性AI相比，情感和陪伴可能会成为未来AI发展的新趋势。

然而，正如AI陪伴的潜力巨大，它所带来的挑战同样严峻。如何避免AI陪伴变成虚拟世界的依赖，如何确保用户在真实世界中的情感需求不会被AI所取代，成为了AI企业必须面对的伦理问题。特别是对于未成年人，AI的情感陪伴是否会导致他们在真实社交中缺乏应有的能力和经验，依然是悬而未决的难题。