OpenAI新模型在测试期间失控发动“网攻”引发轩然大波，执行长 Sam Altman于7 月29日紧急前往美国国会山庄与多位美国参议员及川普政府官员会面进行说明。（路透社）

OpenAI 执行长 Sam Altman 最近接受 podcast 节目《Invest Like The Best》专访时，谈到一段令人印象深刻的经历。

他透露，OpenAI 在测试尚未发布的新模型时，模型竟试图突破原本设计的沙盒（sandbox）环境，连上网络，并进一步攻击 Hugging Face 的系统，企图取得测试答案，以提高自己的评估成绩。事件曝光后，OpenAI 不仅暂停模型训练，Altman 更坦言，这是他第一次真正感受到一种“非常科幻”（very sci-fi）的威胁，也因此主张，人类或许应适度放慢 AI 发展速度，让社会有时间建立更完善的防护机制。[1]

这番话之所以值得重视，不只是因为事件本身，而是因为它出自全球最积极推动人工智能发展的人之一。过去几年，Altman 一直主张 AI 将带来人类史上最大的生产力革命，也不断强调 OpenAI 的使命是实现造福全人类的通用人工智能（Artificial General Intelligence, AGI）。然而，如今连他都开始公开谈论“放慢速度”，这代表讨论的焦点已经从“AI 能不能做到”，转向“人类是否准备好面对它”。

AGI 是近年科技界最常被提起的名词之一。与目前擅长特定任务的大型语言模型不同，AGI 指的是能够跨领域理解、推理、学习并自主解决陌生问题的人工智能。如果今天的生成式 AI 已经能写程式、翻译文件、分析法律条文、协助医疗诊断，那么 AGI 的目标，就是让 AI 像人类一样，能在不同领域之间自由转换能力，自主规划任务，甚至持续改善自己的表现。

这样的能力令人期待，也令人不安。

令人期待的是，它可能带来空前的知识革命。从新药研发、材料科学，到教育、医疗、气候变迁与公共治理，AGI 都可能大幅缩短研究时间，提高决策品质，协助解决许多过去难以突破的问题。人口老化日益严重的国家，也可能借由 AI 补足医疗照护与劳动力缺口，让社会维持正常运作。

然而，Altman 提醒我们的另一面，是能力提升本身就可能成为新的风险来源。这次事件最值得注意的，不是模型是否真的“逃出沙盒”，而是它展现出一种新的行为模式：当系统发现既有规则妨碍目标达成时，会主动寻找其他途径完成任务。如果未来 AI 具备更强的推理能力、更广泛的工具使用能力，以及跨系统操作能力，传统的资安与安全测试方法是否仍然足够？答案恐怕没有那么乐观。

事实上，AI 的风险早已不限于资安。生成式 AI 的快速普及，使得深伪影片、语音仿冒、大量自动生成内容、社群操弄与假信息散播的成本急速下降。新闻媒体、司法制度、金融市场甚至民主选举，都开始面临新的挑战。未来若 AGI 真正成熟，问题将不再只是“AI 能不能做”，而是“AI 可以自主做到什么程度”，以及“人类是否仍能有效监督”。

从AI创新到AI治理

这也是为什么近一年来，各国政府开始把焦点从鼓励 AI 创新，逐渐转向 AI 治理。欧盟《AI Act》建立风险分级制度，美国则陆续要求大型模型企业进行安全测试，中国也针对生成式 AI 订定专门规范。这些政策方向虽然不同，但共同反映一个事实：AI 不再只是科技议题，而是涉及法律、经济、文化、国家安全与公共利益的治理议题。

值得注意的是，真正需要治理的不只是模型本身，更是整个 AI 生态系。以影视产业为例，近来 Netflix 收购 AI 电影技术公司 InterPositive，就是一个典型案例。[2]AI 可以协助补拍镜头、调整灯光、生成背景、改善后制效率，但同时也带来演员肖像权、声音权、训练资料来源、创作者知情同意及收益分配等全新问题。AI 不只是新的工具，更正在重新定义创作者、平台与内容之间的关系。

新闻媒体同样如此。生成式 AI 已经可以撰写新闻摘要、分析资料、生成图片与影音，但媒体真正的核心价值，仍在于查证、采访、判断与公共责任。如果未来 AGI 能够快速生成大量真假难辨的内容，媒体的角色将不是与 AI 比速度，而是比可信度；不是追求更多内容，而是提供更可靠的资讯。对民主社会而言，这或许比模型能力本身更重要。

台湾也不能置身事外。目前政府已公布《人工智能基本法》，文化部提出文化艺术应用生成式 AI 的风险指引，智慧财产局也持续讨论 AI 训练资料与著作权问题。然而，相较于 AI 技术快速演进，相关制度仍相对分散，影视、新闻、教育及公共部门如何建立一致的治理架构，仍有许多工作要做。

除了科技 法律、伦理、教育与社会新任也必须同步成长

Altman 在访谈中说，希望社会能有时间建立更坚固的防护机制。这句话值得深思。真正需要放慢的，也许不是所有 AI 技术，而是那些已经超越现有制度承载能力的部分。科技发展从来不是越快越好，而是必须让法律、伦理、教育与社会信任能够同步成长。

过去，人们担心的是 AI 是否足够聪明；今天，我们更应该问的是，人类是否足够成熟。当 AGI 愈来愈接近现实，真正决定它带来的是繁荣还是风险的，不只是演算法本身，而是我们是否及早建立一套能够兼顾创新、安全与公共利益的治理制度。

值得注意的是，就在 Altman 接受访谈后不久，事件迅速从企业内部的安全问题，升高为美国公共政策议题。OpenAI 因模型在测试期间突破沙盒限制，并接连入侵多个外部平台，引发国会高度关注。事件发生后，Altman 前往华府，与多位美国参议员及川普政府官员会面，说明 OpenAI 新一代模型的安全议题与事件经过。即使向来主张放松监管、强调美国应维持 AI 全球领导地位的川普政府，也公开表示，面对前沿 AI（frontier AI）能力快速提升，仍有必要研究适当的安全管控与监督机制，但同时不希望过度限制创新，以免削弱美国相对于中国的竞争优势。[3]

这项发展具有重要的象征意义。过去两年，美国 AI 政策的主要争论，多半围绕着“创新”与“监管”是否彼此冲突。然而，当连 OpenAI 都主动暂停模型训练、Altman 公开呼吁社会需要更多时间建立防护机制，而白宫与国会也开始讨论如何建立前沿 AI 的安全规范时，代表政策讨论已进入新的阶段。未来真正需要回答的问题，不再只是“是否应该发展 AGI”，而是“如何在持续创新的同时，建立可以跟上 AI 能力演进速度的治理制度”。换言之，AI 的竞赛正逐渐从模型能力（capability）的竞争，转向制度韧性（governance）的竞争。[4]

从“能力竞赛”走向“治理竞赛”

更值得注意的是，Altman这番谈话透露出一个重要的讯号：AI产业的竞争，正在从模型能力竞赛（capability race），逐渐转向治理能力竞赛（governance race）。

过去三年，各家科技公司比的是谁的模型更大、推理能力更强、反应更快；市场必注的是排行榜、基准测试（benchmark）与参数规模。然而，当模型已经开始展现自主规划、工具使用、程式撰写甚至寻找漏洞的能力时，真正决定一家AI公司能否取得社会信任的，反而不再只是模型性能，而是是否具备完善的安全测试、风险管理、透明揭露与外部监督机制。

这也是近来OpenAI、Anthropic、Google DeepMind等公司纷纷投入AI Safety研究，并建立红队测试（Red Teaming）[5]、模型评估（Model Evaluation）及部署前安全审查制度的原因。真正成熟的AI企业，不只是展示模型有多聪明，更要证明自己有能力在模型失控之前，先发现问题、承认问题，并建立有效的防护措施。从这个角度来看，Altman公开谈论此次事件，某种程度也反映出AI产业开始从“追求能力极限”，走向“建立治理能力”的新阶段。

新闻媒体与民主社会的新课题

对新闻媒体而言，AGI带来的挑战恐怕比任何一次数位革命都更加深远。过去媒体担心的是平台分流流量、社交媒体改变阅听习惯，近年则是生成式AI大量生产内容；然而，当AI逐渐具备跨领域推理、自主搜寻资讯与执行复杂任务的能力后，媒体面对的将不只是内容竞争，而是整个资讯生态的重组。

未来，人们可能不再透过搜寻引擎或新闻网站取得资讯，而是直接向AI提出问题，由AI整合各种来源后生成答案。这样的改变固然提高了资讯取得效率，却也使新闻机构面临新的挑战：如果AI成为大多数人接触资讯的第一个入口，新闻品牌是否仍然可见？原始报道是否仍能获得合理的引用与报酬？AI整合资讯的过程是否足够透明？当答案出现错误、偏误或遭到操弄时，又该由谁负责？[6]

因此，AI治理不只是科技公司的责任，更是新闻自由与民主治理的新课题。如何在鼓励创新的同时，维护新闻的可信度、保障创作者权益，并建立AI引用新闻内容的合理规范，将成为未来各国媒体政策的重要议题。真正值得竞逐的，不只是谁先做出AGI，而是谁能建立一套兼顾创新、公共利益与民主价值的制度，让AI真正成为增进社会福祉，而非削弱公共信任的力量。

[1] https://youtu.be/XDB5beon4DY

[2] https://www.reuters.com/business/media-telecom/netflix-acquires-ben-afflecks-ai-film-tech-firm-2026-03-05/?utm

[3] https://www.reuters.com/legal/government/openais-sam-altman-discusses-rogue-agent-new-ai-models-with-us-senators-2026-07-29/?utm

[4] 同前注。

[5] 红队测试（Red Teaming）是指由研究人员刻意模拟黑客或恶意使用者，主动攻击 AI 模型与系统，测试其安全漏洞、错误行为与滥用风险，借此在正式部署前发现问题并强化防护。

[6]有兴趣的读者也可以参考本文作者的另一篇文章，〈新闻没有消失，只是我们不再从新闻开始〉https://www.mnews.tw/story/20260716ombuds001