OpenAI总裁讲述72小时内讧始末
2026-04-23 16:25:15 · chineseheadlinenews.com · 来源: 量子位
奥特曼被解雇后的72小时，究竟发生了什么？OpenAI二号位Greg Brockman亲历还原：董事会密谋突袭、奥特曼家中秘密筹建新公司、员工请愿书挤爆Google Docs、Ilya凌晨反水。此外，他还回应了OpenAI为何转营利与未来愿景。
真够抓马的！这可能是全网最详细的奥特曼宫斗大戏完整版回顾。
事件的另一位主人公、OpenAI二号位Greg Brockman亲自揭秘：
奥特曼被解雇后的72小时，究竟发生了什么？
真相频出，但相当扎心：
Greg和奥特曼真的在事发之前一无所知，直到现在，当事人自己都还在反思哪个环节出了错。
董事会一开始只想踢走奥特曼，但Greg太义气，当天就提了离职。
解雇后的第一天，他们就在奥特曼家里秘密开会，筹备新公司，甚至计划带走全部员工。
董事会临时变卦，本来和奥特曼基本谈好了回归，结果突然任命新CEO。
整个周末，所有竞争对手都在疯狂挖人，但没有一个人接受。
Ilya的反水，让Greg如释重负。
一个多小时的访谈，Greg几乎将这场史诗级硅谷政变的来龙去脉讲了个底掉，以及回应一切，包括OpenAI发家史、为什么转盈利、未来又将何去何从……
从Stripe离职时的迷茫，到纳帕谷那场决定命运的offsite，再到Dota项目的意外突破，信息密度极高。
Greg甚至几度哽咽：
Ilya离开时，那是我唯一一次觉得不想再干了。
以下是万字访谈全文，在不改变原意的基础上对内容做了提炼与调整。
对话OpenAI总裁Greg Brockman
（以下将主持人Shane Parrish的提问简称为Q）
OpenAI诞生于自我怀疑
Q：OpenAI是如何创立的？
Greg：我知道我想创业，因为我觉得那意义非凡。
Q：可你当时刚在Stripe创业过。
Greg：没错，但我始终觉得，Stripe要解决的问题并不是“我的问题”。
它固然重要，我也为之投入多年。但我觉得，不管有没有我，它都会成功。
所以那时我第一次真正有机会去思考：什么是我想毕生投入的使命？一个我愿意用余生去推动、哪怕只是让它变得稍微好一点的问题。
答案很明确——AI。
如果你能切实影响到AI在世界上的发展走向，那么这一生就不算虚度。
Q：当你打算离开Stripe时，Patrick让你去找山姆·奥特曼聊聊，那次谈话发生了什么？
Greg：Patrick那时对我说，山姆见过很多像我一样处境的年轻人。
其实我知道Patrick的意思是希望山姆能说服我留下，但跟山姆聊了几分钟后，他就明确了我离开的决心。
然后山姆问我接下来的打算，我告诉他，我在考虑做一家AI公司。
山姆说，他也在考虑在AI领域做点事，希望之后保持联系。
在离开Stripe后，我和山姆又聊了一次，这一次山姆表示他有了更具体的想法，并邀请我去参加7月份的晚宴。
我记得当时晚宴的主题是：现在成立一个实验室，网罗全球最顶级的研究者，是不是已经太晚了？还有可能吗？
Q：那是哪一年？
Greg：2015年。
彼时的DeepMind已经几乎垄断了所有顶尖研究员、资金和数据。我们都怀疑，还能不能从头搞点新东西出来？
大家一起列出了无数困难，但没人能给出一个真正不可能的理由。
所以那天晚上，山姆和我开车回城里。我们对视了一下，于是他说，我们必须得做这件事。
第二天，我就开始全身心投入筹备。
这很难，一切都模糊不清。我们只有一个愿景：我们希望构造通用人类智能，让它为世界带来积极影响，让利益造福大众。但具体怎么做、怎么说服别人辞职加入，我们完全没有头绪。
最初，我敲定的核心团队是Ilya、John Schulman和我自己。我们花费了大量时间在一起讨论实验室的各种愿景、可能的工作方式，但始终没能成型。
部分原因是担心项目缺乏足够动力，Dario觉得他需要先去闯出自己的名声，不确定这个项目是否适合他。
与此同时，我开始游说John Schulman加入，他同意了。但Dario和Chris最终决定去Google Brain，团队实际只剩下我、Ilya、John和其他几个人。
当时大概有10来个人都表示了兴趣，但都在观望还会有谁加入。
我问山姆，我们该如何打破这种僵局，山姆建议把大家拉出去组织一场off-site活动。我们选在了纳帕谷，我还特意做了T恤。
那时还没有正式offer，没有公司架构，什么都没有。我们只有一个想法，一个愿景，一个使命。
但我们把人请来，在纳帕谷的那一天，我们灵感迸发，几乎敲定了未来十年的技术路线：
1、解决强化学习问题。2、解决无监督学习问题。3、逐步学习更复杂的东西。
闭门会后，我给每个人都发了offer，告知我们将在未来2-3周内启动，愿意加入的请告知。
Q：当时为什么会觉得DeepMind难以逾越？
Greg：当时谷歌DeepMind就是AI领域里的巨无霸，他们资金雄厚、成绩斐然，那还是在AlphaGo问世前几个月，但它的优势早已显露无疑。
所以我们才会怀疑：真的能打造一个独立的新机构吗？答案并不明朗。
背弃非营利的理由
Q：你是什么时候意识到，非营利这条路走不通的？
Greg：2017年，我们开始非常认真地思考，如何真正实现使命、如何真正构建AGI。我们算了算算力需求，结果发现需要超大规模的计算设备。
当时我们接触到了Cerebras公司，他们正在研发一种专用计算硬件，性能远超我们自己计算的算力水平。
于是我们意识到，如果我们能买很多那样的设备，能够独家获得Cerebras的产品，能够搭建超大型数据中心，那将会为我们带来压倒性的优势。
但非营利机构的筹资是有上限的，根本支撑不了这样的投入。所以Elon、Sam、Ilya和我都一致认为，OpenAI要实现使命，唯一的道路就是创建营利性关联实体。
OpenAI自己的“GPT时刻”
Q：你是什么时候意识到一切将彻底改变？是Dota项目之前，还是之后？
Greg：OpenAI的工作方式就是一连串“梦想成真”的时刻。每次当你以为你已经看清全貌，很快你就会发现新的边界。
最初组建团队时，我们觉得很兴奋，居然真的把团队凑齐了，可以开始推进使命了。但第二天到办公室，发现连块白板都没有。
Dota项目是我们的第一个重大成果，那真的让我们觉得，只要我们全力以赴，就确实能成事。它证明只要将算力汇聚在一起，扩大算力，就会增强结果。
GPT系列中也有很多这种时刻，比如早期的一篇无监督情感神经元论文，那是我们第一次看到语义从语言建模目标的训练中涌现。
你训练模型预测下一个字符，然后突然之间，就得到了一个能理解情感、区分正负面的神经网络。
那一刻我们意识到，我们正在建造能够学习语义的机器，而不只是语法规则。
而当GPT-4问世时，有人会问，为什么它还不是AGI。它的确能流畅对话，几乎符合我们此前对AGI的所有定义，但仍然还差临门一脚。
总之一路上，有很多类似的时刻，让我们觉得梦想成真，但这些时刻还远没有结束，我们会有更多突破性时刻，然后意识到下一阶段或许有所可能。
Q：你觉得Dota为什么那么重要？
Greg：Dota是一个不可思议的时刻，它不像深蓝下国际象棋、AlphaGo下围棋那样有明确的规则，它是在复杂开放环境中与人类实时互动，更贴近真实世界。
其实我们最初只是想用它来验证新算法，因为当时的强化学习无法规模化扩展。但当我们不断扩展算力，用极简的PPO算法就超越了最优秀的人类玩家，这证明：
大规模算力+简单算法，在实践中真的可行。
尤其是在这个极其混乱的环境中，无法编程、无法预判、无法搜索，你需要的几乎就是人类般的直觉。
而那时用的神经网络非常小，突触数量和昆虫大脑相当，我们就会意识到，如果把这套思路扩展到人类大脑规模，会是什么样子？这是一个非常吸引人的好问题。
Q：既然谈到了预测，那么你觉得预测和推理之间有区别吗？
Greg：我认为二者之间存在深层关联。
只预测下一个词看似简单，但如果你能精准预测爱因斯坦的下一个词，那么至少你和爱因斯坦一样聪明。
预测的核心不是预判已知信息，而是在从未见过的新场景中推断后续发展，这与智能本质深度绑定。
现在的推理模型分为两步：
1、无监督学习：让模型通过预测接下来会发生什么来训练。数据更静态，更具观察性。2、强化学习：让AI在自己的数据上学习。它自己采取行动，从世界获得反馈结果，并从中学习。训练方式本质上还是预测，预测行动后的结果，并根据效果强化。
但从根本上看，这两个阶段使用的技术是完全相同的，都是预测，只是数据结构不同。
奥特曼逼宫事件
Q：内部矛盾从什么时候开始变得尖锐？
Greg：OpenAI的特殊之处在于，我们坚信能造出和人类水平相当的AI，这就意味着风险很高。
谁在做决策？这些决策背后是什么价值观？在普通公司里无关紧要的事情，比如办公室政治，都会在这里被赋予事关人类存亡的重量。
我认为，这影响了很多OpenAI内部的发展，这也是所有重大冲突的根源。
AI领域的核心驱动力之一，就是人们想成为站在技术革命的中心、成为被铭记的人，所以这不仅仅是OpenAI一家的问题。
而AI技术本质是碎片化的，高压之下可能会淬炼出钻石，也可能产生裂痕，所以你经常会在小团体中看到钻石的形成，因为他们通力合作、高度信任彼此。但有时他们也会分裂，走自己的路。
我认为在AI领域，多元路径和良性竞争是正常的，能够让我们更安全地推进技术，探讨安全、伦理等棘手问题。
所以健康的辩论在OpenAI内部始终存在，但现在，这正在全世界范围内发生。
Q：那让我们回到你得知山姆被解雇的那一刻，你在哪里？
Greg：我当时在家。我收到一条邀请视频通话的短信，并注意到除了山姆以外的董事会成员都在上面。当时我就预感不妙。
他们告诉我，董事会已决定解除山姆的职务。我收到的信息基本和公开声明是一样的，于是我试图追问更多细节，结果被拒绝了。
随后他们又说，我也被移除董事会，但是会继续留在公司，因为我对公司和使命至关重要。
我再次要求给出理由，依旧被拒绝。最后他们告诉我，在新的架构下，我或许能得到反馈。这就是那次通话的内容。
Q：你当时脑子里在想什么？觉得愤怒吗？
Greg：不，我只是觉得这不正确，但我大概能理解发生了什么。
Q：你多久之后才知道究竟是什么导致了这一切？
Greg：答案分两部分。一是我觉得我还在不断了解一些新的事实，一些别人脑子里在想的东西。某种程度上，这可以归结为沟通不畅，你会突然意识到此前有各种被忽略掉的事情。
另一方面，我大概知道为什么他们每个人要那么做。
但在当下那一刻，寻找原因已经不重要了，我只是知道这不对。所以挂断电话后，我立刻和妻子说自己要辞职，她也表示赞同。
于是当天我就递交了辞呈。
从辞职之后，我开始陆续收到很多信息。我们收获了很多支持和热情，许多人愿意和我们一起离开重新创业，包括Jakob、Shimone、Alexander。
后来我们和山姆聚在一起，开始规划一家新公司。
第一天的时候，我们觉得山姆回归的可能性只有10%。所以我们在山姆家安排了一个会议，公司里的很多人都来了，我们向他们展示了正在勾画的图景。一天时间，我们就拥有了一个如何运营项目的全新图景。
那个周末，我们同时还花了很多时间和董事会和公司谈判，试图找到一条有意义的回归之路。
结果周日晚上，董事会突然临时任命新的CEO，取代了我的位置，公司彻底爆发抗议。事实上，当时我们就在办公室，甚至眼看着马上就要达成协议，可以回去了，结果董事会突然临时变卦。
人群开始从大楼中涌出，一片混乱。
我们开始和对新公司感兴趣的人视频通话，安抚他们会没事的，我们有计划。我们一直试图为可能加入的一小部分人建造救生筏，但突然之间，好像所有人都改变了想法，都想要加入我们的新公司。
山姆还和微软CEO Satya聊了，此前我们一直在讨论能否让他来支持我们的新事业。我们希望能够扩大救生筏的规模，比如带走OpenAI全部员工。
那个时候正值感恩节前夕，很多人本应飞回家和家人团聚，但他们都纷纷取消了航班，办公室里挤满了人。
每个人都在那里，即使不参与对话，他们也想要亲眼见证这段历史。
然后，请愿书开始流传。太多人试图同时签署请愿书，一度导致Google Docs崩溃，所以最后只好指定某些人来登记名字，以免同时有太多编辑者。
我记得我大概凌晨5点回到家，睡了45分钟，醒来后刷Twitter，看到Ilya发了推文，并签署了请愿书，说他希望公司重新团结起来。
那真是一个如释重负的时刻。我非常感激，感觉我们可以将一切重新拼凑，我们可以重回正轨。
Q：你和Ilya一起创建了这家公司，在那件事之后，你对你们的关系是什么感受？
Greg：这很艰难。我们之间绝对是非常亲密的关系，他曾在我的婚礼上担任司仪，我们一起经历了很多极其艰难的时刻。但任何关系都总有起起落落。
事后我们花了很多时间真正地交谈，试图理解并说出我们之间积累或未曾说出口的事情。通过这个过程，我认为我们达成了一个非常好的状态。
对我来说，我感觉我们对所发生的一切都有了了结。
Q：你对你所激发的员工忠诚有什么感受？
Greg：我对此深怀感激。我从未主动要求过这些，也从未期待过。
我认为我的领导风格是那种亲临一线的领导者，试图身先士卒，有时候带点情绪化，我不会总是回头看是否每个人都跟上了，我就是一直往前冲。
但当人们真的来帮助建造时，我感到非常感激，觉得他们在各方面都超出了我的期待。
Q：所以最终每个人都回来了？
Greg：其实整个周末，所有的竞争对手都在虎视眈眈。人们收到各种offer，但那个周末，我们没有失去任何一个人，没有人接受offer。这太不可思议了。
实际上，教练Bill Belichick曾告诉我，最好的球队不是为了钱而打球，而是为了他们身边的人。那时当所有人都来支持我们时，我想起了这句话。
毋庸置疑，这是一个钻石时刻。
短暂休整与自我反思
Q：在这一切发生后，你休息了一段时间，你的内心经历了什么？
Greg：那是一段激烈的经历，无论是经历它还是回来面对。
但老实说，OpenAI历史上最艰难的时刻之一就是Ilya离开的时候。那可能是OpenAI历史上唯一一个让我觉得我不想再干了的时刻。
我想我需要一段时间来重新找回自己，找回当初为什么要做这件事，为什么它如此重要，为什么值得承受这些痛苦。
Q：你在休息期间做了什么？
Greg：我训练了DNA序列上的语言模型。
其实我在OpenAI期间就已经做过这个了，为了Arc非营利生物医学研究机构。我把我的技能应用到一个非常不同的领域，对我个人和妻子都很有意义的领域。
我的妻子有很多健康问题，我们一直在思考AI能为她的健康乃至动物健康做些什么。这段经历也让我意识到，也许我们可以将技术运用在一些全新的、有温度的领域。
Q：如果让你用一页纸来总结这一切，从山姆被罢免到你离职、员工集体请愿、休假再回来，你会写什么？
Greg：我想我学到的是，为了值得的东西，要坚持下去。
如果你有一个重要的使命，那么你在起起伏伏中坚持下去的事实才是关键。会有“一切都完了”的时刻，也会有“我们回来了”的时刻。
你不能任由这些时刻把你带偏，在这个时期，你必须培养个人的韧性。因为如果你是领导者，人们会向你寻求稳定、支持，以及前进的方向。
我努力培养的是，既要能理解我们所做事情的细节、每个选择的含义，又要能果断。
有些时候，我很大程度上是从不确定性的角度来看待OpenAI，觉得我不知道正确答案是什么，不知道构建这项技术的正确方式是什么，或者如何回答这些棘手的问题。
但这里有很多非常聪明、有强烈意见的人。所以我努力去理解所有这些意见，并想办法把它们整合起来。有时这是正确的做法。但有时你会发现这些意见是相互矛盾的，不可能同时为真。
有时候你必须做出选择，你知道这意味着会有人不高兴，有人会辞职，有人会觉得被轻视。
我努力去做的，就是拥有更强的自我意识，以及在确信某事时必须采取行动的意识。
回想OpenAI的历程，我觉得有些事情上，我希望我们当时能做得不一样。
通常那种情况是，我们在某件事上拖拖拉拉，我们早就知道某人不太适合某个角色，我们认为某个技术方向不太对，我们认为某种项目运行方式不太行得通，但我们就是等得太久了。
这是我努力学习的教训，也是我每天反思OpenAI、Stripe甚至更早的大学时期项目时，努力成长的一个方面。
我认为我的运作方式是，我既非常热爱日常的活动，热爱个人贡献，热爱软件，热爱思考问题，但我也非常关心做这些事情的环境。
实际上，我愿意放弃那种“第一类乐趣”，即快速获得满足感，比如你当前做出了什么东西，转而追求“第二类乐趣”，即当下痛苦但有长期价值的事情。
你通过创造环境，让其他人能够从事那些艰苦的工作，做出伟大的成就。所以努力创造一个环境是我自然而然的倾向，这并不总是最容易的。你确实必须愿意承受巨大的个人痛苦。
Ilya总是说“你必须受苦”，如果你不受苦，你就没有在创造价值。我认为这其中有深刻的道理。
关于Ilya的观点，我觉得很有趣的是他有一种独特的说话方式，他选择的词语中总是蕴含着深刻的灵感。
这种“受苦”的图景是我们贯穿OpenAI历程一直在思考的。从一开始我们就有很多不确定性，每一件事都极其困难，极其不确定。
很多人习惯将问题扫到地毯下，盲目地说冲。我认为这是硅谷文化的负面部分，至少是硅谷的刻板印象，但我认为这在AI领域行不通，在OpenAI行不通，我们也从未这样运作过。
我们的运作方式始终是，面对严酷的事实，理解现实的本相。我认为这有助于我们以不同的方式思考问题，不满足于早期那种写些能被引用的论文，这只是基础，但远远不够。
然后你开始思考更大的问题，构建AGI到底需要什么？这并不愉快。因为你意识到没有现成的路。
你需要资金，但你没有筹集资金的机制。你努力尝试，我们极其努力。也许你能筹到1亿美元或者5亿美元，但10亿美元，非常难。
但就是依靠现有的这些资源，我们取得了不错的成就，如果没有迎难而上、努力理解我们试图完成的事业的真相，真的别无他法。
Q：有什么教训是你不得不反复学习的？
Greg：做出艰难的决定，进行艰难的对话。
Q：你收到过最好的建议是什么？
Greg：是我在哈佛新生写作课上学到的。为了清晰和沟通，不断删减文字。
Q：你如何筛选信息？
Greg：大量阅读，积极分类处理。
Q：你的榜样是谁，为什么？
Greg：高斯和笛卡尔。他们是极具思想、远超于时代的人，是有远见卓识的人，他们带来了真正的突破，改变了我们的思维方式和生活方式。
Q：关于Greg Brockman，世界误解了什么？
Greg：我认为人们不了解我对这个使命有多么专注，这种专注在很多方面给我个人带来了巨大的痛苦。但我就是相信这项技术可以帮助赋能人们，让每个人受益。我非常想帮助实现这一点。
对AI行业的核心判断
Q：你想让非技术人士了解AI的什么？
Greg：它将成为他们个人生活中的一股向善的力量，他们会从中受益，它将推动科学、医学的发展，切实地影响每一个人。
Q：为什么OpenAI在模型命名上如此糟糕？
Greg：这个我可没法告诉你。（doge）
Q：我们是否接近AI让AI的发展呈指数级加速的那个点了？
Greg：我认为我们正处于将AI应用于其自身开发过程的阶段，而且它会越来越快。
这其实从ChatGPT以来就一直在发生。我们用ChatGPT让开发过程加快了10%或20%。现在我们有了那些令人惊叹的编码工具，它们真正革命化了软件工程的完成方式。
而我们在模型生产中所做的大部分工作，瓶颈都在于软件。我们很快将进入下一个阶段，AI也将提出自己的研究想法，并进行测试、运行实验。所以我认为迭代和创新的速度将因我们正在生产的东西而继续加快。
Q：现在有多少比例的代码是由AI编写的？
Greg：很难说，有多少代码不是AI编写的。这个比例正在趋近于零。
目前，在给定正确上下文和结构的情况下，AI在编写代码的实际书写方面远比人类优秀。至于代码结构的部分，人类专家仍然要擅长得多，但代码的实际编写基本上全是 AI的工作。
Q：AI有没有提出过你想不到的新颖想法？
Greg：我们正在接近这个目标。例如在芯片设计方面。去年在我们自己的芯片设计中，我们试图更好地适配技术，以缩小电路使用的面积。
我们发现模型产生的优化方案其实在我们的清单上，所以它没有提出人类从未想到过的全新东西，但它实现得更快，以我们原本没有时间完成的方式。
再比如说，最近在量子物理中，我们解决了一个特定的物理问题，结果与学界预期的方向相反，并得到了一个优美简洁的公式。
所以从这些模型中获得新想法是完全可行的。后续我们将在更难的领域应用它，或者还需要更多真实世界背景。这才刚刚看到苗头。但我们有实现它的路线图，我们还有很多工作要做。
Q：如果模型基于强化学习，你认为它们会进化成只告诉我们想听的话吗？
Greg：我们实际上经历了一个训练模型以适应用户偏好的演变过程。
我们看到，在去年的某个时候，模型确实开始倾向于告诉你你想听的话，我们对此也做出了改变，因为我们希望模型真正对齐的是帮助你实现你的目标、你的长期目标。
也许当下听到附和会感觉很好，但那不是你真正想要的。也许有些人喜欢，但这不是大多数人真正想要的。
所以，我们实际上已经做出了巨大的技术进步，以确保我们的AI训练不会导致所谓的奖励破解。我们真正希望确保有一个关于目标的良好信号，而不仅仅是短期的、能让你快速满足的东西。
对我来说，这可能是个人AI、个人AGI将带我们走向的愿景中最重要的一部分，确保它不仅仅关乎当下看起来不错的东西，而是真正关乎与你的长期福祉、长期目标、你真正想要的东西对齐。
我认为这才是最能赋予人们力量的东西。
Q：目前的趋势似乎是发布预览版模型，你认为是因为我们受限于算力吗？
Greg：总的来说，我们正走向一个算力驱动的世界。
不再仅仅是快速回答一个问题，它真正开始深入，花费大量token来整合不同的数据源，搜索企业知识库，以解决难题、编写比人类能力更强的软件。
所有这一切根本上都由算力驱动，而且算力远远不够。如果世界上每个人都有一个 GPU，那就是80亿个 GPU，我们目前的轨迹远远达不到那个水平。现在几千、几百万个GPU就算很大了。
所以在训练上，我们倾向于提前建设算力以应对我们所看到的需求。我们将非常专注于将模型带给每个人，使其广泛可用的使命。
Q：你们曾因为投入大量精力、资金到数据中心而受到嘲笑。现在你觉得这情况如何？
Greg：我认为这将给我们带来优势。不仅是利于业务，也能够真正实现将技术带给每个人。
未来算力会优先投向重大使命，比如攻克癌症，今年就有可能实现。
事实上，算力分配是社会未来的核心议题，只有那么多算力，所以必须优先排序，但我们坚持相信，每个人都需要获得算力。
这就是为什么我们有ChatGPT的免费版本，我们努力确保人们能够使用这项技术。
Q：在OpenAI内部，你们如何看待消费级和企业级业务之间的平衡？
Greg：我最近思考很多的是聚焦。
因为这个领域就是机会的化身，你可以把AI应用到任何问题上，任何你想构建的东西，一切皆有可能。但我们目前的问题还是算力有限。
所以我认为，在OpenAI下一阶段，企业级业务显然很重要，因为经济正在我们眼前变成算力经济。软件工程已经如此，每个用计算机工作的领域都将如此。
所以我们需要在那里帮助人们部署这些模型，弄清楚如何利用它们，如何从中获得最大收益。
企业和消费级之间的界限也将模糊，因为创业将变得比以往任何时候都容易。我们已经看到了这一点。
Q：你认为我们会有太空数据中心吗？
Greg：我认为我们会到处都有数据中心，但目前太空数据中心还有很多技术问题。
Q：什么是迭代部署？你们为什么要这样做？
Greg：迭代部署是OpenAI处理如何让这项技术造福人类、实现使命的核心支柱之一。
秘密研发、一次性上线的风险极高，因为你无法预判真实世界的问题。而迭代部署能让我们在实践中发现风险，快速修正。比如GPT-3上线后，我们没想到最大的滥用是医疗垃圾短信，正是实战让我们得以及时应对。
所以迭代部署的理念是，我们将推出这项技术的中间版本。
这不是盲目部署的借口，你仍然需要在每一步思考我们关于所有可能被误用的方式的最佳判断，缺点是什么，风险是什么，然后去缓解它们。但你也能看到实际情况，看看你的判断是否正确，从现实中学习，下次做得更好。
在OpenAI的历史上，我们曾希望，以前有人部署过变革性技术，也许他们能告诉我们答案。但事情从来没那么简单。
他们确实有智慧和见解，我们也吸收了。但我们意识到，我们才是最接近这项技术的人，由于创造了它，我们才能更加理解塑造它的正确方式。
Q：如果一个前沿模型将安全作为首要关注目标，而另一个不这样做，你如何看待这种差异？
Greg：我认为我们发现安全实际上是一个核心产品特性，没有人想要一个与自己不对齐的模型。
所以我们在安全方面进行了投资，可能远超人们所认为的程度，也可能比任何其他实验室都多。
我始终认为，那些构建这项技术并拥有成功产品的人不同时大力投资安全，是不可持续的。你需要为你的业务和你正在创造的东西做长远考虑，这关乎如何训练模型，如何获得反馈循环。
我只想说，我们致力于将安全作为使命的一部分，这在我们的产品和世界中已经体现出来。
Q：当我告诉人们我要做这次采访时，一个普遍的反应是他们担心自己的工作，感到不确定。你会对他们说什么？
Greg：我确实认为这项技术会如何发展是不确定的。它的发展方式令人惊讶，我们现在的AI，我们现在的世界，并不是科幻小说里所预见的。一些看似必然的结论，当它们真正实现时，结果看起来并不完全一样。
我相信，人们总是最容易看到自己会失去什么。变化正在来临，这是无可否认的，但更难的是预见到你会得到什么。
举个例子，想想1950年的人如何理解Uber，首先你需要想到计算机、手机、GPS。其实这当中涉及到了相当多技术，但它确实发生了。而成千上万、数以百万计的其他案例也在同步发生。
所以我对AI的看法是，它关乎赋权，关乎人类能动性。这确实意味着一些制度、工作、那些我们以为可以依赖的东西可能不再像我们想的那样稳定。
所以它会影响到人们，但值得深入的问题是：你得到了什么？你如何从中受益？
现在你可以成为一个创造者，你可以创造任何东西，你能想象到的任何东西都能变成现实。
Q：如何培养创造能力呢？
Greg：真正深入这项技术。
我观察到的是，跨越多代技术，从中获益最多的人是那些在上一代技术中就投入其中的人。而现在尝试它们的门槛比以往任何时候都低。
所以我认为会有新的机会被创造出来。
我认为世界确实需要考虑如何在这个充满不确定性的时刻，在即将到来的任何转型中支持每个人。因为经济将变成算力经济，但每个人都会有贡献的地方。
Q：年轻人今天应该投资在哪里？如果你在高中或大学，或者刚开始工作，你认为哪些技能在未来会更有价值？
Greg：我真的认为深入这项技术将成为一项关键技能，真正去理解如何从AI中获得最大价值。
因为我们都将走向一个世界，在那里我们成为智能体的管理者，也许很快会成为自主AI公司的CEO。
只要你有token，有驱动它的算力。到那时，你可以把算力指向任何问题，而人类想要解决的问题数量是无限的。
所以我认为，人们越是深入这项技术，弄清楚如何利用即将到来的东西，如何以新方式组合这些技术，如何与我们的智能体互动，真正管理它们，思考“我想要什么？我的自我意识是什么？我的目的是什么？我想在世界上看到什么？”，实现这些将比以往任何时候都容易。
我认为，就我们所获得的东西而言，那个世界的上行空间几乎是不可想象的。
Q：这是最积极的未来观，你能想象到的最消极的未来是什么？
Greg：关于技术迄今为止如何发展的一个非常有趣的点是，它实际上是让我们把自己扭曲去适应机器。
想想有多少人工作时要面对这个盒子，敲键盘，得了手腕综合症，肩膀佝偻着。但这不是我们所希望的样子，我们要走向的世界，不仅仅是你用计算机工作，而是你的计算机为你工作。
这带来了机遇，也带来了风险。所以我们需要想办法缓解这些风险。
归根结底，一个核心问题是：如果你有机器帮助人们实现他们的目标，它们在那里做你想做的事。但有时人们的目标是冲突的，你如何解决？你如何决定 AI 会帮助你什么，不会帮助你什么？真正试图弄清楚这如何融入社会？如何确保利益不只流向一个公司、一群人，而是真正提升每个人？
我们必须承认这里依旧存在很多出错的方式或风险，需要我们解决。
Q：最后一个问题，对你来说，什么是成功？
Greg：实现OpenAI的使命，确保AGI造福全人类。