哈萨比斯：AI将引发新文艺复兴

本文内容整理自谷歌DeepMind CEO Demis Hassabis与南安普顿大学计算机科学钦定教授Wendy Hall在信息技术员同业公会（WCIT）频道的专访。

内容提要：

教育模式的颠覆： 现行的“一刀切”式死记硬背教学已然过时，课堂应转型为以人际沟通、项目协作、创造力及判断力为核心的实践场所，而基础知识的学习，应由个性化的人工智能辅助在课外按需完成。

能源即算力基础： 人工智能的本质是“从瓦特到 Token 的转化”。能源成本决定了AI的工业基础地位，未来数据中心将演变为本地化的电力和能源生产者。

AGI 的定义与时间表： AGI（通用人工智能）被定义为具备人类所有认知能力的系统。基于当前的算力投入，预计在2030年左右有50%的可能性实现。它的意义绝不仅是工具，更将引发经济模式与人类生存状态的根本性变革。

技术治理的悖论： “监管冠军”并不等同于技术领先。若不能在技术核心领域占据领先地位，单纯的监管反而会失去被国际社会倾听的道德权威与谈判筹码。

DeepMind 效应的溢出： 初创公司的核心意义在于成为生态锚点。即便未能保持独立，DeepMind通过人才裂变（前员工创办了大量新企业）和高端就业，已经深刻重塑了英国的深度科技生态。

市场化的自我纠偏： 随着AI从消费端向企业应用（如金融领域）转型，对智能体安全性、行为边界的严格需求将倒逼市场进行自我修正，而非仅仅依赖政府监管。

机器智能与人类智能的本质差异： 尽管AGI可能在功能上模拟人类，但它永远无法等同于人类。我们应正视二者的差异，通过构建团队协作模式（如“AI+医生”的诊断模式）来优化社会决策。

内容简介

我们非常高兴地邀请您参加今年的 WCIT 年度讲座。这是我们日程表上的重头戏，也是一次绝佳的机会，让您能聆听到全球人工智能领域最具影响力的两位领军人物的独到见解。

我们深感荣幸，迎来了谷歌DeepMind联合创始人兼CEO、诺贝尔奖得主德米斯·哈萨比斯爵士（Sir Demis Hassabis FRS），以及英国该领域的顶尖独立专家、南安普顿大学计算机科学钦定教授温迪·霍尔女爵士（Dame Wendy Hall FRS）。他们将围绕“AI的未来”展开一场深度对话，本次讲座由本会会长格斯·马查多（Gus Machado）倾情主持。

访谈全文

主持人： 各位晚上好。欢迎参加由英国信息技术同业公会（WCIT）举办的这场讲座，此次讲座旨在纪念我们已故的前任会长 Barney Gibbons。今年，我们有幸邀请到了两位在塑造数字时代方面做出了卓越贡献的重量级嘉宾。

同业公会会员 Dame Wendy Hall，以及在座的新成员们，非常欢迎你们的到来。谢谢大家。

我刚才一直在思考该如何开场。通常，在介绍 Demis 和 Wendy 的视频中，都会长篇大论地朗读他们完整的履历。我向杰米尼先生（Gemini）请教了对 Demis 最准确的定义，所以 Demis，如果接下来的介绍有任何偏颇之处，责任全在它身上。

Demis Hassabis 爵士是 Google DeepMind 的联合创始人兼首席执行官。在我看来，这是全球首屈一指的顶尖研究实验室之一。我特别自豪的是，它的总部设在英国。你们的使命是推动人工智能（AI）的发展，并将其应用于解决重大的科学与社会挑战。

你曾开发过一款名为《主题公园》（Theme Park）的电子游戏，这款游戏史无前例地将人工智能与经济学结合在一起，最终狂销 1500 万份——而达成这一成就时，你甚至还没完成学业。至于你大学之后的生涯，因为成就实在太多，我就不在这里一一赘述了。简单来说，你主导开发了 AlphaGo 并击败了人类围棋世界冠军，随后又打造了 AlphaFold，彻底颠覆了蛋白质结构预测领域。

你是一位真正的跨领域专家。你集计算机科学家、神经科学家、企业家和前电子游戏设计师于一身，将多个截然不同领域的深刻见解，完美融入了人工智能研究之中。Demis 爵士，我们非常荣幸能邀请到你。

Dame Wendy Hall，英国最杰出的计算机科学家之一，也是全球网络科学（Web Science）领域的先驱。你致力于跨学科研究，探索网络如何塑造社会，以及社会又是如何反作用于网络的。你是南安普顿大学计算机科学的皇家钦定教授（Regius Professor），也是全球首批从事多媒体和超媒体系统（hypermedia systems）重大研究的学者之一。

你与蒂姆·伯纳斯-李爵士（Sir Tim Berners-Lee）共同创立了网络科学信托基金（Web Science Trust）——顺便提一句，他也是我们这里的荣誉会员。

主持人： 是的，我们都很熟悉他。你们致力于加深人们对万维网及其社会影响的理解。你是南安普顿大学第一位工程学女教授，也曾担任英国计算机协会（BCS）和美国计算机协会（ACM）的主席。在人工智能、互联网治理、数据政策以及数字伦理（digital ethics）领域，你是国际公认的权威声音。你正积极协助各国政府和机构，深入思考技术将如何影响我们的社会。Dame Wendy，非常欢迎你。非常感谢。

这就引出了我担任 WCIT 会长期间的年度主题：社区（Community）。关于这一点，我想简单说两句。我之所以选择这个主题，是因为我一直在思考人工智能和其他技术将如何深刻影响我们的社区、人民和产业。这恰好触及了我们组织的四大支柱：慈善、产业、教育和同业交流。

所以今天，我要向 Dame Wendy 提出关于技能和人工智能素养（AI literacy）的第一个问题。在你的 2017 年评估报告发布近十年后的今天，从中小学到大学，再到职业生涯中期的再培训，一个真正严谨的国家级人工智能战略现在应该是什么样的？我很好奇，英国是否依然在错失机遇，或是误判了这场技能挑战？

温迪·霍尔： 这简直是三个问题合而为一了。真不敢相信已经过去十年了。当年我们在做那份报告时，Demis 也在场。我本来想邀请他和我们共同担任主席，但他当时实在太忙了。你还记得吗？

德米斯·哈萨比斯： 我记得，我们当时也努力提供了意见。

温迪·霍尔： 是的，你们确实提供了意见。但他最终没能担任共同主席。不过这也合情合理，他当时正忙着打造 DeepMind，正在践行着他的梦想。

遗憾的是，我的回答可能不太乐观。英国曾经在这一领域表现得极其出色；事实上，我常常自豪地说，我们是全球第一个制定国家级 AI 战略的国家。虽然加拿大在时间上稍微抢了先，但我认为我们的战略在全球更广为人知。

我们在 2017 年发布了完整的 Hall-Pesenti 报告，随后由我们设立的“人工智能办公室”和“人工智能委员会”以此为基础制定了国家战略。该战略在 2021 年新冠疫情期间得到了进一步的演进。我还记得当时打过的那些无数的电话，我也曾担任过一段时间的“人工智能技能倡导者（AI Skills Champion）”。然而，现在已经没有这个职位了。

现在连人工智能委员会也没有了。英国科学、创新和技术部（DSIT）的人工智能部门有 400 名工作人员，却没有任何独立的机构来监督他们的工作。我认为英国在这方面错失了良机。

我曾走访世界各地会见各国政府官员，许多国家都借鉴了我们的战略。很多国家甚至直接照搬；你可以在其他国家的战略文件中看到我们战略的要素甚至原话。例如，新加坡就遵循了我们的剧本，并且执行得比我们更好。他们现在在人工智能发展的各项排名中已经超越了我们；对于一个小岛国来说，他们爆发出了远超其体量的惊人能量。

很明显，目前是美国和中国处于绝对领先地位。我们曾经在人工智能战略和应用榜单中位列第三，但现在排名已经下滑。新加坡确实做得极其出色，其他国家也都在奋起直追。

当然，我们在某些方面依然表现不俗，稍后我们可以在讨论中谈谈英国做得好的地方。然而，在技能培养这块拼图上，我们的现状是极其碎片化且参差不齐的。

遗憾的是，Hall-Pesenti 评估报告虽然促成了几项成果——所有这些建议都得到了推进，比如硕士和博士项目——但针对中小学的举措却少之又少。学校几乎得不到关于人工智能的任何系统性指导。你所看到的各种措施的出台极其碎片化。因此，我认为目前英国在人工智能技能培养方面完全缺乏统筹和监督。

很抱歉说得这么直白，但事实确实如此。

主持人： Demis，你觉得呢？对此你有什么看法？

德米斯·哈萨比斯： 我可能会提出更为激进的建议。我完全同意 Wendy 的看法。我们在 2017 年确实拥有令人瞩目的先发优势，但是，在人工智能领域，十年犹如其他行业的一个世纪，甚至是一个千年。 从那时起，世界已经发生了翻天覆地的变化。

我认为我们之前做得不错；我记得 DeepMind 当时赞助了一些硕士课程，这起到了很大的推动作用。正如大家今天所看到的，伦敦和整个英国在初创企业生态上表现得非常抢眼。我认为 DeepMind 在其中发挥了中流砥柱的作用，为这个国家吸引并留住了大量顶尖人才。十年后的今天，其中许多人纷纷出来创立了新的衍生企业，这是非常令人欣喜的景象。我们需要做更多这样的事情，我相信稍后我们会深入讨论这个话题。

但具体到学校层面的技能培养，我绝对赞同 Wendy 的观点。我们需要把目光投向中学，甚至小学阶段。从某种意义上说，现在已经是木已成舟、覆水难收了——孩子们已经在业余时间和写作业时熟练使用大语言模型（LLMs）和各种聊天机器人了。这种使用现状是非常缺乏系统性的，而我觉得政府政策和教育系统的反应，就像是在掩耳盗铃，盼着这股浪潮能自己消失一样。但它绝对不会消失。我们必须迎难而上，积极拥抱它，帮助教师、学校、家长和学生弄清楚如何从中获得真正的益处，而不是像孩子们现在这样盲目使用。

我看着自己的孩子使用这些工具，它几乎成了他们应付家庭作业、走捷径甚至作弊的利器。我们心知肚明，这必将导致传统技能的严重缺失，更别提未来需要的人工智能和计算机技能了。然而，我认为这里同样蕴藏着巨大的机遇。也许，现在正是进行一次全新评估的最佳时机。

如果要我建言献策，我会给出这样的建议：我们需要彻底翻转课堂（Invert the classroom）。

如果由我来主导教育，我会确保学校里的宝贵时间全部用来培养人际沟通、项目协作、创业精神、创造力和判断力——因为当通用人工智能（AGI）在五到十年后真正降临时，这些才是至关重要的核心能力。 即使我们仅仅基于今天 AI 的能力进行推演，未来必定有些任务是 AI 能做得极好的，而另一些事情则必须依赖人类的判断力和品味（taste）。遗憾的是，我们目前的学校教育根本没有在教授这些。

课堂不应再是传统的单向授课。我认为课堂应该是关于人与人之间的深度互动。你该如何将一群人组织起来协作完成项目？就像蒙台梭利（Montessori）教育的“升级加强版”；或者，我们也可以借鉴牛津剑桥（Oxbridge）那种导师一对一辅导的模式，并将其真正引入到日常课堂中。

至于基础知识的记忆和死记硬背，那应该放到课外去完成。这就是我的核心观点。这将由个性化的人工智能来辅助，它能根据每个学生的特定需求和学习进度，精准量身定制学习内容。令人抓狂的是，我们目前在课堂上进行知识灌输时，采用的是“一刀切（one-size-fits-all）”的方式；这根本行不通，因为老师只能被迫去迁就全班的平均水平。那么那些进度落后的孩子，或者远超同龄人的孩子怎么办？只能让他们自求多福了。而借助人工智能，我们完全可以实现课程的真正个性化，让每一个孩子都能获得量身定制的学习体验。

德米斯·哈萨比斯： 在学校里，学习的重点应当是项目实践。我想老师们个人也会非常乐意看到这一点。此外，你可以让世界顶尖的教师——甚至可以说是“明星教师”——来授课，因为他们在教学上确实出类拔萃。我们为什么非要指望每一所学校的每一位老师，都能把同一门课讲得无比精彩呢？这纯粹是巨大的重复劳动。当我和身边的老师朋友交流时，他们告诉我每个人都必须教GCSE数学，还要各自做PPT。我们为什么还要活在这样的世界里？理想的教育状态应该是：只需一套全球顶尖的标准化教材，其余的学习过程则在人工智能(AI)的辅助下，让学生在家按照自己的节奏远程完成。

如果是我，我就会这么做。我不知道新加坡或阿联酋这样的国家会不会付诸实践，但在我看来，他们理应如此。

温迪·霍尔： 我能顺着这个话题补充几句吗？因为我几乎完全同意你刚才所说的。但我认为远程学习不一定非要在家里完成。在家里学习存在教育不平等的问题，很多孩子在家里根本没有条件这样做，对吧？

我绝对同意，我们必须利用AI来终结一名老师面对三十个学生的“一刀切(One size fits all)”模式。每个孩子都是独一无二的。如果孩子们在上课前已经完成了基础学习——无论是在家里、学校还是其他地方，并且对老师将要讲授的内容做好了接受的准备，那么老师的教学效果就会好得多。

我一直对这个领域充满热情。不知道我有没有告诉过你，我在1984年写下的第一段AI代码，就是用Prolog语言在BBC Micro微型电脑上构建一个智能辅导系统。你肯定明白这意味着什么。当时这甚至还算不上一个成熟的概念，只是我从大学导师那里得到的一个灵感。

我一直坚信，我们可以利用计算技术，以及现在的AI，为孩子们开发个性化的智能辅导系统，帮助每个人都能达到优秀的同等水平。但这需要政府下定巨大的决心去推动，我也非常乐意为此贡献一份力量。

主持人： 那么再往前看一步，到了大学阶段，现在攻读计算机科学(Computer Science)学位是不是变得相当多余了？

德米斯·哈萨比斯： 完全不是。恰恰相反。你绝对需要深耕STEM（科学、技术、工程和数学）和计算机科学，因为无论如何，你可以把未来的编程看作是某种更高级别的编程语言。我们过去用机器码编程，后来有了C语言，接着是Python，而现在，编程语言可能最终会变成自然语言（英语）。但这完全没问题。你仍然需要懂得如何进行架构设计，需要掌握软件工程的最佳实践。那些真正懂技术、有深厚技术背景的人，使用这些AI工具的效率将比不懂技术的人高出十倍。

温迪·霍尔： 所以，我们绝对需要人才去应用这些技术，同时我们也需要在各个领域全面普及AI。

我们在南安普顿大学(University of Southampton)正在做的一件事——我知道其他大学也在做类似的尝试——就是为所有十月份入学的新生开发所谓的“AI驾照(AI driving license)”。你可以把它看作是AI时代的《交通规则手册》；它是专门为非理工科学生设计的，旨在帮助他们快速掌握如何正确使用AI，尽管有些学生可能已经在使用它了。

我们制定了关于如何在教育中使用AI的政策，同时还设定了一个目标：到下一个学年，大学里的每个学科、每一个学位课程都将包含一个AI模块。

我们会根据专业进行定制，不管是历史、心理学、地理还是物理。完全定制化。顺便说一句，这是一项极其艰巨的任务，但这正是我们为自己设定的目标。

主持人： 想必你们也必须对课程体系进行调整。

德米斯·哈萨比斯： 我正想说这点。我认为我们需要继续教授STEM和计算机科学，这依然是非常宝贵的思维训练，但课程内容本身必须改变。学生未来应该学习的东西可能会截然不同。

温迪·霍尔： 绝对是这样。如果你最近听过迈克·伍尔德里奇(Mike Wooldridge)关于AI将如何改变计算机科学的演讲，你就会明白。过去，AI只是作为计算机科学的一部分来教授。现在我们开设了专门的AI学位，许多大学也已经这样做了。我们在计算机科学中教授AI已经有很长一段时间了，但现在我们将两者区分开来，既有计算机科学，也有AI。同时，我也极其渴望让非理工科的学生也能掌握AI知识。

主持人： 尤其是伴随而来的风险以及其他社会影响，想必这些也必须纳入课程体系中。

温迪·霍尔： 哦，抱歉。

德米斯·哈萨比斯： 是的。如果我没记错的话，这甚至已经写进了你最初的那份报告里——也就是在教授计算机科学技术层面的同时，还要教授伦理学以及我们面临的挑战。我认为所有的计算机科学家都需要接受这方面的培训。顺便说一句，我也坚信，现在正是哲学、经济学等人文科学大放异彩的时候。在我们即将步入的后通用人工智能(Post-AGI)时代，这完全是一个全新的纪元。在这个时代，我们比以往任何时候都更需要人文学科的深度思考。

主持人： 我刚才还在想，你到底什么时候才会真正提到AGI呢，戴密斯(Demis)。没想到你更进一步，直接提到了“后AGI”时代。对于在座以及正在收听的非专业观众，我想请你谈谈，AGI究竟将如何改变世界？你眼中它的益处有哪些？还有它的时间表。我知道你提到了2030年及以后，但如果能再描绘得具体一些就更好了。

德米斯·哈萨比斯： 好的。首先，我对AGI的定义是：一个能够通过测试，并展现出人类所拥有的一切认知能力的系统。这个定义之所以重要，是因为人类大脑是我们在宇宙中拥有的唯一能表现出通用智能的“存在证明”。我相信大脑本质上是一台近似的图灵机(Turing Machine)。显然，图灵——我一直以来的偶像之一——证明了通用图灵机可以计算任何东西。因此，智能是可计算的，也许量子系统等除外，但那超出了今天的讨论范围。

这就是我认为的AGI系统。这意味着它应该能够完成那些我们所知的、最顶尖科学家才能胜任的创造性和发明性工作。目前的系统还远达不到这个水平；它们不够稳定，而且缺乏某些关键能力。不可否认它们在许多方面令人惊艳，但正如我们每天与这些大语言模型(LLM)交互时所体会到的，它们确实还缺少一些核心组件。现在，这些缺陷或许可以通过规模法则(Scaling Law)来解决，但也可能还需要一两次重大的技术突破——就像当年Transformer架构的诞生，或者像我们在AlphaGo中将强化学习(Reinforcement Learning)应用于深度学习那样。因此，目前尚无定论。

考虑到目前投入其中的庞大资源和顶尖脑力，我的预期是：距离那一天的到来，大概还有四五年的时间，也就是2030年左右。当那一刻降临，它将成为一种我们前所未见的全新工具或系统，我们需要认真思考如何去驾驭这样一项颠覆性的技术。在我看来，AGI将重塑一切：它不仅会改变全球经济，甚至可能彻底改变人类的生存状态。

当然，这其中积极的一面将是推动科学进步、治愈顽疾以及促进医学的飞跃。这也正是我将整个职业生涯倾注于AI以及我们所称的“AGI技术”的原因——顺便说一句，是我们推动了AGI这个词的普及。但显而易见，这些系统也带来了严峻的挑战，随着生成式系统变得越来越自主，我们已经看到了风险的端倪。我们如何确保它们始终运行在我们设定的安全边界(Guardrails)之内，并完全遵循我们的意愿行事？在此之外还有更深远的问题：随着机器能力越来越强，世界会发生什么？或者关于机器意识的问题，我们也许稍后会探讨。但无论如何，摆在面前的第一步，是必须确保这些工具的发展走在正确的轨道上。

主持人： Wendy，你有一些有趣的观点……

温迪·霍尔： 确实，但我并不完全赞同 Demis 的观点。我很尊重他的工作，如果每个人都像 Demis 一样，那天下太平。但现实并非如此，他们毕竟不是 Demis。有些人入局仅仅是为了金钱或权力。

他们会在没有任何测试、评估、安全检查或准则指导的情况下，发布任何产品并吹嘘其无所不能。这正是目前美国正在发生的事情。

我很喜欢——带有讽刺意味地喜欢——你在达沃斯（Davos）与 Dario 之间进行的那场辩论。我称之为“Demis 与 Dario 的达沃斯辩论”。我常在学生面前引用这次辩论，因为它生动地展现了这样的场景：Demis 讲述着他刚才在这里发表的观点；而 Dario，这位正四处为公司筹集资金、奔向 IPO 的人，却宣称我们在今年年底就能实现通用人工智能（AGI）。你当时一直在试图把他从那种狂热中拉回来，对吧？

让我稍微往回倒一点。对我来说，最核心的问题是：如果我们能在 2030 年之前实现某种你所认可的通用人工智能（AGI）——我个人并不认同这个时间点，我不在那个阵营——但如果我们真的实现了，那就意味着我们只有四年的时间来理顺全球的人工智能治理体系。

否则，我们将面对在某些方面比我们更聪明的机器。最大的隐忧在于：如果我们构建的软件开始自主决策，我们就会迎来那个“对不起，Dave，我不能那样做（I'm sorry, Dave, I can't do that）”的失控时刻。

这不可避免地会发生。斯蒂芬·霍金（Stephen Hawking）在 2014 年就曾说过，如果我们制造出更聪明的机器——顺便说一下，我在这里不使用“智能（Intelligence）”这个词，关于这一点我还可以多说一句——他说那将是人类的终结。那是斯蒂芬·霍金在接受 BBC 采访时留下的最后警世之言之一。

威胁是真实存在的，我们绝对必须建立全球治理体系。我曾在联合国高级别咨询委员会任职；那里人手不足，而且联合国也不复当年之勇。未来的治理机构不一定非要隶属于联合国，但可以从联合国脱胎而来。今年 7 月将开启一场全球对话。

一些政府将齐聚一堂，真正开始探讨这一切背后的深意。

就在本周，川普（Trump）在技术监管立场上出尔反尔。当他刚上台时，曾发布行政令推翻了拜登（Biden）的规定，实质上主张不应存在任何监管，并阻止各州实施自己的监管法规。

然而，他最近却逆转了这一立场。他的团队宣布，需要开始对已发布的软件进行评估。而促成这一转变的转折点，似乎正是 Anthropic 发布了“Claude”软件。

德米斯·哈萨比斯： 确实，原因也不仅仅是这个。幕后有大量的人员投入。我们花了很多时间在幕后推动这些事情，尽管我们没有站在屋顶上大肆宣扬。

Mythos 是一个非常有趣且有效的触发点，因为它让银行感到了担忧。当银行开始担忧时，政府就会猛醒，这也许是件好事。这意味着我们目前拥有一个采取行动的机会窗口，我认为这也是为什么我们最终看到行政令得以通过的原因。但这还远远不够。

Wendy，我完全同意你的观点，即我们需要制定国际标准。我的看法——或许这也是我们对 AGI 时间表产生分歧的地方——是到 2030 年实现 AGI（通用人工智能）的可能性大约为 50%，当然这存在明显的误差幅度。这取决于递归自我改进（Recursive Self-improvement）等因素。人们正在研发许多能够加速这一进程的技术，但如果这些技术行不通，时间可能会拉长。那也不错，我们正好有更多的时间来做准备。

然而，我们目前并没有合适的机构来应对如此意义重大的问题。不幸的是，这一切恰逢地缘政治处于近 30 年来最复杂、最支离破碎的历史节点。联合国已不复当年之勇。倒退 20 年，我或许还能设想在联合国之下设立某种技术小组委员会，但在今天，这已变得不可想象。因此，即使我们拥有 10 年而不是 4 年的缓冲期，我们也必须极其严肃地对待这种紧迫性。

我特别担忧生物风险。虽然我正通过 AlphaFold 紧密致力于治愈尽可能多的疾病，但同样的工具一旦落入不法之徒手中，就有被滥用的危险。主要存在两大担忧：一是恶意行为者为达到破坏目的而滥用通用目的技术（General-purpose Technologies）——这甚至波及了开源项目；二是技术层面的挑战，即当系统变得愈发自主、强大和智能时，如何确保它们能够始终恪守我们设定的安全护栏（Guardrails）。

即便我们解决了这些技术难题，我们仍将面临经济分配问题：如何确保全社会广泛受益，而不是仅仅让少数公司或个人盆满钵满？再往深处看，就算我们妥善处理了上述所有问题，关于人类存在意义和目标的哲学拷问依然悬而未决。这是一层层堆叠的挑战，每一个都比前一个更加错综复杂，我们本该在昨天就着手解决这些问题。

温迪·霍尔： 因此，我已经开始和其他人探讨为其命名。我们将建立一个国际人工智能机构（International AI Agency），先给它起个名字。它可以脱胎于联合国目前的工作，但绝不隶属于联合国，它必须保持完全独立。我们需要召集——我说的“我们”，是指所有真正关心这个问题的人，没有特定的组织或团体的限制——这个机构必须有科技公司的参与，有政府的参与，还要有公民社会（Civil Society）的参与。最关键的是，它必须是一个能让企业和政府都愿意签署协议的机构。当然，也得有人来提供资金。但这就像……

我们不能只是坐视不管，指望别人来解决。我们必须亲自下场。所以今年 7 月我会去日内瓦参加 AI 会议，你去吗？

德米斯·哈萨比斯： 呃，还不确定。哦，听起来像是个……是的，没错。

温迪·霍尔： 首场必于此事的全球对话将在日内瓦举行。虽然它是由联合国主办的，但这并不意味着最终的成果必须归属于联合国。

德米斯·哈萨比斯： 这就是为什么，顺便说一下，由苏纳克（Sunak）政府在英国发起的人工智能安全峰会——我们对此非常支持并在努力推动——我认为这些峰会非常有益。虽然这还远远不够，但至少它们把国际社会聚到了一起，试图探讨一些……

温迪·霍尔： （打断）但在印度那次会议上什么实质性进展也没有，Demis。

德米斯·哈萨比斯： 但是你看看 COP 气候大会，足足有 25 万人参会！人们为了气候变化尝试举办 COP 会议已经有多久了？所以这就是为什么我们必须另辟蹊径，单纯的“清谈馆（Talking Shops）”是远远不够的。而且我确实不认为联合国目前有权力采取任何实质性行动。因此，我们需要建立全新的机构。是的，但这往往是一个极其需要平衡的微操技术活（A tricky needle to thread）。我们很多人，包括我自己，正试图在幕后为此穿针引线。我很赞赏 Wendy 在台前冲锋陷阵，我认为两者都是不可或缺的：既需要在幕后提供建议与斡旋，也需要在台前正面攻坚。

主持人： 我们还没有提到中国，不过很快就会谈到。但就大型科技公司实际参与（监管）而言，这难道不像火鸡投票赞成过圣诞节（自寻死路）吗？

温迪·霍尔： 不，当然不是。事实上，他们其实很希望这么做。

德米斯·哈萨比斯： 这正是关键所在。我认识所有的实验室负责人，只能说他们都是些性格鲜明的人。但没人希望灾难发生。这对任何公司、任何个人、任何声誉都没有好处。所以，归根结底都是出于商业考量。

实际情况是，即便其中一些人确实感到担忧——像他们一直以来那样，出于科学视角的担忧——我也早就了解他们的动机。像达里奥(Dario)这样的人，我们以前一起做博士后时就常讨论这些事。其他人是后来才入局的，也许他们更看重权力和金钱。但这并不重要，无论你追求什么，你都不会希望灾难发生。政府也不希望。坦率地说，即使是最资本主义、最受市场驱动的政府，或者是威权政府，也都不希望发生这种事。

因此，希望还是存在的，因为达成某种共识实际上符合每个人的利益。问题在于常见的“公地悲剧”(Tragedy of the Commons)和“囚徒困境”(Prisoner's Dilemma)，这就是为什么我们需要某种治理和政府的介入。因为对公司而言，通过背弃既定协议来赚钱，总会符合某一方的利益，对吧？这才是症结所在。

从个人层面来看，好消息是，我在这个领域交流过的所有研究人员、实验室负责人和公司高管，确实都希望采取一些行动，他们确实希望建立一些护栏(Guardrails)和标准。问题在于这些标准究竟是什么、该如何运作，以及由谁来主导。不过，我和其他人正在幕后向一些主要大国政府提出建议。

主持人： 很高兴听到这些，谢谢。我们接着来谈谈……

温迪·霍尔： 但你看，当你提到大型科技公司时，你指的其实是美国西海岸的那些公司。

主持人： 是的，没错。

温迪·霍尔： 那么，难道你不关心中国的大型科技公司以及他们的动向吗？

主持人： 我们很关心，是的。

温迪·霍尔： 我的意思是，中国非常乐意主导我们可能建立的任何机构。他们愿意这么做，因为正如德米斯(Demis)所说，出于许多不同的原因，以及与西方相同的原因，他们和我们一样，极力希望避免人工智能引发灾难。实际上，他们非常希望能主导我们即将建立的任何机制。

关于中国的另一点——抱歉我非要谈这个，因为我认为这是无法回避的——他们主要使用开源代码(Open Code)来开发模型。他们更加开放，这有利有弊，但与美国政府相比，他们对这些（国际合作和监管的）理念要欢迎得多。

主持人： 好的，既然谈到了中国，我正好在想，目前人工智能领域大量的投资和动态都集中在中美两国。作为一个国家，我们（英国）的企业会被远远甩在身后，只能沦为旁观者和技术的受众，而不是像你一样，德米斯(Demis)，成为这些技术的发明者吗？

德米斯·哈萨比斯： 我们绝对不能坐以待毙。我认为很重要的一点是——我也曾向多位欧洲领导人强调过，包括 2017 年左右与马克龙交流时，他随后也试图采取一些行动。你不能只做“监管的世界冠军”，这毫无意义。想要在牌桌上拥有话语权，你必须在技术上保持领先，拥有顶尖的企业和学术机构。只有这样，你才能提前预见未来的发展，同时也才拥有被倾听的道德权威。

曾有一段时间，我试图推动英、法、加三国之间的三边合作，因为在研究实力上，这三个国家可以说是仅次于中美这两个超级大国的第一梯队。如果你看看论文引用量和研究人员数据，这三个国家联合起来——或许再拉上其他欧洲国家或新加坡——就能在两个超级大国之间建立起一道适度的缓冲屏障。由于政治原因，这并未完全实现，但机会依然存在，我认为英国在把握这一机遇方面具备得天独厚的优势。

我们一直在尽自己的绵薄之力；显然我们隶属于谷歌，但我坚持把 DeepMind 的总部留在了这里（伦敦）。我们将数千名全球顶尖的研究人员带到了这里。他们中的许多人在待了五到十年后，又去创办了其他事业。一旦你扎根在一个地方，往往会因为家庭原因或对这座城市的喜爱而留下来。所有的生态系统都需要这样的“定海神针”。在惠普和英特尔为其播下火种之前，硅谷还不是如今的“硅谷”，而这些巨头同样孕育自斯坦福和伯克利等周边顶尖高校。在英国，我们有由剑桥、牛津、帝国理工和伦敦大学学院(UCL)组成的“金三角名校”。这些底蕴需要几个世纪的沉淀才能建成，而我们已经拥有了。我们有极其聪慧的人才，只是需要更大的雄心壮志，并更好地在本土用好这些资源。

然而，我们需要解决企业成长期融资的缺口，这正是目前缺失的一环。我认为在座的金融界人士应该思考如何解决这个问题。伦敦证券交易所也需要与时俱进；我不明白为什么企业不再选择那里上市(IPO)，而是纷纷跑去美国。显然这里有一个亟待解决的问题，我认为我们完全可以抓住当下的时机，因为我们已经具备了所有成功的要素。

另一个关键因素是，我们必须解决能源成本和能源依赖问题，部分是出于国家安全的考量。目前我们的能源价格在西方世界是最昂贵的，这会直接转化为“智能的成本”。这毫不夸张地体现为“瓦特转化为美元，再转化为 Token”。如果你相信人工智能的未来，那么数据中心和信息处理就是新的工业基础。单位算力(Compute)成本至关重要，它不仅关乎我们现有的产业，更决定了未来的产业格局。

最后，虽然有些人出于对气候变化的担忧而诟病数据中心的能耗，但我认为这有点像是杞人忧天。如果我们的技术发展路径正确，人工智能将成为帮助我们在核聚变、材料设计和太阳能领域实现突破的终极工具，从而真正解决气候变化问题。我们正处于一场新文艺复兴的边缘。如果我们能立于时代的潮头，我们将彻底改写气候变化的方程式，而不仅仅是像现在这样，苦苦抠出 1% 或 2% 的减排量。

温迪·霍尔： 我能插一句吗？顺着这个话题，我认为在未来——正如我跟我们在南安普顿的工程师交流时所说——我们都会希望自己的城市或小镇里拥有一座数据中心。我们将彻底扭转局面，化被动为主动，让它们在未来成为电力和能源的发生器。这绝对是大势所趋。

我想说的另一点是，我们在（AI监管评估）这方面做得非常出色，在接下来的几周里，你会频繁看到相关消息。首先，得益于里希·苏纳克(Rishi Sunak)的努力，我们拥有世界上最顶尖的 AI 安全研究所(AI Security Institute)。他们是最棒的，正在为如何评估科技公司的 AI 模型产出制定基准。我希望他们不仅能关注美国，也能把目光投向中国，不过那又是另一个话题了。我们现在是全球此类研究机构网络的一员，该网络目前被称为“AI 评估与测量科学网络”。他们改名了，因为川普(Trump)不希望它们被称为“安全研究所”。

我们还在国家物理实验室资助了一个新的 AI 测量中心。这正在推动关于 AI 的整体科学发展——不是“AI赋能科学”(AI for Science)，而是“AI自身的科学”(Science of AI)——我认为这是我们国家非常擅长引领的领域。未来的潜力不可估量。

这一切都属于所谓“AI 保障”(AI Assurance)的范畴，这也是我们在英国非常擅长的领域。下周的伦敦科技周期间，你们将看到政府宣布一项新举措，或者说将其发展为一种职业路径。这不仅面向技术人员，也面向那些未来将运营 AI 保障行业的人才。只要我们保持目前的势头，我们完全有能力在英国引领这一领域，我认为本届政府在这一点上做出了极其正确的决策。

德米斯·哈萨比斯： 我完全同意这一点。我想再次赞扬一下英国的 AI 安全研究所 (AI Safety Institute)——它现在改名为安全研究所 (Security Institute)了，它是世界领先的。我们在这一领域非常擅长，我认为这也是我们的学术基础可以贡献力量的地方，因为你确实希望由非企业性质的机构来承担这类工作，对吧？所以我认为这正在引领潮流，这也是为任何标准制定机构提供技术能力的途径之一。没错。你需要那些高精尖的技术人才，而这些人就可以来自这些安全研究所的网络。

主持人： 太棒了，谢谢。现在我想稍微转换一下话题，问问 Demis。

Demis，我想问一下，你提到了英国以及我们这里的顶尖头脑力量。我们有很好的人才储备。我非常想了解：你最初为什么选择在英国创立 DeepMind？

你至今仍在英国、在伦敦运营着 DeepMind，这非常了不起；这对我们公司来说也非常棒。但我想问的是，我们该如何寻找新的英国本土突破，并以此打造出全球性企业？

德米斯·哈萨比斯： 我之所以在伦敦创办 DeepMind，有几个原因。首先，我在这里出生并长大，我热爱这个国家，也热爱伦敦。我也很珍视在剑桥求学的经历以及它赋予我的一切，所以我希望能有所回馈。

从商业角度来看，英国乃至整个欧洲都有大量未被发掘的人才。我过去常对早期投资者讲这样一个故事：想象一下，你是一位来自剑桥的世界级物理学博士，但你不想留在学术界或继续研究物理。你想留在英国，从事一份真正能拓展思维边界的工作。回到 2010 年，你唯一的选择就是进入金融业或对冲基金。（在座的金融界人士请见谅。）我想为那些希望留在科学或深科技 (Deep Tech) 领域的人提供另一种选择。

那时候可谓是“黑暗时代”；伦敦根本没有人在做 AI 或深科技，所以我几乎独占了整个领域。那时我以大约 5 万英镑的年薪招聘这些顶尖人才——在如今的 AI 领域，这点钱连雇个实习生干一天都不够。凭借只有几百万英镑的微薄预算，我就能招到世界级的人才，不仅来自英国，还来自欧洲各地，包括洛桑联邦理工学院 (EPFL)、苏黎世联邦理工学院 (ETH) 以及法国的顶尖学府。当时根本没有任何机构能与我们竞争，这种优势持续了大约六七年。

后来，大型科技公司意识到这里人才济济，于是纷纷设立了分支机构。这对英国实际上是件好事，因为它为该地区带来了更多的人才和投资。看看国王十字车站 (King's Cross) 周边，因为大量科技投资的涌入，现在那里已经变成了一个极具魅力的地方。人们在那里工作几年，之后也许会去创业。最后一点是，我觉得……

这多少有点像是一个打破常规的逆袭故事：我想证明在这里是可以取得成功的。我一直觉得我们在这一领域的实力被严重低估了。我认为我们通过 DeepMind 证明了这一点，我也希望——并且我相信它已经激励了——下一代创始人在这里投身于硬科技 (Hard Tech) 和深科技领域，开启令人惊叹的事业，无论是量子计算、核聚变，还是金融和银行业。

但我认为我们可以走得更远。我们现在需要在英国本土孕育出第一家万亿美元市值的公司，让它保持独立并在本地发展壮大。这可能是英国创新生态系统面临的下一个挑战，但我相信我们一定能做到。

这种成功在其他地方也有局部案例；例如，丹尼尔·埃克 (Daniel Ek) 正试图在斯德哥尔摩通过 Spotify 实现这一目标，他正在那里激励着下一代企业家。你只需要一些关键事件来播下种子，然后整个生态系统在政府的帮助下就能以此为基础蓬勃发展。

温迪·霍尔： 是的，但关键就在于政府的帮助。而这正是我们缺失的一环。在座的各位中有不少人正致力于此，你很清楚这一点。问题出在财政部，你根本无法让他们改变行事方式。所以我认为我们正在错失良机。我们拥有顶尖的头脑。

我们有顶尖的大学，正如你所说，Demis，我不必赘述，这里汇聚了所有的人才，令人惊叹的人才。看看其他国家，我的意思是，如果你看看美国正在发生的事情，看到政府如何停止资助研究，那是令人担忧的。不过，这对我们来说也是一个好机会。当然，还有中国。抱歉我一直提到中国，但事实确实如此。我们现在确实拥有乘风破浪的绝佳机会，但我们真的需要政府解决如何将投资引入企业的问题。我们可以孵化出独角兽企业，关键是如何让它们迈向——

主持人： 对，迈向下一个阶段。再问你一个问题，Demis。我非常想了解，为什么你当初选择蛋白质折叠作为首要研究课题？

德米斯·哈萨比斯： 其实，我毕生致力于 AI 研究，是因为我认为它将成为科学研究的终极工具。我一直对有关现实本质和万物运转机制的终极问题充满好奇。对我而言，探索这些问题的表达方式，就是打造出最强大的工具来赋能科学家。

关于蛋白质折叠和蛋白质结构预测——我是在剑桥读本科时接触到这个领域的。我的许多生物学家朋友，特别是其中一位，对此极为着迷，整天都在谈论它。于是我听得非常认真。我习惯于用心倾听，尤其是倾听那些对事物充满激情的人。我认为这是一个不可思议的科学问题，它就像是一个终极谜题：一维的基因序列，究竟是如何折叠成那些精妙绝伦的三维纳米机器的？

这也是我所说的“根节点问题” (Root-node Problem)。一旦你破解了它，就能开启全新的科学探索分支，比如药物研发和对生物学底层逻辑的理解。我总是被这类问题深深吸引；曾有人将其向我形妊酞生物学界的“费马大定理”。试问，谁能抗拒这样的挑战？人类为了解决它已经苦苦求索了 50 年。

即便在 90 年代那时候，我们并没有今天这样先进的技术，但我隐约觉得，这正是 AI 能够大显身手的问题。于是，我把这个想法在脑海中珍藏了近 15 到 20 年。直到 AlphaGo 人机大战结束后的那一天。我从韩国归来，我们不仅赢得了比赛，更重要的是，AlphaGo 下出了一手前所未有的原创棋——第 37 手。

它实现了一种发现——虽然仅仅局限在围棋这个有限的领域内，但它能做到这一点依然令人难以置信。那正是我梦寐以求想要看到的时刻：一个不仅能达到顶尖表现水平，还能做出真正创新举动的系统。就在我回国的那一天，我们启动了 AlphaFold 项目。

温迪·霍尔： 哇，我以前从没听说过这段故事。真酷。太酷了。

德米斯·哈萨比斯： 而现在，我们正通过 Isomorphic Labs 继续这项事业，这是我们在英国新成立的分拆公司 (Spin-out)。因为我感觉到生物学和信息科学之间存在着一种同构性 (Isomorphism)。我认为生物学完全可以被视为一个信息处理系统。

温迪·霍尔： 因为我是一名代数拓扑学家。

德米斯·哈萨比斯： 没错。

温迪·霍尔： 是的。

德米斯·哈萨比斯： 你会喜欢这个名字的。它是建立在 AlphaFold（蛋白质结构预测）的基础之上，但这仅仅是药物研发过程中的一个环节——虽然极为重要，但也只是其中之一。我认为整个药物研发领域需要被彻底重构，而这正是我们尝试通过 Isomorphic Labs 去实现的目标。

主持人： 是的，未来三到五年制药行业会发生怎样的变革，令人拭目以待。这确实是一个极其有趣的时代。我们一直在密切关注你们的动向，因为你们在材料科学领域也有所布局。

德米斯·哈萨比斯： 那是另一个平行的项目。我们在 DeepMind 正将 AI 应用于众多科学领域，但那些项目目前还处于早期阶段，类似于 AlphaFold 取得突破前的蛰伏期。

我们正在研究材料科学；通过在核聚变反应堆中更好地控制等离子体来助力核聚变技术；同时我们也涉足数学和天气预报领域。具体来说，我们与英国气象局（Met Office）合作，开发出了全球顶尖的飓风预测算法。

这些算法比传统的流体动力学系统（Fluid Dynamics Systems）要快得多。例如，美国气象局去年就使用了我们的模型来预测飓风“梅丽莎”的路径，它最终转向了牙买加。能够提前 12 到 24 小时发出预警，对当地的地面应对结果有着天壤之别。

主持人： 遗憾的是，我们没能预测到今天英国铁路工会（RMT）的罢工。预测那个确实要困难得多。

温迪·霍尔： 确实难得多。

德米斯·哈萨比斯： 因为那是人类行为，没错。人类才是最难预测的复杂体。

主持人： 我的书记员刚才狠狠地瞪了我一眼，她想让我们赶快进入提问环节，不过她现在笑了。Wendy，我想探讨一下你刚才提到的关于“平等”的话题。请简要回答：技术的发展，究竟会为无视性别、背景和阶层的人们敞开大门，还是反而存在将我们引向歧途的风险？

温迪·霍尔： 说实话，我其实非常抗拒使用“服从（Obedience）”这个词。当年我结婚时，我就坚决拒绝在婚礼誓言中加入“服从”的字眼。但在今天这个提问环节，我服从安排。

我先从性别问题谈起。自上世纪 80 年代我踏入计算机领域以来，就一直对女性在该领域的缺失感到痛心。

令人不寒而栗的是，情况不仅没有好转，反而每况愈下。在 AI 领域，这种失衡尤为严重。你看看硅谷，其领导层完全是一种单一文化（Monoculture）。

我看到了年轻一代的希望——我和坐在台下的 Sue 等人，在这个领域苦苦探索了太久，当年轻人带着全新的视角走进来时，我们总觉得：“哦，我们可以改变这一切。”尽管世界上有安妮-玛丽·伊玛菲顿这样优秀的榜样存在，但在过去 40 年里，我们依然没能真正扭转局面。解决这个问题至关重要，而在 AI 时代更是迫在眉睫。

我的导师 Karen Sp?rck Jones 曾把一句话印在她的 T恤上：“计算技术太重要了，决不能仅仅留给男性。” 这绝不是为了贬低男性，而是为了强调这是全人类共同的事业。我们需要每个人都参与到这个行业中来。这已经超越了性别多样性的范畴，我现在常说：“人工智能太重要了，决不能仅仅留给男性。” 如果我们要去摘取通用人工智能（AGI）这顶皇冠上的明珠，就必须深思我们要构建一个怎样的社会。

我知道像德米斯（Demis）这样的人深知其必要性，但外界有太多人并不理解。他们轻率地谈论 AGI，仿佛一切都不会改变，认为我们只会拥有一些极其聪明的机器，然后生活照旧。事实绝非如此。我们必须去审视和构想我们正在尝试建立什么样的社会形态。

我的意思是，你不能日复一日地对人们灌输：“你的工作即将消失，你的孩子将没有职业前景，顺便说一句，这玩意儿还可能让人类灭绝。”人们的承受力是有限的。目前对 AI 的抵制运动已经开始萌芽，我认为这极其危险。在座的有些人可能还记得，当年人们高喊“不要在我的小镇部署核弹”，格林汉姆公地（Greenham Common）的女性们挺身反抗核武器，那正是因为人们感到了深深的无力感。在美国，人们此刻也感到彻底的无力。他们甚至不明白现任政府是如何选出来的。我们之所以感到无力，是因为一旦选出政府，你就无法控制他们的所作所为。

我特别想分享一件事。我的私人助理有一个 18 岁的女儿，是个非常聪明的年轻女孩，正要去布里斯托大学攻读一门前沿学科。她上周告诉她妈妈，她们班同学集体决定，要打造一个“无 AI（AI-free）”课堂。

这听起来很讽刺对吧？但这就是南安普顿大学以及其他高校学生们的真实心声。我们正试图教他们如何在学习中利用 AI，他们却说：“我们不干。如果这东西真像那些科技巨头宣扬的那样可怕，我们宁愿和它划清界限。”

我们显然不希望看到这种情况。我们渴望人们去拥抱 AI 带来的巨大机遇。这是我们亟待解决的难题；它不完全属于狭义的“AI 安全”范畴，但科技公司必须深度参与其中。我不知道政府在其中该扮演怎样的角色，但我们必须开启这场对话，去思考当我们与这些极其聪明、具有潜在心智的智能系统共处时，我们究竟要建设一个怎样的社会。

我非常谨慎地使用“智能”这个词，因为我还想强调最后一点——说完我就把麦克风交出来——那就是：机器智能与人类智能之间存在着不可逾越的本质差异。我们或许能实现 AGI，但它永远无法成为真正的人类。

主持人： 谢谢你。我这里有一个来自现场臂众的提问，提问者是伦敦金融城公司的政策主席，也是我亲爱的朋友 Chris Hayward。

Chris Hayward： 非常感谢。德米斯，我想向你提问，这个问题分为两部分。第一部分，如果英国需要在未来 12 个月内做出一项政策决定，不仅要在研发 AI 方面保持领先，更要在负责任的大规模部署（特别是在我所代表的金融服务领域）上拔得头筹，这项政策会是什么？第二部分，你认为像 DeepMind 这样的机构、生态系统中的其他领军者，与伦敦金融城公司这样的组织之间，在加速 AI 安全落地方面，最大的合作机遇在哪里？

德米斯·哈萨比斯： 这两个问题问得非常好。针对第一个问题，我认为重点在于两方面：能源状况与我们的产业规模（Industrial Scale）。解决能源问题不仅是出于国家安全的考量，而且面对即将席卷而来的 AI 经济浪潮，这一点更是重中之重。我们必须入局。我们需要建设数据中心，并在本土布局第一方基础设施（First-party Infrastructure），以此来抢占先机。

这一挑战的第二部分，是如何实现从孵化“独角兽”企业，跨越到培育真正规模宏大、具有全球影响力的科技巨头。我们在创造独角兽方面成绩斐然，但接下来的难关是如何实现规模化扩张（Scaling up）。我认为政府、证券所以及整个生态系统必须通力合作来推动这种跨越。只要营造出适宜的环境，这完全是可以实现的。

关于第二个问题，即我们如何进一步深化合作，我认为像今天这样的论坛就是极佳的平台。我非常荣幸能参与其中，和 Wendy 聊天总是充满启发。这类论坛将不同背景的人汇聚一堂，因为我们绝不能将对话仅仅局限于技术专家的小圈子。这也正是伦敦的独特魅力所在：我们在同一座城市里，汇聚了众多领域的顶尖智慧。

在美国，这些核心产业散布在不同的城市——政治中枢在华盛顿，金融中心在纽约，生命科学聚集在波士顿，科技前沿在硅谷，娱乐产业在洛杉矶。而我们在伦敦，将所有这些世界级的顶尖资源融于一城。我一直以来都是跨学科合作的坚定信徒，现在更是对此深信不疑。AI 作为一种赋能工具，能够让你以前所未有的速度跨界获取其他领域的专业知识，从而让这种深度融合成为可能。

最后，我完全赞同 Wendy 早些时候关于“哲学不可或缺”的观点。用更通俗的话来说：我们需要审慎而刻意地去决定，在“后 AI 时代”，我们究竟想构建一个怎样的社会。 抛开那些繁杂的术语和预测时间表——无论是 5 年、10 年还是 15 年，这场变革必将发生在我们和我们下一代的生命周期内。历史的车轮不会倒转，这是必然的趋势。未来尚未书写，作为社会共同体，我们有责任去执笔，但前提是我们必须立刻行动。

请无畏地去迎接它。这是一项艰巨的挑战，它令人心生敬畏且充满未知。我认为当下还没有人手握标准答案——无论是科技巨头还是顶尖科学家，目前都没有完美的解决方案。但这并不意味着答案不存在。

这需要我们整个社会共同去探索和抉择。我坚信，这需要社会各界的全面参与，包括人文学科、科学界、科技界、产业界以及政府。

我认为英国和伦敦完全有实力成为这场全球对话的中心。然而，我们必须在经济与技术上取得足够耀眼的成功，才能在谈判桌上赢得属于我们的位置。那是赢得世界倾听、掌握话语权不可或缺的先决条件。

主持人： 谢谢。好的。下一个问题有请，副会长（Deputy Master）Gary Moore。

Gary Moore： 会长，谢谢。您提到“未来尚未书写”，这句话很有意思。

在弗兰克·赫伯特（Frank Herbert）的《沙丘》（Dune）宇宙中，禁止“会思考的机器”（thinking machines）成为了该文明的基石。这源于一场灾难性的星际战争，当时人工智能和有感知能力的机器人奴役了人类——对于一个提问来说，这真是一个“美好且积极”的开场。

您之前已经触及过这一点。但随着我们向通用人工智能（AGI）迈进并思考监管问题，在一个部分技术已经开源的世界里，我们该如何管束那些恶意行为者（rogue actors），而不是仅仅关注那些愿意遵守监管的人？您对此有何看法？

温迪·霍尔： 我们必须制定有威慑力（teeth）的法律。以深度伪造（Deepfakes）为例，我们目前还没有完善的法律来妥善应对。如果有人盗用他人的肖像并借此做些伤天害理的事，这理应是违法的。而且，一旦这些人被抓获，无论如何量刑，都必须有实质性的惩罚力度。这道理很简单。当然，未来会有更棘手的问题要处理。这部分就交给你来谈了。

德米斯·哈萨比斯： 没问题。深度伪造（Deepfakes）就是一个很好的例子，我们和其他机构已经开发出了隐形水印（invisible watermarking）等技术。这终将成为行业标准，如果有意愿，政府将能够强制推行这些措施。我认为这必然会发生，因为显然就应该这么做。我们不仅要将滥用这类技术的行为定为非法，还必须确保任何生成媒体的人工智能模型都将添加水印作为核心功能，并配备政府或记者能够访问的检测系统。最终，整个网络或许应该能自动标注图片是否由AI生成。对我而言，这似乎是一件稳赚不赔、理所应当要做的事。

再看《沙丘》——那正是事情发展到极端时可能出现的后果。顺便提一句，我看过它的电影，也读过大量科幻小说，但我唯独没读过《沙丘》，或许正是因为这个原因：它禁止了AI。如果人工智能的构建方向错误，我们可能连翻盘的机会都没有。我不知道他们在《沙丘》宇宙中是如何收拾残局的，但如果事态严重失控，我们恐怕无法轻易走回头路。我们必须做到一击必中，一次就做对。

不过，既然提到了这一点，在科幻小说中还有许多精彩的宇宙设定，人类在其中做出了正确的选择，从而在星际间实现了人类文明的极大繁荣。我想向大家推荐我最喜爱的科幻小说家之一伊恩·M·班克斯（Iain M. Banks）及其《文化》（Culture）系列。它描绘了也许一千年后的未来，人类足迹已遍布星海，并在很大程度上与AI和平共处、优势互补。实际上，关于未来究竟是什么样，还有许多非常有趣的愿景。

或许我们需要更多科幻作家，来创作一些关于未来发展道路的正面故事。历史已经证明，科幻小说能够影响科学家们的探索方向。当我与科幻作家交流时，我总是建议他们去写“硬科幻”，为未来五十年到一百年提供一个现实的视角，展现我们能够达到怎样的高度，以及我们应当追求怎样的目标。

我认为，如果我们在技术层面上做对了，我们需要在“应该建立怎样的社会”这一问题上，迎来一次思想上巨大的创造力爆发。我们最终可能会生活在一个“后稀缺”时代（post-scarcity world），但这究竟意味着什么？在一个我们已经解决了核聚变、材料科学以及其他“根节点”问题（root-node problems）的世界里，我们的经济体系又该如何运作？

温迪·霍尔： 我喜欢谈论团队协作。我乐于设想 AI 成为团队的一分子。这一切似乎发生得太快了，但尽管技术在飞速发展，其普及和应用的速度却远不及此。

我不认为所有的工作都会消失。我不买账埃隆·马斯克（Elon Musk）所说的“不再需要人去工作”的那套说辞；我觉得那纯属无稽之谈。

然而，工作性质确实会发生改变，我相信我们会逐渐习惯在工作场所中与 AI 为伴。它将取代人们目前不得不做的一些繁重乏味的工作（grunge work）。

AI 会接手这些工作，情况也会因此变得更好。人类从而可以释放出更多的创造力。打个比方，在为人诊断疾病时，你依然需要人类医生，但 AI 会在一旁辅助说：“根据数据，我可以告诉你这个结论。”由此我们将拥有全方位的个性化医疗，你看，这就是团队协作。正如我之前所说，我们必须认识到机器智能与人类智能截然不同，我们应该为此感到庆幸，并用它来造福社会。

主持人： 我想在过去，也就是六七十年代，人们看待计算机的心态大概也是如此。

温迪·霍尔： 我总喜欢举这个例子。我父亲生前是一名会计。他管理着一家公司的财务部——当然，那时还不叫财务部，叫账务部（accounts department）。他们所有的工作都是纯手工完成的。没有计算器，没有电脑。他能在脑子里直接进行英镑、先令和便士（pounds, shillings and pence）之间的除法运算。全都是账本，他们就靠手工抄录账本，这就是他们的工作。而现在，这些工作岗位确实全都消失了。

但你看，现在的金融行业反而有更多的工作岗位，正是因为计算器和电脑能做太多人类做不到的事情。这也印证了杰米斯（Demis）之前所说的，或者说是你提到的：AI 将完成我们以前连想都不敢想的事情。我们需要拥抱这种机遇，但与此同时，我们必须将安全措施、护栏（guardrails）——不管你怎么称呼它——落实到位。我们不能袖手旁观，指望别人来解决这些问题，我们现在就必须行动起来。

主持人： 我们同业公会（Livery Company）的一个核心支柱就是慈善。关于慈善，我们有一个非常有趣的问题。接下来有请 AI 小组的主席保罗·埃克塞尔（Paul Excell）。小组就像是一个委员会，旨在帮助成员交流讨论、促进提升等。保罗，请讲。

Paul Xell： 谢谢会长。我的问题是，在我们的“AI助力慈善”（AI for Charities）社区中，目前有超过九十家慈善机构正在利用人工智能开展一些极其出色的基础性工作，为他们所服务的社区释放了实实在在的红利。但普遍来说，他们也非常担忧和焦虑，因为他们所扶持的正是这些社区中极其脆弱的人群。

正如您所言，既然我们有机会去塑造我们自己、我们的子孙后代将要生活于其中的未来，您会将负责任的 AI（responsible AI）、伦理、信任、同理心和安全保障（safeguarding）等理念置于何种地位？如果这些是防止危害发生、创造积极影响的基石，那么作为给大家留的“课后作业”，您会向在座的各位，以及政府和民间社会，倡导哪一到三项负责任的行动？

我们该如何确保全球性的解决方案不仅能满足社会的需求，还能为所有人带来安全、持续的增长与机遇？这听起来几乎像是一个恰到好处的“金发姑娘”情境（"Goldilocks" scenario）。这个愿景或许过于乐观，但在伦敦和英国，我们必定有能力将其化为现实。

温迪·霍尔： 这是一个很难回答的问题。首先我想说，排在我心中第一位的是多样性。当有人问我什么事情让我夜不能寐时，并不是德米斯（Demis）刚才谈论的那些技术问题，而是因为我们这个世界缺乏多样性。我认为，正是因为缺乏多样性，利用人工智能构建一个平等的社会才会变得更加困难。

如果缺乏多样性——我这里不仅是从性别角度出发，而是指最广泛意义上的多样性——你就会缺失一个至关重要的视角。

我在变老，当然我们所有人都在变老——这似乎是句废话。我开始感觉到，有些事情我已经无法像过去那样轻松应对了。我们真的需要认真思考，像我这样的老年人究竟该如何从人工智能中获益。

此外，我们还必须考虑那些接触不到技术的在校学生。在太多领域中，我们都必须努力为每个人创造一个公平的竞争环境(Level Playing Field)。

主持人： 这正是我提出“社区”这一主题的初衷。与你刚才阐述的观点完全契合。

温迪·霍尔： 我们刚才只谈了一个。那你心中的首要问题是什么？

德米斯·哈萨比斯： 这是一个棘手的问题。我主要思考的是在全球治理(Global Governance)规模上需要发生什么，这显然会影响一切。但我认为，正如温迪（Wendy）所描述的那样，自下而上的基层力量也同样至关重要。

我们探讨了许多主题，比如教育以及如何确保人们获得技能重塑(Reskilled)。这些都是社区层面的问题，课程体系也需要相应更新。我已经分享了我的想法，也许你们对此产生共鸣，或者有渠道去施加影响。我自己可能没时间亲力亲为，但理应有人去做。这取决于你们成员的兴趣所在。

我认为，帮助慈善机构快速跟上技术步伐并善用这些工具至关重要。这能极大地改善后台运营——慈善机构目前在这些任务上耗费了大量时间和金钱——从而让他们能将资源集中于直接服务社区。狙桃了解，慈善机构的大量资源被束缚在筹款和行政管理上；如果能将这些精力转移到一线工作中，效果会好得多。

最终，这两种路径缺一不可，且有望实现融合：一方面是前沿实验室(Frontier Labs)和超级大国主导的全球治理体系，另一方面是社区基层的力量。或许，这正是我们在英国可以发挥引领作用的领域。

温迪·霍尔： 我们在南安普顿开展了一个公民项目，致力于将南安普顿打造成卓越的人工智能城市，而我们正是自下而上、从基层做起的。

例如，在慈善领域，我一直在举办快闪工作坊(Pop-up Workshops)。我们邀请行业专家，并号召大家参与——这本质上就是一场“关于人工智能，你想知道却不敢问的一切”的交流会。

我们强烈鼓励那些感到迷茫、不安或恐惧的人参与进来。我们以慈善工作者社区的名义与他们交流，并分享那些已经成功利用人工智能传播理念的最佳实践(Best Practice)案例。

目前我们已经在三个领域开展了这项工作，并计划拓展到更多领域。归根结底，这一切都关乎认知与教育。

主持人： 太棒了。下一个问题来自同业公会会员(Liveryman)尼古拉斯·贝尔（Nicholas Bale）。请讲，尼古拉斯。

Nicholas Bale： 非常感谢你们两位。我认为再过几个月，我们将面临这样一个局面：所有西方的头部人工智能开发商都将成为上市公司，并对他们的投资者负责。

那些大型的全球投资者是唯一能在万亿美元规模上运作的参与者，足以与这些巨头公司比肩。显然，他们拥有一个巨大的共同利益，那就是确保自己的任何投资都不会崩盘。所以我想问你们两位，尤其是德米斯（Demis），投资者能做些什么来鼓励负责任的行为？因为他们或许能够非常有效地化解这个博弈论问题(Game Theoretic Issue)？

德米斯·哈萨比斯： 是的，这确实是个很好的观点。我相信，投资者能够发挥的影响力远比他们现在所展现的要大得多。

我认为问题在于，挤进这些融资轮次的利润过于丰厚，以至于投资条款基本上是板上钉钉的——狙桃了解，本质上就是“要么接受，要么出局”(Take it or leave it)。因为这类“火箭般飞升”的公司太稀缺了，总共就那么几家，你根本不敢错过。我认为这在一定程度上打破了供需平衡。

此外，这些公司中有许多采用了非同寻常的控制权结构，事实上，即使它们上市，也不用听命于股东。

平心而论，普通投资者大多只关心投资回报。我不确定我们是否还需要更多纯粹的经济激励措施；我认为这本身已经是问题的一部分了。

或许对此有破局之道。我希望在智能体时代(Agentic Era)，市场能够进行一定程度的自我修正。设想一下，如果一家顶尖的前沿模型实验室想要为金融服务公司提供智能体(Agents)，我猜想金融公司势必会要求对这些智能体的安全护栏(Guardrails)提供担保——明确它们能做什么，以及将如何处理客户数据。你绝不希望其中某个智能体仅仅因为目标函数(Goal Function)设定错误，第二天就执行了一笔让你损失十亿美元的交易。

我猜想，这类错误不可避免地会发生在其服务缺乏妥善安全护栏的公司身上。随之而来的，市场会做出正确的反应去激励负责任的行为，尤其是在那些受严格监管的行业，而这些行业恰恰也是商业价值最高的。我认为这反而是一件好事；这是AI技术在变得更具商业实用性和可行性过程中的一线希望，特别是在企业级市场——这正是我们当下首次目睹的趋势。从纯粹的消费者应用向企业级应用的转变，有望重塑激励机制，从而真正推动AI的负责任部署。我认为这极有可能会发生。

我相信，投资者以及大银行和其他企业的首席技术官(CTO)和首席信息官(CIO)，应该运用他们的购买力，去支持那些他们认为行事负责任的提供商。显然，你不必在服务质量上妥协，但你完全可以选择去支持那些与你的标准相契合的公司。

我甚至想对街头的普通大众说：即使作为消费者，你也可以用你手中的钱来投票，引导市场力量向善。你可以向这些公司和实验室施压，要求他们的行为能够反映出你所期望的世界的价值观。随着这些系统变得更加商业化，我希望这正是投资者和企业们将会采取的行动。

温迪·霍尔： 我认为，这也可以与我们共同努力建立的全球人工智能治理组织挂钩。无论最终出台的是宪章、条约还是其他形式，投资者都可以明确表态：比方说，如果你的公司不签署这些协议，我们就不会向你投资。

主持人： 我们来进行最后一个问题，这个问题来自自诩为英国最资深的分析师、同业公会会员(Liveryman)理查德·霍威（Richard Holway）。

Richard Holway： 确实如此。昨天我写了一篇文章，庆祝 Computer Centre 进入富时100指数（FTSE 100），这也是该指数中仅有的第二家科技公司。事实上，在按市值排名的全球百大科技公司名单中，英国只有一家——ARM，而且它还是在纳斯达克上市的。

如果当年 DeepMind 进行了首次公开募股（IPO），我保证你们现在一定位列富时100指数之中，甚至可能处于领头羊的地位。

你们本可以成为催化剂，吸引众多英国公司竞相效仿，并在周边建立起完善的基础设施和生态系统，就像硅谷等地的成功经验一样。我想知道你对此有何看法？我想大家都知道我的观点。

德米斯·哈萨比斯： 关于那段“平行历史”，确实很有趣。但你当时身在何处？我不确定在 2014 年时你是否愿意为我们投入几十亿美元；也许你会，但我当时确实找不到那样的资本支持。在人工智能领域，2014 年恍如隔世。那时我们是唯一在做 AI 研究的团队，OpenAI 尚未成立，我们也还没开发出 AlphaGo。当时我们只有 Atari 游戏项目，人们都在问：“你们在玩太空侵略者（Space Invaders），这有什么意义？”

必须要说，谷歌敏锐地意识到了这其中的重要性，尤其是拉里·佩奇（Larry Page）。我非常感激他，因为他本人一直对 AI 充满热情，并将谷歌视为一家纯粹的 AI 公司。我选择出售的原因是，我知道想要成为那种级别的大型科技公司，需要 70 亿美元的资金投入，而当时我甚至连筹集 1000 万美元的融资都步履维艰。

当时最致命的问题是，Atari 项目已经引起了足够多硅谷巨头们的警觉，他们开始疯狂挖角我的人才。显然，当时我们连商业模式或产品都没有，因为我正全心全意地专注于构建核心技术。我一分钱薪水不拿，团队成员的年薪只有大约 10 万美元，而外界却给他们开出了千万美元的年薪。我意识到，如果我无法匹配这些条件，事情最终会彻底失控。在那个阶段——远在软银和一些大型风投机构（VC）开始进行 10 亿美元级融资之前——我的时机稍微差了点运气。如果我们能死撑到 2015 年或 2016 年，我也许就能完成那样规模的融资，尽管资金大概率不会来自英国投资者，我必须去寻找那些更具野心、拥有雄厚火力的海外资本。

我不后悔的另一个原因是，我渴望回归科学研究本身。想要在为一家初创公司到处融资、为产品发愁的同时，还要去主导 AlphaGo 或 AlphaFold 这样的顶尖科研项目，简直难如登天。我从未有过片刻的懊悔，因为对我而言，初心始终在于科学研究、技术探索及其改变世界的力量，而非追逐金钱与权力。

我承认独立发展可能对英国更有利，甚至能让我的银行账户更丰厚，但我绝不会拿我的诺贝尔奖去换取任何金钱——真的是多少钱都不换。全球已经有 300 万研究人员在他们至关重要的生物医学研究中使用了 AlphaFold。我的一位制药界大佬朋友曾说，未来研发出的每一款新药，几乎不可能在整个研发流程中完全不借助于 AlphaFold。我对此感到无比自豪；这是一项在英国诞生的伟大成就，我们理应为这一科学事实感到骄傲。谁知道呢，也许我会在 Isomorphic Labs 完成未竟的使命。

德米斯·哈萨比斯： 这算是我计划的一部分吧？将总部完全设在这里（英国）。但是，我们必须解决目前证券交易所存在的种种问题。为什么企业都不愿在那里上市？我不太清楚具体原因，但我们必须解决它。等过几年我再来找你，我们好好聊聊这个话题。

温迪·霍尔： 我想由衷地赞赏 Demis，我认为英国从他所取得的成就中获益匪浅，这是有目共睹的。我觉得我们没必要再去探讨那些平行的“如果”，因为英国实实在在地受惠于你在 DeepMind 的贡献。我下周就要去加州拜访谷歌。在加州，我们（英国人）之所以能昂首挺胸，全拜这位先生所赐，不是吗？听说你现在又开始在东南亚开疆拓土了。

德米斯·哈萨比斯： 而且，不得不说，正是由于这种合作关系，数十亿美元的投资才得以涌入英国，并随之带来了大量的高端就业岗位、顶尖人才以及其他资源。

温迪·霍尔： 而实际上正在发生的是，虽然感觉所有这些公司都在研发相似的技术，但它们正逐渐演变成完全不同类型的竞争者。我一直都这么认为。

你看，我不太了解 OpenAI 的具体动向，但在微软那边，我们只需使用 Office 就能享受到 AI 的赋能；同时，Anthropic 也有其独特的专长。我们将看到这种多元化的发展趋势。

我一直将筹码押在谷歌身上，无论有没有 Demis 的加持，因为我认同他们的价值观。他们拥有搜索引擎，掌握着海量数据，而且我个人非常喜欢 Gemini——它是我的最爱。我的投资一直都在那里，我这么说可不仅仅是因为我现在就坐在 Demis 旁边。

归根结底，这并不是一场“赢家通吃”的零和博弈。未来将会涌现出许多不同类型的 AI 公司。一想到我们将用这些技术创造出怎样的未来，这种多元化的前景就让我感到无比兴奋。

主持人： 在我致谢之前，我想请汇丰创新银行（HSBC Innovation Banking）首席执行官 Emily Turner 来做最后的总结发言。

温迪·霍尔： 我们得感谢你们送的充电宝（power bank）。谢谢。作为一名学者，我从来不会拒绝免费的赠品。

主持人Emily Turner： 哈哈，如果你还想要更多周边礼品（merch），我们后台还有一些，你可以去拿。请大家和我一起，感谢今天尊贵的嘉宾们为我们带来这场精彩绝伦的讨论。非常感谢 Demis 爵士（Sir Demis）和 Wendy 女爵（Dame Wendy）。

我显然也要感谢信息技术同业公会（Worshipful Company of Information Technologists）今天为我们提供场地。我相信大家和我一样，走进如此美丽的历史建筑，一边回味着该组织的悠久历史，一边探讨着今天代表未来的科技前沿话题，感受到了一种奇妙的交错感。这真是一次不可思议的体验。

对于不了解我们的人，简单介绍一下，汇丰创新银行是一家总部位于英国，专为服务创新经济而生的银行。我们在全国与 4000 多名创新者、企业家和投资者合作。正如今天大家所讨论的，对于投身创新经济的人来说，这是一个绝佳的时代——尤其是在英国，我们这里独特地汇聚了顶尖人才、多元化思维、丰富的专业领域，以及正如 Demis 所提到的，清晰的雄心壮志。

这是一个令人惊叹的历史时刻。仅在今年第一季度，英国就有 74% 的风投资金（VC dollars）涌入了 AI 公司，与几年前相比实现了惊人的跃升。

我知道刚才有人提出了一个理论假设，即如果 DeepMind 留在英国独立发展会怎样。我想指出的是，仅在第一季度，就有超过 10% 的融资金额流向了由 DeepMind 前员工创办的英国公司。因此，DeepMind 的传奇故事及其对英国经济的重要性，依然在熠熠生辉。无论英国诞生下一个独角兽（Unicorn），甚至是十角兽（Decacorn）企业，它的身上都极有可能带有 DeepMind 的印记。 我只想特别强调这一点。

对我而言，当然我相信对在座的每一位而言，能参与今天的讨论都是一种美妙的体验。我们聆听了那些引领我们走到今天的人的真知灼见，更重要的是，你们三位正在深刻塑造着我们明天的去向。接下来请大家移步参加我们的酒会，继续交流。如果有未解答的问题，希望大家能在稍后找到嘉宾继续探讨。再次感谢大家，感谢我们的嘉宾。

主持人： 最后，我想对同业公会会员（Liveryman）德米斯·哈萨比斯爵士（Sir Demis Hassabis）和温迪·霍尔女爵（Dame Wendy Hall）说，希望这不会是我们最后一次在公会（Company and Livery）见到二位。请随时来参加我们举办的任何活动，我们定将热烈欢迎。女士们、先生们，能否请大家再次对德米斯爵士和温迪女爵表达最诚挚的感谢？总是这么令人愉快。