莱顿宣言:数学的未来不能只剩下机器的答案

2026-06-14 12:25:16 · chineseheadlinenews.com · 来源: 集智俱乐部

6月2日,《人工智能与数学莱顿宣言》在荷兰莱顿正式发布,发布者为国际数学联盟(IMU),目前已有2411名数学家签署了该宣言。宣言直面着正在发生的现实:人工智能不再是实验室里的玩具和技术圈热捧的浪潮,而已渗透进数学研究的核心环节。它试图在技术热潮中划出一条冷静的边界——数学的灵魂是理解和批判。无论技术如何演进,都必须遵守这条底线。

近日来,面对着《莱顿宣言》,2018年菲尔兹奖得主彼得·舒尔茨(Peter Scholze)评论道:“我更愿意在不借助人工智能的情况下思考自己的数学想法,并且尽可能避免阅读由人工智能生成的文本。”

人工智能的现状与本相

人工智能之热度,已无需再加渲染。从文本生成到代码编写,从图像合成到视频制作,技术迭代的消息几乎以周为单位“爆发”。大模型被塞进搜索引擎、办公软件、教育产品、科研工具等,每一个行业都似乎在重新想象自己的未来。资本涌入、媒体狂欢,各种“替代”“颠覆”“重新定义”的词语和叙事铺天盖地。

拨开表象,当前主流语言大模型(注:通行的“大语言模型”译法不合汉语习惯和逻辑,因此改为“语言大模型”,可参见LLM为啥是语言大模型,为啥大语言模型不宜?下同)的本质并不神秘:虽有各种工程巧思或改进,但其核心原理仍然是“预测下一个词”(忽略某些大模型调用符号推理等特例)。用海量文本训练后,模型只会根据上下文计算哪个词出现的概率更高。它既不判断真假,也无思维、意识,更无意图、信念,只是在巨大的概率空间里选一条路径。因此,此机制的能力边界非常清晰:在模式识别、信息重组、生成文字和模仿语言等方面确可令人惊叹;但在逻辑一致性、事实准确性、因果推理等方面,它在本质上仍是脆弱的。人们常说到的“胡言乱语”(AI圈习称“幻觉”,但现存AI本身并无任何感觉或思维)——大模型一本正经地编造文献、捏造公式等等——并非偶发漏洞,而是这种架构与生俱来的必然结果。因为它所生成的字符串只是看起来像真实的语言,而非“逻辑为真”或“事实为真”。

从系统科学和复杂性研究的视角看,这种脆弱性更加显然。语言大模型利用了一个规模极其庞大的统计关联系统,它的行为来自参数空间中数亿甚至数千亿个的(概率)参数,却没有任何一处可以被单独称为“理解”或“判断”的中枢(尽管在大量数据和参数下可能会涌现类似结构)。

面对概率分布内的模式重组它可能表现得极其出色,可一旦应用到训练分布之外的区域,哪怕是一般的日常或工业场景),行为也可能出现不可预知的崩溃。用复杂性科学的术语,它缺乏健壮性(robustness),不具备在开放环境中维持一致逻辑所需的深层结构。一个真实的复杂系统,能够应对多变的环境,靠的是内部从整体上基于关系、逻辑和属性建构的多层次、可调节的反馈体系。当前基于联结主义构造的语言大模型,离此标准还很远。

由此引出一个更深的追问:既然大模型本质上是一个统计关联系统,它能够在多大程度上独立完成真正的推理?从当前的技术路径来看,答案并不乐观。钱学森先生晚年反复强调过一个观点:智能系统要能为人类解决复杂问题,在人机结合的前提下,必须注重以人为主(详情请见集智学园公众号文章系统科学前沿 | 钱学森系统科学思想漫谈)。机器负责海量(逻辑和数值)计算并尝试进行模式匹配,而人(专家和群众)负责定方向、做判断、并不断反馈和迭代,并在关键时刻进行干预和修正。两者各展所长,形成一套有人类直觉和批判性思维参与其中的智能体系。如果把其中的“人”拿掉,甚至去掉符号和逻辑,只靠统计预测驱动,系统的推理(如果真有的话)就会出现结构性缺陷。这一判断放在今天的大模型上,当然同样准确。

与此同时,巨大的能耗和训练成本也让技术的可持续性蒙上阴影(相关新闻:AI为什么引发了全球范围内的缺水冲突?)。因此被滥用的技术也可能会导致社会和生态系统的恶性改变甚至崩塌。现存的语言大模型只是一套能力貌似惊人(并且依赖于人类创造的海量数据并耗费着大量的的资源和能源)但原理局限的工具。

人工智能与数学的相遇

当这样一项工具进入数学领域,情形就变得格外微妙。

一方面,在懂行的数学家手里,人工智能确实可以成为好用的助手。草稿阶段的探索、反例的搜索、已有猜想的数值检验、形式化证明的辅助整理等等,这些环节都可以借助AI提高效率。数学家像一个有经验的指挥者,知道工具能做什么,也知道该在什么时候放下它,回到自己用纸笔和思维拟定的轨道上去。这恰恰是“人机结合以人为主”思想在数学研究中的朴素实践:人做决断,机器“跑腿”。

问题出在另一方面。科技大厂的营销机器开足马力,把“AI做数学”包装成近乎神话的叙事。一个模型在某项数学基准测试上拿了高分,即被宣传成“令人震惊地”“达到人类数学家水平”;一段由人指挥自动生成的推理步骤,被截取出来当作“AI发现新定理”的证据。铺天盖地的宣传制造了一种集体无意识:很多人因为未从系统上分析和思考问题,因此开始盲目相信,数学研究正在被机器接管,人类数学家随时可能被替代。

这套宣传话术需要放到整个社会系统里来审视。当代技术产业的营销,不只是为了“卖产品”,而且还在推销一套关于“未来”的叙事。这套叙事通过媒体放大、资本加持、公众情绪共振,形成了自我强化的社会期待。社会系统中,如果足够多的人相信某件事情即将发生,制度设计、资源配置、个人选择都会更容易朝着该方向偏移,最终不论技术本身是否真的达到了所声称的水平,整个系统即已经开始按“它已经赢了”的方式运转。

大厂营销正是不断注入这种期望。他们向研究者描绘一个“不用再费力啃问题”的未来,向政府暗示“谁投得晚谁吃亏”的紧迫感,向公众传递“数学的门槛即将消失”的幻觉。通过这种层层嵌套的社会动员,可以制造出远比单一产品的虚假宣传深远得多的影响。

这股风潮对数学界本身同样构成了冲击。经费分配的偏好开始向“AI友好”的方向倾斜,招聘和评奖中出现了对算力资源和商业模型的隐性依赖。一部分研究者因为买不起算力或不认同闭源工具的使用方式,在竞争中悄然边缘化。年轻学者面对诱惑与压力,内心的不安和困惑在蔓延:还该不该花几年时间啃一个不一定出成果的冷门问题?还是该转向那些机器能帮上忙的短平快方向?而各种学术期刊和arxiv等预印本网站也理所当然地遭遇了ai生成论文的“ddos攻击”——大量低质量稿件从各处同时涌入,挤占编辑与审稿资源——并开始采取反制措施(例如:AI“垃圾内容”泛滥,知名预印本平台设1年封禁惩罚制度)。

用复杂性科学的眼光来看,整个数学研究生态似乎正在经历一次相变。一个小参数的改变——算力资源和商业工具的变化——正在牵引整个系统的状态发生剧烈重组。原来以问题驱动、以个人洞见和小范围合作为核心的组织模式,正向着以"数据密集"和算力驱动为特征的新模式倾斜。从表面上看,这种转型本身并非非黑即白,但其速度和方向和背后的动力,值得身处其中的每一个人认真审视。复杂系统理论反复提醒我们:在临界点附近,微小扰动可能造成不可逆的结构性变化。数学界此刻或许就站在这样的临界点上。

教育的境况更让人担忧。一道题摆在面前,学生尚未点开搜索引擎,AI已经迅速生成了完整解答:抄下来就能交作业,看一遍就以为懂了。但真正的理解,恰恰来自尝试过程中的思考、卡顿和试错,借此学习者才能更深入地理解题目和理论。跳过这个过程,数学教育就只剩下一层薄薄的技术外壳,内在的思维训练当然也就同样被跳过了。一个系统如果只在表层做输入输出映射,底层的反馈结构却从未被激活过,那它永远不可能学会适应新的扰动。人的思维也如此。换句话说,在教育中同样需要以人为主,“人机结合”如果抽空“人”的部分,留下一个只会调用工具的空壳,那无论机器再强,整套认知系统也已经从内部坍塌了,使用者也会沦为工具的工具。

宣言的回应与它的分量

莱顿宣言选择从几个务实的层面切入。它对个体研究者提出明确建议:论文增设工具使用说明、AI不得署名、人类作者对全部结论承担完全责任。它对学术组织呼吁:建立独立于企业的公共数学平台、制定AI参与研究时的审核规则、保护论文不被无偿用于模型训练,等等。对政府和企业,它也提出了各自的责任清单。每一条款都面对着当下的真实矛盾。

在所有主张中,最核心的是一条朴素的原则:数学需要理解,而想要理解,就不能只依赖人工智能及其生成的证明。一个人类无法读懂的证明,对数学共同体而言等于不存在。数学不是一堆孤立命题或证明的堆砌,而是由理解和交流编织起来的意义之网。每一个证明要能成为后来者继续攀登的台阶,就必须被消化、被重新表述、被放进更大结构里去重新考查。这些只靠机器本身永远做不到:它只能输出结果,无法参与理解,而后者需要数学家的共同劳动和长期努力。

当然更进一步,数学研究和创新还需要由推导和计算发展出的直觉、不同“语言”(或数学分支)和理论系统的转换(如参考Thurston:数学中的证明与进展)、从表面的技巧中看到普遍结构并揭示其自然性的追求(格洛腾迪克将其比作海水悄无声息地浸泡和淹没坚硬岩石的过程)、面对真实问题从无到有地创造新理论的能力等等,这些恰恰是人在本质上高于机器的地方,它由数学所赋予,也在对数学的理解与探索中体现,闪耀着人类尊严的光辉。

钱学森“人机结合、以人为主”的思想早已指出:在数学研究中同样需要以人为主,绝不能颠倒主次。机器可以承担越来越多的计算和搜索工作,但提出什么问题、判断什么路径有价值、理解一个证明意味着什么等等,这些事只能由人主导和完成。例如,宣言所坚持的“署名归于人类”“人类作者承担全部责任”,归根到底是在捍卫人机结合中“人为主”这一端不可替代的位置。

宣言之所以能获得数学家的集体响应,背后有更深层的原因。在漫长的职业训练中,数学家培养出批判性的思维:质疑每一个未被证明的前提,审视每一个跳跃的推理,并对自己的认知边界保持清醒。这种批判性习惯,天然会让他们在面对宏大技术叙事时多一层审慎。例如,数学史上多次出现以下情况:人们以为找到了终极方法,后来才发现漏掉了关键前提,甚至最初的假设方向也可能是错误的,但其最终必将被纠正。一个真正的数学家面对现存的人工智能,第一反应应该是问:它能做什么?为什么能做到(本质机理是什么)?它不能做什么?它的局限在哪里?这种追问绝非大厂和主流舆论所谓的“保守”,而恰恰是批判性思维的反映。某种程度上,数学家正是知识分子中最具备系统敏感性的群体之一——他们对前提的追踪、对推理链条中任何一处断裂可能引发的整体坍塌,有着近乎本能的警觉。

如果这位数学家还具有社会和历史责任感,他还一定会去追问:这种技术对学习者、研究者、打工人,对整个社会和研究、教育界的生态,对人类的生存状况和精神状况,以及对生态环境的长期影响是什么?其推动力又是什么?它真的能像技术乐观主义者所声称的那样带来光明的未来吗?还是会在滥用后加剧现实的系统性危机?(参考:被奥特曼公开讨厌的华人女记者:OpenAI内斗混乱,普通人正在被AI帝国欺骗)

展望下一步,宣言不会成为终点,而必将是漫长讨论的开端。技术的脚步很难放慢,但数学共同体必须在开放与坚守之间找到动态平衡。如果借鉴复杂系统理论的思路,真正重要的或许不是制定一套一劳永逸的规则,而是建立能够持续学习、自我修正的反馈机制。期刊和基金的评审体系能否快速回应技术变化?年轻学者面对不断抬高的算力门槛时,能否获得制度性支持?公共算力基础设施能否真正建立起来,从而降低对商业平台的单向依赖?在当前主流技术路线之外,是否还有可能发展出更符合思维科学规律、更符合人类整体利益、同时环境代价更低的人工智能体系(例如让更多科技扫地僧被看见一文中冯嘉礼教授创立的基于属性论的人工智能方案)?这些问题都远未得到回答。

而当视野进一步扩展到全球尺度时,我们会发现,这场讨论关乎的远不只是数学共同体本身。全球南方数学研究者的处境更为严峻。他们面临的不只是AI和语言大模型是否可用、能否负担的问题,更陷入深层的结构性困境:算力基础设施受制于人,外部数据主权持续被侵蚀,人才被吸入全球零工市场,无法留在本土学术体系之中。事实上,这种趋势甚至正在波及传统意义上的科研中心。一个值得警惕的风险正在出现:数学界之所以能够深度参与人工智能的发展,很大程度上正是因为数学长期积累的公理体系、定理体系和形式化证明传统构成了一种开放共享的知识基础。但如果越来越多的人依赖人工智能完成推理,而越来越少的人真正掌握形式化证明和深层理解的能力,那么人类社会可能逐渐失去理解、检验和约束这些持续演化系统的认知基础。届时,不仅数学研究本身会受到影响,算法问责、算法透明度等治理机制也可能失去赖以成立的前提。

只有持续地提出和讨论这些问题,并在此基础上对社会和技术圈进行校正,才有可能初步建立健康的系统自调节过程。而整个反馈回路的核心支点,始终是从人自身的判断力与责任感:机器跑得越快,方向盘越握在人手里。至少,宣言在此方面走出了一步。在技术浪潮一次次冲刷认知堤岸的时刻,它的价值弥足珍贵。

《莱顿人工智能与数学宣言》全文翻译

论文题目:Leiden Declaration on Artificial Intelligence and Mathematics

论文链接:https://leidendeclaration.ai/

发表时间:2026年6月2日

本宣言旨在呼吁全球数学界共同应对人工智能技术在数学研究领域广泛应用所带来的机遇与挑战。宣言由国际数学界发起的社区倡议形成,并得到国际数学联盟(IMU)的正式支持与认可。

前言

技术的发展一次又一次地改变了数学研究的实践方式。近年来,人工智能技术——包括用于数学生成与形式化的符号方法和神经网络方法——或许已经开启了这段漫长历史中的一个重要新篇章。在研究者群体中,人工智能引发了广泛而复杂的反应:有人为其孕育新发现的潜力而振奋;有人因其发展速度之快而感到压力;有人对这些迅猛变化持漠然态度;也有人担忧其对数学乃至整个社会可能带来的深远影响。

对于是否以及如何在研究工作中采用人工智能,数学家拥有自主选择权。同时,他们也肩负着确保数学学科持续繁荣发展的责任。本宣言呼吁数学界积极履行这一责任,并向个人、机构、政府和产业界提出相应建议。

尽管本宣言立足于数学研究的视角,但其中许多论述同样适用于数学领域的其他方面。这包括更广泛的数学科学研究,以及教育、指导培养、学术出版、科研资助、科学政策制定和数学在社会中的应用等工作。

本宣言秉持与其他同样面临类似挑战的科研事业和创造性职业团结协作的精神,无论这些领域位于学术界之内还是之外。它与其他相关行动倡议相辅相成,例如《乌普萨拉科学家伦理准则》(Uppsala Code of Ethics for Scientists)、《旧金山科研评价宣言》(San Francisco Declaration on Research Assessment)、《联合国教科文组织开放科学建议书》(UNESCO Recommendation on Open Science)以及《英国科学家通用伦理准则》(UK Universal Ethical Code for Scientists)。国际数学联盟出版委员会、工业与应用数学学会以及美国数学学会也已就相关议题发布了相应文件与建议。

关于我们的价值观

我们的建议建立在这样一种认识之上:数学研究具有一系列值得珍视并应共同维护的核心价值。主要包括以下几个方面:

人们从事数学研究的动机多种多样,既可能源于纯粹的求知欲,也可能出于解决实际问题和社会问题的需要。在数学活动中,证明(proof)占据着核心地位。数学证明被认为能够为其结论提供最高程度的确定性,同时揭示结论何以成立的内在原因。正是这些特征,构成了数学科学诚信的重要基础。

数学成果归属于具体的作者。作者既因其发现而获得应有的学术认可,也对成果的正确性承担责任。这些原则构成了数学研究所追求的、以学术贡献为基础的评价标准。

数学论证被视为透明且能够接受独立检验的。即使某些证明极其冗长或高度复杂,从原则上讲,人们理解它们不应依赖任何专有知识、专有工具或特殊设备。

数学家普遍关注如何依据共同认可的标准,对数学工作进行恰当评价。这些标准包括研究的深度、难度以及重要性。

数学所创造的,不仅是一系列成果和定理,更包括由数学共同体逐步积累形成的理解力、清晰性和判断力。这些成果往往产生于研究者自主选择和推进的研究过程中。此类专家知识至关重要:它不仅关系到数学能否被有效运用,也关系到能否持续提出新的、具有重要意义的研究问题。长期以来,数学学科的重要优势之一,正是在于研究方向及研究方法能够由数学共同体自主塑造和决定。

这些数学自身所具有的特征,同样与将数学理解为一种人类实践活动及其社会存在方式相一致。作为数学家,同时也是共同生活于这个世界中的成员,我们有责任关怀他人,并维护我们赖以生存的环境。

潜在威胁

人工智能的最新发展正在对上述每一项价值构成挑战,而且这些影响往往更集中地落在学生和职业生涯早期的数学研究者身上,从而关系到数学学科的长远未来。

当前的自动化技术已经能够生成看似合理却并不可靠,甚至完全错误的论证,而这些论证往往难以与正确的数学证明区分开来。这不仅适用于非形式化的数学推理,也适用于形式化证明体系;在后者中,困难往往存在于计算机编码形式与人类所理解的数学概念表达之间的转换。随着相关技术快速演进,现有的同行评审和学术审查体系正承受越来越大的压力,我们维护证明正确性、透明性以及可独立验证性的传统标准也因此受到威胁。

大量依赖公共数学知识库训练的人工智能技术,正在削弱传统的学术署名与归属机制。基于已发表数学文献训练的模型,经常生成综合了大量前人成果却未能恰当标注来源的内容。与此同时,许多现有模型所依赖的数据,往往是通过系统性利用原本并未针对人工智能训练而设立的许可协议和访问机制获取的,甚至直接建立在侵犯版权保护的基础之上。

当人工智能改变数学研究的实践方式时,现有的学术激励体系也可能随之发生扭曲。人工智能技术本身,以及那些适合借助人工智能解决的问题,可能因技术潮流而获得额外激励,而非因为其真正的学术价值。这种变化可能冲击当前的人才招聘、科研资助和学术认可机制,并使那些无法获得相关技术资源或无法参与相关决策的研究者处于不利地位;同样受到影响的,还有那些不愿使用由价值观与自身不一致的组织所控制之技术平台的研究者。

当研究成果通过新闻稿、博客文章等非正式渠道发布,而缺乏研究论文或其他支撑科学评估所必需的信息披露时,学术评价的公正性便会受到损害。这种做法试图按照市场竞争的时间节奏抢先宣传研究成果,而绕过数学界既有的共同体评议程序。其结果往往导致对研究工作的简化甚至失真式呈现,例如过度强调自动化工具的重要性,而忽视使这些工具成为可能的人类研究积累与贡献。这类过度简化不仅可能损害公众对数学的认知,也可能误导性地将某些特定数学任务的表现视为商业化人工智能产品整体推理能力的衡量标准。

这些发展趋势同样正在威胁数学研究的自主性。科技公司日益深入地参与数学研究,使得研究课题有可能因为更适合自动化处理而被优先考虑,而非基于专家对其深层学术意义的判断。事实上,在自动化推进过程中,数学领域更广泛、更深层的理解甚至可能被永久性地削弱或遗失。在大学经费持续承压的背景下,这种结构性变化还会改变研究人员的职业激励机制,促使他们以不对等的条件与科技公司开展合作。如果任其发展,这些趋势所威胁的将不仅是研究者的自主权,更将影响数学研究本身的广度与深度。

所有这些挑战的出现,正值社会广泛讨论大规模投资人工智能所带来的后果之际。从战争应用、大规模监控,到政治秩序扰动以及环境破坏,人工智能的发展已经引发严重的伦理关切。如果数学界对此无所作为,我们将面临一种风险:在事实上成为支持这些技术体系的一部分,而这些技术所威胁的远不只是数学研究本身。

因此,我们认为,数学共同体亟须对此作出审慎而系统的回应。以下内容提出了一系列具有可操作性的建议。我们呼吁各专业学术组织支持本宣言,并根据自身的价值理念、工作重点和治理结构,进一步补充和完善相关条款。

对数学研究者个人的建议

公开披露工具使用情况

应以透明方式披露自动化工具的使用情况,包括大语言模型、机器学习系统、证明助手以及其他数学软件。建议在论文中增设“工具与计算资源披露(Tool and Computational Resource Disclosure)”部分。许多期刊、出版社和专业学术组织已经制定了相关规范。尽管此类披露的具体形式必然会随着技术发展而不断演变,但我们鼓励作者秉持《联合国教科文组织开放科学建议书》以及 FAIR 原则所体现的精神开展实践。

在担任审稿人时,应遵守出版机构的相关规定。如果允许使用人工智能工具辅助审稿,则应如实说明其使用方式,并对自己提出的任何重要评审意见承担责任。

支持同行评审工作的需要

人工智能参与论文撰写,可能引入使审稿工作更加复杂和繁重的内容。研究者应通过披露工具使用情况、准确且完整地引用前人成果,并在可行且适当的情况下提供形式化证明等方式,帮助同行更有效地评审其研究工作。

坚持开放科学原则

国际开放科学运动旨在推动科学研究的透明化与普惠共享。随着数学研究日益依赖数据和软件工具,研究者应积极践行开放科学原则。相关内容可参阅《联合国教科文组织开放科学建议书》。

保留对成果正确性的责任

无论自动化技术在数学研究中发挥何种作用,已发表研究成果中论证和结论的正确性与充分性,以及相关文献引用的完整性和准确性,其责任始终且仅由人类作者承担。

坚持作者身份的人类属性

学术贡献与责任归属应始终属于数学共同体中的人类成员,而不应赋予自动化系统。人工智能或许会掩盖成果背后的劳动过程,但它并不能取代支撑研究成果产生的人类集体智慧与创造性劳动。

高度重视恰当署名

鉴于自动化工具在思想来源追溯和学术归属认定方面存在已知局限,研究者有责任主动投入额外努力,查找并确认促成新成果产生的相关来源,并给予充分致谢和引用。如果无法实现令人满意的归属说明,应在出版物中明确声明这一情况。

积极参与公共讨论

数学家有责任支持严肃而专业的科学传播,并积极参与公共讨论,对人工智能辅助研究的方法与成果进行解释和阐释。这一责任在自身专业领域内尤为重要,因为判断研究成果的深度、难度和重要性往往需要专门知识。同时,我们鼓励数学家主动寻求与其他面临类似挑战的研究人员及创意工作者开展合作与相互支持。

持续了解新兴技术的发展

应根据自身研究兴趣和工作需要,持续关注计算机辅助数学工具的发展能力与局限性。对这些技术形成充分理解,对于学科如何适应新技术、以及研究者如何参与相关治理和公共讨论,都具有重要意义。

欢迎新的参与者加入

人工智能与数学的交汇日益吸引来自其他学科的研究人员。我们欢迎这一趋势,以及这些新成员所带来的多元技能与不同视角。我们鼓励数学界积极与更广泛的研究共同体开展交流,使数学研究的标准和实践更加明确、开放和易于理解,并创造有意义的参与渠道。与此同时,我们也期待进入数学领域的新研究者尊重这一学科长期形成的价值传统,并帮助我们不断完善和发展这些价值。

审慎选择使用何种工具

并非所有自动化工具及其开发者都与本宣言所倡导的原则相一致。在决定是否使用某种工具以及选择何种工具时,应充分考虑这一因素。同时,还应评估是否可以通过非专有、更加节能或规模更小的系统完成相关任务。如果答案是否定的,则应进一步思考:为了维护本宣言所强调的核心价值,即使延迟获得研究结果,是否依然值得坚持这些原则。

评估研究工作的伦理后果,并据此采取行动

数学推动了众多改善人类生活的技术进步,但与此同时,它也可能被应用于战争、压迫、大规模监控以及对民主制度的侵蚀。研究者应尽其所能评估自身研究工作的伦理后果;当发现相关工作可能造成严重危害时,应考虑退出此类研究。与外部机构开展合作时,也应仅选择那些尊重并践行本宣言所倡导价值观的合作伙伴。

对数学组织及非营利科研资助机构的建议

建立专业能力并开展前瞻性规划

专业学术组织应持续关注技术发展的最新动态,主动形成基于充分理解和审慎判断的建议,服务于会员群体及更广泛的社会公众。同时,应加强协作,共同推动学术出版、科研资助体系以及政府层面相关政策的制定与完善。当以非传统方式获得重大数学成果的主张出现时,相关组织也应提前做好准备,积极参与评估、讨论与应对工作。

在出版与同行评审政策制定中发挥引领作用

数学领域的专业组织应在制定自动化技术相关出版与评审规范方面承担领导责任。这些规范可包括工具与计算资源披露要求、学术归属与署名原则、作者资格认定规则,以及符合数学共同体价值观的行为准则等内容。此类规范应与出版社和学术期刊正在制定的相关规则相互补充、相互支持,共同维护学术生态的健康发展。

维护严格的学术标准

在制定相关政策时,应确保通过自动化技术获得的研究成果接受与其风险相匹配的严格审查标准。具体措施可包括:要求研究者对自动化工具生成的核心论证提供人类可理解的说明;在适当情况下要求进行形式化验证;对理论结果与计算结果进行交叉核验;以及在正式投稿前引入独立的外部评审等。

保护作者权利

自动化数学的发展为作者权益保护带来了新的挑战。学术团体应积极推动示范性许可协议的制定,以更好地维护作者的合法权益。尤其应明确:未经作者同意,其作品不得被用于训练人工智能模型;出版协议也应赋予作者拒绝其作品被用于此类训练用途的权利。

坚持适当的学术发表渠道

应坚持数学研究成果继续通过期刊、会议论文集和学术专著等经过同行评审的正式渠道发表。新闻稿、博客文章等非正式传播方式虽然能够发挥有益的辅助作用,但不能替代同行评审制度,也不能取代学术共同体的公开检验与监督。

支持公共研究实验室建设

应支持建立以大学、国家或国际机构为依托、专门从事自动化数学研究的公共实验室,并确保其在行政管理和经费来源方面独立于产业界。同时,应鼓励开发和使用资源消耗较低、普通研究者也能够获得和使用的技术方案,以降低研究门槛,促进更广泛的学术参与。

为合作提供制度保障

数学家和学术机构在与企业开展合作时,往往面临谈判地位不对等的问题,同时也可能缺乏法律服务、知识产权咨询等专业支持资源。因此,学术组织应通过提供法律援助、建立专业咨询机制以及推动职业行为准则的制定等方式,为研究人员参与产业合作提供必要保障,帮助其在合作过程中维护自身权益与学术独立性。

使资助体系与价值观保持一致

对于涉及学术界与产业界合作的研究项目,在评审和资助过程中,应将其是否符合本宣言所倡导的价值观作为重要考量因素之一。科研资助不仅应关注项目的技术潜力和学术产出,也应关注其是否有助于维护数学研究的透明性、公正性、自主性以及社会责任。

对政府及其他政策制定者的建议

保护作者权利

应依据本宣言所倡导的原则,进一步强化对作者权益的法律保护。

不要被技术宣传所误导

当前,科技产业在商业利益驱动下,普遍存在夸大产品能力的强烈动机。在制定相关政策时,决策者应充分征询包括数学家在内的专业人士意见,而不应仅依据企业新闻稿或大众媒体对数学成果的报道作出判断。

加强对人工智能产业的监管

近期的发展进一步表明,社会公众对于加强科技产业监管具有明确且正当的公共利益诉求。例如,科技企业参与军事项目和大规模监控计划,开发助长虚假信息传播、削弱民主制度的技术,以及人工智能产业带来的环境成本等问题,都已引发广泛关注。我们与其他相关倡议一道,呼吁大幅加强公众监督和公共治理机制,对人工智能产业实施更加严格和有效的监管。

投资建设公共计算基础设施

当前的发展态势凸显了建立公共替代性技术体系的迫切需求。这种需求既体现在在线协作等基础数字服务领域,也体现在服务于数学建模、机器学习等研究任务的计算集群等关键科研基础设施方面。

我们支持在大学、国家以及国际层面加大对公共计算基础设施的投入与资助,以降低对专有技术平台的依赖,维护科研活动的开放性、自主性与可持续发展能力。

对商业人工智能产业的建议

尽管数学共同体在学术治理和公共政策制定领域拥有相应的话语权,但在企业决策体系中却并不存在与之对应的制度性地位。然而,随着近年来的发展,数学研究已经以多种方式被纳入商业人工智能的发展进程之中。

其中一种方式,是数学成果被用于展示和宣传商业人工智能系统的能力,成为企业公共传播和市场营销的重要素材。另一种方式,则是人工智能开发者越来越多地将数学论文、形式化数学知识库等作为训练数据来源,而且这种做法不仅限于专门面向数学任务的模型,也广泛应用于通用人工智能系统的开发。

当前,数学之所以对通用人工智能的发展具有特殊吸引力,一个重要原因在于形式化证明的正确性能够通过自动化方式进行验证,而无需人工监督。这使得研究者能够利用大量由人类撰写或计算机自动生成的问题,构建几乎无限的反馈来源,用于训练人工智能模型。

这一研究路径通常建立在进一步的假设之上:即通过数学定理证明所获得的能力,可以迁移并扩展为更广泛的通用推理能力。而基于这一思路开发出的部分通用人工智能系统,如今正被商业化应用于一些引发严重伦理担忧的领域,其中包括前文提及的战争、压迫、大规模监控以及对民主制度的侵蚀等用途。

我们认识到,产业界向数学家提供了优厚的薪酬待遇、丰厚的资金支持、强大的计算资源以及富有智力挑战性的研究机会,这些条件对许多数学研究者具有现实吸引力。这一现象发生在高等教育长期投入不足、学术就业环境日益不稳定的背景之下。

我们同样认识到,许多数学家并未预料到自己的研究会与如此重大的社会和伦理问题产生关联,也未曾想到自己的成果会被纳入一些其本人可能深感不安甚至无法接受的技术体系之中。

因此,我们呼吁数学界与产业界之间的合作,至少应遵循本宣言所阐述的基本原则,并达到我们对学术同行所期待的职业标准。

此类合作还必须尊重研究人员和贡献者的良知自由,保障其能够就企业政策、发展方向和优先事项进行公开表达与理性讨论,而不因提出异议或批评意见而受到压制。

重点支持意见

Ulrike Tillmann(国际数学联盟副主席):

我们高度重视人工智能对数学学科所带来的快速发展与深远影响。人工智能为数学研究开启了令人振奋的新机遇,同时也提出了一系列不容回避的重要问题。

通过支持本宣言,国际数学联盟重申:数学研究的未来必须建立在人类判断、公平透明的学术实践以及全球数学共同体所共享的价值观之上。

数学是一项深刻的人类事业,也应当始终如此。

Peter Scholze(马克斯·普朗克数学研究所所长):

这是一份极其出色的宣言,而且发布得恰逢其时。数学研究的目标是实现人类对数学的理解,因此,数学只能在人类数学家组成的共同体中真正繁荣发展。维护这种共同体精神至关重要。

以我的经验来看,数学思想与孩子十分相似,都需要长期培育,并在岁月中逐渐成长。正如我不希望自己的孩子由人工智能来教育一样,我也更愿意在不借助人工智能的情况下思考自己的数学想法,并且尽可能避免阅读由人工智能生成的文本。

Terence Tao(加州大学洛杉矶分校教授):

这份宣言凝聚了数学共同体数月以来围绕自身核心价值与根本目标展开的广泛讨论与意见征集。事后看来,这些问题本应在许多年前就成为我们持续而系统讨论的主题。但无论如何,这一过程极具价值,而最终形成的成果也非常优秀。

我完全支持本宣言中的各项观点与建议。

Robbert Dijkgraaf(阿姆斯特丹大学杰出教授;国际科学理事会候任主席;荷兰前教育、文化与科学大臣):

在人工智能的推动下,科学研究正经历一场深刻变革,而数学则是受到影响最为根本的学科之一。自动化证明生成与机器推理的发展,正在重新塑造数学研究的面貌。

因此,数学共同体比以往任何时候都更有必要凝聚共识,建立明确的规范与共同标准,以维护的不仅是数学研究本身,更是数学更深层的使命——培养理解力、判断力以及人类洞察力。

Ilka Agricola(国际数学联盟出版委员会主席;马尔堡大学教授):

人工智能正在以前所未有的速度深刻改变数学研究的方式。如果能够诚实、专业地加以使用,它无疑能够成为极具价值的“研究助手”。然而,这似乎只是当前现实的一小部分。更大范围内,我们所面对的是一种混乱局面,甚至可以说,科学本身正在遭受冲击。

在这样的背景下,我们有必要,也需要勇气,停下来认真思考:在当下环境中,数学共同体究竟应当如何开展研究?我们应当遵循什么原则?又应当警惕哪些风险?

因为这些风险是真实存在的。先进的大语言模型使得制造虚假科研论文变得前所未有地廉价和容易。这类论文的目的并非供人阅读和理解,而只是为了被计入“已发表成果”并获得引用。与此同时,我们熟悉的同行评审制度也正在受到威胁。

国际数学联盟出版委员会对此深感忧虑,因此我们强烈欢迎并坚定支持促成《莱顿宣言》的这一共同体努力。我们所热爱的数学事业正面临关键时刻。

Jeremy Avigad(卡内基梅隆大学哲学与数学科学教授):

随着人工智能越来越多地参与各种决策过程,确保数学推理和数学论证始终处于核心位置,比以往任何时候都更加重要。

《莱顿宣言》为数学家如何、何时以及是否应当参与这些新技术的发展,提供了一个极具价值的思考框架。

Kevin Buzzard(伦敦帝国学院纯数学教授):

对于数学家而言,科技公司突然对自己的研究产生浓厚兴趣,本身就是一件值得深思的事情。《莱顿宣言》针对当前正在发生的变化提出了经过充分思考的回应。当人工智能持续重塑这一领域时,它为我们提供了一种理性而审慎的应对方式。

Leslie Ann Goldberg(牛津大学计算机科学系主任):

《莱顿宣言》指出了一个极其重要的问题:人工智能的不当使用可能损害数学研究的发展。

正如宣言所说:当前的自动化技术能够生成看似合理却并不可靠,甚至完全错误的论证,而这些论证往往难以与正确的数学证明区分开来。

这是一个极为严重的问题。

数学研究以及理论计算机科学等数学相关学科,几乎总是在既有研究成果的基础上继续发展。因此,研究者必须能够确信文献中的结果是真实且正确的。而由人工智能生成的不准确草稿却可以极低成本地大量生产。这意味着学术文献有可能被大量错误结论所充斥。一旦这种情况发生,后续研究便可能建立在错误基础之上,从而使错误不断扩散和累积。

因此,我欢迎《莱顿宣言》提出的各项建议,尤其是关于工具使用披露以及坚持通过同行评审期刊发表成果的倡议。

Steven Strogatz(康奈尔大学科学与数学公众理解杰出教授):

人工智能有潜力成为数学发现过程中的强大伙伴。然而,力量越大,责任也越大。

《莱顿宣言》呼吁数学家守护那些使数学值得信赖且富有启发性的核心价值——证明、学术归属以及对深层理解的不懈追求。


    24小时新闻排行榜更多>>
  1. 山东聊城一化工厂突发大爆炸 惊悚视频曝光
  2. 哈登因非法持枪被捕
  3. 男子携10万现金提前还车贷遭拒
  4. 英国夫妇用一套房子的钱,在法国买了一整个村庄
  5. 普京:永远不要企图与俄作战
  6. CNN:伊朗封存浓缩铀 炸塌隧道埋设地雷
  7. 一天只睡4小时 80岁川普精力过人 老化却藏不住
  8. “这不是我喜欢的数字” 川普说自己80大寿“不快乐
  9. 安徽合肥官场持续震荡 副市长何逢阳落马
  10. 董路否认“自掏腰包5800万”
  11. 拜会AIT华府总部 郑丽文:获得远超乎预期的支持
  12. 杨毅侃球:尼克斯夺冠,一曲凡人歌
  13. 猛砸772亿,凿开三峡新通道,为何非建不可?
  14. 欧盟:中共训练了数百名俄军人员 部分已参战
  15. 纽约狂欢失控"烧了世界杯接驳车",时报广场1人中弹
  16. 李小龙姐姐李秋源离世,享年88岁
  17. 考编排名第一未获录用 黑龙江宝妈维权 岗位被取消
  18. SpaceX上市,员工集体穿绿鞋
  19. 开赛仅3天,世界杯暴露安全隐患
  20. 尼克斯队夺NBA总冠军
  21. 时隔53年捧杯!尼克斯总分4-1马刺夺冠
  22. 中国政府债券余额首破100万亿
  23. 从SARS到埃博拉 美资助乌克兰生物实验室全貌浮现
  24. 美国务院派“科室级”官员见郑丽文 较管理连降三级
  25. 中国教师,正在批量减少
  26. 握手有禁忌 正确礼仪让你取得对方信任
  27. 川普冠名肯尼迪中心受挫 上诉法院驳回暂缓请求
  28. 荣耀是如何一步步掉队的?
  29. 92年前,这位清华女生这样选志愿
  30. 南极半岛冬天出现异常高温
  31. 航运帝国26岁千金命丧南非庄园
  32. 芬兰公司造假用锂电池冒充固态电池
  33. 大陆居民存款两个月缩水2万亿 钱去哪了?
  34. 瞠目结舌!中共高官“终身供养”谁在买单?
  35. 美推进国防法案 专家:台海威慑转向实质备战
  36. 美国70名女生郊游误入地下涵洞
  37. 民主党议员痛批:这是川普的投降书
  38. 法拉盛投票站冷清,仅有数十选民
  39. 女子正开车,座椅下突然喷火
  40. 千万别犯!早上切忌空腹饮用这3样东西
  41. 日本海岸漂来150米巨型管子 标有中企名字
  42. 纽约州初选开跑,民代竞争激烈
  43. 美军F-18战机坠毁!飞行员弹射逃生,引燃野火
  44. 中国多城千万级豪宅成交放缓
  45. 每日组图:最大足球获金氏认证 SpaceX庆IPO
  46. 男生三大烫发区别,怎么选?
  47. 近20年“最老”巴西狼狈首秀
  48. 今年的庆典,阵容精简了不少
  49. 教宗专机故障无法起飞 西班牙国王派专机即刻救援
  50. 员工与投行交易员纷穿绿鞋 美媒:出自马斯克主意
  51. 女子童年度假呕吐后患上焦虑症
  52. Fable 5被禁,Anthropic开始退钱了
  53. 川普指14日签终战协议
  54. X世代将满60岁,33%财务仍靠父母
  55. 5年翻一倍 中共政府债务突破100兆元
  56. 亚特兰蒂斯人进入了地下世界?
  57. 在东亚,黄仁勋为何狂打“亲民牌”?
  58. “黑灯工厂”,照不亮中国年轻人的就业之路?
  59. 摆脱对中共依赖 日本今夏探勘格陵兰稀土
  60. 欧盟政坛“顶流”,又闯一关