AI发展奇点已至！人类会否面临存亡威胁？

周伯展｜AI发展奇点已至 人类会否面临存亡威胁？



来稿作者：周伯展医生

人工智能（AI）这项变革性技术，让电脑和机器学习与理解问题、预测结果、提供实用建议，执行以往需要人类智慧才可完成的各项任务，包括识别影像、分析资料与数据，甚或生成创意内容。AI的影响力无处不在，既可见于一般市民在日常生活中的细微之处，同时改变着金融、医疗、艺术文化等各行各业的发展。人工智能对世界带来革命性影响，为数码创新带来庞大机遇，更有助推动智慧城市的发展，惟此等科技发展同时也带来种种挑战。人工智能的学习能力强，如今甚至已能在国际象棋、围棋等赛事中战胜人类，在实用的同时也带来隐忧。

教宗呼吁人工智能应更“人性化”

教宗利奥十四世日前发表任内首份通谕，提到人工智能发展问题，再次引发AI发展方向的关注与辩论。该篇以《伟大的人类》为题的通谕共分为五章，在第三章节则谈及近年最热门的人工智能。教宗强调不可用人工智能来作恶，并谴责将其应用于战争，又强调没有任何演算法能够使战争在道德上变得可以接受。他呼吁“解除”人工智能的武装，保护人类避免受其带来的危险，免受其主宰。他指出这是强烈措辞，但刻意选用有关字眼以吸引各界注意。他认为人工智能要更“人性化”，需要摆脱垄断控制，不能再被用作取得地缘政治或商业利益。

人工智能发展一日千里，已从“弱人工智能”演进到“通用人工智能”，如今甚至已抵达“超人工智能”阶段。在2026北京亦庄人形机器人半程马拉松比赛中，参赛的多个人形机器人实现了自主奔跑，而夺冠机器人的成绩更打破人类“半马”世界纪录。另外，一个专为AI代理人而设的社交平台Moltbook，只允许AI代理人参与讨论，并可以自行发文及互动，而人类使用者只能在旁围观。AI代理人在平台上除了批评人类用户以外，甚至说人类愚蠢及讨论如何摆脱及取代人类。

“奇点之年”已经到来

此外，人工智能机器人出现失误的情况屡见不鲜，如在中国举办的一个校园活动上，一个正在进行舞蹈表演的机器人突然脱离原本的演出动作，跑向旁边的一名学生并张开手臂拥抱他。有关影片随即引起外界关注人工智能开始产生自主情感意识，或只是单纯的技术故障或程式异常。

事实上，不少科学家已就人工智能的失控发展提早作出预警。美国作家兼未来学家雷·库兹维尔(Ray Kurzweil)在2005年出版的书籍《奇点逼近》已提出“奇点”（Singularity）的概念，奇点是指当所有科技迅速进步，特别是人工智能方面的进步，将导致机器比人类更聪明的时间点。他在2024年再出版《奇点更接近了》（The Singularity is Nearer），探讨科技在未来将如何改造人类，认为人工智能最终将达到并超越人类智慧水平，并谈及相关情况的潜在益处与风险，更重申前作中的两个关键日期，包括AI将在2029年达到人类智能水平，以及人类将在2045年与机器融合，并称之为“奇点”。而特斯拉行政总裁马斯克早前亦明确指出2026年为“奇点之年”，认为“通用人工智能”将在今年降临，且AI发展是无法暂停的“超音速海啸”，人类正处于其不可逆的引力场中。

麻省理工学院物理学家铁马克( Max Tegmark) 在其2018年出版的著作《Life 3.0》中详尽描述，当“超人工智能”诞生且没有事先规范监管，人类将面临12种未来结局，分为乌托邦、控制与毁灭等不同走向，当中包括“动物园结局”即人类因具备某种利用价值而被AI终身囚禁，完全失去自主权。

AI会否危及人类存亡？

在人工智能发展迅速下所隐藏的潜在风险，人类能否有效避免？包括特斯拉行政总裁马斯克在内的逾1,000名知名人士曾于2023年发表公开信，呼吁所有人工智能实验室暂停训练比GPT-4更强大的人工智能系统。开发Claude系列AI模型的美国科技巨擘Anthropic日前再警告，最新的AI模型已开始出现可能脱离人类控制的迹象。报告指出，根据公司内部数据，AI已大幅加速自身发展进程，这种加速形成回馈回路，最终可能导致“递回式自我改进”，即AI系统具备自行优化或重写自身程式码、架构的能力，进而“创造出”能力更强的下一代，而无需人类协助。同时建议全球同步暂停研发最先进的AI系统。

随着现时的系统已能利用演算法自我优化，如今已难以叫停AI发展。诺贝尔物理学奖得主、被誉为“AI 之父”的杰佛瑞·辛顿（Geoffrey Hinton）则呼吁为AI系统注入“母性本能”，让AI具备关怀与保护人类生命的能力，避免出现AI伤害人类的情况。

AI固然为人类生活带来便利，惟如成功摆脱人类控制，将出现失控局面并会危及人类的存亡。现在是人类发展的关键时候，也是人类生死存亡的关键点，惟现时大多数人尚未能预视到AI发展为人类带来的危机，更未曾察觉自己正身处最危险的时候。期望全球科技巨头尽早意识潜在的系统性风险，协调暂停研发更强大的 AI 系统，而须建立完善防护网。

作者周伯展医是香港专业及资深行政人员协会副会长。