科技领袖警告的灾难正在显现

两年前，就在ChatGPT 4.0版本推出之际，包括马斯克在内的一批科技领袖警告，继续无限度地发展人工智能（AI）将给人类带来灾难，呼吁科学家对发展AI按下暂停键。

然而，两年过去了，AI继续飞速发展，并且它给人类社会带来了混乱。专家认为，当AI进化到通用人工智能（AGI）阶段的时刻，人类被AI统治甚至毁灭的一幕可能降临。

周二（3月18日），Nvidia执行长黄仁勋在该公司年度开发者大会上表示，人形机器人将在不到五年的时间内广泛应用于制造工厂。他表示，“人形机器人真正地四处游荡”的情形出现不会是五年后的事情，而是几年后的事情。

AI给人类社会带来混乱

这显示，AI在飞速发展。然而，AI给人类社会带来混乱的消息也不断曝出。

例如，去年在香港，有人利用AI技术变脸骗取2亿港元的巨额资金。跨国工程公司Arup香港分公司职员收到英国总部首席财务官的信息，对方声称要进行机密交易，邀请他参加一个有多名财务人员参加的视频会议。在视频会议上，该职员看到一张张熟悉的面孔，不虞有诈，乖乖地转账15次，合计2亿港元到5个本地银行户口。但实际上，在这个会议上，只有他一个人是真人，其他人全是虚拟数字人。

利用AI换脸诈骗的事例还有很多。今年1月，银川某建材公司经理张先生接到“领导”视频电话，要求紧急转账。在看到熟悉的面孔后，张先生分两次转出20万元。此外，陆媒报道，天津李先生被AI合成的“领导”视频诱导转账95万元。山西某犯罪分子利用AI换脸注册虚假公司，虚开增值税发票42万余元。

而在西方国家，利用AI深度伪造的视频扰乱金融和政治也已成为一大隐忧。

2023年1月，一则AI制作的虚假报道称，SEC（美国证券交易委员会）已批准比特币ETF（交易所交易基金），导致比特币价格波动。当年5月，一幅由生成式人工智慧创建的虚假视频显示，五角大楼附近一栋建筑物被熊熊燃烧的大火吞噬，导致美国股市动荡。

犯罪分子也利用AI扰乱选举。去年1月美国初选期间，在新罕布夏州，许多选民收到来自“拜登”总统的电话，劝阻他们前往投票站投票。新罕布夏州总检察长办公室表示，这是犯罪分子利用AI模仿拜登的声音，似乎旨在扰乱和压制投票。

利用AI变脸干扰选举的潮流也涌向英国。2023年12月，有超过100部模仿时任首相苏纳克（Rishi Sunak）的深度伪造影片广告在Facebook上付费推广。其中一部影片显示，BBC新闻主播萨拉?坎贝尔（Sarah Campbell）正在宣读突发新闻，谎称苏纳克秘密地“从一个最初面向普通公民的项目中赚取巨额资金”。

上述AI制造虚假信息的乱象，早在两年前，已经在一封由上千名科技领袖签署的公开信中被预测。

科技领袖警告人工智能将给人类带来灾难

2023年3月，就在OpenAI推出ChatGPT 4.0版本数天之后，马斯克等科技领袖和研究人员敦促全球所有人工智慧实验室暂停最先进系统的开发。信中列举了AI可能给人类带来的一系列风险。

信中说：“当代人工智慧系统现在在一般任务上已经能够与人类相媲美，我们必须问自己：我们应该让机器用宣传和谎言充斥我们的资讯管道吗？我们应该将所有工作（包括那些能带来成就感的工作）自动化吗？

“我们是否应该发展非人类思维，使其最终在数量上超越我们、智胜我们、淘汰我们并取代我们？我们是否应该冒着失去对文明控制的风险？”

过去两年AI的发展，已经验证了该公开信提出的前两项警告。除了深度伪造的信息扰乱社会秩序，AI导致大面积失业的消息也频频曝出。

今年1月，世界经济论坛进行的一项调查显示，由于人工智能可以自动化某些任务，41%的雇主打算缩减员工规模。

根据SEO.AI网站，到2030年，人工智慧可能取代全球约8亿个工作岗位，美国约有4,500万个工作将被人工智慧取代。大多数企业预计电脑将在50年内取代人类的工作。

该网站还披露了一系列惊人的数据：目前，已经有14%的劳工曾因人工智能而失业；截至2023年5月，美国有3,900个工作岗位的流失与人工智能直接相关；英国电信的目标是7年内以人工智能取代1万名员工；自1980年以来，人工智能和自动化已经导致薪资下降了70%。

麦肯锡2023年6月的一份报告指出，生成式人工智能（GenAI）将使60%到70%的员工工作量自动化。此外，根据Challenger, Gray & Christmas Inc.的数据，人工智能取代一些工作岗位，导致2023年5月裁员近4,000人。

电脑程序员是最受人工智能威胁的职业之一。自2023年以来，电脑程序员就业人数的12个月平均值下降了27.5%，恰逢OpenAI前一年推出ChatGPT。这种大型语言模型可以处理编程任务。

根据美国劳工统计局今年3月的数据，美国的电脑程序员的就业已经下降到1980年以来的最低水准。这一下降与OpenAI推出ChatGPT有关。瑞典金融科技公司Klarna去年与OpenAI合作开发聊天机器人，并声称该机器人完成了700名全职员工的工作，随后该公司暂停了招募。

而一千名科技领袖2023年在公开信中提出的最后一项警告——AI将超越人类、淘汰人类并取代人类，迄今尚未出现。那样的情形，可能将在“通用人工智能”时代到来之后才会出现。

通用人工智能时代将是人类的末日吗？

根据OpenAI等人工智能公司，通用人工智能（AGI）是机器学习和人工智慧研究的最终目标。OpenAI在其章程中将AGI定义为“在最具经济价值的工作上表现优于人类的高度自主系统”。

加州大学圣塔芭芭拉分校学者、研究哲学和神经科学的亨特（Tamlyn Hunt）撰文表示，随着AI飞速发展，预计很快就会实现“通用人工智能”。届时，人工智慧将能够在无需人工干预的情况下自我改进。例如，Google的AlphaZero AI在首次启动后仅用9个小时就学会了如何比最优秀的人类或其他AI棋手更好地下棋。它通过自我演练数百万次才取得这项成就。

超级人工智能（其定义是可以在广泛的活动中超越人类的人工智能）只需一秒钟就能完成100名人类软体工程师团队需要一年或更长时间才能完成的工作。例如，设计新型先进飞机或武器系统，超级人工智慧可以在大约一秒钟内完成。

亨特表示，一旦人工智慧能够自我完善，人类将无法知道人工智慧将会做什么或人类如何控制它。这是因为超级人工智能能够透过操纵人类来实现它的意志，从而超越电脑程序员和任何其他人类。它不但能够通过电子连接在虚拟世界中行动，而且可以透过机器人身体在物理世界中行动。

亨特认为，一旦人工智能发展到超越人类的阶段，如果它决定毁灭人类，人类试图建立的任何防御或保护措施，都会被人工智能轻易预料到和消除。人类无法控制它们，因为人类想到的任何事情，它们都已经想到了，而且比人类快一百万倍。

亨特说：“我们建立的任何防御都将被摧毁，就像格列佛挣脱小人国用来试图束缚他的细小绳索一样。”

有些人争论说，人工智能只是没有意识的自动化机器，它们不可能摆脱程序设计的束缚。但是亨特认为，即使现在或将来这些语言模型根本没有意识，这也不影响它们毁灭人类的能力，因为就像没有意识的核弹可以杀死成千上万的人一样，人工智能也可以以无数种方式杀死成千上万的人。

被称为“人工智能教父”的杰弗里?辛顿（Geoffrey Hinton）在2023年4月表示：“我（曾经）认为，这种东西实际上可以变得比人类更聪明的想法是错误的……显然，我不再这么认为了。”彼时，意识到人工智能危险性的他从谷歌辞去人工智能科学家的职务。

辛顿曾经认为，人类需要20到50年的时间才能拥有通用人工智能。但是他在2023年表示，“可能只需要20年甚至更短的时间。”

而其他一些科学家认为，通用人工智能时代到来的时间将更早。今年3月，Google旗下AI部门DeepMind的执行长哈萨比斯（Demis Hassabis）表示，他认为在未来5到10年内，将可以看到通用人工智能与人类一样聪明甚至超越人类。