失控AI或“勒索”人类，构成生存威胁

联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。

图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。”

即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保障措施。” 特克没有指名道姓，但他警告说，只有极少数人掌握着“几乎无限的人工智能权力”。

封面图： 联合国人权事务高级专员沃尔克·图尔克 ? Martial Trezzini / AP

目前世界上顶尖的人工智能公司包括Meta、Anthropic、OpenAI和谷歌。

路透社报道，图尔克的言论与此前包括OpenAI首席执行官萨姆·奥特曼在内的多位人工智能领域高管对人工智能可能带来的灭绝风险的警告不谋而合。联合国呼吁制定统一规则以降低这些风险，并于7月召开了首次全球治理会议。

联合国人权事务高级专员在同一个会议上还对美国和伊朗之间再次爆发敌对行动表示关切，称有关平民伤亡的报道，包括在伊朗霍尔木兹甘省一场婚礼上发生的伤亡，凸显了局势进一步升级的风险。

图尔克还批评了美国的移民政策，敦促华盛顿停止将人们遣返回可能面临无法弥补的伤害的国家，包括海地，并呼吁对今年美国移民拘留期间发生的 23 起死亡事件追究责任。

他还表示，他对有关俄罗斯无人机上月造成三名乌克兰人死亡的报道感到“震惊”，并指出据报道乌克兰也曾测试过此类武器。他呼吁立即禁止无需人为干预即可夺取人命的武器。