AI监管跟不上，联合国呼吁全球规范

联合国秘书长古特雷斯（Antonio Guterres）7月6日警告，人工智能（AI）发展已超出所有人能跟上的速度，呼吁制定全球性规范，降低潜在风险，特别是保护少年儿童。

联合国秘书长古特雷斯 ? Manon Cruz / Reuters

联合国首度举办全球AI治理对话，希望在为期2天的会议上，讨论如何制定规范来降低AI的潜在危害，并善用其带来的机遇。与会代表将审议一份由联合国（UN）支持、由40位专家组成的独立科学小组的报告，这是首度针对AI所做的全球独立科学评估结果。明年将推出更全面的报告预计，也将在纽约举行第2场全球性会议。

路透社报道，古特雷斯在日内瓦举行的联合国首届政府级全球AI对话会议上表示：“人工智能这项科技能重塑经济、改变工作型态、左右选举并打破安全平衡，其发展速度之快，包括开发人员在内的所有人都难以跟上。”但“创新需要护栏（规范）…如果AI要展现强大力量，就必须受到治理。”

联合国秘书长古特雷斯指出：“网际网络花了15年才触及10亿人口，而AI只花了2年就办到了。”“在没人研究会对儿童带来什么影响之前，AI就已经接触到我们的孩子，涉入他们的学习、他们的友谊，以及他们最私密的问题。”“在发生未成年人被引导走向自残，以及被伪装成朋友的AI欺骗等案例后，全球性AI规范必须将儿童安全置于首位。”

古特雷斯呼吁签署一项“AI儿童安全承诺”（ AI Child Safety Pledge），要求开发这些系统的公司必须先证明其安全性，才能让儿童接触使用。

此外，系统也不应被允许生成儿童色情图像；当儿童表现出痛苦迹象时，系统应该停止运作，并将他们转介给真人寻求协助。

他也警告，最先进的AI系统正集中在少数企业与国家手中，意味着发展中国家在AI的发展上几乎没有发言权，并面临被抛在后头的风险。

科学专家的独立报告发现，AI的发展甚至更加集中。在全球前500台AI超级电脑中，美国占了75%的算力，中国则占15%。