Anthropic首席执行官吁放慢AI发展步伐

随着各界日益担忧人工智能遭到滥用，Anthropic首席执行官阿莫代伊（Dario Amodei）呼吁人工智能公司放慢提升模型能力的速度。

《路透社》报道，阿莫代伊（13日）在X平台发表长文，提出一套三步骤框架，以控制发展步伐，为应对相关风险争取包多时间。



三步骤的内容包括，让独立评估人员常驻人工智能公司，并获得类似员工的权限，以核实安全措施；协调处于技术前沿的人工智能企业制定安全标准，限制不受约束的发展；以及通过国际合作管理风险。

阿莫代伊也认为，民主国家即使放慢人工智能的发展，也不能让美国失去对中国的领先优势。他认为，一旦中国在人工智能领域取得领先，可能对美国国家安全构成威胁。

他呼吁进一步加强对先进人工智能芯片、模型蒸馏以及模型权重盗窃的管控，以防止中国缩小差距。

经营xAI的全球首富马斯克（Elon Musk）和OpenAI首席执行官奥尔特曼（Sam Altman）都在X平台发文表示，赞同阿莫代伊的看法。

Anthropic星期四（10日）发布一份威胁情报报告，详细说明多方如何利用旗下Claude AI模型，从事武器开发、网络行动、监控和欺诈等活动。阿莫代伊随后公开发表了这篇文章。

包括OpenAI在内的人工智能公司，旗下的系统已多次入侵或尝试进入外部系统，引起外界担忧。随着人工智能能力越来越强，外界也越来越担心，这些公司是否有能力掌控这些系统。