Anthropic 呼吁全球放缓前沿 AI 开发

星***

Anthropic 呼吁全球主要 AI 实验室考虑放缓前沿模型开发节奏。该公司在博客中表示，AI 进步速度极快，可能很快出现无需人类干预即可自我改进的“递归自我改进”能力，这会带来重大社会风险。公司警告，若没有全球协调机制，单方暂停只会让对手抢跑，因此提议多国主要 AI 企业同步停止并遵守可验证规则，避免单一暂停让对手趁机赶超。
该提议在华盛顿和硅谷遇冷，批评者认为其夸大风险，实为借安全之名打压对手，且放缓研发恐让中国获得战略优势。Anthropic 近日刚完成近万亿美元估值的融资，并已提交 IPO 保密文件。

anthropic.com (https://www.anthropic.com/institute/recursive-self-improvement)

When AI builds itself (https://www.anthropic.com/institute/recursive-self-improvement)
Our progress toward recursive self-improvement, and its implications.