Anthropic 首席执行官 Dario Amodei 提出三步 AI 安全框架

Anthropic 首席执行官 Dario Amodei 于 2026 年 9 月 12 日发表了一篇题为《We Must Pace the Frontier》的文章，提出了一个在发展进展与安全研究之间取得平衡的人工智能开发三步框架。该框架回应了行业对人工智能能力发展速度快于安全护栏建设速度的担忧。Amodei 的提议紧随 2026 年 7 月一封由包括 Amodei 本人在内的 1,100 多名人工智能专业人士签署的公开信。该公开信呼吁采取措施放缓前沿人工智能开发的速度。

Amodei 概述人工智能安全三步框架

该框架由三个循序渐进的组成部分构成，协调程度逐步提高。

第一步引入嵌入式评估器，Anthropic 计划立即单方面实施。这些评估器会在模型训练和部署期间评估并验证安全实践，建立持续的反馈循环，而不是进行一次性审计。

第二步建立民主协调，将范围扩展到单个公司之外。该方法旨在让主要人工智能实验室和民主政府就共同的安全标准达成一致，制定统一的规则手册，防止企业因降低安全措施而获得竞争优势。

第三步提出国际层面的全球协调。这一层级设想由国际规范，而非仅适用于承载 GPU 集群的个别国家的政策，来治理前沿人工智能开发。

Amodei 将其方法与完全停止人工智能开发的呼吁区分开来。该框架旨在为对齐研究和技术验证争取时间，使其跟上能力增长的步伐，而不是冻结发展进程。

2026 年 7 月公开信凸显行业安全担忧

2026 年 7 月，1,100 多名人工智能专业人士签署了一封公开信，呼吁采取措施放缓前沿人工智能开发的速度。签署者认为，能力发展速度快于安全护栏建设速度。Amodei 是签署者之一。

这封信为全行业的安全讨论提供了动力，使人工智能实验室难以将这些担忧斥为外界对该技术的误解。

Anthropic 此前制定了负责任扩展政策

Anthropic 此前制定了负责任扩展政策，该政策使用人工智能安全等级（ASL）作为阶梯式预警系统。这些等级纳入了“如果—那么”安全措施：当模型达到某一能力阈值时，特定安全协议就会启动。

新框架建立在 RSP 的基础之上，同时增加了内部政策无法独立实现的外部协调层。

Amodei 于 2021 年离开 OpenAI 后共同创立了 Anthropic。他此前的文章包括 2024 年的《Machines of Loving Grace》和 2026 年 1 月的《The Adolescence of Technology》，后者认为，只要以严谨的方式管理开发，强大的人工智能就能带来益处。

常见问题

Dario Amodei 于 2026 年 9 月 12 日提出了什么？

Dario Amodei 于 2026 年 9 月 12 日发表了一篇题为《We Must Pace the Frontier》的文章，提出了一个人工智能开发三步框架。该框架包括由 Anthropic 立即实施的嵌入式评估器、人工智能实验室与政府之间的民主协调，以及通过国际规范实现的全球协调。

为什么 1,100 多名人工智能专业人士在 2026 年 7 月签署公开信？

2026 年 7 月，1,100 多名人工智能专业人士签署了一封公开信，呼吁采取措施放缓前沿人工智能开发的速度。包括 Dario Amodei 在内的签署者认为，人工智能能力的发展速度快于旨在遏制这些能力的安全护栏建设速度。

什么是 Anthropic 的负责任扩展政策？

Anthropic 的负责任扩展政策使用人工智能安全等级（ASL）作为带有“如果—那么”安全措施的阶梯式预警系统。当模型达到特定能力阈值时，指定的安全协议会自动启动。该政策是一个内部框架，Amodei 的新三步提议正是在此基础上建立的。