Anthropic 首席执行官在 Claude Fable 5 发布后呼吁进行强制性的 AI 安全审计

Anthropic 首席执行官 Dario Amodei 于 6 月 10 日发布了一篇政策文章，呼吁对前沿 AI 模型实施强制的第三方测试，并赋予政府权力以阻止未通过安全审计的系统。这篇文章题为《Policy on the AI Exponential》，在 Anthropic 发布 Claude Fable 5 的一天之后推出，并配套提出了一项关于模型测试的立法提案和一套就业替代框架。Amodei 表示，仅有透明度已不再与快速进展的 AI 技术所带来的风险相匹配。Anthropic 在 2025 年支持基于披露的法律，包括加利福尼亚州的 SB 53、新约克的 RAISE Act 以及伊利诺伊州的 SB 315，但 Amodei 现提出一个以美国联邦航空管理局（FAA）为模型的监管体系，要求超过计算阈值的模型在四个领域接受强制审计：网络安全、生物武器、失控以及自动化 AI 研究。

Amodei 提议强制第三方 AI 审计

Amodei 的提议要求超过计算阈值的前沿 AI 模型在四个领域接受强制的第三方审计：网络安全、生物武器、失控以及自动化 AI 研究。“像飞机一样，前沿 AI 模型应该被要求进行技术测试和审计，如果它们无法达到高标准的安全要求，其发布应被阻止或逆转，作为对公共安全的威胁，”Amodei 在文章中写道。该计划超出了白宫 6 月关于 AI 的行政令，Amodei 将其视为循序渐进的进展。该提案包括提示安全事故的报告，以及对模型权重的严格保护。

Claude Mythos Preview 解决了 73% 的专家级网络挑战

Amodei 指出网络安全是首个完全显现的风险，并提到 Claude Mythos Preview，其解决了 73% 的专家级网络挑战，而此前没有任何 AI 通过过这些挑战。文章警告前沿模型可能会扰乱金融行业和关键基础设施。Anthropic 于 6 月 9 日发布 Claude Fable 5 模型，并配备了可拦截高风险网络和生物请求的保障措施。Amodei 表示，这种自愿性的限制无法替代整个行业的具有约束力规则。Anthropic 自己的数据表明，AI 正在制造更好的 AI，Claude 在主要 AI 实验室中撰写了大部分代码。

Anthropic 提议工资保险与劳动力培训补助

文章提出工资保险、留任税收激励，以及劳动力培训补助，以应对经济性替代。如果替代被证明是长期的，Amodei 表示，普遍基本收入可以通过公司税或资本利得税来资助。在公民自由方面，Amodei 呼吁在国内执法中禁止完全自主武器，并敦促国会关闭数据经纪商漏洞，以实现大规模监视采购。在地缘政治方面，他呼吁民主国家联盟来控制芯片和半导体制造设备，并将正在审议的美国法案 MATCH 和 OVERWATCH 作为更严格、协调一致的出口管制的第一步加以提及。

FAQ

Dario Amodei 在 6 月 10 日提出了什么？ Dario Amodei 于 6 月 10 日发布了一篇题为《Policy on the AI Exponential》的文章，提议对前沿 AI 模型实施强制的第三方测试，并赋予政府权力，以在四个领域中对未通过安全审计的系统进行阻止：网络安全、生物武器、失控以及自动化 AI 研究。

为什么 Amodei 称网络安全是首个完全显现的风险？ Amodei 指向 Claude Mythos Preview，该系统解决了此前没有任何 AI 通过过的 73% 专家级网络挑战，并警告前沿模型可能会扰乱金融行业和关键基础设施。

文章中 Anthropic 提出了哪些经济措施？ Anthropic 提出了工资保险、留任税收激励以及劳动力培训补助，用于应对就业替代；若替代被证明是长期的，普遍基本收入可通过公司税或资本利得税来资助。