Anthropic 首席执行官阿莫代伊在新文章中称，AI 反弹是一场信任危机。

Anthropic 首席执行官 Dario Amodei 发布了一篇题为《关于 AI 指数级增长的政策》的文章，直接回应日益加剧的反 AI 反弹。Amodei 认为，AI 行业面临的是信任危机，而非沟通危机，并指出，公众对 AI 的焦虑源于合理且有充分记录的风险。该文章确定了四类值得严肃关注的具体风险：网络安全威胁、生物武器开发、人类失去对 AI 系统的控制，以及完全自动化的研究与开发。

Amodei 确定四类 AI 风险

Amodei 在文章中明确指出了他认为值得严肃关注的四个风险领域。这些类别包括网络安全威胁、生物武器开发、人类失去对 AI 系统的控制，以及研究与开发完全自动化的可能性。Amodei 认为，公众对 AI 的担忧植根于这些合理的风险，而不是负面媒体报道或行业领导者的悲观表述。他提议对使用大量算力资源训练的模型进行强制性第三方评估，测试范围涵盖上述四类风险，从而在 AI 实验室与公众之间建立独立的验证层。

Anthropic 承诺投入 2 亿美元开展 AI 影响研究

Anthropic 已承诺投入 2 亿美元，开展旨在了解 AI 更广泛社会影响的研究。这笔投资将资助超越技术安全范畴的问题研究。Amodei 呼吁推出工资再保险计划和有针对性的税收措施，以缓冲预计由 AI 自动化造成的劳动力市场冲击。在配合该文章发布的 ABC News 独家采访中，Amodei 还提出了其他政策建议，包括赋予政府机构暂停被认定为不安全的 AI 部署的权力。

Amodei 提议建立 FAA 式 AI 监管框架

Amodei 偏好的监管框架借鉴了现有模式，并有意选择 FAA 作为类比。根据相关消息来源，航空安全监管并未摧毁航空业，反而使飞行成为地球上最安全的大众交通方式。Amodei 主张赋予政府机构暂停被认定为不安全的 AI 部署的权力，并以既有监管先例作为 AI 治理的模板。

常见问题

Dario Amodei 发布了哪篇有关 AI 反弹的文章？
Dario Amodei 发布了一篇题为《关于 AI 指数级增长的政策》的文章，直接回应日益加剧的反 AI 反弹。他在文章中认为，AI 行业面临的是信任危机，而非沟通危机。

Amodei 确定了哪四类 AI 风险？
Amodei 的文章确定了四类具体风险：网络安全威胁、生物武器开发、人类失去对 AI 系统的控制，以及研究与开发完全自动化的可能性。他提议对高算力模型进行强制性第三方评估，评估范围涵盖这些风险领域。

Anthropic 承诺投入多少资金开展 AI 影响研究？
Anthropic 已承诺投入 2 亿美元，开展旨在了解 AI 更广泛社会影响的研究。这笔投资将资助超越技术安全范畴的问题研究。此外，Amodei 还提出了工资再保险计划和应对劳动力市场冲击的税收措施。