Anthropic 首席执行官敦促放缓 AI 发展，但特朗普拒绝了克制的呼吁

Anthropic 首席执行官 Dario Amodei 本周敦促 AI 行业放慢前沿技术开发速度，为安全系统追赶争取足够时间，并警告称，能力不断增强的 AI 代理可能在数月内带来严重的网络、生物和失控风险。在接受 CBS 采访时，Amodei 表示，他对私营公司作出社会决策感到不安，并主张制定审慎的 AI 监管政策。美国总统特朗普拒绝了科技高管关于放慢前沿 AI 开发的呼吁，认为美国不能冒险将技术领导地位拱手让给中国。这一分歧凸显出，主张克制的领先 AI 公司与优先考虑竞争速度的政府之间日益扩大的分歧。OpenAI 于 9 月 9 日宣布支持强制性的国家 AI 安全要求，而萨姆·阿尔特曼暗示，主要 AI 实验室之间可能进行协调。

OpenAI 宣布支持强制性 AI 安全要求

OpenAI 于 9 月 9 日表示，支持强制性的国家 AI 安全要求，包括基于能力的规则和独立的安全评估。该公司认为，无论是企业还是政府，都无法单独管理先进 AI 的风险。

萨姆·阿尔特曼暗示，领先的 AI 公司可能很快宣布一项更广泛的行业协议。当被问及 OpenAI、Anthropic、马斯克的 AI 业务和谷歌 DeepMind 是否能够在安全问题上共同协调时，阿尔特曼表示，他相信这种合作将会发生，但拒绝透露私下讨论的内容。

Anthropic 和 OpenAI 的一名前研究人员最近辞职，此前他警告称，这些实验室正在竞相开发能够自我改进的系统，却没有充分的安全保障措施。Dario Amodei 曾多次表示，他对少数私营公司作出可能重塑社会的决定感到不安。在接受 CBS 采访时，他同意没有人选举他或 OpenAI 首席执行官萨姆·阿尔特曼来作出这些选择。

特朗普政府拒绝放慢 AI 开发

美国总统特朗普拒绝了科技高管及民主党人提出的放慢前沿 AI 开发的呼吁，认为美国不能冒险将技术领导地位拱手让给中国。

那些拥有最强财务动力来继续扩大规模的公司越来越表示，某种形式的克制是必要的；与此同时，白宫担心，克制本身可能演变成国家安全风险。

今年早些时候，特朗普政府因限制 Claude 的军事用途而与 Anthropic 发生冲突。尽管政府其他部门释放出更为和解的信号，但五角大楼仍将 Anthropic 视为供应链风险。

马斯克体现了这一新兴联盟的复杂性。他曾多次警告先进 AI 的风险，但最近却将 Anthropic 相关的一些最新安全警告斥为“心理战行动”。

常见问题

Anthropic 首席执行官 Dario Amodei 本周对 AI 开发发表了什么看法？
Dario Amodei 敦促 AI 行业放慢前沿技术开发速度，为安全系统追赶争取足够时间，并警告称，能力不断增强的 AI 代理可能在数月内带来严重的网络、生物和失控风险。

OpenAI 于 9 月 9 日宣布了什么立场？
OpenAI 宣布支持强制性的国家 AI 安全要求，包括基于能力的规则和独立的安全评估，并认为无论是企业还是政府，都无法单独管理先进 AI 的风险。

特朗普总统为何拒绝放慢 AI 开发的呼吁？
美国总统特朗普拒绝了放慢前沿 AI 开发的呼吁，认为美国不能冒险将技术领导地位拱手让给中国。