大卫·萨克斯批评 AI 领导者的“追赶前沿”倡议

大卫·萨克斯是白宫首席 AI 顾问。9 月 13 日，他批评 OpenAI CEO 萨姆·阿尔特曼和 Anthropic CEO 达里奥·阿莫代伊支持“Pace The Frontier”运动。该运动旨在通过协调行动放缓先进 AI 系统的开发。萨克斯称，这项倡议是伪装成安全倡导的监管俘获。相关批评出现之际，围绕 AI 安全监管和国际竞争力的争论仍在持续；该运动于 7 月 28 日发起，获得了包括谷歌 DeepMind、Meta、OpenAI 和 Anthropic 在内的主要 AI 组织中超过 1,134 人的支持。

Pace The Frontier 倡议启动，签署者超过 1,300 人

该倡议于 7 月 28 日以一封公开信的形式启动，已有来自主要 AI 组织的超过 1,134 人签署，其中包括谷歌 DeepMind、Meta、OpenAI 和 Anthropic 的员工。截至 9 月中旬，签署者人数已超过 1,300 人。

公开信呼吁各国政府支持相关措施，以推动协调一致的国际政策制定，旨在放缓前沿 AI 的开发速度。随着 AI 行业的安全担忧日益加剧，这一运动应运而生，尤其是在一些事件引发人们对先进 AI 系统自主性和不可预测性的警觉之后。包括涉及 Hugging Face 等平台的事件暴露出的产品责任风险，也让这一讨论更加紧迫。

两党共同支持的 FRONTIER Act 于 7 月提出。

萨克斯称该提案属于监管俘获

萨克斯称，与“Pace The Frontier”相关的监管提案，包括请求反垄断豁免以允许竞争对手就安全标准进行协调，属于监管俘获。萨克斯表示，OpenAI 和 Anthropic 已经在前沿 AI 领域占据了相当大的市场份额，快速增长的收入进一步巩固了它们的地位。他认为，如果各国政府建立限制开发速度的国际框架，那么已经处于前沿的公司就可以继续保持领先，而其他所有公司则会被要求在追赶之前先放慢脚步。

萨克斯指出，中国不太可能参与任何协调一致的全球 AI 开发放缓行动。他认为，开发者应当主动优先提高产品的可靠性和可预测性，因为市场压力已经在推动行业朝这一方向发展。萨克斯表示，客户越来越倾向于选择能够稳定运行的 AI 系统，而不是那些以牺牲可靠性为代价来突破能力边界的系统。

常见问题

大卫·萨克斯在 9 月 13 日批评了什么？
白宫首席 AI 顾问大卫·萨克斯于 9 月 13 日批评 OpenAI CEO 萨姆·阿尔特曼和 Anthropic CEO 达里奥·阿莫代伊支持“Pace The Frontier”运动，并称该运动是伪装成安全倡导的监管俘获。

Pace The Frontier 倡议何时启动，获得了多少名签署者？
该倡议于 7 月 28 日启动，获得了来自包括谷歌 DeepMind、Meta、OpenAI 和 Anthropic 在内的主要 AI 组织的超过 1,134 名签署者。截至 9 月中旬，签署者人数已超过 1,300 人。

萨克斯为何称该提案属于监管俘获？
萨克斯认为，OpenAI 和 Anthropic 已经在前沿 AI 领域占据了相当大的市场份额，而限制开发速度的政府框架将使这些公司得以维持自身地位，同时阻止竞争对手追赶。他还指出，中国不太可能参与协调一致的全球 AI 开发放缓行动。