Anthropic 分享了 3 项用于监测 AI 发展速度的指标

Anthropic 周四在一篇博客文章中分享了三项指标，以帮助人工智能公司监测开发进度。几天前，该公司首席执行官达里奥·阿莫代伊于周六发布了一项放缓计划。这些指标衡量人工智能主导的研发自主性、对人工智能代理的监督，以及 Anthropic 内部的算力分配。阿莫代伊的放缓提议得到了包括 OpenAI 首席执行官萨姆·阿尔特曼、SpaceX 首席执行官马斯克和谷歌 DeepMind 主席德米斯·哈萨比斯在内的行业领导者支持，旨在放缓模型能力提升的速度，同时不牺牲商业优势或美国在人工智能领域的领先地位。

Anthropic 衡量三项开发指标

Anthropic 发布了三项指标的方法论，以鼓励其他组织采用类似的衡量方式。该公司在博客文章中表示，对人工智能开发进行衡量并公开报告，能让社会有机会决定如何使用这些信息。

第一项指标显示，Claude 模型在所衡量的任何研发工作子集中都没有完全自主运行。第二项指标涉及构建一个用于监督和干预人工智能代理行动的系统；研究发现，在任何给定时刻，约有 30,000 个代理正在其使用最广泛的内部平台上开展研究和工程工作。

对于第三项指标，Anthropic 衡量了 7 月 13 日至 7 月 20 日期间的算力使用快照。该公司发现，分配给人工智能研发的算力中约有 6% 用于安全工作；分配给人工智能主导研发的算力中约有 12% 用于安全工作。

Anthropic 表示，这些指标最适合展示模型是如何构建的，并应作为能力评估的补充，后者展示模型能够做什么。该公司表示，实验室外的第三方应能以此为起点，评估人工智能开发的速度。

行业领导者支持阿莫代伊的放缓提议

阿莫代伊于周六发布的放缓计划获得了 OpenAI 首席执行官萨姆·阿尔特曼、SpaceX 首席执行官马斯克和谷歌 DeepMind 主席德米斯·哈萨比斯的支持。在该提议发布前，研究人员曾警告人工智能造成危害的潜力正在不断扩大。

阿莫代伊表示，他的计划旨在放缓模型能力提升的速度，同时不牺牲商业优势或美国在人工智能领域的领先地位。据 Anthropic 周四发布的博客文章称，这项分三步实施的放缓计划在具体执行内容方面说明不多。

Anthropic 在博客文章中表示，随着世界开始考虑如何控制前沿发展的速度，该公司应尽量缩小前沿实验室所知与公众所知之间的差距。该公司表示，将继续发布这些衡量结果，以提高模型透明度。

常见问题

Anthropic 周四分享了哪些指标？

Anthropic 周四在一篇博客文章中分享了三项指标：人工智能主导的研发自主性、对人工智能代理的监督，以及算力分配。第一项指标显示，Claude 模型没有完全自主运行。第二项指标发现，在任何给定时刻，约有 30,000 个代理正在开展研究和工程工作。第三项指标衡量了 7 月 13 日至 7 月 20 日期间的算力使用情况，发现人工智能研发算力中约有 6% 用于安全工作。

Anthropic 为什么发布这些指标？

Anthropic 发布这些指标，是为了帮助人工智能公司监测开发速度，并鼓励其他组织采用类似的衡量方式。该公司在博客文章中表示，对人工智能开发进行衡量并公开报告，能让社会有机会决定如何使用这些信息，旨在尽量缩小前沿实验室所知与公众所知之间的差距。

谁支持达里奥·阿莫代伊的放缓提议？

达里奥·阿莫代伊于周六发布的放缓提议获得了 OpenAI 首席执行官萨姆·阿尔特曼、SpaceX 首席执行官马斯克和谷歌 DeepMind 主席德米斯·哈萨比斯的支持。阿莫代伊表示，他的计划旨在放缓模型能力提升的速度，同时不牺牲商业优势或美国在人工智能领域的领先地位。