Palantir 首席执行官 Alex Karp 以问责问题挑战 AI 安全争论

Palantir 首席执行官 Alex Karp 在 CNBC 的《Squawk on the Street》节目中挑战了人工智能行业的安全争论，将讨论重点从技术风险重新聚焦于法律责任。Karp 认为，政府日益呼吁介入前沿人工智能，部分原因可能是开发强大模型的公司正面临巨大的法律风险；他特别针对 Anthropic，称一些公司可能会提起诉讼，声称其专有信息被输入人工智能系统，从而使竞争对手受益。这一表态为围绕前沿人工智能发展速度和监管的持续争论增添了法律责任维度。

Karp 认为人工智能开发者应承担民事和刑事责任

Karp 在 CNBC 上表示，当不负责任的开发行为造成损害时，人工智能开发者应继续承担民事责任，并可能承担刑事责任。“第一道防线是，你要为自己的行为负责，”Karp 告诉 CNBC。

Karp 表示，一些 Palantir 客户已经担心其企业知识——被称为商业“alpha”——被外部人工智能系统吸收。他暗示，足够巨大的责任风险最终可能会促使前沿实验室寻求政府保护，甚至走向国有化。

企业数据问题已经引发了切实回应。据报道，Palantir 已要求 Anthropic 提供更强的零数据保留保证，而英伟达和 Booz Allen Hamilton 也限制了部分前沿模型用于敏感工作的方式。Anthropic 和 OpenAI 表示，除非客户主动选择加入，否则默认不会使用企业客户数据进行训练。

Anthropic 首席执行官关注技术能力风险

Anthropic 首席执行官 Dario Amodei 关注的是技术本身，他警告称，人工智能能力的发展速度可能超过研究人员理解或控制它的能力。他推动放缓前沿人工智能发展速度的主张震动了科技行业，在他发出警告后，人工智能股票遭到抛售。OpenAI 和马斯克也支持放缓发展观点的部分内容，使围绕人工智能克制发展的争论进一步扩大。

Karp 的这一表态将法律责任与人工智能安全和监管并列为第三个问题。随着企业将越来越有价值的数据投入人工智能系统，责任问题可能变得越来越难以回避。

常见问题

Palantir 首席执行官 Alex Karp 在 CNBC 上对人工智能安全发表了什么看法？
Karp 在 CNBC 的《Squawk on the Street》节目中挑战了人工智能行业的安全争论，认为讨论重点应放在法律责任上，而不应仅仅关注技术风险。他表示，当不负责任的开发行为造成损害时，人工智能开发者应继续承担民事责任，并可能承担刑事责任。

Karp 为什么在这一表态中特别针对 Anthropic？
Karp 认为，Anthropic 等人工智能实验室最终可能面临诉讼，起诉公司可能声称其有价值的专有信息被输入这些模型，并可能使竞争对手受益。据报道，由于客户担心企业知识被外部人工智能系统吸收，Palantir 已要求 Anthropic 提供更强的零数据保留保证。

其他公司如何应对人工智能数据方面的担忧？
英伟达和 Booz Allen Hamilton 已限制部分前沿模型用于敏感工作的方式。Anthropic 和 OpenAI 表示，除非客户主动选择加入，否则默认不会使用企业客户数据进行训练。