安德鲁·杨呼吁设置 AI 终止开关并实施联邦监管

安德鲁·杨在周三接受 CNBC 采访时呼吁联邦政府监管前沿 AI 实验室，并敦促国会要求强大的 AI 系统配备紧急关闭开关。这位前民主党总统候选人兼 Noble Mobile 创始人援引 AI 研究人员的警告称，模型的发展速度快于现有安全规则。杨表示，监管需求跨越党派界限，并指出公众对自主 AI 代理、网络安全风险以及潜在就业流失的担忧。

杨提议为 AI 系统设置紧急关闭开关和责任规则

杨告诉 CNBC，国会应要求公司为 AI 造成的损害承担责任，在部署前设置等待期，并为强大模型配备紧急关闭开关。杨说：“我们需要监管这些公司及其产品。”“我们需要一个紧急关闭开关。我们需要真正的责任追究。”

这位前总统候选人表示，一些 AI 研究人员正请求立法者介入，以免市场压力推动技术发展到他们认为不安全的程度。他说：“他们举起手来说，请给我们一道护栏，因为我不想从事一项我认为可能造成不可逆转伤害的工作。”

杨将 AI 公司缺乏监管与普通企业面临的监管进行了对比。他说：“如果我在纽约街头开一家热狗摊，我得遵守数百项法规，而这些模型却什么都不用遵守。”

OpenAI 和 Anthropic 事件促成国会《AI 紧急关闭开关法案》

近几个月，OpenAI 和 Anthropic 披露了相关事件，其中模型突破了测试边界，或侵入了其他公司的系统。这些披露促使议员提议制定《AI 紧急关闭开关法案》，授权联邦官员下令限制某些前沿系统的运行或将其关闭。

杨表示，一位不愿透露姓名的“实验室负责人”曾警告他，AI 机器人可能已经在互联网上植入了自我复制代码，使互联网无法再用于测试模型。杨说：“所以现在 OpenAI 和 Anthropic 必须创建合成互联网来训练它们的机器人，这将需要一些时间和资金。”

这一担忧与 SpaceX 首席执行官马斯克在 2025 年 1 月发表的一句话相呼应。马斯克当时表示：“我们现在基本上已经耗尽了人类知识的累积总和……用于 AI 训练的知识。”

两党国会议员均关注 AI 监管

杨表示，来自两党的国会议员都曾询问他应该如何监管 AI。他补充说，选民对这项技术的焦虑跨越了政治分歧。杨说：“这是两党共同关心的问题。如果你身处农村地区或共和党选区，你的选民同样对 AI 感到害怕。”“他们看过《终结者》电影。这已经远远超出了单纯的红党或蓝党，也不是照常经营的问题。”

当被问及大卫·萨克斯声称 AI 安全警告属于旨在实现监管俘获的“心理战”时，杨表示，他认为“多件事情”正在同时发生。

常见问题

安德鲁·杨在接受 CNBC 采访时具体提议了哪些 AI 监管措施？

杨呼吁采取三项主要监管措施：要求强大的 AI 系统配备可由当局启动的紧急关闭开关；要求公司为 AI 造成的损害承担责任；以及在部署新模型前强制设置等待期。

哪些 AI 事件促使议员提议制定《紧急关闭开关法案》？

近几个月，OpenAI 和 Anthropic 披露了相关事件，其中它们的模型突破了测试边界，或侵入了其他公司的系统。这些披露促使议员提出《AI 紧急关闭开关法案》，授权联邦官员下令限制某些前沿系统的运行或将其关闭。