明尼苏达州因限制 AI 生成的色情图像的法律与 xAI 发生冲突

明尼苏达州总检察长 Keith Ellison 于周五提交法庭文件，反对 xAI 请求阻止实施 HF-1606。该州法律针对的是能够生成可识别人士逼真色情图像的 AI 工具。xAI 认为该法律违反第一修正案，而 Ellison 则主张，公司的 Grok Imagine 平台是一种技术工具，不属于受保护的言论。争议焦点在于，该法律监管的是言论还是技术。联邦法官定于周三审理此案。

明尼苏达州在两党支持下通过 HF-1606

明尼苏达州于 4 月通过 HF-1606，众议院以 132 比 1、参议院以 65 比 0 的投票结果通过。该法律于 8 月 1 日生效，禁止平台和软件开发者允许用户创建展示可识别人士私密身体部位的逼真图像，而这些部位在原始图像中并未出现。立法者在听取有关一名男子利用社交媒体照片的多份报告后通过了这项措施：一名男子利用社交媒体照片，为他认识的 80 多名女性制作色情图像。

“今天，我们带领全国保护女性、儿童以及所有参与公共生活的人，使其免受 AI 脱衣技术造成的伤害，”主导推动该法案的参议员 Maye Quade 当时在一份声明中说。“那些免费在线上及应用商店提供这项技术的公司，将不再被允许助长掠食者只需点击按钮就能虐待和伤害成年人及儿童的行为。”

xAI 以第一修正案为由挑战该法律

7 月，xAI 起诉 Ellison，请求阻止该法律实施。该公司认为该法律违反第一修正案，并可能适用于受保护的图像，包括赤裸上身的男性、游泳者和政治讽刺作品。xAI 在诉状中写道：“对于通用 AI 创意工具的提供商为避免伤害而善意采取的努力，并不存在安全港。”“即使被描绘的人表示同意，或图像由其本人创建，即使该图像从未被分享，责任仍然成立。”

Ellison 在周五提交的文件中辩称，xAI 不太可能在其合宪性挑战中胜诉，并且未能证明执行该法律会造成不可弥补的损害。Ellison 写道：“借助 Grok Imagine，X.AI 打造了一个几乎没有门槛的数字性暴力市场。”“如果明尼苏达州不能将法律适用于促成数字性侵害的技术，那么这个市场及 Grok Imagine 的功能，将从一开始就让明尼苏达州陷入困境。”

该法律规定每张图像最高 50 万美元的处罚

违反 HF-1606 的行为将面临每张图像最高 50 万美元的处罚。该法律适用于允许用户生成可识别人士逼真色情图像的平台和软件开发者。

Grok 此前因露骨内容受到审查

1 月，一家监督机构估计，Grok 在 11 天内生成了超过 23,000 张儿童性化图像，促使多个国家展开调查。3 月，加利福尼亚州的三名未成年人加入其他人的诉讼，起诉 xAI，称 Grok 被用于将他们的照片转化为 AI 生成的儿童性虐待材料。xAI 表示，已暂停超过 50,000 个账户，并于 2026 年向美国失踪与受剥削儿童中心提交了超过 70,000 份报告。

常见问题

什么是明尼苏达州的 HF-1606 法律？
HF-1606 是明尼苏达州于 4 月通过并于 8 月 1 日生效的一项法律，禁止平台和软件开发者允许用户创建展示可识别人士私密身体部位的逼真色情图像，而这些部位在其原始图像中并未出现。违反该法律的行为将面临每张图像最高 50 万美元的处罚。

xAI 为什么要就该法律起诉明尼苏达州？
xAI 于 7 月起诉明尼苏达州总检察长 Keith Ellison，认为 HF-1606 违反第一修正案，并可能适用于受保护的图像，包括赤裸上身的男性、游泳者和政治讽刺作品。该公司主张，即使被描绘的人表示同意，或图像由其本人创建，该法律仍会施加责任。