佛罗里达州一名女子因 Anthropic 举报其 AI 日记中的威胁内容而被捕

ggd_5202026-10-06 06:01:36decrypt.co

佛罗里达州博尼塔斯普林斯的 Carli Michelle Heller 因 Anthropic 的 AI 平台 Claude 标记了她于 9 月 26 日和 27 日写下的威胁性言论而被捕。调查人员称,Heller 于 9 月 26 日写道,她要向李县警长办公室开枪扫射;她的 Claude 账户显示,她在第二天的对话中说自己买了一把新枪。Anthropic 的安全系统通过自动监测关键短语和威胁性内容发现了这些言论,随后由人工审核团队将其报告给执法部门。Heller 被控发出书面暴力威胁,开庭日期定于 11 月。这起案件凸显了 AI 公司如何监控用户输入,以及如何根据其服务条款向警方报告相关内容。

Anthropic 的安全系统检测并报告了威胁性内容

根据逮捕报告,Anthropic 的平台会监测关键短语和威胁性内容。由于这些言论性质严重,相关内容被提交给人工审核团队,后者将其报告给执法部门。警员确认了 Heller 的身份,前往她家中,并在没有发生意外的情况下将她拘留。当地新闻媒体 WINK News 报道了此次逮捕的详情。

Anthropic 的条款允许向执法部门报告用户输入

Anthropic 的消费者条款保留了一项权利,即由公司自行决定向执法部门报告用户的输入、输出或行为。该公司的隐私政策自 2026 年 9 月 10 日起生效,允许公司在善意认为披露数据对于防止严重伤害而言合理且必要时,与警方共享数据。即使用户选择退出将数据用于模型训练,也只是将 Anthropic 使用其数据的期限从五年缩短至三个月。该政策还称,被标记为需要进行安全审查的对话将用于提升 Anthropic 检测有害内容的能力。

此前案件涉及针对 Anthropic CEO Dario Amodei 的威胁

Heller 并不是 Anthropic 转交警方处理的第一名用户。《旧金山标准报》9 月报道称,Anthropic 曾将一名用户转交警方。该用户据称写道,自己买了一把 AR-15,并已将 CEO Dario Amodei 置于瞄准镜中。一名员工告诉警员,他当时并未立即担心安全问题,并以公司政策为由拒绝展示相关消息。该用户告诉《标准报》,自己只是在开玩笑;报道刊发时,他尚未被逮捕或起诉。一名 Anthropic 发言人称,这一事件说明“我们的防护流程按预期运作”。该公司拒绝说明其是否会区别对待针对自家员工的威胁。

OpenAI 也有类似的报告政策

在不列颠哥伦比亚省 Tumbler Ridge 发生造成 8 人死亡的 2 月校园枪击案后,OpenAI 表示,公司曾于 2025 年 6 月考虑向加拿大警方发出警报,但最终认定该账户没有显示出迫在眉睫且可信的严重身体伤害风险。OpenAI 于 2025 年 8 月发布的政策动态规定,针对他人的威胁将转交人工审核人员,后者可能会将其转交执法部门。

Heller 面临重罪指控,11 月出庭

Heller 被控发出书面暴力威胁。她的开庭日期定于 11 月。警员在她家中将她拘留,过程中没有发生意外。

常见问题

Carli Michelle Heller 写了什么,导致她被捕?

调查人员称,Heller 于 9 月 26 日写道,她要向李县警长办公室开枪扫射。她的 Claude 账户显示,她在第二天的对话中说自己买了一把新枪。Anthropic 的安全系统标记了这些内容,人工审核团队随后将其报告给执法部门。

Anthropic 如何监控 Claude 上的用户内容?

Anthropic 的平台会监测关键短语和威胁性内容。检测到严重言论后,相关内容会被提交给人工审核团队。该公司的消费者条款保留了一项权利,即由公司自行决定向执法部门报告用户的输入、输出或行为。被标记为需要进行安全审查的对话将用于提升 Anthropic 检测有害内容的能力。


Orionx 在发现客户资产存在 $7M 的缺口后关闭。

Orionx是一家由Tether支持的智利加密货币交易所,于9月3日宣布关闭,此前审计发现客户资产存在700万美元的缺口。法证审计确认,托管中的价值超过700万美元的资产被转移至非公司控制的钱包。该交易所在智利加密货币市...

Bittensor 生态公司 xTAO 将在加拿大上市,获 DCG 等 2280 万美元投资

Bittensor生态公司xTAO宣布将于7月23日在加拿大TSXVenture交易所(TSXV)上市,股票代码为XTAO.U。该公司此前已完成2280万美元融资,投资方包括DigitalCurrencyGroup、AnimocaBrands、Arca、BorderlessCapital和Falc...

特朗普拟上任首日签署行政命令调整加密政策

据《华盛顿邮报》报道,DavidSacks和特朗普过渡团队正与加密行业领袖密切合作制定立法策略,特朗普预计将在上任首日签署行政命令,可能涉及“去银行化”及废除要求银行将持有的数字资产计入自身资产负债表的争议性加...

美国银行将2026年下半年布伦特原油预测价格从每桶83美元上调至95美元

美国银行表示,已将2026年下半年布伦特原油价格预测从此前的每桶83美元上调至每桶95美元。

市场中的投资者情绪逐渐变得悲观

据@Blofin_Academy,在加密市场波动率处于历史低位的背后,市场中的投资者情绪逐渐变得悲观。在过去48小时里,BTC和ETH的期权偏度已经从中性变为轻微看跌,这是一个整体转向,这意味着在未来持续的流动性压力下,投...

上一篇:油价跌破 90 美元,中东出口恢复至战前水平
下一篇:Yuno 通过 Base 平台支持稳定币支付