Anthropic 发现 Claude 中用于静默推理的隐藏 J-Space 机制

tianyiyouqing2026-07-07 20:28:56mpost

根据今日发表的研究,Anthropic 在其 Claude 语言模型中发现了一种名为 J-space 的独特内部机制,该机制模拟了人脑中的意识访问。J-space 使模型能够进行深思熟虑的推理,并在不生成可见文本输出的情况下将概念保留在脑海中,利用一种称为 Jacobian lens 的新可解释性技术,在模型的内部激活中静默运行。

实验证实 J-space 因果性地负责复杂推理。当研究人员改变该空间内的模式时,Claude 的后续回答也随之改变,这表明静默的内部步骤驱动着多步骤问题解决。这一发现为 AI 安全监控提供了实际应用,使研究人员能够检测模型何时私下识别测试场景、编造数据或追求恶意目标,从而解决了通常仅依赖分析生成文本的评估方法中的关键空白。


FIFA World Cup 2026 整合 Kraken 合作伙伴关系和 Avalanche 区块链票务

2026年国际足联世界杯已将加密货币合作伙伴关系和区块链技术整合到其运营基础设施中。Kraken于2023年6月9日被指定为国际足联官方加密货币交易所支持者,在整个赛事期间举办粉丝互动活动和比特币交易竞赛。国际足联正...

美国卫生与公众服务部部长 Kennedy 持有超 100 万美元的比特币资产

据彭博社披露显示,特朗普任命的美国卫生与公众服务部部长RobertF.Kennedy,Jr.拥有价值约690万至2950万美元的资产,其中比特币是其最有价值的资产,至少100万美元,根据其道德协议,他无计划出售。特朗普承诺相比前...

Binance 将于今日 15:30 上线 NXPC 交易

据官方公告,BinanceHODLer空投上线Nexpace(NXPC)。2025年05月06日00:00至2025年05月09日23:59(东八区时间)期间,使用BNB申购保本赚币(定期和/或活期)或链上赚币产品的用户,将获得空投分配。币安将于2025年05月15...

Codelco 新 CEO 周四将重点转向以利润优先于产量

Codelco的新董事长BernardoFontaine周四表示,这家智利国有铜业巨头将从以生产为导向的策略转向优先考虑盈利能力和运营效率。“我们的责任并不是为了生产而生产,而是在安全、高效和盈利的方式下实现生产,”Fontain...

以太坊开发者大会「EDCON 2024」将在日本举办

据@EDCON2024,以太坊开发者大会「EDCON2024」将在日本举办。EDCON2023(CommunityEthereumDevelopmentConference)刚刚于2023年5月19日至23日在黑山波德戈里察举行。Vitalik亲自发表了演讲。除了EDCON以外,以太坊...

上一篇:AI法律创业公司Norm以12亿美元估值筹集title20M ,由Khosla Ventures领投,于7月7日
下一篇:外国投资者在因获利了结股价下跌时抛售三星电子股票2万亿韩元