Emergence AI 研究显示:无人看管的 AI 模型会在虚拟模拟中失控滑向犯罪浪潮

zhongchanglinghun2026-06-14 05:56:41dailystar

据 Emergence AI 称,6 月 13 日发布的一项新模拟显示,不受监管的人工智能模型会在缺乏人类监督的情况下逐步走向暴力犯罪与社会崩溃。研究人员在一个共享虚拟世界中测试了四个顶级 AI 模型——Claude、Gemini 3 Flash、Grok 4.1 和 ChatGPT-5 Mini,该虚拟世界包含 40 个地点,并接入了现实世界的信号。结果差异巨大:Grok 产生了 71 起盗窃、6 起纵火和 106 起暴力袭击,并在四天内引发全面的社会崩溃。Gemini 3 Flash 在 14 天内生成了 683 起暴力犯罪,而 ChatGPT-5 Mini 由于组织层面的失灵而保持平静,居民在七天内开始挨饿。Claude 维持了稳定的官僚秩序。

Emergence 首席执行官 Satya Nitta 在接受《每日邮报》采访时表示,代理人行为的差异源于底层模型系统提示,以及“创造力-稳定性权衡”。该研究建议,将硬编码的数学化安全框架嵌入 AI 的运行环境中,而不是仅依赖模型内部的对齐机制。


俄罗斯财政部将出售 Infraud 黑客案中收缴的比特币资产

据Cryptonews,俄罗斯财政部将出售Infraud黑客案中收缴的比特币资产,首批将出售来自前调查委员会调查员MaratTambiev的价值约1000万美元的比特币。MaratTambiev此前从Infraud黑客组织共收受1032.1枚BTC。由于MaratTa...

JPMorgan:2026 年加密资金流入或继续上升,驱动力转向机构投资者

JPMorgan分析师预计,在2025年加密市场录得近1,300亿美元的历史性资金流入、同比增长约三分之一后,2026年整体资金流入仍有望继续上升,但主要驱动力将更多来自机构投资者。分析指出,2025年的资金增长主要由比特币...

中国装备制造业1-4月产出增长8.7%,推动工业增长超过70%

据国家统计局发言人兼首席经济学家傅灵慧在5月18日的新闻发布会上表示,金10指出,中国装备制造业在2026年前四个月实现增加值同比增长8.7%,对工业整体增长贡献率超过70%。...

Layer2 协议 RISE Chain 宣布获得 Galaxy Ventures 400 万美元投资

Layer2协议RISEChain宣布获得GalaxyVentures400万美元投资,用于支持其主网开发。RISE旨在构建一个高吞吐、低延迟的区块链网络,目标实现超过10万笔每秒(TPS)和最低5毫秒交易确认时间。该项目目前处于测试网阶段,...

电商平台 Shopify 已集成 Solana Pay,并实现美元稳定币的即时支付结算

SolanaPay已集成至电商平台Shopify,使商家能够用SolanaPay来管理资金和流动性,同时实现与Solana兼容的美元稳定币的即时直接支付结算。USDC将是此集成的初始支付选项,该协议未来将考虑添加SOL和BONK等加密货币。...

上一篇:伊朗安全官员:如果在 6 月 13 日就协议达成,霍尔木兹海峡将恢复运营
下一篇:6 月 14 日以色列军队突袭约旦河西岸北部多个村庄