AMD MI355X 以 NVIDIA B200 一半的成本实现 GLM 5.2 推理

qingsechuntian2026-07-07 05:02:36news

据专注于推理优化的初创公司 Wafer 表示,搭载最新开源模型 GLM 5.2 的 AMD MI355X 芯片,其推理成本约为英伟达旗舰 B200 GPU 的一半,同时性能达到后者的约 80%。测试显示,单节点总吞吐量为每秒 2,626 个 token,单流吞吐量达到每秒 213 个 token。该优化利用了软件技术,包括模型量化、推理引擎选择和 ROCm 兼容性修复,而非定制硬件。

SemiAnalysis 的另一份报告证实了类似结果,指出 AMD MI355X 在交互场景下的推理成本为每百万 token 0.22 美元,低于英伟达 B200 的 0.30 美元。然而,AMD 的优势主要仍体现在单节点部署中;英伟达在多节点分布式系统和大型应用领域仍保持显著领先。


Nova Intelligence 完成由 Chemistry 牵头的 3150 万美元 A 轮融资,于 5 月 5 日完成

据《财富》报道,AI代理平台NovaIntelligence于5月5日完成了一轮3150万美元的A轮融资,由Chemistry领投。Accel、Conviction和SAP.io也参与了本轮融资。Nova的平台可对财富500强企业的薪资、供应链和金融职能进行分析...

GENIUS and CLARITY Acts 法案提议稳定币和数字资产监管

《GENIUS法案》和《CLARITY法案》提议在美国为稳定币和数字资产分类建立监管框架。《GENIUS法案》提出稳定币的储备支持要求、牌照标准、消费者保护以及稳定币的互操作框架;而《CLARITY法案》旨在界定数字资产在美国...

卡塔尔持有的 60 亿美元基金在美伊和平谈判中浮出水面,成为卡点

据《纽约邮报》报道,价值60亿美元的、由卡塔尔管理的资金已成为美伊临时和平谈判中的关键卡点。尽管这些资金分阶段解冻的能力仍未解决,截至5月30日仍存在不确定性。美国政府一名官员表示,双方比以往任何时候都更...

Upbit 母公司 Dunamu 公布 2023 年第二季度财报,合并净利润为 1080 亿韩元

据韩联社,韩国最大加密货币交易所Upbit母公司Dunamu公布2023年第二季度财报,合并净利润为1080亿韩元(约合8208万美元),去年同期净亏损378亿韩元。二季度营收为1.42亿美元,同比下降47.9%;营业利润6582万美元,...

GMO Media与游戏区块链Oasys达成合作,将推出 “GESOTEN Verse”

游戏区块链Oasys宣布与日本互联网巨头GMOInternetGroup的子公司GMOMedia合作,在Oasys上推出“GESOTENVerse”(暂定名称)。作为合作的一部分,三款游戏已确认将于2023年12月与新Verse一起发布。“GESOTENVerse”将...

上一篇:Binance 上的 XRP 稀缺性达到 2024 年中峰值,Falling Wedge 形态接近突破
下一篇:MSCI 将于 7 月 17 日前确认预警板处理情况