梦晨 发自 凹非寺 量子位 | 公众号 QbitAI 为什么AI算力霸主永远是英伟达? 不算不知道,一算吓一跳:在英伟达平台每花一美元,获得的性能是AMD的15倍。 尽管英伟达卖的更贵,但只要买齐一套 … Continue reading 最新英伟达经济学:每美元性能是AMD的15倍,“买越多省越多”是真的
标签: nvl72
每秒110万个token!微软联手英伟达刷新AI推理纪录
IT之家 11 月 5 日消息,微软当地时间 11 月 4 日宣布,其 Azure ND GB300 v6 虚拟机在运行 Meta 的 Llama2 70B 模型时,推理速度达到了每秒 110 万个 … Continue reading 每秒110万个token!微软联手英伟达刷新AI推理纪录

