智东西 作者 | 云鹏 编辑 | 心缘 智东西11月21日报道,刚刚,华为正式发布了Flex:ai,一项能够将智算资源利用率提升30%的AI容器技术。值得一提的是,这项技术并无生态限制,英伟达的GPU … Continue reading 刚刚,华为AI突破性技术公布!英伟达花50亿才买到“同款”
标签: 魔擎
华为发布AI新技术:单卡同时承载多AI工作负载 提升硬件资源利用率
快科技11月21日消息,据媒体报道,华为今日正式发布Flex:ai AI容器软件。该产品的核心突破在于运用算力切分技术,可将单张GPU/NPU算力卡精细切分为多个虚拟算力单元,最小粒度精准至10%。 … Continue reading 华为发布AI新技术:单卡同时承载多AI工作负载 提升硬件资源利用率
华为发布AI推理新技术 将于今年9月正式开源
《科创板日报》8月12日讯(记者 黄心怡)华为今日发布AI推理创新技术UCM(推理记忆数据管理器)。作为一款以KV Cache为中心的推理加速套件,其融合了多类型缓存加速算法工具,分级管理推理过程中产 … Continue reading 华为发布AI推理新技术 将于今年9月正式开源

