IT之家 2 月 4 日消息,腾讯混元 AI Infra 团队今日宣布推出开源生产级高性能 LLM 推理核心算子库 HPC-Ops。 该算子库宣称基于生产环境痛点,采用 CUDA 和 CuTe 从零构 … 继续阅读 腾讯混元AI Infra核心技术开源,推理吞吐提升30%
IT之家 2 月 4 日消息,腾讯混元 AI Infra 团队今日宣布推出开源生产级高性能 LLM 推理核心算子库 HPC-Ops。 该算子库宣称基于生产环境痛点,采用 CUDA 和 CuTe 从零构 … 继续阅读 腾讯混元AI Infra核心技术开源,推理吞吐提升30%