腾讯云将全面升级云基础设施

财联社9月16日电,在9月16日举行的2025腾讯全球数字生态大会上,腾讯集团副总裁、腾讯云总裁邱跃鹏透露,目前,腾讯云已在推理加速、Agent Infra和国际化布局等方面取得突破,腾讯云正不断升级云基础设施,以支撑Agent规模化落地和企业全球化发展。邱跃鹏介绍,在推理加速方面,腾讯云深入参与开源贡献,向DeepSeek、vLLM、SGLang等社区提交了多项优化技术。针对大模型推理面临的内存瓶颈,腾讯云自研并开源FlexKV多级缓存技术,大幅降低KVCache的占用,将首字时延降低多达70%。

Published by

风君子

独自遨游何稽首 揭天掀地慰生平