编辑:元宇 【新智元导读】2024年,加州大学圣地亚哥分校「Hao AI Lab」提出了DistServe的解耦推理理念,短短一年多时间,迅速从实验室概念成长为行业标准,被NVIDIA、vLLM等主流 … Continue reading 英伟达、DeepSeek集体跟进,18个月前被忽视,如今统治AI推理
编辑:元宇 【新智元导读】2024年,加州大学圣地亚哥分校「Hao AI Lab」提出了DistServe的解耦推理理念,短短一年多时间,迅速从实验室概念成长为行业标准,被NVIDIA、vLLM等主流 … Continue reading 英伟达、DeepSeek集体跟进,18个月前被忽视,如今统治AI推理