相关内容

过去几年，AI算力竞争的核心主要围绕GPU算力展开。随着大模型参数规模不断扩大，训练需求推动高性能GPU成为AI基础设施的核心，算力规模也成为衡量AI能力的重要指标。但随着大模型从训练走向应用，推理正在成为新的增长方向。相比训练，推理更加关注低延迟、高···