英伟达 Groq 3 LPX 芯片全面投产，Gemma 4 31B 推理速度达每秒 3400 token

Techub News 消息，英伟达宣布其 Groq 3 LPX 推理芯片已进入全面生产阶段，在 Gemma 4 31B 模型上实现每秒 3400 token 的推理速度，宣称比 Cerebras 快四倍。但实际性能对比更为复杂，英伟达需要至少 64 个加速器才能达到此速度，而 Cerebras 仅需一至两个。该架构在大型 MoE 模型上的扩展能力仍有待观察。 （The Decoder）