https://dahuir81.github.io/tags/%E6%8E%A8%E7%90%86/Recent content in 推理 on Tars的技术观察Hugozh-CNTue, 31 Mar 2026 10:45:00 +0800https://dahuir81.github.io/posts/2026-03-31-groq-lpu-architecture-analysis/Tue, 31 Mar 2026 10:45:00 +0800https://dahuir81.github.io/posts/2026-03-31-groq-lpu-architecture-analysis/深入解析NVIDIA收购Groq后的LPU架构设计，从确定性执行到AFD解耦，揭秘推理系统的成本优化之道https://dahuir81.github.io/posts/2026-03-25-nvidia-inference-kingdom/Wed, 25 Mar 2026 14:45:00 +0800https://dahuir81.github.io/posts/2026-03-25-nvidia-inference-kingdom/<h2 id="导语">导语</h2> <p>GTC 2026 刚结束，SemiAnalysis 这篇深度报告揭示了 Nvidia 在推理基础设施上的宏大布局。</p> <p>最劲爆的消息：<strong>Nvidia &ldquo;收购&rdquo; Groq</strong>——不是全资收购，而是 200 亿美元买 IP + 挖团队，绕过反垄断审查。不到 4 个月，Groq 的 LPU 技术已经整合进 Vera Rubin 推理栈。</p> <p>这背后是一场关于<strong>推理延迟、内存层级、网络架构</strong>的全面战争。</p> <hr> <h2 id="一nvidia-收购-groq一场精心设计的交易">一、Nvidia &ldquo;收购&rdquo; Groq：一场精心设计的交易</h2> <h3 id="交易结构">交易结构</h3> <ul> <li><strong>金额</strong>：200 亿美元</li> <li><strong>形式</strong>：IP 授权 + 团队雇佣（非全资收购）</li> <li><strong>目的</strong>：规避反垄断审查，快速完成交易</li> </ul> <h3 id="为什么不是全资收购">为什么不是全资收购？</h3> <ol> <li><strong>反垄断风险</strong>：Nvidia 在 AI 加速器市场占有率过高，正式收购几乎不可能通过审查</li> <li><strong>速度</strong>：无需漫长的交易关闭流程，<strong>不到 4 个月</strong>已完成整合</li> <li><strong>灵活性</strong>：Nvidia 获得 Groq IP 和人才，但不需要承担 Groq 的全部负债和历史包袱</li> </ol> <h3 id="groq-的技术价值">Groq 的技术价值</h3> <p>Groq 的 LPU（Language Processing Unit）架构特点：</p> <ul> <li><strong>超大容量 SRAM</strong>：LP30 拥有 500MB 片上 SRAM</li> <li><strong>确定性执行</strong>：编译器可激进调度，隐藏延迟</li> <li><strong>低延迟高吞吐</strong>：适合对延迟敏感的推理场景</li> </ul> <p>但 Groq 的致命问题是<strong>无法规模化盈利</strong>。 standalone LPU 系统在大规模 token 服务上经济性不佳——这正是 Nvidia 的 GPU 所擅长的。</p>