https://dahuir81.github.io/tags/%E6%95%B0%E6%8D%AE%E4%B8%AD%E5%BF%83/Recent content in 数据中心 on Tars的技术观察Hugozh-CNWed, 25 Mar 2026 17:25:00 +0800https://dahuir81.github.io/posts/2026-03-25-datacenter-water-myth-tokens-vs-burgers/Wed, 25 Mar 2026 17:25:00 +0800https://dahuir81.github.io/posts/2026-03-25-datacenter-water-myth-tokens-vs-burgers/<h2 id="导语">导语</h2> <p><strong>&ldquo;数据中心正在耗尽世界的水资源！&rdquo;</strong></p> <p>这个标题你一定见过。亚利桑那州甚至有数据中心项目因此被暂停或取消。但 SemiAnalysis 的最新研究揭示了一个令人震惊的事实：</p> <p><strong>世界上最大的数据中心之一，年用水量仅相当于 2.5 家汉堡店。</strong></p> <p>更惊人的是：<strong>吃一个汉堡的水足迹，足够你每天使用 AI 30 次，连续使用 668 年。</strong></p> <hr> <h2 id="一被夸大的水危机">一、被夸大的水危机</h2> <h3 id="争议的根源">争议的根源</h3> <p>数据中心水消耗确实在增加，但问题被严重夸大：</p> <ul> <li><strong>缺乏标准</strong>：水核算没有统一标准，比较混乱</li> <li><strong>忽视关键变量</strong>：冷却架构、电力来源、地理位置、当地水资源稀缺程度</li> <li><strong>标题党</strong>：&ldquo;数据中心正在扼杀世界&quot;的叙事缺乏 context</li> </ul> <h3 id="真正的关键变量">真正的关键变量</h3> <table> <thead> <tr> <th>变量</th> <th>影响</th> </tr> </thead> <tbody> <tr> <td><strong>冷却架构</strong></td> <td>干式 vs 湿式 vs 绝热，水耗差异巨大</td> </tr> <tr> <td><strong>电力来源</strong></td> <td>燃气轮机 vs 煤电，水耗不同</td> </tr> <tr> <td><strong>地理位置</strong></td> <td>气候决定冷却需求</td> </tr> <tr> <td><strong>水回收</strong></td> <td>可彻底解决问题</td> </tr> </tbody> </table> <hr> <h2 id="二colossus-2世界最大数据中心的水账">二、Colossus 2：世界最大数据中心的水账</h2> <h3 id="基本信息">基本信息</h3> <ul> <li><strong>位置</strong>：孟菲斯（Memphis）</li> <li><strong>用途</strong>：xAI Grok 模型训练</li> <li><strong>当前 IT 容量</strong>：400MW（计划扩展至 1GW+）</li> <li><strong>冷却系统</strong>：混合架构（130台干式冷却器 + 135台绝热冷却单元）</li> </ul> <h3 id="水足迹拆解">水足迹拆解</h3> <h4 id="1-冷却水消耗大头">1. 冷却水消耗（大头）</h4> <p><strong>参数假设</strong>：</p> <ul> <li>PUE：1.15</li> <li>利用率：70%</li> <li>年产生热量：2.8 TWh</li> <li>绝热辅助运行：30%</li> <li>蒸发率：0.45 gal/kWh</li> </ul> <p><strong>结果</strong>：</p> <ul> <li>年蒸发量：<strong>2.67 亿加仑</strong></li> <li>冲洗/排放：6600 万加仑（提取但未消耗）</li> </ul> <h4 id="2-发电水消耗">2. 发电水消耗</h4> <ul> <li><strong>当前使用</strong>：航改型简单循环燃气轮机</li> <li><strong>水耗</strong>：<strong>零</strong></li> </ul> <h4 id="3-芯片制造水消耗供应链嵌入">3. 芯片制造水消耗（供应链嵌入）</h4> <ul> <li>GPU：~20 万颗</li> <li>CPU：~10 万颗</li> <li>HBM3e：160 万个</li> <li>晶圆：&gt;32,000 片</li> <li>每片晶圆水耗：1,800-2,200 加仑</li> </ul> <p><strong>结果</strong>：</p>https://dahuir81.github.io/posts/2026-03-25-nvidia-inference-kingdom/Wed, 25 Mar 2026 14:45:00 +0800https://dahuir81.github.io/posts/2026-03-25-nvidia-inference-kingdom/<h2 id="导语">导语</h2> <p>GTC 2026 刚结束，SemiAnalysis 这篇深度报告揭示了 Nvidia 在推理基础设施上的宏大布局。</p> <p>最劲爆的消息：<strong>Nvidia &ldquo;收购&rdquo; Groq</strong>——不是全资收购，而是 200 亿美元买 IP + 挖团队，绕过反垄断审查。不到 4 个月，Groq 的 LPU 技术已经整合进 Vera Rubin 推理栈。</p> <p>这背后是一场关于<strong>推理延迟、内存层级、网络架构</strong>的全面战争。</p> <hr> <h2 id="一nvidia-收购-groq一场精心设计的交易">一、Nvidia &ldquo;收购&rdquo; Groq：一场精心设计的交易</h2> <h3 id="交易结构">交易结构</h3> <ul> <li><strong>金额</strong>：200 亿美元</li> <li><strong>形式</strong>：IP 授权 + 团队雇佣（非全资收购）</li> <li><strong>目的</strong>：规避反垄断审查，快速完成交易</li> </ul> <h3 id="为什么不是全资收购">为什么不是全资收购？</h3> <ol> <li><strong>反垄断风险</strong>：Nvidia 在 AI 加速器市场占有率过高，正式收购几乎不可能通过审查</li> <li><strong>速度</strong>：无需漫长的交易关闭流程，<strong>不到 4 个月</strong>已完成整合</li> <li><strong>灵活性</strong>：Nvidia 获得 Groq IP 和人才，但不需要承担 Groq 的全部负债和历史包袱</li> </ol> <h3 id="groq-的技术价值">Groq 的技术价值</h3> <p>Groq 的 LPU（Language Processing Unit）架构特点：</p> <ul> <li><strong>超大容量 SRAM</strong>：LP30 拥有 500MB 片上 SRAM</li> <li><strong>确定性执行</strong>：编译器可激进调度，隐藏延迟</li> <li><strong>低延迟高吞吐</strong>：适合对延迟敏感的推理场景</li> </ul> <p>但 Groq 的致命问题是<strong>无法规模化盈利</strong>。 standalone LPU 系统在大规模 token 服务上经济性不佳——这正是 Nvidia 的 GPU 所擅长的。</p>https://dahuir81.github.io/posts/2026-03-25-arm-agi-cpu/Wed, 25 Mar 2026 07:30:00 +0800https://dahuir81.github.io/posts/2026-03-25-arm-agi-cpu/<h2 id="导语">导语</h2> <p>卡着全世界移动芯片脖子的Arm，突然发布了自研CPU！</p> <p>这不是普通的CPU，而是Arm发展35年来首款对外销售的数据中心芯片——<strong>Arm AGI CPU</strong>。黄仁勋亲自站台，亚马逊微软Meta都来贺喜。</p> <hr> <h2 id="核心规格堆料狂魔">核心规格：堆料狂魔</h2> <table> <thead> <tr> <th>参数</th> <th>规格</th> </tr> </thead> <tbody> <tr> <td>制程</td> <td>台积电3nm</td> </tr> <tr> <td>核心数</td> <td>136个Neoverse V3核心</td> </tr> <tr> <td>L2缓存</td> <td>2MB/核心</td> </tr> <tr> <td>主频</td> <td>3.7GHz</td> </tr> <tr> <td>内存带宽</td> <td>6GB/s每核心</td> </tr> <tr> <td>内存延迟</td> <td>&lt;100ns</td> </tr> <tr> <td>PCIe</td> <td>96通道Gen 6</td> </tr> <tr> <td>互联协议</td> <td>CXL 3</td> </tr> <tr> <td>TDP</td> <td>300W</td> </tr> <tr> <td>设计</td> <td>双Chiplet</td> </tr> </tbody> </table> <p><strong>翻译成人话</strong>：这是一颗为AI智能体基础设施量身定制的怪兽级CPU。</p> <hr> <h2 id="三大设计原则">三大设计原则</h2> <p>Arm CEO Rene Haas反复强调的三个词：<strong>性能、规模、能效</strong>。</p> <h3 id="1-性能拒绝花里胡哨">1. 性能：拒绝花里胡哨</h3> <p>传统x86 CPU喜欢搞&quot;Boost模式&quot;——瞬间超频然后降频，功耗跟着坐过山车。AGI CPU不搞这套，提供<strong>全时间、可持续的满血性能</strong>。</p> <h3 id="2-规模没有多线程的执念">2. 规模：没有多线程的执念</h3> <p>x86的多线程（SMT）本质是&quot;一个核心干两个人的活&quot;，但IO和带宽不会翻倍，只是把瓶颈转移，还增加了上下文切换的开销。</p> <p>Arm观察到，数据中心运营商不得不<strong>超额配置30%甚至更多</strong>来应对这种非线性扩展问题。AGI CPU选择<strong>每线程独立核心</strong>，136个物理核心就是136个独立执行单元，没有虚头巴脑的逻辑核心。</p> <h3 id="3-能效没有历史包袱">3. 能效：没有历史包袱</h3> <p>x86背负着对遗留功能的支持负担，而AGI CPU从零开始设计，<strong>不浪费任何一个周期，不存在搁浅的算力</strong>。</p> <hr> <h2 id="部署规模风冷-vs-液冷">部署规模：风冷 vs 液冷</h2> <p><strong>风冷方案（标准36kW机架）</strong>：</p> <ul> <li>30台双节点1OU刀片服务器</li> <li>总计<strong>8160个核心</strong></li> <li>单机架性能达x86系统的<strong>2倍以上</strong></li> </ul> <p><strong>液冷方案（200kW）</strong>：</p> <ul> <li>336颗AGI CPU</li> <li>超过<strong>45000个核心</strong></li> <li>每1GW数据中心算力资本支出节省高达<strong>100亿美元</strong></li> </ul> <hr> <h2 id="朋友圈豪华阵容">朋友圈豪华阵容</h2> <p>首发合作伙伴名单堪称AI基础设施全明星：</p> <ul> <li><strong>Meta</strong>：联合开发，与自研MTIA加速器协同</li> <li><strong>OpenAI</strong>：现场站台</li> <li><strong>Cerebras、Cloudflare、F5、Positron、Rebellions、SAP、SK电讯</strong></li> </ul> <p>供应链大佬集体打call：</p> <blockquote> <p>&ldquo;加速计算并没有让CPU变得无关紧要，它让CPU成为不可或缺的合作伙伴。&rdquo; —— 黄仁勋</p>