AI算力、存储与运力发展趋势深度解析

　　从算力层面来看，英伟达的芯片产品是行业发展的核心风向标。作为全球AI计算芯片领域占据绝对市场份额的龙头企业，英伟达的产品迭代节奏，对整个AI硬件行业具备极强的指引作用。

　　从英伟达的产品迭代来看，芯片制程正在持续微缩。此前推动全球半导体产业制程持续迭代的核心动力是智能手机，比如此前台积电最先进的制程工艺，绝大部分产能都优先供应苹果公司。但现在，推动半导体制程迭代的核心主角已经发生变化，未来这一趋势也将持续延续。

摩尔定律放缓下的算力供需缺口

　　为什么要持续推进制程升级？核心是让AI计算能够充分受益于摩尔定律带来的性能红利。但摩尔定律的迭代速度相对有限，通常需要两年多时间才能实现性能翻倍。当前半导体制程逐渐逼近1纳米物理极限，摩尔定律的迭代速度还在持续放缓。但与此同时，AI算力需求呈现爆发式增长，如何填补这一供需缺口，成为行业核心命题。

　　在这样的行业背景下，行业选择通过扩大芯片部署规模来满足算力需求——当摩尔定律带来的单芯片性能提升跟不上算力需求增长时，就通过增加芯片投放量、扩建数据中心的方式，填补算力缺口。这也直接推动了算力芯片市场的高速增长。海外市场中，无论是英伟达的GPU，还是谷歌的TPU等AI算力芯片，均实现了极快的增长。以上就是算力层面的行业发展趋势。

AI驱动下的存储需求爆发

　　对于存储的情况，其最本质的需求就来自于AI的带动。因为我们知道，AI领域需要大量存储来存放数据，不管是GPU上面有很多的HBM——HBM就是一种高带宽内存。除了HBM以外，英伟达还在其机柜里面配置了大量DRAM、NAND等存储芯片，催生了对应的需求。现在随着agent的快速发展以及放量，尤其推理市场现在起量得这么快，我们知道很多用户，比如很多人可以看到自己的公司里面可能已经部署了一些大模型了。这种大模型在部署的时候，本身带有海量参数，每个大模型的参数规模都极为庞大，用来存储这些参数的存储需求也十分强劲。后续大模型还在不断地走强，那么从这一发展逻辑来看，后续存储的需求还会快速地增加。就目前来看，存储的涨价可能还会持续一段时间。所以存储的景气度，本质上还是来源于AI的计算需求在快速地增长，从而带来的价格上行效应。

运力：Scale Up与Scale Out的组网逻辑

　　而运力，是我们今天想重点给大家分享的板块。其实对于运力而言，其组网逻辑主要分为两个部分。或者说我们可以想象，海外的云厂商要进行组网，是通过两个阶段实现的：第一个是scale up。

Scale Up：服务器内部的GPU互联

　　这个scale up怎么理解？比如英伟达之前的A100以及H100的GPU，都是以八张GPU组成一个小型集群，再把这些服务器通过柜外连接，组成超大规模的数据中心。单台服务器内部的GPU互联，我们就可以看作是scale up，它原本就要把服务器里面的GPU连接成一个整体，服务器之内的互联就是scale up。我们从scale up的发展来看，单集群内的GPU数量在不断地增加。目前来看，单柜GPU数量已经增加到72卡，后续本次发布的576卡机柜将进一步刷新单机柜算力规模。这也是刚刚提到的，我们在GTC大会上看到的核心发布内容。

Scale Out：跨服务器/机柜的大规模集群互联

　　Scale out是什么？就是要把这些服务器或者机柜组成一个超大规模的整体，只有组成完整的大规模集群、搭建起超大型数据中心之后，才能开展AI的训练以及推理工作。从目前来看，海外头部的云厂商，已经建成了十几万卡的GPU集群，整体发展速度非常快。

互联技术方案：PCB与铜缆

高规格PCB：电子元器件之母的高端演进

　　那么我们在实现scale up和scale out的互联时，有哪些可用的技术方案？第一个是PCB，可能有的朋友知道PCB是什么。大家如果在家拆过闹钟或者其他电器，就会知道里面基本都会有一块PCB。PCB就是印刷电路板，被称作电子元器件之母，其核心作用就是让电路能够更高效、更稳定地运行。当然，不同PCB之间的规格差异极大，比如我们家里闹钟里面用的PCB，一平方米可能也就100多块钱。

　　但是像英伟达这类企业，或是其他云厂商，用于GPU计算芯片的PCB，规格都非常高：基材目前基本都在M8级别，后续还会向M9甚至M10的材料迭代；层数也很高，普遍能达到二三十层，还带有一次DI的相关设计。所以AI场景所用的PCB单价极高，部分产品一平方米能卖到几万块钱，甚至更高。

　　所以我们可以看到，相关PCB企业的业绩成长得也非常迅猛，从市场规模来看，也在快速地扩大，目前整个行业产能都处于供不应求的状态。大家可以看到，很多厂商目前都在快速地扩产，后续产能释放之后，对相关厂商的业绩提振是比较乐观的。当然这里只是给大家做行业情况的分析列示，不做任何个股推荐。

铜连接：当前主流但存在物理瓶颈

　　第二种备选的互联方式是铜连接。大家可以看到，我列示了英伟达机柜背面的实拍情况，机柜背面这些银白色、一捆一捆的部件，就是英伟达目前在NVL72机柜中所用的铜缆，整体用量非常大。

资料来源：Nvidia

　　这些铜缆的作用是什么？大家可以看下方的示意图，英伟达的机柜内部是一个个独立的托盘，每个计算托盘里放置4个GPU，一个机柜内有18个计算托盘，所以总共有72张GPU。计算托盘内部的GPU，主要通过PCB来连接。从内部结构来看，这个结构就相当于一个托盘，每个托盘里有两个超级芯片，每个超级芯片上搭载两个GPU，下方蓝色的部分就是两块PCB，也就是我们刚刚提到的高规格PCB。这里我们可以看到，PCB将4个GPU组成了一个完整的计算托盘。

　　下一步，就是要把所有的计算托盘，组成一个完整的机柜整体。而机柜内部的跨托盘互联，就是靠铜缆来实现的。基本就是通过铜缆连接NV Switch芯片，从而把机柜内所有72张GPU组成一个完整的互联整体。

资料来源：Nvidia

　　但是铜缆也有自身的技术局限。比如目前单层网络下，用铜缆组成72卡集群已经接近物理极限，如果再叠加一层网络，最多也只能扩展到576卡，且这还只是技术层面的设想，未必能完全实现。因为铜本身存在诸多物理限制，我们知道铜是导体，而当下数据中心的功耗极高，功耗高的核心原因，是计算芯片的计算吞吐量极大，数据传输过程中的运算量极高，传输的电流更大、信号频率也更快。

资料来源：Nvidia

　　如果用铜缆承担数据传输任务，极有可能出现过度发热的问题。持续发热就意味着能量损耗，长时间工作还会引发数据丢失等问题，这在AI训练与推理场景中是绝对无法容忍的。为什么？我们以训练为例，AI模型需要通过一次次的迭代，不断寻找到最优的参数集合，如果每次迭代都丢失一部分数据，最终很可能导致整个训练过程完全无效。所以铜缆的核心问题