智算多多联系我们

官方邮箱:sw@zsdodo.com

公司地址:北京市丰台区南四环西路188号总部基地三区国联股份数字经济总部(邮 编:100070)
关注我们

公众号

视频号
◎2025 北京智算多多科技有限公司版权所有 京ICP备 2025150592号-1
京公网安备11010602202532号
京公网安备11010602202532号 | 作者 | 高飞 | 英伟达的GTC2026。开幕前几天,看到Wired杂志报了一个猛料:英伟达计划在未来五年投入260亿美元去开发开源模型。所以,等GTC真开起来的时候,我在现场就额外关注这方面的消息。 |
|---|---|
| 开源模型也确实在本次大会上,占了很大的篇幅。 | |
| 黄仁勋是主在主题演讲中用大量篇幅谈论这个话题,有六个模型家族的最新进展,有Nemotron联盟(稍后我们会细讲)的成立。之后,他又在GTC期间主持了一场Open Model圆桌。开源模型显然已经成为英伟达最高优先级的战略方向之一。 | |
| 一家以芯片、加速计算闻名的公司,为什么要在模型上投入如此大的力量? | |
| @img11@@ | NVIDIA AI软件副总裁Kari Briski(右)、至顶科技CEO高飞(左) |
| 在GTC期间,我把这个问题抛给英伟达AI软件副总裁Kari Briski,她给了我一个类比作为回答: | |
| “我们把模型当成一个库来对待。开发者以依赖它,我们有清晰的路线图,会持续迭代,会持续支持它。” | |
| 一个库。这个类比,只有理解CUDA的人才能完全体会。 | |
| CUDA对英伟达的重要性其实已经无需多言。它的全称是Compute Unified Device Architecture(统一计算设备架构),2007年发布,最初的目的是让开发者用C语言直接编写GPU程序,而不必懂图形渲染。 | |
| 在那之前,GPU只能跑游戏画面;CUDA出现后,GPU变成了一台通用并行计算机。此后近二十年,英伟达围绕CUDA构建了一个庞大的生态系统。这个生态系统的核心,就是Briski所说的“库”。通俗来说,CUDA的库就是英伟达替开发者写好的现成工具包,开发者不需要从零开始,调用CUDA中对应的库就能完成特定任务。 | |
| 最主流的AI框架,底层都对CUDA做了深度优化。这意味着全球绝大多数AI模型的训练和推理,实际上都在CUDA的轨道上运行。 | |
| 这些库的关键特征是:英伟达承诺长期维护,每一代新硬件发布时同步更新,保证向后兼容。开发者可以放心地把整个技术栈建在上面。所以,当Briski用“库”来类比开放模型时,我们自然就很容易感受到开放模型在英伟达业务中的“权重”了。 | |
| 那么具体来说,开放模型具体能在英伟达的体系里扮演什么角色,起何种作用呢?在后续的采访中,Briski从训练、生态、工具链和agent等维度展开了解释。 | |
| 极致协同设计:训练模型的两重目的 | |
| Briski在采访中首先强调了一个词:extreme co-design(极致协同设计)。这个表述最近也频繁出现在黄仁勋的公开演讲中。它描述的不是某一个产品,而是一种设计哲学:GPU、CPU、网络交换芯片、存储处理器等不同组件,在设计阶段就深度耦合,而非各做各的。芯片的架构设计会考虑模型训练的需求,模型的训练方案也会专门利用芯片的新特性,连接它们的软件规则在两端之间做桥梁。英伟达认为这种方式是它区别于纯芯片公司或纯模型公司的根本所在。 | |
| 在这种哲学下,英伟达亲自训练模型自然就有了两重目的。 | |
| 第一重,面向外部:训练出的模型本身成为生态系统的公共资源。“我们可以把模型开放出去,让整个生态系统去使用、在上面微调、构建自己的业务”,Briski说。 | |
| 第二重,面向内部:训练过程本身是对整套基础设施的极限压力测试。“我们需要通过训练模型来把基础设施逼到极限”,她说,“不只是算力,还包括存储和网络。”当数千块、数万块GPU协同训练一个模型时,系统中任何一个环节的瓶颈都会暴露出来。 | |
| 她举了一个具体的技术细节来说明第二点:NVFP4。这是英伟达随Blackwell GPU架构推出的一种4位浮点精度格式。通俗来说,AI模型训练中的每个数值通常需要16位(FP16)甚至32位(FP32)来存储,精度越高结果越准确,但计算量和内存占用也越大。英伟达的NVFP4把每个数值压缩到仅4位,并通过一种“双层缩放”机制(每16个数值共享一个高精度缩放因子)来弥补精度损失。根据英伟达的技术文档,NVFP4相比FP16可以将模型内存占用缩减约3.5倍,相比FP8缩减约1.8倍,同时在关键语言建模任务上的精度损失控制在1%以内。Blackwell Ultra GPU的NVFP4峰值算力达到15 petaFLOPS,是FP8的3倍。 | |
| “任何人大概都能用NVFP4训练一个基础模型”,Briski说,“但你能做到在如此低的精度下仍然达到业界最高的准确率吗?如果不能,没有人会用它。”这正是“极致协同设计”要解决的问题:4位精度能不能用,不取决于格式本身的定义,而取决于从芯片的张量核心(Tensor Core)到训练框架(如NeMo Megatron)再到模型架构的整条链路是否全部做了针对性优化。 | |
| 所以,训练一个开放模型,对英伟达来说,还起到了系统性能试金石的作用。 | |
| 六个模型家族和一个联盟 | |
| 如果说CUDA已有的400多个库覆盖了计算层面的各种需求,那英伟达现在正在用不同尺寸的模型覆盖不同层面的需求。 | |
| GTC 2026上,英伟达讲了模型家族:Nemotron负责语言理解与推理,是接近ChatGPT或Claude的通用模型;Cosmos是“世界基础模型”,为机器人提供对物理世界的理解能力,包括重力、阻力和空间感知;Isaac GR00T专人形机器人设计,让它们能够同时移动和操作物体;Alpamayo面向自动驾驶,帮助车辆在复杂路况中进行推理和决策(在GTC大会期间,我也体验了Alpamayo的45分钟自动驾驶,全程0接管,乘坐体验很丝滑);BioNeMo用于生命科学,支持蛋白质结构预测和药物发现;Earth-2则专注气候与天气模拟。六条线从数字世界延伸到物理世界,覆盖了AI可能触达的几乎所有前沿领域。 | |
| Briski还到了一个容易被忽视的细节:这六个模型家族之间会共享数据。“比如Cosmos团队就在为Nemotron模型贡献视觉理解数据。我们内部合作非常紧密。” | |
| 围绕这些模型,英伟达确实构建了一种C UDA开发者非常熟悉的节奏:清晰的路线图和可预期的迭代。Briski提到,英伟达在2025年12月就发布了Nemotron模型的路线图:Nano、Super、Ultra三个规格,分别对应轻量级、中等规模和前沿级。 | |
| 目前,Ultra版本(约5000亿参数)的基础训练已经完成,进入后训练阶段。同时,英伟达宣布成立Nemotron Coalition(Nemotron联盟)。这个联盟的成员包括法国的Mistral AI(欧洲最具影响力的模型公司之一)、AI搜索引擎Perplexity、AI代码编辑器Cursor,以及agent开发框架LangChain、前OpenAI CTO MiraMuri创立的Thinking Machines Lab、Black Forest Labs、Reflection AI、Sarvam等。它们将使用英伟达的DGX Cloud算力资源,分别参与下一代Nemotron 4的模型训练、数据贡献、评估框架和领域专长等工作。 | |
| “路线图越清晰、承诺越明确,大家就越会意识到:这是一个可以长期依赖的库。”Briski总结。 | |
| 比开放权重更开放:把工具链也给你 | |
| 说到开放模型,我们还有必要先厘清两个容易混淆的概念:开放权重(open weight)和开源(open source)。 | |
| Open-weight model(开放权重模型):只公开训练后的参数(权重),不公开训练代码、数据集和架构细节。Llama等都属于这类。 | |
| Open-source AI model(开源AI模型):按照OSI 2024年的定义,需要同时公开data information、code、parameters三者。OLMo、BLOOM属于这类。 | |
| 行业里常把这两个词混着用,但它们指向不同层次的“开放”。 | |
| 开放权重,是指把模型训练完成后的参数(即“权重”)公开发布,任何人可以下载、部署和微调。你拿到的是一道做好的菜,可以加盐加醋调味,但看不到完整的食谱。 | |
| 开源则更进一步:除了模型权重,还公开训练代码、数据集构成、架构细节,甚至训练过程中的中间检查点。你拿到的是整套食谱,包括原料清单、烹饪步骤和厨房设备说明。 | |
| 而英伟达的Nemotron的开源就非常彻底,其开放了后训练方案(recipes)、强化学习的环境和验证器(verifiers)。根据英伟达公开的技术文档,其开放的预训练数据集规模达到10万亿token。 | |
| 这里需要解释一下“后训练”和“强化学习环境”。AI模型的训练通常分为两个阶段:预训练(pre-training)是让模型阅读海量文本,学会语言的基本规律;后训练(post-training)则是在预训练的基础上,通过人类反馈或强化学习来洞察模型的行为,让它变得更有用、更安全。后训练阶段中,“训练环境”是指模型练习解题的场景集合(比如数学题库、代码测试用例),“验证器”则是判断模型回答是否正确的评分系统。 | |
| 目前行业内大多数公司开放模型时只发布最终的权重,而后训练阶段使用的训练环境和验证器通常不会公开。 | |
| 不过,英伟达的做法不同。“我们正在和数据供应商合作,共同构建新的环境和验证器,并把它们开放出去,让大家能够理解如何自己创建这些环境。”Briski告诉我。 | |
| 她举了两个企业强化学习的例子。SAP是全球最大的企业软件公司之一,其ERP系统中有至少2000个工具接口,需要训练模型学会在复杂的企业环境中正确调用这些工具。另一个例子是Edison Scientific,Briski提到他们用自定义模型训练了一套针对科学工具的agent。 | |
| 她举两个企业强化学习的例子。SAP全球最大的企业软件公司之一,其ERP系统中有至少2000个工具接口,需要训练模型学会在复杂的企业环境中正确调用这些工具。另一个例子是Edison Scientific,Briski提到他们用自定义模型训练 | |
