OC

NVIDIA 用单卡 Nemotron 兑现开放权重立场:免费模型为什么更能卖 GPU
科技 · 2026-08-12 · AI 模型与生态 · 阅读 0

NVIDIA 用单卡 Nemotron 兑现开放权重立场:免费模型为什么更能卖 GPU

作者:林岚|OC 开发者生态编辑

作者:林岚|OC 开发者生态编辑

CNBC 报道,NVIDIA 发布 Nemotron 3.5 Lightning,并允许企业免费下载、使用和修改。官方模型卡显示,它是一个总参数 300 亿、每次推理激活约 30 亿参数的混合 MoE 模型,提供 NVFP4 权重,面向工具调用、长上下文和本地 Agent 场景。

一句话结论:NVIDIA 免费提供模型不是离开商业模式,而是把模型价格降到零来扩大 GPU 使用量;真正开放的是可下载权重和部署选择,训练数据、完整训练过程以及硬件优化仍掌握在发布方手里。

OC 此前在《25家机构为何替开放权重站台》判断,硬件、云、安全和企业软件公司支持开放权重,并不是不担心国模型竞争,而是更担心 AI 市场只剩少数封闭 API。Nemotron 3.5 Lightning 把这个立场变成了产品:模型可以免费拿走,但无论部署在个人工作站还是企业集群,运行都需要计算设备。

“单卡可运行”也需要限定条件。模型采用 NVFP4 量化和稀疏激活,减少显存与每个 token 的计算量;这不代表任意一张旧显卡都能获得相同速度,也不代表 300 亿参数在每一步全部参与。兼容的 GPU、推理框架、上下文长度和并发量都会改变实际体验。

Nemotron模型权重、推理框架与GPU销售之间的关系

官方称模型支持最长 100 万 token 上下文,并给出 MMLU Pro 81.94、SWE-bench Verified 51.56 等成绩。这些是发布方模型卡的测试结果,不是对所有硬件、量化配置和真实 Agent 工作流的独立保证。开发者更应该检查许可证 OpenMDW 1.1 的具体限制、显存需求、吞吐量,以及工具调用在自己的任务上是否可靠。

NVIDIA 同时发布 NeMo Switchyard,用于在多个模型之间按成本和任务选择路由。把模型、量化、推理和路由工具放在一起,说明其竞争目标不是成为另一个只卖聊天 API 的实验室,而是让更多模型在 NVIDIA 栈上被训练、微调和调用。开放权重扩大选择,也扩大底层算力消耗。

关键事实

  • 来源:NVIDIA 模型卡、CNBC
  • 涉及公司:NVIDIA
  • 核心技术:混合 MoE、Mamba-2、Attention、NVFP4、多 token 预测
  • 关键数字:300 亿总参数;约 30 亿激活参数;最长 100 万 token 上下文

OC 判断

Nemotron 3.5 Lightning 应被称为开放权重模型,而不是笼统地等同于传统开源软件。它确实给企业更多本地部署和修改空间,但是否形成健康生态,还要看许可证、训练透明度、非 NVIDIA 硬件支持和社区贡献能否持续。对 NVIDIA 而言,模型越便宜,算力需求越容易扩散。

为什么重要

  • 对开发者:可以在本地或私有环境测试长上下文 Agent,但要按自己的硬件与任务重新评测。
  • 对企业:开放权重降低 API 锁定,却可能把锁定位置转移到 GPU、量化格式和推理软件栈。
  • 对市场:美国开放模型政策与芯片销售利益正在同一条产品线上汇合。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4

你为什么不移民?

<p>我是一定要移了,在这里连正常呼吸都不行了。以前正常呼吸指的是言论自由,现在是生物学意义的正常呼吸问题了。</p> <p>你为什么不移民?</p>

tinyfool 740 15

重返OurCoders

<p>从2014年以来好久没逛过这个谈论了,不知道这个谈论的运营现在怎么样,开发人员是不是原来的人,前端UI做得不太好</p>

梁建溢 4 18