NVIDIA 于 2026年10月13日(周二)公布本地 AI 生态更新,面向使用 RTX Spark、本地 AI 开发工具和多台设备协同运行 AI 的用户;其中专为 RTX Spark 本地代理优化的 Nemotron 3.5 Bolt 74B-A9B 模型计划于 2026年10月15日(周四)发布,PAIR(Personal AI Router,个人 AI 路由器)正式版已于 10月13日上线。相关更新适用于全球用户。
源
对于希望把 AI 任务放在自己电脑或本地网络运行的人,这次变化主要集中在三个方向:模型选择、设备协作和软件入口。
本地 AI 模型与工具开始增加新选择
Nemotron 3.5 Bolt 74B-A9B 是此次更新中的重点模型。NVIDIA 表示,该模型专为 RTX Spark 本地代理 AI 场景优化,并计划于 10月15日发布;模型支持 llama.cpp、Ollama、vLLM、LM Studio 等工具生态。
源
同一批更新还包括 PAIR 正式版。PAIR 是 NVIDIA 发布的免费开源个人 AI 路由工具,可以在本地网络内发现兼容 PC,并把 AI 推理任务分配到有空闲算力的设备上运行。官方说明,相关数据可以留在本地网络内处理。
源
这意味着家中或工作室拥有多台电脑的用户,可以通过软件协调不同设备的计算能力,而不必把所有任务集中到单一机器。
谁会受到影响
目前最直接相关的是三类用户:
| 用户类型 | 可能关注的变化 |
|---|---|
| RTX Spark 用户 | 可以使用针对本地 AI 场景优化的新模型和软件生态 |
| AI 开发者 | 可通过 llama.cpp、Ollama、vLLM、LM Studio 等工具测试本地模型 |
| 创作者与工作室用户 | 可利用本地网络内设备协同处理 AI 推理任务 |
NVIDIA 同时宣布 Llama for Windows 免费开源应用发布,该工具基于 llama.cpp,可让用户无需命令行运行开源模型;官方还表示,PAIR 正式版新增 llama.cpp 支持、可直接从 Hugging Face 下载模型,并支持 RTX Spark,在 Windows、Linux 和 macOS 上运行。
源
用户现在可以做什么
如果正在考虑使用本地 AI,可以先检查自己的使用需求:
- 确认电脑是否属于支持本地 AI 工作流的设备环境。
- 根据用途选择模型运行工具,例如 llama.cpp、Ollama、vLLM 或 LM Studio。
- 如果有多台设备运行本地 AI,可关注 PAIR 正式版的设备协同能力。
- 等待 Nemotron 3.5 Bolt 74B-A9B 于10月15日发布后,再根据实际兼容情况测试。
需要区分的是,10月13日已经生效的是 PAIR 正式版及相关软件更新;Nemotron 3.5 Bolt 74B-A9B 的发布日期为10月15日,目前属于官方宣布的即将发布安排。
源
对于普通家庭用户,这次更新更像是本地 AI 工具链的一次扩展。真正是否值得升级,取决于是否有本地运行 AI、保护数据不离开本地网络或利用多台设备算力的需求。