英伟达发布个人AI路由器PAIR：开源本地推理调度器

解决多智能体本地推理的资源孤岛问题

多智能体工作流正重塑本地AI推理形态：一个用户请求常被主智能体拆解为数十个独立子任务，触发大量并发模型调用。若所有请求均指向单一本地设备（如一台工作站或笔记本），执行队列迅速堆积，而同一网络中其他空闲设备（如DGX Spark或Mac）却无法参与——PAIR正是为打破这一瓶颈而生。它并非新推理引擎，而是轻量级虚拟路由层，自动发现局域网内兼容设备，并将独立推理请求动态分发至可用节点，由各节点上已部署的Ollama或LM Studio实际执行模型。

零改造接入：兼容现有生态的代理设计

PAIR最核心的设计选择是不引入新集群API。它直接代理Ollama和LM Studio原生接口，接管二者默认端口；若智能体框架监听非默认端口，亦可在PAIR配置中指定代理端口。此外，仓库还提供OpenAI兼容的代理端点。这意味着：现有智能体框架（agent harnesses）无需任何代码修改——智能体决定‘做什么’，PAIR决定‘在哪做’。

自动发现、安全配对与跨平台协同

PAIR使用mDNS协议自动发现局域网内设备；当自动发现失败时，也支持手动输入IP地址添加节点。配对通过六位PIN码完成：邀请方显示PIN，被邀方输入确认，配对成功前所有节点间通信被阻断。配对后，节点间通信采用mTLS加密，证书由PAIR自动生成。每个节点需运行Ollama或LM Studio；PAIR甚至可远程在配对设备上安装推理引擎并启动模型下载，大幅降低多机部署门槛。

基于五维信号的智能调度策略

节点仅在满足全部条件时才具备请求处理资格：设备在线就绪、启用受支持的推理引擎、本地存在完全匹配的模型标签（不同节点可持有不同模型，PAIR按模型位置路由）、当前作业负载较低、GPU利用率适中。调度器对每个请求仅分配一个节点，且该请求生命周期内始终驻留于此——不聚合显存（VRAM pooling）、不跨设备切分单次请求（no sharding）、不虚拟化GPU为统一加速器。

实测性能与硬件支持范围

英伟达演示中，PAIR与Hermes Desktop集成，模拟五子智能体处理合成邮箱任务，各节点运行Qwen 3.6 35B A3B模型。单台RTX Spark笔记本平均耗时18分钟；加入DGX Spark与RTX 5090组成三节点集群后，平均耗时降至8分48秒（注：该数据为非正式基准测试）。硬件支持包括：GeForce RTX 20系列及更新型号、Turing架构起的RTX PRO工作站GPU、DGX Spark、Apple M4及以上芯片；系统覆盖x64/arm64架构的Windows、Linux与macOS（Windows on ARM为实验性支持）。官方验证配置要求至少8GB内存、推荐20GB磁盘空间；其他Linux发行版可源码编译。

关键要点重申

• PAIR按请求粒度路由，每个请求绑定单一节点，不共享VRAM或切分模型；
• 通过代理Ollama/LM Studio接口实现零侵入集成；
• 节点准入严格依赖五大实时信号：在线状态、引擎启用、模型精确匹配、作业负载、GPU利用率；
• 当前v0.1.1公测版采用单一调度策略，暂未考虑显存容量、GPU代际差异及模型预热状态；
• 全栈开源（Apache 2.0），含完整安装包（Windows/macOS/Linux签名版）及技术文档。

> 编者观点：PAIR本质是面向边缘与混合AI场景的“本地算力编排中间件”，其价值不在替代大模型，而在盘活碎片化终端算力。对中国AI初创企业及本地化部署团队而言，它提供了一条绕过中心化云服务、低成本构建弹性推理集群的技术路径，尤其适用于隐私敏感、低延迟要求的智能体落地场景。