NVIDIA Personal AI Router (PAIR)
NVIDIA PAIR permite que tus aplicaciones y agentes de IA se ejecuten en todos tus dispositivos locales, desde NVIDIA DGX Spark™ y NVIDIA RTX Spark™ hasta sistemas Windows y Linux con RTX y ordenadores macOS. Saca el máximo partido a tu hardware sin perder la privacidad de los prompts, los archivos y el contexto del agente.
Descubre cómo funciona NVIDIA PAIR
Características
¿Qué puede hacer NVIDIA PAIR?
Clúster de IA personal Potencia tu hogar
Reúne los sistemas RTX, DGX y Mac que ya están en tu red en cuestión de minutos. NVIDIA PAIR descubre máquinas locales compatibles y les ayuda a funcionar como un clúster personal de inferencia de IA, sin necesidad de cables especiales, bastidores ni configuraciones complejas de clústeres.
Enrutamiento de la carga de trabajo de agentes Más espacio para pensar
Mantén los flujos de trabajo de IA locales en funcionamiento cuando se acumulen tareas. NVIDIA PAIR enruta las solicitudes de inferencia de IA a través de los nodos locales disponibles, lo que ayuda a los flujos de trabajo de IA con mayor carga de procesamiento a aprovechar los recursos informáticos inactivos, independientemente del sistema operativo del nodo.
Compatible con Ollama, llama.cpp y LM Studio Utiliza las herramientas que conoces
Ejecuta NVIDIA PAIR junto con los backends locales de inferencia habituales en Windows, Linux y macOS. En su lanzamiento, NVIDIA PAIR es compatible con Ollama, llama.cpp y LM Studio, lo que ofrece a las aplicaciones un endpoint único y coherente, a la vez que dirige de forma inteligente las solicitudes hacia los recursos informáticos locales disponibles.
Inferencia local privada Todo se queda en casa
Ejecuta flujos de trabajo de IA en casa con datos que permanecen en tu red. NVIDIA PAIR está diseñado para la inferencia local privada, lo que ayuda a utilizar indicaciones, archivos y contexto de agentes sin enviarlos a la nube.
Cómo empezar a usar NVIDIA PAIR
NVIDIA PAIR funciona sin cables ni bastidores especiales. Además, es fácil de configurar.
2
Añade tus dispositivos al clúster.
3
Ejecuta tus aplicaciones y agentes de IA.
Descarga NVIDIA PAIR
Información
Plataforma
Windows 11, DGX OS, Ubuntu 24.04, macOS Tahoe
Idioma
Inglés
Configuraciones validadas
GPU
Todas las GPU GeForce RTX™ (serie 20 y posteriores), DGX Spark/GB10, RTX Spark, Mac M1 o posteriores
RAM
4 GB de RAM o superior
Espacio en disco
Recomendado: 500 MB, sin incluir los modelos
Internet
No se requiere Internet para el funcionamiento
Se requiere para la descarga del modelo
Gracias a nuestros colaboradores
Queremos dar las gracias especialmente a los siguientes miembros de la comunidad por compartir ideas, enviar propuestas y correcciones, investigar problemas y probar PAIR:
| @XxSilentStormIxX | @woodsonl |
| @agenticocho | @stevbev |
| @Mayimbe07 | @habakan |
| @cruzanstx | @arcaven |
| @pettersandvand | @somtri |
| @cguldogan | @imluffy000 |
| @mkalkere | @ndizazzo |
| @CryptoJones |
Aspectos destacados del lanzamiento de NVIDIA PAIR
Esta versión se centra en integrar la compatibilidad de llama.cpp y RTX Spark en PAIR, a la vez que establece nuestro flujo de trabajo de desarrollo y contribución públicos en GitHub.
Novedades
- Compatibilidad con llama.cpp. Instala y gestiona llama.cpp directamente desde PAIR, descarga los modelos GGUF compatibles desde Hugging Face y enruta las solicitudes de inferencia entre los dispositivos emparejados.
- Opciones de lanzamiento del motor. Personaliza los argumentos de lanzamiento y las variables de entorno para los motores gestionados por PAIR en dispositivos locales y emparejados. El motor admite la configuración de parámetros, como el tamaño del contexto.
- Compatibilidad con RTX Spark. La versión de Windows on ARM de PAIR se ha validado con llama.cpp y CUDA en el hardware RTX Spark N1X.
Contribuciones de la comunidad
- Se ha añadido el enrutamiento de la API Anthropic Messages a través de Ollama y LM Studio, lo que permite que los clientes compatibles, como Claude Code, utilicen la conmutación por error y el enrutamiento según el modelo de PAIR. ¡Gracias, @Ratherrayees! (#27)
- Se ha mejorado la eficiencia de la supervisión del motor al reutilizar las conexiones HTTP para las comprobaciones de estado. ¡Gracias, @Psych0h3ad! (#37)
- Se han corregido las actualizaciones innecesarias de la confianza en los clústeres al enviar notificaciones solo después de guardar correctamente las nuevas aprobaciones de pares. ¡Gracias, @RecursiveIntell! (#62)
- Se ha corregido la sincronización de la carga de trabajo entre los nodos: las transmisiones conservan el orden de los eventos y las notificaciones fallidas al intermediario siguen pudiendo reintentarse. ¡Gracias, @mkalkere! (#80)
- Se ha corregido el error por el que las actualizaciones de prioridad del planificador se marcaban como entregadas, permitiendo reintentos y manteniendo la precisión del estado. ¡Gracias, @sylvesterkaczmarek! (#122)
- Se aislaron las pruebas de integración de servicios y de conmutación por error del proxy de la configuración local de PAIR, lo que impide que las pruebas lean o sobrescriban la configuración del desarrollador. ¡Gracias, @somtri! (#95)
- Se han corregido los ejemplos de intención de lanzamiento para utilizar la clave de versión de los servicios requerida. ¡Gracias, @somtri! (#120)
- Se han actualizado las instrucciones para colaboradores sobre ramificar y hacer un rebase sobre develop. ¡Gracias, @somtri! (#126)
- Se han corregido las tarjetas de nodo que solo mostraban la primera GPU en los sistemas multiGPU; ahora muestran todas las GPU. ¡Gracias, @CryptoJones! (#34)
Nota de compatibilidad
- Los endpoints locales de PAIR ahora siguen la política CORS de cada motor, en lugar de permitir todos los orígenes de navegador. Los clientes basados en el navegador pueden necesitar una configuración adicional del motor. Para Ollama, configura los orígenes permitidos con OLLAMA_ORIGINS en las Opciones de lanzamiento del motor.
- El nombre oficial de PAIR ha cambiado de «Personal AI Router» a PAIR. En los sistemas macOS, los usuarios tendrán que desinstalar sus versiones antiguas, pero deben arrastrar y soltar en la carpeta de aplicaciones para no perder los modelos.
- Las versiones de LM Studio instaladas por versiones anteriores de PAIR no se desinstalarán al desinstalar una versión más reciente de PAIR. Si los usuarios quieren desinstalar LM Studio, tendrán que hacerlo manualmente desde el directorio ~/.lmstudio.
Recursos de soporte de PAIR
Preguntas frecuentes sobre PAIR
NVIDIA Personal AI Router (PAIR) es un software que conecta sistemas macOS, Windows y Linux compatibles con GPU NVIDIA RTX™ y sistemas DGX Spark en un clúster personal de IA doméstico. PAIR distribuye cargas de trabajo de inferencia de IA locales entre los dispositivos disponibles al tiempo que mantiene las indicaciones, los archivos y el contexto de los agentes en la red doméstica del usuario.
Un clúster personal de IA doméstico conecta múltiples dispositivos compatibles en la misma red local, lo que les permite compartir recursos informáticos disponibles para la inferencia de IA local. PAIR permite que los Mac, los sistemas NVIDIA RTX y los sistemas DGX Spark proporcionen más capacidad para aplicaciones y agentes de IA locales. Los dispositivos siguen siendo sistemas separados que gestionan tareas paralelas; PAIR no los combina en una GPU virtual.
Descarga PAIR, instálalo en sistemas compatibles, empareja los dispositivos en la misma red local y añádelos al clúster. Una vez conectados, las aplicaciones y agentes compatibles pueden enviar solicitudes de inferencia a través del endpoint local de PAIR.
NVIDIA PAIR requiere sistemas compatibles con macOS, Windows o Linux, así como hardware compatible. Los requisitos pueden incluir versiones específicas del sistema operativo, GPU NVIDIA RTX, memoria de la GPU, memoria del sistema, procesadores, almacenamiento y conectividad de red local. Consulta la sección Requisitos del sistema de la página de aterrizaje de NVIDIA PAIR para obtener información actual.
PAIR está diseñado para la inferencia local privada. Las indicaciones, los archivos y el contexto de los agentes permanecen en la red local del usuario, en lugar de enviarse a un servicio de inferencia en la nube.
