NVIDIA Personal IA Router (PAIR)
NVIDIA PAIR permite que tus aplicaciones y agentes de IA se ejecuten en todos tus dispositivos locales, desde NVIDIA DGX Spark™ y NVIDIA RTX Spark™ hasta los sistemas Windows y Linux con RTX y las computadoras macOS. Aprovecha al máximo tu hardware a la vez que mantienes la privacidad de las indicaciones, los archivos y el contexto del agente.
Mira Cómo Funciona NVIDIA PAIR
Características
¿Qué puede hacer NVIDIA PAIR?
Clúster de IA Personal Potencia tu Casa
Reúne los sistemas RTX, DGX y Mac que ya están en tu red en minutos. NVIDIA PAIR descubre máquinas locales compatibles y las ayuda a trabajar como un clúster de inferencia de IA personal sin necesidad de cables especiales, bastidores ni una configuración compleja de clústeres.
Enrutamiento de la Carga de Trabajo de los Agentes Más Espacio para Pensar
Mantén los flujos de trabajo de IA locales en movimiento cuando las tareas se acumulan. NVIDIA PAIR enruta las solicitudes de inferencia de IA a través de los nodos locales disponibles, lo que ayuda a los flujos de trabajo de IA ocupados a aprovechar la computación inactiva, independientemente del sistema operativo del nodo.
Compatibilidad con Ollama, llama.cpp y LM Studio Usa las Herramientas que Conoces
Ejecuta NVIDIA PAIR junto a los backends de inferencia local familiares en Windows, Linux y macOS. En el momento del lanzamiento, NVIDIA PAIR es compatible con Ollama, llama.cpp y LM Studio, lo que ofrece a las aplicaciones un punto de conexión único y consistente a la vez que transmite por proxy de forma inteligente las solicitudes a los recursos de computación local disponibles.
Inferencia Local Privada Mantenlo Cerca de Casa
Ejecuta flujos de trabajo de IA en casa con datos que permanecen en tu red. NVIDIA PAIR está creado para la inferencia local privada, lo que te ayuda a usar prompts, archivos y el contexto del agente sin enviarlos a la nube.
Cómo Comenzar con NVIDIA PAIR
NVIDIA PAIR funciona sin cables ni bastidores especiales. Además, se configura fácilmente.
2
Agrega tus dispositivos al clúster.
3
Ejecuta tus aplicaciones y agentes de IA.
Descargar NVIDIA PAIR
Información
Plataforma
Windows 11, DGX OS, Ubuntu 24.04, macOS Tahoe
Idioma:
Inglés
Configuraciones Validadas
GPU
Todas las GPU GeForce RTX™ (Serie 20 y posteriores), DGX Spark/GB10, RTX Spark, Mac M1 o posteriores
RAM
4 GB de RAM o más
Espacio en Disco
Recomendado: 500 MB, sin incluir modelos
Internet
No se requiere Internet para el funcionamiento
Se requiere para descargar modelos
Gracias a Nuestros Colaboradores
Un agradecimiento especial a los siguientes miembros de la comunidad por compartir ideas, enviar propuestas y correcciones, investigar problemas y probar PAIR:
| @XxSilentStormIxX | @woodsonl |
| @agenticocho | @stevbev |
| @Mayimbe07 | @habakan |
| @cruzanstx | @arcaven |
| @pettersandvand | @somtri |
| @cguldogan | @imluffy000 |
| @mkalkere | @ndizazzo |
| @CryptoJones |
Aspectos Destacados de la Versión de NVIDIA PAIR
Este lanzamiento se centra en llevar la compatibilidad con llama.cpp y RTX Spark a PAIR, a la vez que establece nuestro workflow de desarrollo y contribución público en GitHub.
Novedades
- Compatibilidad con llama.cpp. Instala y administra llama.cpp directamente desde PAIR, descarga modelos compatibles de GGUF desde Hugging Face y enruta las solicitudes de inferencia a través de dispositivos emparejados.
- Opciones de Lanzamiento de Motor. Personaliza los argumentos de lanzamiento y las variables de entorno para motores administrados por PAIR en dispositivos locales y emparejados. El motor era compatible con ajustes como el tamaño del contexto.
- Compatibilidad con RTX Spark. La versión de Windows on ARM de PAIR ha sido validada con llama.cpp y CUDA en el hardware RTX Spark N1X.
Contribuciones de la Comunidad
- Se agregó el enrutamiento de la API de Anthropic Messages a través de Ollama y LM Studio, lo que permite a clientes compatibles como Claude Code usar el enrutamiento y el failover basados en modelos de PAIR. ¡Gracias @Ratherrayees! (#27)
- Mejoró la eficiencia del monitoreo del motor al reutilizar conexiones HTTP para controles de salud. ¡Gracias @Psych0h3ad! (#37)
- Se corrigió el error de que la confianza de clústeres se actualiza innecesariamente al enviar notificaciones solo después de que se guardan con éxito las nuevas aprobaciones de pares. ¡Gracias @RecursiveIntell! (#62)
- Sincronización de la carga de trabajo fija entre nodos: las transmisiones preservan el orden de los eventos y las notificaciones del broker fallidas siguen siendo elegibles para volver a intentarlo. ¡Gracias @mkalkere! (#80)
- Las actualizaciones de prioridad fija del programador se marcan como entregadas después de una notificación fallida, lo que permite volver a intentar y mantener el estado preciso. ¡Gracias @sylvesterkaczmarek! (#122)
- Aislaron la integración de servicios y las pruebas de failover de proxy de la configuración de PAIR locales, lo que evitó que las pruebas leyeran o sobrescriban la configuración del desarrollador. ¡Gracias @somtri! (#95)
- Se corrigieron ejemplos de intención de lanzamiento para usar la clave de versión de los servicios requerida. ¡Gracias @somtri! (#120)
- Actualizaron las instrucciones de los colaboradores para ramificar y rebasar el desarrollo. ¡Gracias @somtri! (#126)
- Tarjetas de nodo fijo que muestran solo la primera GPU en sistemas de múltiples GPU; ahora muestran todas las GPU. ¡Gracias @CryptoJones! (#34)
Nota sobre Compatibilidad
- Los puntos de terminación locales de PAIR ahora siguen la política de CORS de cada motor en lugar de permitir el origen de cada navegador. Los clientes basados en navegador pueden necesitar una configuración del motor adicional. Para Ollama, configura los orígenes permitidos utilizando OLLAMA_ORIGINS en Opciones de Lanzamiento de Motor.
- El nombre oficial de PAIR ha cambiado de "Personal AI Router" a PAIR. En los sistemas macOS, los usuarios deberán desinstalar sus versiones antiguas, pero deben arrastrar y soltar en la carpeta de aplicaciones para no perder modelos.
- Las versiones de LM Studio instaladas por versiones más antiguas de PAIR no se desinstalarán cuando desinstales una versión más reciente de PAIR. Los usuarios deberán desinstalar manualmente LM Studio si desean hacerlo desde el directorio ~/.lmstudio.
Recursos de Soporte de PAIR
Preguntas Frecuentes sobre PAIR
NVIDIA Personal AI Router (PAIR) es un software que conecta sistemas macOS, Windows y Linux compatibles con las GPU NVIDIA RTX™ y los sistemas DGX Spark en un clúster de IA para el hogar personal. PAIR distribuye las cargas de trabajo de inferencia de IA local en los dispositivos disponibles a la vez que mantiene las indicaciones, los archivos y el contexto del agente en la red doméstica del usuario.
Un clúster de IA en el hogar personal conecta múltiples dispositivos compatibles en la misma red local, lo que les permite compartir recursos de computación disponibles para la inferencia de IA local. PAIR permite a los dispositivos Mac, los sistemas NVIDIA RTX y los sistemas DGX Spark ofrecer más capacidad para las aplicaciones y agentes de IA locales. Los dispositivos siguen siendo sistemas separados que gestionan tareas paralelas; PAIR no los combina en una GPU virtual.
Descargue PAIR, instálelo en los sistemas compatibles, empareje los dispositivos en la misma red local y agrégalos al clúster. Una vez conectadas, las aplicaciones y los agentes compatibles pueden enviar solicitudes de inferencia a través del punto terminal local de PAIR.
NVIDIA PAIR requiere sistemas compatibles macOS, Windows o Linux y hardware compatible. Los requisitos pueden incluir versiones específicas del sistema operativo, GPU de NVIDIA RTX, memoria de GPU, memoria del sistema, procesadores, almacenamiento y conectividad de red local. Consulta la sección de Requisitos del sistema en la página de destino de NVIDIA PAIR para obtener detalles actualizados.
PAIR está diseñado para la inferencia local privada. Las indicaciones, los archivos y el contexto del agente permanecen en la red local del usuario en lugar de enviarse a un servicio de inferencia en la nube.
