Maneras de empezar a usar NVIDIA NeMo

NVIDIA NeMo es un conjunto abierto de bibliotecas y habilidades centrado en los agentes para acelerar la especialización, la optimización y la gobernanza de los agentes de IA.

NeMo se integra con las herramientas de IA y los marcos de agentes existentes para optimizar los agentes especializados en cualquier entorno en la nube, local o híbrido.

NeMo está disponible como código abierto y se admite como parte de NVIDIA AI Enterprise. Se pueden encontrar detalles de precios y licencias aquí.

NeMo se puede utilizar para personalizar modelos lingüísticos de gran tamaño (LLM), modelos de lenguaje de visión (VLM), reconocimiento de voz automático (ASR) y modelos de texto a voz (TTS).

NVIDIA AI Enterprise incluye soporte empresarial estándar de NVIDIA. Para obtener más soporte y servicios disponibles, como soporte crítico para las empresas de NVIDIA, un administrador técnico de cuentas, capacitación y servicios profesionales, consulte la Guía de soporte y servicios empresariales de NVIDIA.

La plataforma NVIDIA NeMo es una solución de IA generativa de código abierto creada para investigadores y desarrolladores que buscan control detallado y flexibilidad en el ámbito del código para crear modelos de IA generativa a escala de forma eficiente. Admite el aprendizaje previo y posterior al entrenamiento, así como por refuerzo de modelos de IA generativa multimodal.


Los microservicios de NVIDIA NeMo son una oferta modular preparada para empresas, centrada en las API y basada en el marco de NeMo para permitir a los desarrolladores personalizar e implementar agentes de IA a escala de forma rápida y sencilla. Simplifican el ajuste preciso, la evaluación, la protección y la generación de datos sintéticos de modelos. Se integran a la perfección en las plataformas de IA existentes, lo que permite a las empresas acelerar el desarrollo de agentes de IA personalizados y optimizarlos continuamente a través de flujos de trabajo de rotores de datos.

NeMo Curator es una biblioteca de código abierto que mejora la precisión de modelos de IA generativa al seleccionar conjuntos de datos multimodales de alta calidad. Consta de un conjunto de módulos de Python expresados como interfaces API que utilizan Dask, cuDF, cuGraph y Pytorch para escalar tareas de selección de datos, como descarga de datos, extracción de texto, limpieza, filtrado, deduplicación exacta/difusa y clasificación de texto a miles de núcleos de procesamiento

NeMo Data Designer es un microservicio diseñado específicamente (también disponible como biblioteca abierta) para desarrolladores de IA que proporciona una forma programática de generar datos sintéticos a través de esquemas configurables y modelos de generación impulsados por IA. Está diseñado para integrarse a la perfección en su flujo de trabajo de desarrollo de IA.

NeMo Anonymizer es una biblioteca abierta que admite la anonimización de datos consciente del contexto en texto libre. Después de detectar entidades confidenciales, puede etiquetarlas, anonimizarlas, aplicarles un hash, reemplazarlas o reescribirlas por completo.

NeMo Safe Synthesizer es una biblioteca abierta para generar versiones sintéticas de conjuntos de datos confidenciales. Crea registros totalmente novedosos sin ninguna correspondencia directa con el original. Obtiene información de sus datos, al tiempo que mantiene la privacidad de los datos.

NeMo Customizer es un microservicio de alto rendimiento y escalable que simplifica la personalización y la alineación de LLM para casos de uso específicos de dominio utilizando técnicas avanzadas de ajuste preciso y aprendizaje de refuerzo.

NeMo Auditor analiza modelos LLM sin conexión y en lotes utilizando una amplia gama de ataques automatizados y solicitudes de casos extremos para descubrir vulnerabilidades de protección y seguridad. Se basa en la biblioteca abierta NVIDIA Garak y está diseñado para integrarse en flujos de trabajo de evaluación y canalizaciones de CI/CD, de forma que los equipos puedan ejecutar auditorías regularmente y utilizar los informes resultantes para fortalecer los modelos y las implementaciones con el tiempo.

NeMo Evaluator proporciona pruebas de referencia escalables para aplicaciones de IA generativa, incluidos LLM, canalizaciones RAG y agentes de IA. Cuenta con un SDK de código abierto para una experimentación flexible con más de 100 pruebas de referencia, junto con un microservicio nativo de la nube que automatiza los flujos de trabajo de evaluación de nivel empresarial mediante la puntuación de LLM como juez y métricas de rendimiento especializadas.

NeMo RL es una biblioteca de código abierto para algoritmos de aprendizaje de refuerzo avanzados y posentrenamiento escalable que ha sido diseñada para optimizar y alinear agentes de IA a escala empresarial.

NeMo Gym es una biblioteca de código abierto para crear entornos de entrenamiento de aprendizaje de refuerzo (RL) para modelos lingüísticos de gran tamaño (LLM). NeMo Gym proporciona infraestructura para desarrollar entornos, escalar recopilaciones de despliegues e integrarse sin problemas con su marco de entrenamiento preferido. Ayuda a generar los datos necesarios para el entrenamiento de RL a fin de equipar a los modelos y agentes de IA con habilidades específicas de dominio.

NeMo Retriever es una biblioteca de código abierto que cuenta con modelos Nemotron RAG a fin de crear canalizaciones escalables para extraer datos multimodales de documentos complejos que ofrecen una precisión hasta un 50 % mejor y una extracción de PDF multimodal 15 veces más rápida.

NeMo Relay es una capa de integración para conectar arneses de agentes de caja negra y de propósito general en la plataforma NeMo. Ayuda a los equipos a integrar los flujos de trabajo de agentes existentes en NeMo para que puedan utilizar las capacidades de la plataforma para la optimización, la evaluación y la mejora continua sin necesidad de volver a crear su pila de agentes desde cero.

NVIDIA NIM, parte de NVIDIA AI Enterprise, es un tiempo de ejecución fácil de usar diseñado para acelerar la implementación de IA generativa en todas las empresas. Este versátil microservicio admite un amplio espectro de modelos de IA, desde modelos de comunidad de código abierto hasta modelos de NVIDIA AI Foundation, así como modelos de IA personalizados a medida. Construido sobre los sólidos cimientos de los motores de inferencia, está diseñado para facilitar la inferencia de IA a escala, garantizando que las aplicaciones de IA se puedan implementar en la nube, el centro de datos y en la estación de trabajo.

La generación aumentada por recuperación es una técnica que permite a los LLM crear respuestas a partir de la información más reciente, conectándolos a la base de conocimientos de la empresa. NeMo trabaja con varias herramientas de terceros y de la comunidad, incluidas Milvus, Llama Index y LangChain, para extraer fragmentos relevantes de información de la base de datos vectoriales y alimentarlos al LLM para generar respuestas en lenguaje natural. Explore la página de Chatbot de IA usando el flujo de trabajo de RAG para comenzar a crear chatbots de IA de calidad de producción que pueden responder con precisión a preguntas sobre los datos de su empresa.

Los NVIDIA Blueprints son flujos de trabajo de referencia integrales creados con modelos abiertos y bibliotecas de NVIDIA Nemotron. Cada blueprint incluye código de referencia, herramientas de implementación, guías de personalización y una arquitectura de referencia, lo cual permite acelerar la implementación de soluciones de IA, como los agentes de IA y los gemelos digitales, desde el prototipo hasta la producción.

NVIDIA AI Enterprise reúne microservicios, marcos y bibliotecas para el desarrollo de IA con orquestación de GPU y gestión de infraestructura avanzadas en una suite de software comercial totalmente compatible y lista para la producción. Implemente herramientas de código abierto y modelos de IA líderes con confianza, mejore la productividad y el tiempo de generación de valor, y ejecute cargas de trabajo de IA a escala con una utilización optimizada de recursos.