Maneras de Empezar a Usar NVIDIA NeMo

NVIDIA NeMo es un paquete de software modular y listo para empresas que sirve para administrar el ciclo de vida de los agentes de IA (desarrollo, implementación y optimización de sistemas basados en agentes): desde la selección de datos, la personalización y la evaluación de modelos, hasta la implementación, la orquestación y la optimización continua. Se integra a la perfección con los ecosistemas y las plataformas de IA existentes para crear una base para el desarrollo de agentes de IA, lo que acelera la ruta hacia la producción de sistemas basados en agentes en cualquier entorno de nube, local o híbrido. Admite el escalado rápido y la creación sin esfuerzo de data flywheels que mejoran continuamente a los agentes de IA con la información más reciente.

NeMo está disponible como software de código abierto y es compatible con NVIDIA AI Enterprise. Los detalles de precios y licencias se pueden encontrar aquí.

NeMo sirve para personalizar grandes modelos de lenguaje (LLM), modelos de lenguaje de visión (VLM), reconocimiento automático de habla (ASR) y modelos de conversión de texto a voz (TTS).

NVIDIA AI Enterprise incluye la Asistencia Empresarial Estándar de NVIDIA. Para obtener más información sobre la asistencia y los servicios disponibles, como la asistencia empresarial esencial de NVIDIA, un administrador técnico de cuentas, capacitación y servicios profesionales, consulte la Guía de Asistencia y Servicios Empresariales de NVIDIA.

El framework NVIDIA NeMo es un framework de IA generativa de código abierto diseñado para investigadores y desarrolladores que buscan un control fino y una flexibilidad a nivel de código para desarrollar modelos de IA generativa a escala de manera eficiente. Admite el preentrenamiento, el posentrenamiento y el aprendizaje por refuerzo de modelos de IA generativa multimodales.

Los microservicios NVIDIA NeMo son una oferta modular, basada en API y lista para empresas, que amplía el framework NeMo. Está diseñada específicamente para permitir a los desarrolladores personalizar e implementar agentes de IA a escala de manera fácil y rápida. Simplifica el ajuste fino de modelos, la evaluación, la implementación de medidas de seguridad y la generación de datos sintéticos. Se integran perfectamente en las plataformas de IA existentes, lo que permite a las empresas acelerar el desarrollo de agentes de IA personalizados y optimizarlos continuamente a través de workflows de data flywheel.

NeMo Data Designer es un microservicio diseñado específicamente para desarrolladores de IA, que proporciona una forma programática de generar datos sintéticos a través de esquemas configurables y modelos de generación impulsados por IA. Está diseñada para integrarse sin problemas en su workflow de desarrollo de IA.

NeMo Curator es una biblioteca de código abierto que mejora la exactitud de los modelos de IA generativa al seleccionar conjuntos de datos multimodales de alta calidad. Consiste en un conjunto de módulos de Python expresados como API que utilizan Dask, cuDF, cuGraph y Pytorch para escalar tareas de selección de datos, como descargar datos, extraer texto, limpiar, filtrar, desduplicar exacta o difusamente, y clasificar texto a miles de núcleos de computación

NeMo Customizer es un microservicio escalable de alto rendimiento que simplifica la personalización y la alineación de los LLM para casos de uso específicos de dominio, mediante técnicas avanzadas de ajuste fino y aprendizaje por refuerzo.

NeMo Auditor audita los LLM ejecutando trabajos de auditoría que sondean el modelo con una variedad de prompts para identificar vulnerabilidades. Puede usar los resultados para ayudar a evaluar la seguridad de modelos y sistemas.

NeMo Evaluator es un microservicio diseñado para una evaluación rápida y confiable de LLM y pipelines de RAG personalizados. Abarca diversos puntos de referencia con métricas predefinidas, como evaluaciones humanas y técnicas de LLM como juez. Se pueden implementar simultáneamente múltiples trabajos de evaluación en Kubernetes en las plataformas en la nube o en los data centers preferidos mediante llamadas API, lo que permite obtener resultados agregados eficientes.

NeMo RL es una biblioteca de código abierto que forma parte del kit de herramientas del framework NeMo. Ofrece algoritmos avanzados de aprendizaje por refuerzo y un posentrenamiento escalable para optimizar y alinear a los agentes de IA a escala empresarial.

NeMo Retriever es una colección de modelos de Nemotron RAG líderes en la industria que ofrecen un 50 % más de precisión, una extracción de PDF multimodal 15 veces más rápida y una eficiencia de almacenamiento 35 veces superior, lo que permite a las empresas desarrollar pipelines de RAG que proporcionan información empresarial en tiempo real. NeMo Retriever garantiza la privacidad de los datos y se conecta a la perfección con datos de propiedad donde sea que residan, lo que permite una recuperación segura y de nivel empresarial.

El NeMo Agent Toolkit ofrece herramientas de creación de perfiles, evaluación y optimización independientes del framework, diseñadas para sistemas de agentes de IA de producción. Captura métricas granulares sobre la coordinación entre agentes, la eficiencia en el uso de herramientas y los costos computacionales, lo que permite optimizaciones basadas en datos a través de la Computación Acelerada de NVIDIA. Se puede usar para paralelizar workflows lentos, almacenar operaciones costosas en caché y mantener la precisión del sistema durante las actualizaciones de modelos. El kit de herramientas, es compatible con OpenTelemetry y los principales frameworks de agentes, y reduce los gastos en la nube a la vez que proporciona información para escalar desde agentes individuales hasta fuerzas de trabajo digitales de nivel empresarial.

NVIDIA NIM, que forma parte de NVIDIA AI Enterprise, es un entorno de ejecución fácil de usar diseñado para acelerar la implementación de la IA generativa en las empresas. Este versátil microservicio admite una amplia gama de modelos de IA; desde modelos comunitarios de código abierto hasta modelos de la NVIDIA AI Foundation, así como modelos de IA personalizados a medida. Ha sido desarrollado sobre la sólida base de los motores de inferencia y está hecho para facilitar una inferencia de IA sin problemas a escala, lo que garantiza que las aplicaciones de IA se puedan implementar en la nube, en los data centers y las workstations.

La generación aumentada por recuperación es una técnica que les permite a los LLM crear respuestas a partir de la información más reciente mediante una conexión a la base de conocimientos de la empresa. NeMo trabaja con varias herramientas de terceros y comunitarias, como Milvus, Llama Index y LangChain, para extraer fragmentos relevantes de información de las bases de datos vectoriales y enviárselos al LLM para generar respuestas en lenguaje natural. Explore la página de Chatbot de IA con workflow de RAG para empezar a crear chatbots de IA de calidad de producción que pueden responder con exactitud a preguntas sobre los datos de su empresa.

NVIDIA Blueprints son workflows de referencia integrales creados con las bibliotecas, los SDK y los microservicios de IA de NVIDIA y Omniverse. Cada blueprint incluye código de referencia, herramientas de implementación, guías de personalización y una arquitectura de referencia, lo que acelera la implementación de soluciones de IA, como agentes de IA y gemelos digitales, desde el prototipo hasta la producción.

NVIDIA AI Enterprise es una plataforma integral, nativa de la nube, que acelera los pipelines de ciencia de datos y agiliza el desarrollo y la implementación de aplicaciones de IA para producción, incluida la IA generativa, la visión por computadora, la IA del habla y más. Incluye herramientas de desarrollo, frameworks, modelos preentrenados, microservicios para practicantes de IA y capacidades de gestión confiables para profesionales de TI, a fin de garantizar el rendimiento, la estabilidad de API y la seguridad.