Yotta creó la primera infraestructura de IA soberana de la India con Shakti Cloud

Yotta transforma el panorama de IA de la India con soluciones de vanguardia en la nube y los centros de datos, aceleradas por la plataforma de IA de NVIDIA. Desde la implementación de centros de datos de alta densidad hasta la democratización del acceso a la IA con un modelo de pago por uso, Yotta hace que la computación para IA sea asequible y accesible para empresas de todos los tamaños.

La India tiene 1400 millones de personas y más de 300 idiomas y dialectos distintos, pero el país carecía de modelos de IA entrenados en los idiomas y contextos culturales locales. Yotta reconoció la necesidad de desarrollar modelos de IA soberana para satisfacer el diverso panorama lingüístico y cultural del país.

Para diferenciarse de la competencia global, Yotta necesitaba ofrecer servicios únicos adaptados al mercado indio. El objetivo era proporcionar infraestructura de computación asequible y las herramientas necesarias para que las empresas emergentes y las compañías indias creen sus propias aplicaciones de IA. En última instancia, Yotta quería democratizar el acceso al ecosistema de IA de pila completa ofreciendo soluciones rentables, incluidos modelos de pago flexibles, como la aceptación de participación accionaria en lugar de efectivo.

Al aprovechar la pila avanzada y completa de NVIDIA para la infraestructura de IA, Yotta podría competir de manera decidida con los proveedores existentes, especialmente en las ofertas localizadas y soberanas. La empresa identificó que las GPU NVIDIA H100 Tensor Core y las GPU NVIDIA A100 Tensor Core, junto con el liderazgo global de NVIDIA en IA y el ecosistema de pila completa, incluidos el hardware, el software y los kits de desarrollo de software, podrían ofrecer la escala y el rendimiento para dar vida a Shakti Cloud.

En general, Shakti Cloud tiene más de 16 000 GPU H100 y hay más en camino, incluidas las GPU NVIDIA B200 Tensor Core. La integración de la arquitectura de referencia de NVIDIA ha dado lugar a interconexiones de alta velocidad, como NVIDIA NVLink™ y NVIDIA Quantum-X800 InfiniBand, para eliminar eficazmente los cuellos de botella de transferencia de datos críticos en las cargas de trabajo de IA y HPC de Yotta. Las tecnologías de redes de NVIDIA han reducido sustancialmente los tiempos de entrenamiento y mejorado la latencia de inferencia, mejorando la eficiencia general de los procesos.

Yotta también aprovecha la extensa pila de software de NVIDIA. NVIDIA AI Enterprise ha acelerado aún más el desarrollo de la plataforma de Yotta para sus clientes al proporcionar contenedores optimizados para producción y modelos preentrenados, que sirven de base sólida para diversas implementaciones de IA.

Además, NVIDIA Cloud Functions (NVCF), una API sin servidor para implementar y gestionar cargas de trabajo de IA, ha habilitado servicios de inferencia escalables y de baja latencia, permitiendo a los clientes de Yotta escalar eficientemente sus aplicaciones basadas en IA. Colectivamente, estas capacidades han sido fundamentales para ofrecer una infraestructura de IA diferenciada y de alto rendimiento.

Yotta se enorgullece de ser la primera plataforma de referencia de la India (y entre solo cinco a nivel global) con partners de nube de NVIDIA (NCP). Al integrar las tecnologías de IA avanzadas de NVIDIA en los servicios de Yotta, proporciona a los clientes acceso instantáneo a herramientas y recursos de vanguardia a través de su plataforma Rudra. El portal de autoservicio y la capa de orquestación avanzada dentro de Shakti Cloud ofrecen una experiencia de usuario fluida, lo que permite a los clientes centrarse en sus proyectos de IA sin la carga de la gestión de infraestructura. Esto mejora tanto la satisfacción del cliente como la eficiencia operativa.

La infraestructura de Yotta y el acceso al software NVIDIA AI Enterprise han acelerado significativamente el desarrollo de modelos lingüísticos de gran tamaño (LLM) y modelos lingüísticos de pequeño tamaño (SLM) en la India capaces de atender a la población masiva de la India y la variedad de idiomas y dialectos locales, además de ayudar a posicionar al país como un centro global de IA.

Uno de los clientes de Yotta, Sarvam AI, crea LLM para satisfacer las distintas necesidades de población de la India. Sarvam tiene LLM en 10 idiomas diferentes y soluciones de IA de agentes de voz para centros de llamadas e integración de WhatsApp. Sarvam ha logrado una mejora del 20 %-100 % en el rendimiento en comparación con las opciones de código abierto solo para servir modelos de IA. También ha reducido el tiempo necesario para gestionar los clústeres de Kubernetes y gestionar las implementaciones de escalado automático para las implementaciones sin servidor.

A través de Shakti Cloud, Yotta ve que la IA generativa tiene un profundo impacto en varios sectores de la India, especialmente en la atención sanitaria para la medicina personalizada y en la tecnología legal para el análisis de documentos. La empresa cree que este tipo de aplicaciones impulsarán la innovación y la eficiencia en sectores críticos para la economía de la India.

Yotta continúa ampliando su huella en la nube de IA soberana, con planes de escalar a más de 32 768 GPU para su infraestructura Telangana AI para finales de 2025. La empresa también planea mejorar su oferta de software con microservicios NIM™ para crear un ecosistema robusto que fomente la innovación dentro del panorama de la IA de la India.

El objetivo final de Yotta es ofrecer infraestructura y soluciones de IA a un precio asequible y apoyar la misión de la India de convertirse en el centro mundial de infraestructura e innovación en IA.