Yotta a développé la première infrastructure d'IA souveraine de l'Inde avec Shakti Cloud

Yotta transforme le paysage de l'IA en Inde grâce à des solutions Cloud et de Data Center de pointe, accélérées par la plateforme d'IA de NVIDIA. Du déploiement de Data Centers haute densité à la démocratisation de l'accès à l'IA avec un modèle de paiement à l'utilisation, Yotta rend le calcul pour l'IA abordable et accessible aux entreprises de toutes tailles.

L'Inde compte 1,4 milliard d'habitants et plus de 300 langues et dialectes distincts, mais le pays manquait de modèles d'IA entraînés sur les langues et les contextes culturels locaux. Yotta a reconnu la nécessité de développer des modèles d'IA souveraine pour répondre à la diversité du paysage linguistique et culturel du pays.

Pour se différencier de la concurrence mondiale, Yotta devait offrir des services uniques adaptés au marché indien. L'objectif était de fournir une infrastructure de calcul abordable et les outils nécessaires aux startups et aux entreprises indiennes pour développer leurs propres applications d'IA. En fin de compte, Yotta voulait démocratiser l'accès à l'écosystème complet d'IA en offrant des solutions rentables, notamment des modèles de paiement flexibles tels que le fait d'accepter des capitaux plutôt que de l'argent liquide.

En exploitant la pile avancée et complète de NVIDIA pour les infrastructures d'IA, Yotta a pu rivaliser efficacement avec les fournisseurs existants, en particulier sur les offres localisées et souveraines. L'entreprise a identifié que les GPU NVIDIA H100 Tensor Core et les GPU NVIDIA A100 Tensor Core, ainsi que le leadership mondial de NVIDIA et son écosystème complet (comprenant matériel, logiciels et SDK) pourraient fournir l'échelle et les performances nécessaires pour donner vie à Shakti Cloud.

Au total, Shakti Cloud dispose de plus de 16 000 GPU H100, et d'autres sont en cours, notamment des GPU NVIDIA B200 Tensor Core. L'intégration de l'architecture de référence NVIDIA a permis d'obtenir des interconnexions haute vitesse telles que NVIDIA NVLink™ et NVIDIA Quantum-X800 InfiniBand pour éliminer efficacement les goulets d'étranglement critiques dans les charges de travail d'IA et de HPC de Yotta. Les technologies de mise en réseau de NVIDIA ont considérablement réduit les délais d'entraînement et amélioré la latence d'inférence, ce qui améliore l'efficacité globale du pipeline.

Yotta tire également parti de la vaste pile logicielle de NVIDIA. NVIDIA AI Enterprise a encore accéléré le développement de la plateforme de Yotta pour ses clients en fournissant des conteneurs optimisés de niveau production et des modèles pré-entraînés, servant de base solide à divers déploiements d'IA.

En outre, NVIDIA Cloud Functions (NVCF), une API sans serveur pour déployer et gérer les charges de travail d'IA, a permis de fournir des services d'inférence évolutifs à faible latence, permettant aux clients de Yotta d'étendre efficacement leurs applications basées sur l'IA. Ensemble, ces capacités ont été déterminantes pour fournir une infrastructure d'IA hautes performances différenciée.

Yotta est fière d'être le premier (et l'un des cinq seuls au monde) partenaire de référence de la plateforme NVIDIA Cloud (NCP) en Inde. En intégrant les technologies d'IA avancées de NVIDIA aux services de Yotta, l'entreprise fournit aux clients un accès instantané à des outils et à des ressources de pointe grâce à sa plateforme Rudra. Le portail en libre-service et la couche d'orchestration avancée de Shakti Cloud offrent une expérience utilisateur transparente, ce qui permet aux clients de se concentrer sur leurs projets d'IA sans se soucier de la gestion de l'infrastructure. Cela améliore à la fois la satisfaction des clients et l'efficacité opérationnelle.

L'infrastructure de Yotta et l'accès aux logiciels NVIDIA AI Enterprise ont considérablement accéléré le développement en Inde de grands modèles de langage (LLM) et de petits modèles de langage (SLM) capables de servir l'énorme population de l'Inde et la variété de langues et de dialectes locaux, et ont contribué à positionner le pays comme un centre mondial d'IA.

L'un des clients de Yotta, Sarvam AI, développe des LLM pour répondre aux besoins spécifiques de la population de l'Inde. Sarvam dispose de LLM dans 10 langages différents et de solutions d'IA agentique basées sur la voix pour les centres d'appels et l'intégration de WhatsApp. Sarvam a réalisé une amélioration de 20 à 100 % du débit par rapport aux options open source seules pour servir des modèles d'IA. Cela a également réduit le temps nécessaire à la gestion des clusters Kubernetes et à la gestion des déploiements auto-évolutifs pour les déploiements sans serveur.

Grâce à Shakti Cloud, Yotta voit l'IA générative avoir un impact profond sur divers secteurs en Inde, en particulier dans le secteur de la santé pour la médecine personnalisée et dans la technologie juridique pour l'analyse de documents. L'entreprise estime que ces types d'applications stimuleront l'innovation et l'efficacité dans des secteurs essentiels à l'économie de l'Inde.

Yotta continue d'élargir son empreinte Cloud d'IA souveraine, avec l'intention de porter à plus de 32 768 GPU pour son infrastructure d'IA Telangana d'ici à la fin de 2025. L'entreprise prévoit également d'améliorer son offre logicielle avec les microservices NIM™ pour développer un écosystème robuste qui favorise l'innovation dans le domaine de l'IA en Inde.

L'objectif ultime de Yotta est d'offrir une infrastructure et des solutions d'IA à un prix abordable et de permettre à l'Inde de remplir sa mission consistant à devenir le centre mondial de l'infrastructure et de l'innovation en IA.