Settore pubblico globale

Con Shakti Cloud, Yotta crea la prima infrastruttura di IA sovrana in India

Obiettivo

Yotta si impegna a portare servizi cloud e per data center di fascia alta a tutti in India, con una forte attenzione per l'IA. L'azienda sta creando un'infrastruttura di IA ad alta densità per soddisfare le ambizioni del paese in termini di IA e cloud che aumentano a vista d'occhio e mira a rendere questi servizi accessibili, sostenendo la missione dell'India di diventare un hub globale di IA.

Lavorando con NVIDIA, Yotta ha creato Shakti Cloud, la prima piattaforma di infrastruttura di IA in India per offrire servizi di calcolo di fascia alta ai propri clienti che desiderano sviluppare e distribuire modelli linguistici di grandi dimensioni, una funzionalità che prima non era disponibile sul suolo indiano.

Cliente

Yotta Data Services Private Limited - Partner NCP

Caso d'uso

Infrastruttura IA
Data Center / Cloud

Prodotti

NVIDIA DGX
NVIDIA AI Enterprise

Yotta

Costruire il futuro di IA indipendente dell'India

Yotta sta trasformando il panorama dell'IA in India grazie a soluzioni cloud e data center all'avanguardia, accelerati dalla piattaforma IA di NVIDIA. Dall'implementazione di data center ad alta densità alla democratizzazione dell'accesso all'IA con un modello pay-per-use, Yotta rende il computing per l'IA accessibile e conveniente per le aziende di tutte le dimensioni.

L'India conta 1,4 miliardi di persone e oltre 300 lingue e dialetti distinti, ma il paese non disponeva di modelli di IA addestrati sulle lingue e sui contesti culturali locali. Yotta ha riconosciuto la necessità di sviluppare modelli di IA sovrana per soddisfare il panorama linguistico e culturale eterogeneo del paese.

Per differenziarsi dalla concorrenza globale, Yotta doveva offrire servizi unici su misura per il mercato indiano. L'obiettivo era quello di fornire un'infrastruttura di calcolo a prezzi accessibili e gli strumenti necessari alle start-up e alle aziende indiane per creare le proprie applicazioni di IA. In ultima analisi, Yotta desiderava democratizzare l'accesso all'ecosistema di IA full-stack offrendo soluzioni a basso costo, tra cui modelli di pagamento flessibili come l'accettazione di equity anziché di contanti.

Shakti Cloud: il primo cloud GPU sovrano in India

Sfruttando lo stack avanzato e completo di NVIDIA per l'infrastruttura di IA, Yotta potrebbe competere in modo aggressivo con i fornitori esistenti, soprattutto sulle offerte localizzate e sovrane. L'azienda ha identificato che le GPU NVIDIA H100 Tensor Core e le GPU NVIDIA A100 Tensor Core, insieme alla leadership globale di NVIDIA nel settore dell'IA e all'ecosistema full-stack, che include hardware, software e kit di sviluppo software, potrebbero fornire la scalabilità e le prestazioni necessarie per realizzare Shakti Cloud.

Nel complesso, Shakti Cloud dispone di oltre 16.000 GPU H100, con altre in arrivo, tra cui le GPU NVIDIA B200 Tensor Core. L'integrazione dell'architettura di riferimento NVIDIA si è tradotta in interconnessioni ad alta velocità come NVIDIA NVLink™ e NVIDIA Quantum-X800 InfiniBand per eliminare efficacemente gli intoppi critici nel trasferimento dei dati nei carichi di lavoro IA e HPC di Yotta. Le tecnologie di rete di NVIDIA hanno notevolmente ridotto i tempi di formazione e migliorato la latenza di inferenza, migliorando l'efficienza complessiva della pipeline.

Yotta sfrutta inoltre l'ampio stack di software di NVIDIA. NVIDIA AI Enterprise ha ulteriormente accelerato lo sviluppo della piattaforma di Yotta per i suoi clienti, fornendo contenitori ottimizzati e modelli pre-addestrati che fungono da solida base per diverse implementazioni di IA.

Inoltre, NVIDIA Cloud Functions (NVCF), un'API serverless per distribuire e gestire i carichi di lavoro di IA, ha abilitato servizi di inferenza scalabili a bassa latenza, consentendo ai clienti di Yotta di scalare in modo efficiente le loro applicazioni basate sull'IA. Nel complesso, queste funzionalità sono state determinanti per fornire un'infrastruttura IA differenziata e ad alte prestazioni.

"In Yotta, la missione è quella di creare il supercloud di IA sovrano più grande dell'India, alimentato da migliaia di GPU NVIDIA H100 e dai chip B200 di nuova generazione. La nostra partnership con NVIDIA non solo alimenta la piattaforma Shakti Cloud leader del settore, ma accelera anche l'innovazione di IA nelle aziende di tutte le dimensioni, rendendola all'avanguardia, accessibile e sostenibile in India".

Sunil Gupta
Cofondatore, Direttore Generale e CEO, Yotta

Il primo partner cloud NVIDIA in India

Yotta è orgogliosa di essere la prima piattaforma di riferimento NVIDIA Cloud Partner (NCP) in India (e tra le sole cinque a livello globale). Integrando le tecnologie IA avanzate di NVIDIA nei servizi di Yotta, l'azienda offre ai clienti accesso istantaneo a strumenti e risorse all'avanguardia attraverso la piattaforma Rudra. Il portale self-service e il livello di orchestrazione avanzato all'interno di Shakti Cloud offrono un'esperienza utente fluida, consentendo ai clienti di concentrarsi sui propri progetti di IA senza il peso della gestione dell'infrastruttura. Ciò migliora sia la soddisfazione dei clienti che l'efficienza operativa.

L'infrastruttura di Yotta e l'accesso al software NVIDIA AI Enterprise hanno accelerato in modo significativo lo sviluppo di modelli linguistici grandi (LLMs) e piccoli modelli linguistici (SLMs) in India, in grado di servire la vasta popolazione indiana e una varietà di lingue e dialetti locali, e ha contribuito a posizionare il paese come hub globale per l'IA.

Uno dei clienti di Yotta, Sarvam AI, crea LLM per soddisfare le esigenze specifiche della popolazione indiana. Sarvam ha LLM in 10 lingue diverse e soluzioni di IA per agenti voice-first per i call center e l'integrazione WhatsApp. Sarvam ha realizzato un miglioramento del 20%-100% in termini di throughput rispetto alle opzioni open-source da solo per i modelli di IA. Ha anche ridotto il tempo necessario per gestire i cluster di Kubernetes e gestire le implementazioni a scala automatica per le implementazioni serverless.

Attraverso Shakti Cloud, Yotta vede l'IA generativa che ha un profondo impatto su varie industrie in India, soprattutto nell'assistenza sanitaria per la medicina personalizzata e nella tecnologia legale per l'analisi dei documenti. La società ritiene che questo tipo di applicazioni promuoverà l'innovazione e l'efficienza in settori critici per l'economia indiana.

Guardando in avanti

Yotta continua a espandere la propria copertura cloud di IA sovrana, con piani di scalabilità a oltre 32.768 GPU per la sua infrastruttura Telangana di IA entro la fine del 2025. L'azienda prevede inoltre di migliorare le proprie offerte software con microservizi NIM™ per costruire un solido ecosistema che favorisca l'innovazione all'interno del panorama indiano dell'IA.

L'obiettivo finale di Yotta è quello di offrire infrastrutture e soluzioni di IA a un prezzo accessibile e consentire la missione dell'India di essere l'infrastruttura di IA e il centro di innovazione del mondo.

Vuoi iniziare?

Per saperne di più sulle soluzioni NVIDIA dedicate al settore pubblico globale, contattaci.