Trasformare il turismo in Thailandia con l'assistenza basata su IA

ettore turistico deve affrontare sfide significative nel fornire informazioni accurate e in tempo reale ai visitatori. Prima dell'implementazione della soluzione basata su NVIDIA, i turisti dovevano affrontare problemi legati alle informazioni frammentate da reperire su più siti, ai dubbi relativi all'autenticità di tali informazioni, ai contenuti obsoleti e alle barriere linguistiche. Queste sfide hanno spesso portato a scarse esperienze turistiche e inefficienze nella fornitura di servizi.

Siam AI e Wipro hanno riconosciuto il potenziale delle soluzioni IA complete di NVIDIA per affrontare queste sfide. L'integrazione delle tecnologie avanzate di NVIDIA, in particolare NVIDIA NeMo™ framework e NVIDIA NIM™, ha permesso lo sviluppo di una sofisticata piattaforma di assistenti turistici chiamata Sukjai, in grado di comprendere e rispondere efficacemente alle diverse richieste dei turisti.

Siam AI è un importante fornitore di servizi di cloud computing basato in Thailandia. Oltre ai servizi di cloud computing, l’azienda ha sviluppato SiamGPT, una piattaforma avanzata di intelligenza artificiale generativa con conoscenze specializzate sulla Thailandia e informazioni particolarmente rilevanti per i thailandesi. SiamGPT presenta un design modulare per ospitare competenze in vari domini e supporta più formati di utilizzo, tra cui applicazioni web, applicazioni mobili e integrazioni API. La fase iniziale di sviluppo si è concentrata sulla creazione di un modello di IA specializzato nel turismo thailandese. 

I dati di training per questo modello comprendono le informazioni turistiche fornite dall'autorità turistica thailanese (TAT). Siam AI ha meticolosamente verificato e migliorato la qualità di questi dati, incorporando "Sukjai", la mascotte di TAT, come personaggio modello per questo LLM al fine di supportare ulteriormente le iniziative promozionali di TAT. Inoltre, Siam AI ha integrato la formazione con dati turistici generalmente ignorati provenienti da varie fonti, generando un modello affidabile e di alta qualità adatto per applicazioni pratiche.

L'implementazione di questa soluzione basata su NVIDIA ha fornito vantaggi significativi:

• Accesso unificato alle informazioni: i turisti possono ora accedere a informazioni accurate e in tempo reale tramite un'unica piattaforma.
• Contenuti autentici: l'integrazione diretta con l'autorità del turismo thailandese garantisce l'affidabilità delle informazioni.
• Supporto multilingue: funzionalità di comunicazione avanzate disponibili sia in thailandese che in inglese.
• Distribuzione rapida: il tempo di distribuzione del modello è stato ridotto da giorni a pochi minuti grazie alle soluzioni containerizzate.
• Prestazioni scalabili: i carichi di lavoro variabili vengono gestiti in modo efficiente durante l'alta stagione turistica.

Sukjai è un assistente turistico intelligente alimentato da una sofisticata architettura a tre livelli che combina l'elaborazione dei dati, l'orchestrazione dei modelli e le funzionalità di gestione delle query. L'architettura del sistema è progettata per fornire risposte accurate e contestuali alle richieste dei turisti, mantenendo al contempo scalabilità e prestazioni.

L'architettura si compone di tre elementi principali:

1. Livello di elaborazione dati: livello di base che inizia con un web crawler che raccoglie sistematicamente informazioni relative al turismo. Dai dati raccolti vengono estratti i metadati ed elaborati attraverso un sistema di chunking specializzato che segmenta le informazioni in segmenti gestibili e contestualizzati. I dati elaborati vengono quindi convertiti in vettori e memorizzati in un database vettoriale per un recupero efficiente.
2. Pipeline di creazione e calibrazione dei dati: il sistema utilizza una pipeline sofisticata che inizia con l'ingestione dei dati tramite NVIDIA NeMo Retriever, seguita dalla pulizia e selezione dei dati. Con le pipeline di generazione di dati sintetici di NVIDIA NeMo Curator il team di Wipro ha creato combinazioni di domande e risposte di alta qualità che assomigliano a conversazioni in lingua thailandese. Wipro Enterprise Generative AI Framework, o WeGA, è un sistema di ingestione del contesto che elabora i dati selezionati e li sottopone a etichettatura prima di calibrarli con il framework NVIDIA NeMo. I modelli finali vengono valutati con il microservizio NeMo Evaluator per garantire prestazioni ottimali. Utilizzando i dati sintetici generati con NeMo Curator, integrati dai dati proprietari, il team di Wipro ha raggiunto una maggiore precisione per il modello ottimizzato.
3. Query Orchestrator: quando un utente interagisce con l'applicazione di chat, la sua query passa attraverso più fasi di elaborazione. Query Orchestrator gestisce l'elaborazione iniziale, genera pre-filtri e costruisce il contesto attraverso la ricerca vettoriale. Vengono quindi impiegati NVIDIA NeMo Retriever e i microservizi NIM, tra cui Llama 3.1, NeMo Retriever reranking e NeMo Retriever embedding NIM per generare risposte accurate e contestualmente rilevanti.

Questa architettura garantisce che i turisti ricevano informazioni precise in tempo reale mantenendo prestazioni e scalabilità elevate tramite NVIDIA AI Enterprise. L'integrazione di vari componenti consente una gestione fluida di più lingue e query complesse, rendendolo una soluzione efficace per le diverse esigenze turistiche della Thailandia.

L'architettura della soluzione combina le tecnologie di IA all'avanguardia di NVIDIA per creare una sofisticata piattaforma di assistenza turistica. La piattaforma utilizza il modello Llama 3.1 70B implementato con NVIDIA NIM, che fornisce potenti funzionalità di elaborazione del linguaggio naturale per gestire diverse richieste turistiche. L'implementazione del modello è ottimizzata grazie al formato containerizzato di NIM, il che riduce significativamente i tempi di configurazione da giorni a minuti e semplifica l'efficienza operativa.

Per un recupero preciso delle informazioni e per la comprensione del contesto, la piattaforma integra due NIM NeMo Retriever basati su modelli Mistral. Questi modelli funzionano in tandem all'interno di una soluzione personalizzata di generazione aumentata di recupero (RAG), il framework WeGA. Questo framework implementa un algoritmo di chunking esclusivo che segmenta e gestisce in modo efficiente grandi quantità di dati turistici, garantendo che il chatbot fornisca risposte altamente rilevanti e contestualmente accurate alle richieste degli utenti.

Utilizzando il framework NVIDIA NeMo, i modelli sottostanti che alimentano la piattaforma sono adattati con precisione ai requisiti specifici del settore turistico thailandese utilizzando tecniche di calibrazione efficienti in termini di parametri (PEFT) e di calibrazione supervisionata (SFT). L'intero sistema funziona su un'infrastruttura solida che comprende un cluster Kubernetes alimentato da GPU NVIDIA H100. Questa architettura scalabile garantisce prestazioni costanti durante l'alta stagione turistica e consente una gestione efficiente del carico di lavoro. Lo stack tecnico completo consente un apprendimento continuo e l'adattamento alle tendenze in evoluzione del settore turistico mantenendo elevate prestazioni e precisione nei servizi di assistenza turistica.