Secteur public international
Siam AI et Wipro ont collaboré pour révolutionner l'industrie du tourisme thaïlandaise en développant une plateforme d'assistance touristique basée sur l'IA. La solution répond aux défis critiques de l’accessibilité des informations et de l'assistance auprès des touristes en tirant parti des technologies d’IA avancées de NVIDIA pour fournir des informations et une assistance précises en temps réel aux visiteurs en Thaïlande.
L'industrie du tourisme est confrontée à des défis importants dans la fourniture d'informations précises et en temps réel aux visiteurs. Avant la mise en œuvre de la solution de NVIDIA, les touristes étaient confrontés à des informations fragmentées réparties sur plusieurs sites Internet, à l'authenticité parfois douteuses des informations, à des contenus obsolètes et à la barrière de la langue. Ces défis ont souvent engendré de mauvaises expériences touristiques à cause de l'inefficacité de la prestation de services.
Siam AI et Wipro ont identifié le potentiel des solutions d’IA exhaustives de NVIDIA en vue de relever ces défis. L’intégration des technologies de pointe de NVIDIA, notamment celle du framework NVIDIA NeMo™ et de NVIDIA NIM™, a permis le développement d’une plateforme sophistiquée d’assistance touristique appelée Sukjai, laquelle est capable de comprendre et de répondre efficacement aux demandes diverses des touristes.
Siam AI est un important fournisseur de services de Cloud Computing d'IA installé en Thaïlande. Au-delà de ses services de Cloud Computing, l'entreprise a développé SiamGPT, une plateforme d'IA générative avancée possédant des connaissances spécialisées sur la Thaïlande et des informations particulièrement pertinentes pour les Thaïlandais. SiamGPT dispose d'une conception modulaire à même d'accueillir l'expertise dans divers domaines et prenant en charge de multiples formats d'utilisation, y compris les applications Web, les applications mobiles et l'intégration d'API. La phase de développement initial a porté sur la création d'un modèle d'IA spécialisé dans le tourisme en Thaïlande.
Les données d'entraînement pour ce modèle comprennent des informations touristiques fournies par l'Autorité du tourisme en Thaïlande (TAT). Siam AI a méticuleusement vérifié et amélioré la qualité de ces données tout en intégrant "Sukjai", la mascotte de TAT, comme personnage modèle pour ce LLM afin d'apporter un soutien encore plus marqué aux efforts de promotion de la TAT. Siam AI a en outre complété cet entraînement avec des données touristiques complexes invisibles provenant de diverses sources, ce qui a abouti à un modèle fiable de haute qualité adapté aux applications pratiques.
La mise en œuvre de cette solution optimisée par NVIDIA a permis d'obtenir des avantages significatifs :
Sukjai est un assistant touristique intelligent optimisé par une architecture sophistiquée à trois niveaux qui combine le traitement des données, l'orchestration des modèles et le traitement des requêtes. L'architecture du système est conçue pour fournir des réponses contextuelles précises aux demandes des touristes tout en maintenant un niveau élevé d'évolutivité et de performances.
L'architecture se compose de trois composants principaux :
Couche de traitement des données : couche de fondation qui commence par un robot d'indexation Web collectant systématiquement des informations relatives au tourisme. Les données collectées subissent une extraction de métadonnées et sont traitées par un système de segmentation spécialisé qui fragmente les informations en éléments gérables et sensibles au contexte. Les données traitées sont ensuite converties en vecteurs et stockées dans une base de données vectorielle pour permettre une récupération efficace.
Pipeline de création et de réglage des données : le système utilise un pipeline sophistiqué qui commence par l’ingestion de données avec NVIDIA NeMo Retriever et se poursuit avec la conservation des données. Grâce aux pipelines de génération de données synthétiques de NVIDIA NeMo Curator, l'équipe de Wipro a créé des paires questions-réponses de haute qualité qui ressemblent à des conversations en langue thaïe. Le framework d’IA générative d’entreprise Wipro (WeGA) est un système d’ingestion de contextes qui traite ces données conservées, lesquelles sont ensuite étiquetées avant d’être affinées à l’aide du framework NVIDIA NeMo. Les modèles finaux sont évalués par le microservice NeMo Evaluator pour assurer des performances optimales. En utilisant les données synthétiques générées via NeMo Curator, complétées par ses données propriétaires, l'équipe de Wipro a optimisé la précision du modèle affiné.
Orchestrateur de requêtes : lorsqu'un utilisateur interagit avec l'application de chat, sa requête passe par plusieurs étapes de traitement. L'orchestrateur de requêtes gère le traitement initial, génère des pré-filtres et crée du contexte par recherche vectorielle. Il utilise alors NVIDIA NeMo Retriever et les microservices NIM, y compris Llama 3.1, le reclassement de NeMo Retriever et l'intégration de NIM par NeMo Retriever pour générer des réponses précises et pertinentes en fonction du contexte.
Grâce à cette architecture, les touristes ont l'assurance de recevoir des informations précises en temps réel. Elle maintient dans le même temps des performances et une évolutivité élevées à l'aide de NVIDIA AI Enterprise. L'intégration de divers composants facilite la gestion multilingue de requêtes complexes, ce qui en fait une solution efficace pour les différents besoins touristiques de la Thaïlande.
Impact et perspectives futures
Workflow optimisé par WeGA
L’architecture de la solution combine les différentes technologies d’IA de pointe de NVIDIA pour créer une plateforme d’assistance touristique sophistiquée. Au cœur de la plateforme, le modèle Llama 3.1 70B est déployé avec NVIDIA NIM pour offrir de puissantes capacités de traitement du langage naturel afin de gérer diverses demandes de la part des touristes. Le déploiement du modèle est optimisé grâce au format conteneurisé de NIM, ce qui réduit considérablement les temps de configuration (lesquels passent de plusieurs jours à quelques minutes) et rationalise l'efficacité opérationnelle.
Pour une récupération d'informations précise et une compréhension contextuelle, la plateforme intègre deux instances de NIM NeMo Retriever basées sur des modèles Mistral. Ces modèles fonctionnent en tandem au sein d'une solution de génération augmentée par récupération (RAG) appelée framework WeGA. Ce framework met en œuvre un algorithme de segmentation unique qui fragmente et gère efficacement d'importantes quantités de données liées au tourisme, garantissant que le chatbot fournit des réponses très pertinentes et contextuellement précises aux requêtes des utilisateurs.
En tirant parti du framework NVIDIA NeMo, les modèles sous-jacents optimisant la plateforme s'adaptént avec précision aux exigences spécifiques au tourisme thaïlandais en utilisant à la fois des techniques d'affinage efficace des paramètres (PEFT) et de réglage fin supervisé (SFT). L'ensemble du système fonctionne sur une infrastructure fiable comprenant un cluster Kubernetes basé sur des GPU NVIDIA H100. Cette architecture évolutive assure des performances constantes pendant les saisons touristiques et permet une gestion efficace de la charge de travail. Cette pile technique complète ouvre les portes d'un apprentissage continu et de l'adaptation aux tendances évolutives du secteur touristique tout en assurant des performances et une précision de haut rang au niveau des services d'assistance touristique.
"Notre collaboration avec Wipro illustre la manière dont nous réunissons l'expertise mondiale et les connaissances locales pour servir l'avenir numérique de la Thaïlande. Grâce à ce partenariat, nous tirons parti de l’infrastructure d’IA de pointe de NVIDIA tout en maintenant notre engagement envers la souveraineté des données et la création de valeur ajoutée au niveau local. Cette initiative montre comment la Thaïlande peut travailler avec les leaders mondiaux tout en conservant le contrôle de son destin en matière d’IA et en faisant progresser sa position d’acteur incontournable dans le paysage de l’IA en Asie du Sud-Est."
Ratanaphon Wongnapachant
Président-directeur général, Siam.AI Cloud
Pour en savoir plus sur les solutions de NVIDIA pour le secteur public international, contactez-nous.