En collaborant avec NVIDIA, Amdocs a amorcé sa stratégie d'intégration de l'IA générative dans son portefeuille de base. L'entreprise a commencé par identifier les domaines d'application, puis a rendu les capacités d'IA générative plus conviviales grâce à une refonte de l'expérience utilisateur et à une priorisation de l'ingénierie rapide. En optimisant les formats de données et en affinant les LLM, Amdocs a amélioré la précision de son système de questions-réponses sur la facturation tout en réduisant considérablement ses coûts.
L'engagement avec NVIDIA a permis d'augmenter jusqu'à 30 % la précision des réponses générées par l'IA. Ce type d'amélioration est essentiel pour parvenir à une adoption généralisée par le secteur des télécommunications et pour répondre aux demandes de services d'IA générative destinés directement aux consommateurs.
En utilisant les microservices NVIDIA NIM, Amdocs a également connu un accroissement de ses performances au niveau des coûts et de la latence :
- Diminution des coûts d'exploitation : En utilisant la génération augmentée de récupération basée sur les télécommunications sur l'infrastructure NVIDIA, Amdocs a permis une réduction du nombre de jetons consommés pour les cas d'utilisation déployés de 60 % pour le prétraitement des données et jusqu'à 40 % pour l'inférence. Cela a permis à l'entreprise d'atteindre le même niveau de précision à un coût par jeton nettement inférieur, en fonction des différentes influences et des volumes utilisés
.
- Amélioration de la latence : Cette collaboration a permis de réduire le temps de latence des requêtes d'environ 80 %, garantissant aux utilisateurs finaux des réponses en quasi-temps réel. Cette accélération optimise l'expérience utilisateur, entre autres, dans les domaines du commerce, des soins, des opérations
.
Amdocs prévoit de continuer à intégrer l'IA générative dans sa plateforme amAIz de multiples façons
:
- En améliorant l'acheminement des demandes des clients grâce à l'analyse du langage et des sentiments pilotée par l'I
A
- En améliorant les capacités de raisonnement de leurs solutions d'IA afin de fournir des suggestions adaptées aux besoins spécifiques des clients
.
- En traitant des scénarios complexes qui exigent une connaissance approfondie du domaine et des solutions multimodales en plusieurs étapes, telles que le diagnostic et l'optimisation des réseaux
.
Regardez la session NVIDIA GTC à la demande pour en savoir plus sur la plateforme Amdocs amAIz
.