In Zusammenarbeit mit NVIDIA entwickelte Amdocs seine Strategie zur Integration generativer KI in sein Kernportfolio. Das Unternehmen identifizierte zunächst Anwendungsbereiche, machte dann die generativen KI-Funktionen durch die Neugestaltung der Benutzeroberfläche benutzerfreundlicher und priorisierte eine schnelle Entwicklung. Durch die Optimierung von Datenformaten und LLMs konnte Amdocs die Genauigkeit seines Frage-und-Antwort-Systems für Abrechnungen verbessern und gleichzeitig die Kosten erheblich reduzieren.
Durch die Zusammenarbeit mit NVIDIA konnte die Genauigkeit von KI-generierten Antworten um bis zu 30 Prozent erhöht werden. Diese Verbesserung ist entscheidend dafür, dass KI in der Telekommunikationsbranche auf breiter Ebene akzeptiert wird und die Anforderungen an Dienstleistungen mit generativer KI im direkten Verbraucherkontakt erfüllt werden.
Dank NVIDIA NIM-Mikroservices erzielte Amdocs auch Verbesserungen im Hinblick auf Kosten und Latenz:
- Verringerte Betriebskosten: Durch die Verwendung von telekommunikationsbasierter Retrieval-Augmented Generation in der NVIDIA-Infrastruktur reduzierte Amdocs die Zahl der genutzten Token für die implementierten Anwendungsfälle – um ganze 60 Prozent bei der Datenvorverarbeitung und um bis zu 40 Prozent bei der Inferenz. Dadurch konnte das gleiche Maß an Genauigkeit bei erheblich geringeren Kosten pro Token erzielt werden, abhängig von verschiedenen Einflüssen und dem verwendeten Volumen.
- Verbesserte Latenz: Durch die Zusammenarbeit konnte die Abfragelatenz um etwa 80 Prozent reduziert werden, sodass Endbenutzer die Antworten nahezu in Echtzeit erhalten. Diese Beschleunigung verbessert das Endbenutzererlebnis in den Bereichen Handel, Pflege, Betriebsablauf und darüber hinaus.
Amdocs plant die fortgesetzte Integration von generativer KI in seine amAIz-Plattform auf vielfältige Weise:
- Verbesserung der Weiterleitung von Kundenanfragen durch KI-gestützte Sprach- und Stimmungsanalyse
- Verbesserte Fähigkeiten der KI-Lösungen zu Schlussfolgerungen und der Ausgabe von Vorschlägen, die auf die speziellen Anforderungen der Kunden zugeschnitten sind
- Umgang mit komplexen Sachverhalten, die umfangreiches Fachwissen und multimodale, mehrstufige Lösungen erfordern, wie Netzwerkdiagnose und -optimierung
Sehen Sie sich das On-Demand-Video des NVIDIA-GTC-Vortrags an, um mehr über die amAIz-Plattform von Amdocs zu erfahren.