Telekommunikation
Amdocs entwickelt auf generativer KI basierende Agenten für die Telekommunikation
Überblick
Amdocs ist ein führender Anbieter von Software und Dienstleistungen für Kommunikations- und Medienanbieter. Das Unternehmen entwickelte die fachspezifische, auf generativer KI basierende Plattform amAIz, die Telekommunikationsunternehmen dabei hilft, das Kundenerlebnis zu transformieren, Prozesse zu automatisieren und Entscheidungen zu optimieren. Amdocs nutzt NVIDIA DGXTM Cloud und NVIDIA AI Enterprise Software für die Entwicklung und Bereitstellung von Lösungen, die auf kommerziell erhältlichen großen Sprachmodellen (LLMs) und fachspezifisch angepassten Modellen basieren. Das Unternehmen setzt auch NVIDIA NIM™ ein – benutzerfreundliche Inferenz-Microservices zur beschleunigten Bereitstellung von generativer KI in allen Unternehmensbereichen.
Darüber hinaus arbeitet Amdocs mit NVIDIA Nemotron™, einer Familie von Open-Source-Modellen mit Reasoning-Fähigkeiten, die Entwicklern und Unternehmen eine geschäftsfähige Grundlage für die Erstellung fortschrittlicher KI-Agenten zur Lösung komplexer Aufgaben bieten soll. Die mit NVIDIA Llama Nemotron erweiterte amAIz-Plattform von Amdocs ermöglicht Agenten die autonome Abwicklung komplexer, mehrstufiger Kundenprozesse – einschließlich Vertrieb, Abrechnung und Betreuung.
Partner
Amdocs
Zielgruppe
Manager
Anwendungsfall
Generative KI/LLMs
Produkte
NVIDIA AI Enterprise
NVIDIA DGX
NVIDIA NIM
Amdocs
Amdocs entwickelt KI-Agenten für den Netzwerkbetrieb und das Kundenerlebnis
Amdocs arbeitet mit NVIDIA zusammen, um KI-Agenten in der Telekommunikation zu entwickeln und bereitzustellen, die intelligentere, proaktive Automatisierungen und personalisierte Erlebnisse ermöglichen. Dies umfasst eine tiefgreifende technische Integration über verschiedene Plattformen hinweg, darunter:
Universal LLM NIM
Der universelle LLM NIM-Microservice von NVIDIA bietet einen einheitlichen und optimierten Ansatz für die Bereitstellung von LLMs und unterstützt führende Inferenz-Frameworks von NVIDIA und der Community, einschließlich NVIDIA TensorRT™-LLM, vLLM und SGLang.
Daten-Flywheel für fein abgestimmte LLMs
Amdocs hat eine robuste LLMOps-Pipeline entwickelt, die auf dem NVIDIA AI Blueprint für die Entwicklung von Daten-Flywheels, NVIDIA NeMo™-Microservices für optimierte Feinabstimmung, Bewertung und Guardrailing sowie NVIDIA NIM™-Microservices basiert.
amAIz für KI-Fabriken
Die generative KI-Plattform amAIz und die amAIz-Agenten von Amdocs sind für die nahtlose Integration in KI-Fabriken konzipiert, einschließlich der Nutzung von NVIDIA AI Enterprise. amAIz-Agenten können die Kundenbetreuung, den Vertrieb und die Netzwerkaufgaben autonom verwalten und ermöglichen so telekommunikationsnative Betriebsabläufe, die die Kundenbindung und die betriebliche Effizienz verbessern.
Vorteile und Ergebnisse
Mit NVIDIA NIM-Microservices konnte Amdocs Verbesserungen im Bereich Kosten und Latenz erzielen:
- Verringerte Betriebskosten: Durch den Einsatz telekommunikationsbasierter Retrieval-Augmented Generation in der NVIDIA-Infrastruktur konnte Amdocs die Anzahl der Token reduzieren, die für eingesetzte Anwendungsfälle verbraucht wurden – um bis zu 60 % für die Vorverarbeitung von Daten und um bis zu 40 % für die Inferenz. Dadurch konnte das Unternehmen bei deutlich geringeren Kosten pro Token die gleiche Genauigkeit erzielen, abhängig von verschiedenen Einflussfaktoren und verwendeten Volumen.
- Verbesserte Latenz: Durch die Zusammenarbeit konnte die Abfragelatenz um etwa 80 % gesenkt werden, sodass Endbenutzer Antworten nahezu in Echtzeit erhalten. Diese Beschleunigung verbessert das Benutzererlebnis in den Bereichen Handel, Pflege, Betrieb und darüber hinaus.
Ressourcen
- Erfahren Sie mehr über die Open-Source-Technologien von NVIDIA.
- Sehen Sie sich das On-Demand-Video des NVIDIA GTC-Vortrags an.
- Lesen Sie den technischen Blogbeitrag zu LLMOps.
- Laden Sie das Whitepaper zur Vertikalisierung agentischer KI herunter.
- Erfahren Sie mehr über die Amdocs amAIz-Plattform.
„Die strategische Partnerschaft von Amdocs mit NVIDIA war entscheidend für die Beschleunigung unserer generativen KI-Fähigkeiten. So können wir auf einer Infrastruktur und auf Frameworks aufbauen, die den sich wandelnden Anforderungen unserer Kunden gerecht werden.“
Anthony Goonetilleke
Group President, Technology and Head of Strategy bei Amdocs
Erfahren Sie, wie andere führende Unternehmen der Telekommunikationsbranche sich mit generativer KI verändern.