Cloud-Service

FPT Smart Cloud verbessert Kundensupport und Personalentwicklung

Bildnachweis: FPT Smart Cloud

Ziel

FPT Smart Cloud, ein NVIDIA Cloud-Partner und führender KI-Anbieter in Vietnam, verwendet FPT AI Engage, um seine Sprachsynthesemodelle um das Vierfache zu beschleunigen, wodurch virtuelle Assistenten die Kundeninteraktionen verbessern und Kundenprobleme schnell lösen können. FPT AI Mentor unterstützt Agenten mit virtuellen Assistenten, die situative Fragen und Antworten generieren, um das Fachwissen zu erhöhen und so die Produktivität der Agenten und die betriebliche Effizienz zu verbessern. Sowohl FPT AI Engage als auch Mentor werden von NVIDIA H100 Tensor Core GPUs unterstützt.

Kunde

FPT Smart Cloud

Anwendungsfälle

Generative AI / LLMs
Gesprächs-KI / NLP

 

Produkte

NVIDIA H100 Tensor Core GPUs
NVIDIA A100 Tensor Core GPUs

Ergebnisse

FPT AI Engage:

  • Reduzierte Datenverarbeitung um das Dreifache und Sprachsyntheseverarbeitung um das Vierfache, was zu einem schnelleren Modelltraining führt
  • Verbesserte Sprachsynthesemodellausgabe in Dimension und Eignung um das Hundertfache für 18 Sprachen, einschließlich Vietnamesisch, Englisch und Indonesisch

FPT AI Mentor:

  • Verbesserte Wissensqualität für Kundenagenten um 55 Prozent, mit einer 30-prozentigen Reduzierung der Schulungsressourcen
  • Im Vergleich zur vorherigen Generation wurde das Training für große Sprachmodelle um das Dreißigfache erhöht

FPT Smart Cloud verbessert Kundenservice mit NVIDIA

In unserem sich schnell entwickelnden digitalen Zeitalter werden virtuelle Assistenten in Kontaktcenter integriert, um Kunden sowohl bei einfachen als auch bei anspruchsvollen Aufgaben zu unterstützen. Kunden erwarten, dass diese virtuellen Assistenten so natürlich und intuitiv sprechen wie echte Menschen. Unternehmen verlangen wiederum eine Vielzahl von KI-Stimmen, die sie in ihren digitalen Erlebnissen einsetzen können.

Kundenservice der nächsten Generation mit künstlicher Intelligenz

Als führender KI-Anbieter in Vietnam hat FPT Smart Cloud FPT AI Engage entwickelt, einen virtuellen Assistenten für das Callcenter, der automatisch ausgehende Anrufe tätigt, eingehende Anrufe verarbeitet und Anrufe mit intelligenter interaktiver Sprachantwort (IVR) weiteleitet.

FPT AI Engage basiert auf vier Kerntechnologien: Große Sprachmodelle (LLMs), Verarbeitung natürlicher Sprache (NLP), automatische Spracherkennung (ASR) und Text-zu-Sprache (TTS), die alle Software und Pipelines von NVIDIA nutzen. Mit natürlichen Interaktionsfunktionen und einer 92-prozentigen Genauigkeitsrate für das Sprachverständnis kann FPT AI Engage einfache Kundenanfragen erfolgreich lösen, häufig gestellte Fragen beantworten und komplexere Aufgaben wie Teleshopping und Zahlungserinnerungen erledigen. Dadurch werden sich wiederholende Arbeitsabläufe für Kundenservicemitarbeiter reduziert und die Gesamteffizienz verbessert.

Durch die Nutzung der Software und Frameworks von NVIDIA konnte FPT Smart Cloud die Anwendung virtueller Agenten auf die internationale Ebene erweitern, wobei die erste Bereitstellung auf dem indonesischen Markt erfolgte. Derzeit hat der KI-Anbieter insgesamt 5.120 virtuelle Assistenten implementiert, die mehr als 200 Millionen Interaktionen pro Monat verarbeiten und 16 Millionen Endbenutzer bedienen. Die Einführung von NVIDIA Cloud-nativen Technologien, darunter NVIDIA GPU-Betreiber und Mehr-Instanzen-GPU-Unterstützung (MIG) in Kubernetes, machte eine optimale Bereitstellung in solch einem großen Maßstab möglich. Mehr als 100 Unternehmen in 15 Ländern vertrauen FPT AI Engage, das im Durchschnitt eine Produktivitätssteigerung von 50 Prozent und eine Senkung der Betriebskosten um 67 Prozent ermöglicht.

Bildnachweis: FPT Smart Cloud

FPT AI Engage verbessert die Kundenerlebnisse mithilfe von KI für virtuelle Assistenten und synthetischer Sprachgenerierung für das Modelltraining.

Transformation intelligenter Callcenter-Betriebsabläufe in der Konsumentenfinanzierung

Die Fähigkeiten von KI haben eine Vielzahl von Bank- und Finanzinstituten in Vietnam angesprochen, insbesondere Home Credit Vietnam. Als eines der führenden digitalen Finanzunternehmen in Vietnam hat Home Credit das Kundenerlebnis schon immer in den Vordergrund gestellt. In dem Bewusstsein, wie wichtig Prozessautomatisierung und betriebliche Effizienz sind, hat Home Credit in Zusammenarbeit mit FPT Smart Cloud im Jahr 2019, als KI in Vietnam noch ein relativ neues Konzept war, die FPT AI Engage-Lösung bereitstellt und damit den strategischen Weitblick des Unternehmens demonstriert.

Nach dem ersten Betriebsjahr im Jahr 2020 unterstützte der FPT.AI Virtual Agent für Callcenter Home Credit Vietnam bei mehr als 5.000.000 Anrufen pro Monat. Diese Zahlen wurden mithilfe von NVIDIA übertroffen und auf 12.000.000 Anrufe während der Spitzenzeiten erhöht, was zu einer Einsparung von 50 Prozent bei den Betriebskosten und einer Erfolgsrate von 98 Prozent bei den Anrufen führte. Darüber hinaus hatte der „virtuelle Agent“ von Home Credit Vietnam eine durchschnittliche Kundenzufriedenheitsbewertung von 4,5/5.

Die Bereitstellung wird mit NVIDIA® TensorRT™ optimiert und in NVIDIA Triton™ Inference Server mit dynamischem Batching bereitgestellt, wodurch bis zu 20 Prozent der High-Performance-Computing-Ressourcen bei gleicher Qualität der Modellausgabe eingespart werden.

Bisher hat Home Credit Vietnam mehr als 100 Anwendungsfälle in Anwendungen umgesetzt, darunter Informationsabfragen, Self-Service-Funktionen zum Sperren oder Aktivieren von Karten, automatisierte Kundenumfragen und Forderungseinziehung. Dadurch werden diese einfachen Aufgaben auf KI ausgelagert und menschliche Agenten haben mehr Zeit für die Bewältigung kritischer Kundenprobleme.

Eine neuartige Anwendung virtueller Assistenten, die dazu beitragen kann, ein „Kostenzentrum“ wie eine Kundendienstabteilung in ein „Profitcenter“ umzuwandeln, ist ein Verfahren, das als Service-to-Sales bezeichnet wird. FPT AI Engage hat das Service-to-Sales-Volumen von Home Credit Vietnam verdoppelt.

Diese Innovationen haben gezeigt, dass virtuelle Assistenten eine menschliche Interaktion mit Kunden erfordern, um das digitale Erlebnis zu verbessern. Dadurch richtet sich der Fokus nun auf die Qualität von KI-generierten Stimmen.

Synthetische Stimmen werden zusammen mit virtuellen Assistenten entwickelt, wobei eine Vielzahl von Tönen, Akzenten und Stimmungen verfügbar sind. Die Art der verwendeten Stimme hängt von der Anwendung ab. Virtuelle Assistenten für allgemeine Anfragen verwenden beispielsweise freundlichere und informativere Töne. KI-Stimmen für Teleshopping zeigen mehr Flexibilität und Emotionen, um potenzielle Kunden besser zu überzeugen.

Verbesserung der Sprachsynthesemodelle zur Verbesserung der Gesprächsqualität

Aufgrund der wachsenden Nachfrage nach menschlich klingenden, gefühlvollen virtuellen Assistenten hat sich FPT Smart Cloud zum Ziel gesetzt, Sprachsynthesemodelle zu entwickeln, die neue Stimmen auf der Grundlage von wenige Minuten dauernden Audioproben zu erzeugen. Die generierten Stimmen müssen von hoher Qualität sein und dürfen sich nicht von der menschlichen Stimme unterscheiden. Sie müssen in mehreren Sprachen kommunizieren, selbst wenn die Trainingseingaben in vietnamesischer Sprache erfolgen.

Wegen der Nunancen und emotionalen Untertöne der menschlichen Sprache erfordert das Sprachsynthesemodell oft eine große Menge an Trainingsdaten und eine lange Verarbeitungszeit, um die Genauigkeit und Ausdruckskraft zu optimieren.

Das Modelltraining wurde zuvor auf der NVIDIA A100 Tensor Core GPU ausgeführt. Ein typisches Training erfordert drei Server mit einer Verarbeitungskapazität von 100 Stunden Sprachdaten pro Tag über eine Dauer von 20 Tagen. Es wird erwartet, dass ein Upgrade auf die NVIDIA H100 Tensor Core GPU kompliziertere Modellanforderungen bewältigen und die Verarbeitungszeit mit 2.000 Stunden Audiodaten um mindestens das Dreifache oder 7 Tage verkürzt.

Mit H100 erfordert der gesamte Prozess nur einen dedizierten Server. Das Sprachsynthese-Modell ist in fünf Tagen einsatzbereit, was eine Vierfache Effizienzsteigerung im Vergleich zur NVIDIA A100 bedeutet, da es täglich etwa 400 Stunden Sprachproben verarbeitet. Das Ausgabemodell erhöhte die Dimension und Fähigkeit um das Hundertfache und generierte eine menschlich klingende Stimme, die nahtlos in 18 Sprachen übergehen kann, einschließlich Vietnamesisch, Englisch und Indonesisch.

Im Vergleich zur A100 ist die H100 in der KI-Sprachmodellierung einen Schritt weiter, sodass Sprachbarrieren überwunden werden und die globale Kommunikation in beispielloser Größenordnung erleichtert wird. FPT Smart Cloud macht einen Schritt nach vorne und nutzt die NVIDIA H100 auch für große Sprachmodelle, um genauere und flexiblere Antworten für virtuelle Assistenten zu generieren.

„Mit den Protokollen, die wir gemeinsam mit FPT.AI entwickelt haben, konnten wir einen fantastischen, KI-basierten Callcenter-Assistenten entwickeln. Damit hat Home Credit Vietnam nicht nur Kosten gespart, sondern auch weit mehr Kunden verbunden und geholfen, als wir es mit einem herkömmlichen Callcenter könnten.“

Khang Pham Ngoc, Generaldirektor, Home Credit Vietnam

Die Leistungsfähigkeit von NVIDIA GPUs zur Förderung der intelligenten Personalentwicklung

KI hat verschiedene Aspekte des Geschäftsbereichs revolutioniert, insbesondere die Arbeitsstruktur. Die KI-Automatisierung übernimmt einfache, sich wiederholende Aufgaben mit rund um die Uhr laufendem Betrieb und viel höherer Effizienz. Die Arbeitskräfte gehen zu komplexen Aufgaben über, die ein breiteres Spektrum an Fähigkeiten erfordern und Unternehmen dazu drängen, Mitarbeiter weiterzubilden und umzuschulen, damit mit der Weiterentwicklung und dem Fortschritt von KI-Fähigkeiten ein neues Arbeitsgleichgewicht erreicht wird.

Der von NVIDIAs Grafikprozessoren A100 und H100 unterstützte FPT AI Mentor ist eine KI-Lösung, die auf dem bewährten Ansatz des Mikrolernens basiert und die Schulung von Mitarbeitern automatisiert und personalisiert. Der Mentor ist auch ein leistungsstarker virtueller Assistent, der Mitarbeiter unterstützen und arbeitsbezogene Anfragen lösen kann, wodurch die Produktivität und die Betriebseffizienz verbessert werden.

Erweiterung der Belegschaft mit KI

Long Chau ist eine führende Pharmakette in Vietnam, die mehr als 1.700 Geschäfte besitzt, 14.000 Apotheker beschäftigt und in den letzten drei Jahren rasant gewachsen ist. Mit seinen ausgedehnten Aktivitäten im ganzen Land und strengen Industriestandards hat Long Chau den FPT AI Mentor eingesetzt, um seinen Mitarbeitern effiziente, qualitativ hochwertige Lernerlebnisse zu bieten und eine starke, kompetente Belegschaft aufzubauen.

Der FPT AI Mentor verwendet LLMs auf der Grundlage von NVIDIA DGX™ H100 und mit Unterstützung von NVIDIA NGC™ und PyTorch, um eine Vielzahl von Lerninhalten aus dem Geschäftswissen zu generieren und anzupassen. Hundert Prozent der Apotheker von Long Chau erhalten täglich fünfminütige Quizze, die auf die Stärken und Schwachpunkte im Fachwissen jedes Mitarbeiters zugeschnitten sind. Das Wissenstraining an den Folgetagen konzentriert sich auf schwache Punkte, kombiniert mit der Methode der regelmäßigen Wiederholung, um solides Wissen beizubehalten. Dieser fortgeschrittene Ansatz hat die Wissensqualität bei den Mitarbeitern um 55 Prozent verbessert und gleichzeitig die erforderlichen Schulungsressourcen um 80 Prozent reduziert.

Bildnachweis: FPT Smart Cloud

FPT AI Mentor erzeugt Wissensgraphen, die auf individuelle Wissensstärken und -schwächen zugeschnitten sind.

FPT AI Mentor generiert auf der Grundlage von Bewertungsergebnissen individuelle Wissensgraphen, um starke und schwache Wissensbereiche, Rankings und Trainingsfortschritte anzuzeigen und so einen optimalen Entwicklungspfad zu erstellen. Manager können die Qualität der Schulungen ihrer Mitarbeiter mit anpassbaren, detaillierten Berichten über jede Abteilung und jede Kampagne leicht überwachen.

Das Potenzial von LLMs im KI-gestützten Lernen

FPT Smart Cloud hat die neuesten Entwicklungen im Bereich generativer KI vorausgesehen und setzt auf die Entwicklung generativer KI, beginnend mit einer Aktualisierung großer Sprachmodelle. Diese Initiative zielt darauf ab, Lernformate zu diversifizieren, damit Mitarbeiter Geschäfts-Know-how effizienter erfassen.

Durch die Kombination mit anspruchsvolleren Lernzielen für das Modell und Trainingsdaten stiegen die Trainingsparameter um das Zehnfache. NVIDIA H100 hat sich zum Eckpfeiler für KI- und beschleunigte Computing-Workloads entwickelt. Die H100 kann das LLM-Training im Vergleich zur vorherigen Generation um das Dreißigfache beschleunigen. Die LLMs der nächsten Generation wurden mit NVIDIA NGC™, PyTorch und zwei DGX-H100-Knoten erstellt. Die Anwendung von NVIDIA-gestützten Workflows mit Retrieval-Augmented Generation (RAG) reduziert die Häufigkeit von Aktualisierungen vortrainierter Modelle und ermöglicht gleichzeitig, dass eine breite und flexible Palette von Aufgaben mit demselben vortrainierten Grundmodell erledigt werden kann.  

LLMs befähigen den FPT AI Mentor, situative Fragen und Antworten aus der Wissensdatenbank des Fachbereichs zu generieren. Diese Simulationen ähneln realen Situationen, denen Mitarbeiter bei ihrer Arbeit begegnen könnten. Sie können aus der Praxis lernen und schnelle, effektive Reaktionen unter realistischen Umständen entwickeln. Mitarbeiter können die generierten Antworten jedoch nicht sehen, und sie werden ausschließlich als Referenz zur Bewertung der Antworten der Mitarbeiter verwendet. Generative KI und die erweiterten Funktionen die sie in praktische Schulungen einbringt, stärken den Wettbewerbsvorteil von FPT AI Mentor. Unternehmenswissen wird mithilfe von NVIDIA-gestützten RAG-Workflows schnell in den FPT AI Mentor eingebettet und ermöglicht die Generierung relevanter Schulungsinhalte für bestimmte Unternehmen.

FPT Smart Cloud nutzt das exponentielle Wachstum von KI und beschleunigtes Computing von NVIDIA, um traditionelle Lernmethoden zu transformieren und die Entwicklung von Humankapital mit maßgeschneiderten Lernerlebnissen, Feedback in Echtzeit und sofortigem Zugriff auf relevante Informationen zu verbessern. Diese Funktionen verbessern nicht nur die Wissenserhaltung und den Erwerb von Fähigkeiten, sondern fördern auch die Entwicklung agiler und zukunftsfähiger Mitarbeiter.

„Die rasche Expansion von FPT Long Chau erfordert ein hoch qualifiziertes und engagiertes Team von Apothekern. Über die traditionellen Schulungszentren hinaus nutzt FPT Long Chau die technologischen Fähigkeiten von FPT und integriert KI in Schulungsprogramme, um die pharmazeutische Ausbildung zu revolutionieren. Mit FPT AI Mentor können unsere Apotheker flexibel mit personalisierten Tests und Quizzen direkt über Smartphones lernen. Dadurch sind sie gut gerüstet, um das Höchstmaß an Sorgfalt zu bieten und täglich bessere medizinische Beratung zu geben.“

Nguyen Bach Diep, Vorsitzende, FPT Retail

Sind Sie bereit?

Wenden Sie sich an einen NVIDIA-Experten, um mit der Entwicklung von KI-Lösungen für die Telekommunikation zu beginnen.