Erste Schritte mit NVIDIA Riva

NVIDIA Riva ist eine Sammlung GPU-beschleunigter, mehrsprachiger Microservices für Sprache und Übersetzung, mit denen Sie vollständig anpassbare Echtzeit-Pipelines für Gesprächs-KI erstellen können. Riva umfasst automatische Spracherkennung (ASR), Text zu Sprache (TTS) und neuronale maschinelle Übersetzung (NMT) und kann in allen Clouds, in Rechenzentren, am Edge oder auf eingebetteten Geräten eingesetzt werden. Mit Riva können Unternehmen Sprach- und Übersetzungsfunktionen mit großen Sprachmodellen (Large Language Models, LLMs) und Retrieval-Augmented Generation (RAG) hinzufügen, um Chatbots in leistungsstarke mehrsprachige Assistenten und Avatare zu verwandeln.

Riva bietet Deep-Learning-basierte Funktionen zur automatischen Spracherkennung (ASR) zur Umwandlung von Text in Sprache (TTS) und Modelle für neuronale maschinelle Übersetzung (NMÜ) für KI-Anwender und -Entwickler. ASR und TTS sind Sprachschnittstellen in Sprach-KI-basierten Anwendungen, beispielsweise zur Unterstützung von Call-Center-Mitarbeitern, zur Transkription von Videokonferenzen und KI-Superchats mit großen Sprachmodellen (LLMs) und Retrieval-Augmented Generation (RAG).

ASR wandelt Sprache in Text um und ist in der Regel der erste Schritt einer Sprachpipeline, sodass sich die Transkriptionsgenauigkeit auf alle nachgelagerten Aufgaben auswirkt. TTS generiert aus Text Sprachausgabe mit menschenähnlichen Stimmen. NMT übersetzt Wörter aus einer Sprache in eine andere.

Riva wird in allen Branchen eingesetzt, von Telekommunikation und Finanzen über das Gesundheitswesen bis hin zum Einzelhandel und der Automobilindustrie – immer dann, wenn Unternehmen mit ihren Kunden interagieren müssen.

Riva ist Teil der NVIDIA AI Enterprise-Software-Suite, die Business-Standard-Support umfasst. Riva-Kunden haben vorrangigen Zugriff auf neue Modelle, Funktionen und unterstützte Versionen mit Fehlerbehebungen.

Die Vorteile:

• Erstklassige Echtzeit-ASR in vielen Sprachen wie Arabisch, Mandarin (China), Englisch (BE/AE), Französisch, Deutsch, Hindi, Italienisch, Japanisch, Koreanisch, Portugiesisch und Spanisch (Lateinamerika/Spanien) mit vollständiger Modellanpassung für bestmögliche Genauigkeit zur Automatisierung wichtiger Prozesse und zur Wertsteigerung in Unternehmen.
• Ausdrucksstarke und professionell klingende menschenähnliche TTS, direkt verfügbare Stimmen in den Sprachen Englisch (BE/AE), Deutsch, Italienisch, Mandarin und Spanisch (Lateinamerika/Spanien) in den Varianten weiblich und männlich.
• Hochwertige direkt verfügbare zwei- und mehrsprachige Übersetzungsmodelle sowie Offline- und Streaming-Unterstützung für Text zu Text, Sprache zu Text und Sprache zu Sprache in bis zu 32 Sprachen – Arabisch, Bulgarisch, Chinesisch, Dänisch, Deutsch, Estnisch, Finnisch, Französisch, Griechisch, Hindi, Indonesisch, Italienisch, Japanisch, Koreanisch, Kroatisch, Lettisch, Litauisch, Niederländisch, Norwegisch, Polnisch, Portugiesisch, Rumänisch, Russisch, Slowakisch, Slowenisch, Spanisch, Schwedisch, Türkisch, Ukrainisch, Ungarisch und Vietnamesisch.
• Flexible Bereitstellung mit konsistenter Leistung, und zwar lokal, in allen Clouds, in der Peripherie und auf eingebetteten Geräten.

NVIDIA Riva bietet Deep-Learning-basierte ASR-, NMT- und TTS-Funktionen für KI-Anwender und -Entwickler. Mit Riva können Sie:

• Anwendungen mit Sprache versehen: Nutzen Sie Sprach- und Übersetzungs-KI für Konversationsanwendungen in allen Branchen, einschließlich KI-Superchats mit großen Sprachmodellen (LLMs) und Retrieval-Augmented Generation (RAG).
• Attraktive Anwendungserlebnisse erstellen: Integrieren Sie erstklassige, direkt verfügbare ASR-, NMT- und TTS-Funktionen und passen Sie Modelle für optimale Genauigkeit bei der Transkription und Übersetzung und menschliche ausdrucksstarke Sprachausgabe an.
• Ihren Kunden hochpräzise Services bieten: Optimieren Sie Riva-Modelle anhand Ihrer domänenspezifischen Daten.

Riva ist im Rahmen von NVIDIA AI Enterpriseerhältlich. Ausführliche Informationen zu Preisen und Lizenzen finden Sie hier.

Für weitere Informationen zum Kauf von Riva für die Produktionsbereitstellung kontaktieren Sie den Vertrieb. Entwickler können auch eine kostenlose 90-Tage-Testversion von NVIDIA AI Enterprise beantragen, um auf Sprach-KI-Workflows, Riva-Container und vortrainierte Modelle zuzugreifen.

Wenden Sie sich an Ihren bevorzugten NVIDIA-Partner, um mehr über die Kaufoptionen für NVIDIA AI Enterprise-Software zu erfahren. Unabhängige Softwareanbieter (ISVs) wenden sich bitte an ihren regionalen NVIDIA Vertrieb, und Partner können sich an ihren NVIDIA-Geschäftspartner wenden. Wenn Sie ein bestehendes Sprach-KI-Projekt haben und schneller mit Tests und Prototypenerstellung beginnen möchten, können Sie eine kostenlose Testversion von Riva auf NVIDIA LaunchPadbeantragen.

NVIDIA LaunchPad ist eine universelle Testumgebung und bietet umfassende Tests der neuesten NVIDIA-Hardware und -Software für Unternehmen. Diese dynamische Plattform beschleunigt Kurzzeittests, ermöglicht langfristige Machbarkeitsstudien (Proof of Concept, POCs) und beschleunigt die Entwicklung von Managed Services und Standalone-Lösungen.

Die Benutzer können ihre KI-Reise mit einer aufschlussreichen, auf ihre Bedürfnisse zugeschnittenen Entwicklungsumgebung beginnen. Oder sie können einen riesigen Katalog an Praxis-Labs durchsuchen, die immersive Erfahrungen in einem Spektrum von Anwendungsfällen bieten – von KI-Chatbots mit NVIDIA Triton™ Inference Server über Bildklassifizierung mit TensorFlow und mehr. Unternehmen erhalten einfachen Zugriff auf die neuesten beschleunigten Hardware- und Software-Stacks, die in einer privat gehosteten Infrastruktur bereitgestellt werden.

Mehrere Labore verwenden Riva bei NVIDIA LaunchPad. Organisationen, die bereits ein KI-Projekt zu Sprache und Übersetzung haben, können sich kostenlos für die Teilnahme am Programm bewerben.

Mit LaunchPad benötigen Sie weder eine eigene Infrastruktur noch eigene Daten, um Zugang zu den kostenlosen Testversionen zu erhalten. Zu den LaunchPad-Ressourcen gehören NVIDIA-zertifizierte Systeme™, auf denen vollständige NVIDIA-KI-Software-Stacks ausgeführt werden – von GPU- und DPU-SDKs bis hin zu führenden KI-Frameworks und Anwendungs-Frameworks. NVIDIA LaunchPad ist weltweit verfügbar.

Der NVIDIA-API-Katalog bietet produktionsreife generative KI-Modelle und eine laufend optimierte Inferenz-Laufzeit, die als Microservices verpackt sind und mit standardisierten Tools auf jedem GPU-beschleunigten System einfach bereitgestellt werden können.

NVIDIA AI Enterprise ist eine durchgängige, Cloud-native Softwareplattform, die datenwissenschaftliche Pipelines beschleunigt und die Entwicklung und Bereitstellung generativer KI-Anwendungen optimiert, einschließlich generativer KI, Computer Vision, Sprach-KI und mehr. Sie umfasst erstklassige Entwicklungstools, Frameworks und vortrainierte Modelle für KI-Anwender und zuverlässiges Management und Orchestrierung für IT-Spezialisten, um Leistung, hohe Verfügbarkeit und Sicherheit zu gewährleisten.