NVIDIA Nemotron

Hocheffiziente, multimodale, offene Modelle für KI-Agenten mit langer Laufzeit.

Überblick

Was ist NVIDIA Nemotron?

NVIDIA Nemotron™ ist eine Familie von hocheffizienten, multimodalen, offenen KI-Modellen, die für langlebige, sich selbst weiterentwickelnde Agenten entwickelt wurden. Nemotron-Modelle wurden für die schnelle Erledigung von Aufgaben entwickelt und bieten einen hohen Reasoning-Durchsatz und führende Genauigkeit für komplexe Agenten-Workflows.

Mit transparenten Trainingsdaten und einer breiten Plattformunterstützung, einschließlich NVIDIA RTX PRO™ und NVIDIA DGX Spark™, sind Nemotron-Modelle offen verfügbar und in das gesamte KI-Ökosystem integriert, sodass vertrauenswürdige, leistungsstarke KI-Agenten überall – vom Edge bis zur Cloud – bereitgestellt werden können.

Offene Modelle für spezialisierte KI-Agenten

Erfahren Sie, wie offene NVIDIA Nemotron-Modelle KI-Agenten dabei helfen, über Text und Bilder zu schlussfolgern, Workflows zu orchestrieren und spezialisierte Aufgaben zu erledigen.

Text und Vision für KI-Agenten zusammenbringen

NVIDIA Nemotron 3.5 Super VL kombiniert Text- und visuelles Verständnis, um KI-Agenten dabei zu helfen, Informationen aus Webseiten, PDFs, Tabellen und Diagrammen zu extrahieren und darauf zu reagieren, was sie finden.

Video

Warum NVIDIA Nemotron entwickelt hat

Bryan Catanzaro, VP für Applied Deep Learning Research bei NVIDIA, erläutert die Vision hinter Nemotron und erklärt, warum offene Methoden für die Entwicklung vertrauenswürdiger, unternehmensfähiger KI unerlässlich sind.

Vorteile

Was bietet Nemotron für agentische KI?

Offene Modelle

Die offenen Daten und Optimierungstechniken von NVIDIA gewährleisten leistungsstarke, transparente und anpassungsfähige Modelle für Entwickler und Unternehmen. Modelle und Trainingsdaten werden auf Hugging Face veröffentlicht.

Hohe Recheneffizienz

Die Nemotron-Familie ist optimiert, um agentische Aufgaben mit dem höchsten Durchsatz und der hybriden MoE-Architektur schneller zu erledigen.

Hohe Genauigkeit

Nemotron-Modelle werden von Grund auf mit außergewöhnlichem Wissen entwickelt, mit hochwertigen Trainingsdaten nachtrainiert und auf bestärkendes Lernen abgestimmt. Sie erreichen eine unübertroffene Genauigkeit für agentische Systeme mit langer Laufzeit.

Sichere und einfache Bereitstellung

Die Familie der Nemotron-Modelle, die als optimierte NVIDIA NIM™-Microservices verfügbar ist, bietet herausragende Inferenzleistung und flexible Bereitstellungsoptionen, die überlegene Sicherheit, Datenschutz und Portabilität gewährleisten.

Modelle

Modelle für verschiedene Workloads

Nemotron-Modelle zeichnen sich durch hervorragende Leistungen bei agentischen KI-Aufgaben aus, einschließlich Reasoning, multimodaler Vision, agentischem Retrieval, Sprache und Sicherheit. Forschungsmodelle zum Experimentieren sind ebenfalls verfügbar.

Logisches Denken

Nemotron-Modelle unterstützen eine Reihe von Schlussfolgerungs-Workloads. Nano bietet überragende Genauigkeit und Effizienz für spezialisierte Sub-Agenten, Super bietet höchste Genauigkeit, Durchsatz, Reasoning und Tool-Aufrufe für die Ausführung komplexer Aufgaben in Multi-Agenten-Systemen und Ultra liefert das beste Reasoning für geschäftskritische Anwendungen, die maximale Leistungsfähigkeit bei mehrstufigen Arbeitsabläufen erfordern.

Visuelles Verständnis

Multimodale Nemotron-Modelle bieten die höchste Effizienz und unübertroffene Genauigkeit in den Bereichen Video, Audio, Bild und Text für agentische Anwendungsfälle in Unternehmen. Sie sind für spezialisierte Sub-Agenten optimiert und unterstützen Funktionen wie Computer-Agenten, Dokumentenintelligenz sowie Video- und Audioverständnis.

Sprache

NVIDIA Nemotron-Sprachmodelle bieten für agentische KI-Anwendungen automatische Spracherkennung (ASR), Text-zu-Sprache (TTS) sowie neuronale maschinelle Übersetzung (NMT) mit hohem Durchsatz und extrem niedriger Latenz.

Agentisches Retrieval

NVIDIA Nemotron Retrieval-Modelle bieten KI-Agenten den besten Kontext für jede Aufgabe. Sie parsen multimodale Dokumente, generieren hochwertige Embeddings und bewerten die Ergebnisse neu, um die relevantesten Inhalte hervorzuheben – und ermöglichen so eine schnelle, skalierbare Abfrage, die die Genauigkeit und das Grounding der Agenten verbessert.

Sicherheit

NVIDIA Nemotron-Sicherheitsmodelle bieten Echtzeitschutz vor schädlichen Inhalten, themenwidrigen Abweichungen und Jailbreak-Versuchen. Sie fügen eine mehrsprachige, multimodale Content-Sicherheitsebene mit Reasoning-Fähigkeiten hinzu, verbessern die Moderation und sorgen für kulturelle Abstimmung.

Technologie

Bausteine für agentenbasierte KI

Beginnen Sie mit der Entwicklung und Optimierung von KI-Agenten mit NVIDIA NeMo für maßgeschneiderte agentische KI, NVIDIA NIM für eine schnelle, unternehmensgerechte Bereitstellung und NVIDIA Blueprints zur Beschleunigung der Entwicklung mit anpassbaren Referenz-Workflows.

NVIDIA NeMo

  • Sie können sowohl generative als auch agentenbasierte KI entwickeln, anpassen und bereitstellen.
  • Stellen Sie für Unternehmen geeignete große Sprachmodelle (LLMs) mit präziser Datenkuration, hochmoderner Anpassung, skalierbarer Datenaufnahme, RAG-Qualität und beschleunigter Leistung bereit.
  • Erstellen Sie ohne großen Aufwand Daten-Flywheels und optimieren Sie KI-Agenten kontinuierlich mit den neuesten Daten.

NVIDIA NIM

  • Beschleunigen Sie die Bereitstellung von leistungsoptimierten generativen KI-Modellen.
  • Führen Sie Geschäftsanwendungen mit stabilen und sicheren APIs aus, die von Support auf Unternehmensniveau unterstützt werden.

NVIDIA Blueprints

  • Legen Sie schnell los mit Referenzanwendungen für generative KI-Anwendungsfälle wie Enterprise Deep Research und multimodales RAG.
  • Beschleunigen Sie die Entwicklung mit Blueprints, die Partner-Microservices, einen oder mehrere KI-Agenten, Referenzcode, Dokumentation zur Anpassung und ein Helm-Chart für die Bereitstellung umfassen.

Einstiegsoptionen

Möglichkeiten für den Einstieg in Nemotron

Kostenloses Prototyping starten

Legen Sie los mit benutzerfreundlichen API-Endpunkten.

  • Nutzen Sie eine vollständig beschleunigte KI-Infrastruktur.
  • Stellen Sie sicher, dass Ihre Daten nicht für das Modelltraining verwendet werden.
  • Keine Credits, sondern ein einfacher Weg zum Entwickeln, Testen und Bereitstellen.

Führen Sie Nemotron auf Inferenzdienstanbietern aus.

Stellen Sie Nemotron-Modelle sofort auf vertrauenswürdigen Inferenzplattformen von Drittanbietern bereit – keine Infrastruktureinrichtung erforderlich.

  • Stellen Sie bereit, ohne Infrastruktur verwalten zu müssen.
  • Skalieren Sie nahtlos vom Prototyp bis zur Produktion.
  • Optimieren Sie die Kosten durch eine nutzungsabhängige Preisgestaltung.

Kontakt aufnehmen

Sprechen Sie mit einem NVIDIA-KI-Experten über die Überführung von Pilotprojekten für generative KI in den Produktivbetrieb – mit der Sicherheit, API-Stabilität und Unterstützung von NVIDIA AI Enterprise.

  • Analysieren Sie Ihre Anwendungsfälle für generative KI.
  • Besprechen Sie Ihre technischen Anforderungen.
  • Stimmen Sie NVIDIA-KI-Lösungen mit Ihren Zielen und Anforderungen ab.

Nemotron Coalition

Um die Vision für offene Modelle voranzutreiben, arbeitet NVIDIA mit Partnern im gesamten Ökosystem zusammen, darunter Modellentwickler und KI-native Unternehmen, um Nemotron-Modelle durch den Austausch von Know-how, Daten, Bewertungen und Feedback aus der Praxis zu verbessern.

Das Ergebnis sind stärkere Modelle, ein schnellerer Weg für Partner zur Entwicklung benutzerdefinierter KI-Lösungen und eine offene Grundlage, von der Entwickler und das breitere KI-Ökosystem profitieren.

Ressourcen

Neuerungen bei Nemotron entdecken

Warum NVIDIA Nemotron entwickelt hat

Erfahren Sie, wie Nemotron Innovationen beschleunigt, Entwickler unterstützt und die Zukunft der KI prägt.

So treibt ServiceNow Document Intelligence voran

Erfahren Sie, wie der Zugriff auf Nemotrons Modellgewichte, Datensätze und Trainingsrezepte eine tiefere Auswertung ermöglichte, was das Unternehmen ServiceNow über die Genauigkeit visueller F&A herausgefunden hat und warum Offenheit für die kontinuierliche Verbesserung multimodaler KI wichtig ist.

Reasoning EIN/AUS: Erstellung eines Sitzplans für eine Hochzeit mit KI-Reasoning

Sehen Sie sich an, wie ein LLM mit KI-Reasoning-Fähigkeiten kreatives Denken anwendet, um unter Berücksichtigung der Familienverhältnisse und Präferenzen der Gäste eine Lösung für den Sitzplan einer Hochzeit zu finden.

FAQs

NVIDIA Nemotron-Modelle sind nicht nur offen, sondern auch wirklich Open Source. NVIDIA veröffentlicht die Trainingsdatasets, Techniken und Modellgewichte, damit die Open-Source-Community von unseren Erkenntnissen profitieren und diese Ressourcen nutzen kann, um eigene Modelle zu erstellen.

Die NVIDIA Open Model-Lizenz ist eine freizügige Lizenz, die es Nutzern ermöglicht, die Modelle und Derivate ohne Nennung von NVIDIA zu verwenden, zu modifizieren, zu verteilen und kommerziell bereitzustellen, um Innovationen und die Weiterentwicklung generativer KI zu fördern.

Ja, Sie können NVIDIA Nemotron-Modelle kostenlos von Hugging Face herunterladen und in der Produktion ausführen.

NVIDIA bietet Nemotron-Modelle auch als NVIDIA NIM-Mikroservices für eine sichere, skalierbare Bereitstellung an, für die eine NVIDIA AI Enterprise-Lizenz erforderlich ist. Sie können die Nemotron-Modelle ausprobieren und die NIM-Microservices von build.nvidia.com herunterladen.

Ja, NVIDIA hat sich verpflichtet, weitere Nemotron-Modelle, -Datensätze und -Techniken zu veröffentlichen, um Open-Source-Ökosysteme zu ermöglichen.

NVIDIA Nemotron-Modelle basieren auf modernsten offenen Modellen, was eine schnellere Entwicklung besserer Modelle ermöglicht. Darüber hinaus veröffentlicht NVIDIA die Modellgewichte, Trainingsdatensätze und Trainingsmethoden, damit die Entwickler-Community diese Komponenten von Nemotron zum Trainieren ihrer eigenen Modelle verwenden kann.

NVIDIA bietet eine Vielzahl von Tools wie NVIDIA Dynamo, TensorRT-LLM und NIM, um Nemotron-Modelle in großem Umfang in der Produktion auszuführen. Sie können auch beliebte Open-Source-Bibliotheken wie SGLang und vLLM verwenden.

Nächste Schritte

Sind Sie bereit für den Einstieg?

Nutzen Sie geeignete Tools und Technologien, um NVIDIA Nemotron-Modelle aus der Entwicklung in den Produktivbetrieb zu überführen.

Kontakt aufnehmen

Sprechen Sie mit einem NVIDIA-Produktexperten über den Wechsel von der Pilotphase in den Produktivbetrieb mithilfe der Sicherheit, API-Stabilität und Unterstützung von NVIDIA AI Enterprise.

Mit Neuigkeiten zu agentenbasierter KI von NVIDIA auf dem Laufenden bleiben

Lassen Sie sich aktuelle Nachrichten zu agentenbasierter KI, Technologien, bahnbrechenden Neuerungen und mehr direkt in Ihren Posteingang schicken.