NVIDIA Nemotron

Offene und effiziente multimodale Modelle für agentenbasierte KI.

Überblick

Was ist NVIDIA Nemotron?

NVIDIA Nemotron™ ist eine Familie offener Modelle, Datensätze und Technologien, mit denen Sie hocheffiziente, präzise und spezialisierte agentenbasierte KI erstellen können. Die Modelle zeichnen sich durch wissenschaftliches Denken auf Hochschulniveau, fortgeschrittene Mathematik, Programmierung, Befolgung von Anweisungen, Werkzeuganwendung, visuelles Denken und Retrieval-Augmented Generation (RAG) aus.

Nemotron ist in das KI-Ökosystem integriert, sodass Sie Modelle mit Open-Source-NVIDIA-Software überall, von der Peripherie bis zur Cloud, einfach anpassen und bereitstellen können.

Offenes Geheimnis: So fördern NVIDIA Nemotron-Modelle, Datensätze und Methoden die Entwicklung von KI

Erfahren Sie, wie Open-Source-KI-Technologie wie Nemotron Unternehmen die Transparenz und Zuverlässigkeit bietet, die sie für die erfolgreiche Einführung von KI benötigen.

Branchenpioniere erstellen intelligentere KI-Agenten mit NVIDIA Nemotron- und Cosmos™-Reasoning-Modellen

Offene Reasoning-Modelle sind für KI-Anwendungen in Unternehmen und physischen Anwendungen konzipiert und denken bis zu 9-mal schneller, beschleunigen die Inferenz und senken die Kosten für Agent-Plattformen in den Bereichen Kundenservice, Cybersicherheit, Fertigung, Logistik und Robotik.

Video

Warum NVIDIA Nemotron entwickelt hat

Bryan Catanzaro, VP für Applied Deep Learning Research bei NVIDIA, erläutert die Vision hinter Nemotron und erklärt, warum offene Methoden für die Entwicklung vertrauenswürdiger, unternehmensfähiger KI unerlässlich sind.

Vorteile

Was bietet Nemotron für agentische KI?

Offene Modelle

Die offenen Daten und Optimierungstechniken von NVIDIA gewährleisten leistungsstarke, transparente und anpassungsfähige Modelle für Entwickler und Unternehmen. Modelle und Trainingsdaten werden auf Hugging Face veröffentlicht.

Hohe Recheneffizienz

Durch die Reduzierung größerer Modelle wurde die Nemotron-Familie für höchste Recheneffizienz optimiert. Sie nutzt NVIDIA TensorRT™-LLM, um einen höheren Durchsatz und On/Off-Reasoning-Fähigkeiten zu erzielen.

Hohe Genauigkeit

Die Nemotron-Modelle basieren auf beliebten offenen Reasoning-Modellen, die für ihr außergewöhnliches Wissen bekannt sind. Sie wurden mit hochwertigen Trainingsdaten nachgeschult und darauf ausgerichtet, wie Menschen zu denken, und erzielen die höchste Genauigkeit in führenden Benchmarks.

Sichere und einfache Bereitstellung

Die Familie der Nemotron-Modelle, die als optimierte NVIDIA NIM™-Microservices verfügbar ist, bietet herausragende Inferenzleistung und flexible Bereitstellungsoptionen, die überlegene Sicherheit, Datenschutz und Portabilität gewährleisten.

Modelle

Modelle für verschiedene Workloads

Nemotron-Modelle zeichnen sich durch hervorragende Leistungen bei einer Reihe agentenbasierter KI-Aufgaben aus, einschließlich logisches Denken, Vision, Retrieval-Augmented Generation (RAG) und Sicherheit. Forschungsmodelle zum Experimentieren sind ebenfalls verfügbar.

Logisches Denken

Wählen Sie aus einer Reihe von Nemotron-Reasoning-Modellen: Nano bietet überlegene Genauigkeit für PC- und Edge-Geräte, Super bietet die höchste Genauigkeit und den höchsten Durchsatz für den Betrieb auf einer einzigen NVIDIA Tensor Core GPU, und Ultra bietet die beste Genauigkeit für komplexe Systeme, die für Multi-GPU-Rechenzentren optimiert sind.

Retrieval-Augmented Generation

Nemotron-Modelle bieten branchenführende Extraktions-, Einbettungs- und Reranking-Funktionen für die Entwicklung von Abruf-Pipelines, die Ihre Unternehmensdaten mit agentenbasierten Systemen verbinden, um genaue Geschäftserkenntnisse in Echtzeit zu liefern.

Guardrails (Sicherheits- und Kontrollmechanismen)

NVIDIA Nemotron Safety Guard-Modelle bieten Echtzeit-Schutz vor schädlichen Inhalten, themenwidrigen Abweichungen und Jailbreak-Versuchen. Sie fügen eine Sicherheitsebene für mehrsprachige Inhalte hinzu, was die Moderation verbessert und den kulturellen Abgleich gewährleistet.

Technologie

Bausteine für agentenbasierte KI

Beginnen Sie die Entwicklung und Optimierung von KI-Agenten mit NVIDIA NeMo™ für maßgeschneiderte agentenbasierte KI, NVIDIA NIM für eine schnelle, unternehmensgerechte Bereitstellung und NVIDIA Blueprints zur Beschleunigung der Entwicklung mit anpassbaren Referenz-Workflows.

NVIDIA NeMo

  • Sie können sowohl generative als auch agentenbasierte KI entwickeln, anpassen und bereitstellen.
  • Stellen Sie für Unternehmen geeignete große Sprachmodelle (LLMs) mit präziser Datenkuration, hochmoderner Anpassung, skalierbarer Datenaufnahme, RAG-Qualität und beschleunigter Leistung bereit.
  • Erstellen Sie ohne großen Aufwand Daten-Flywheels und optimieren Sie KI-Agenten kontinuierlich mit den neuesten Daten.

NVIDIA NIM

  • Beschleunigen Sie die Bereitstellung von leistungsoptimierten generativen KI-Modellen.
  • Führen Sie Geschäftsanwendungen mit stabilen und sicheren APIs aus, die von Support auf Unternehmensniveau unterstützt werden.

NVIDIA Blueprints

  • Legen Sie schnell los mit Referenzanwendungen für generative KI-Anwendungsfälle wie Enterprise Deep Research und multimodales RAG.
  • Beschleunigen Sie die Entwicklung mit Blueprints, die Partner-Microservices, einen oder mehrere KI-Agenten, Referenzcode, Dokumentation zur Anpassung und ein Helm-Chart für die Bereitstellung umfassen.

Einstiegsoptionen

Möglichkeiten für den Einstieg in Nemotron

Kostenloses Prototyping starten

Beginnen Sie mit benutzerfreundlichen API-Endpunkten für NIM, unterstützt von DGX™ Cloud.

  • Nutzen Sie eine vollständig beschleunigte KI-Infrastruktur.
  • Stellen Sie sicher, dass Ihre Daten nicht für das Modelltraining verwendet werden.
  • Keine Credits, sondern einfach eine einfache Möglichkeit für das Entwickeln, Testen und Bereitstellen.

Kontaktieren Sie uns

Sprechen Sie mit einem NVIDIA-KI-Experten über die Überführung von Pilotprojekten für generative KI in den Produktivbetrieb – mit der Sicherheit, API-Stabilität und Unterstützung von NVIDIA AI Enterprise.

  • Analysieren Sie Ihre Anwendungsfälle für generative KI.
  • Besprechen Sie Ihre technischen Anforderungen.
  • Stimmen Sie NVIDIA-KI-Lösungen mit Ihren Zielen und Anforderungen ab.

Anwender

Unternehmen, die Nemotron nutzen

Ressourcen

Neuerungen bei Nemotron entdecken

Warum NVIDIA Nemotron entwickelt hat

Erfahren Sie, wie Nemotron Innovationen beschleunigt, Entwickler unterstützt und die Zukunft der KI prägt.

So treibt ServiceNow Document Intelligence voran

Erfahren Sie, wie der Zugriff auf Nemotrons Modellgewichte, Datensätze und Trainingsrezepte eine tiefere Auswertung ermöglichte, was das Unternehmen ServiceNow über die Genauigkeit visueller F&A herausgefunden hat und warum Offenheit für die kontinuierliche Verbesserung multimodaler KI wichtig ist.

Reasoning EIN/AUS: Erstellung eines Sitzplans für eine Hochzeit mit KI-Reasoning

Sehen Sie sich an, wie ein LLM mit KI-Reasoning-Fähigkeiten kreatives Denken anwendet, um unter Berücksichtigung der Familienverhältnisse und Präferenzen der Gäste eine Lösung für den Sitzplan einer Hochzeit zu finden.

Nächste Schritte

Sind Sie bereit?

Nutzen Sie geeignete Tools und Technologien, um NVIDIA Nemotron-Modelle aus der Entwicklung in den Produktivbetrieb zu überführen.

Kontaktieren Sie uns

Sprechen Sie mit einem NVIDIA-Produktexperten über den Wechsel von der Pilotphase in den Produktivbetrieb mithilfe der Sicherheit, API-Stabilität und Unterstützung von NVIDIA AI Enterprise.

Mit Neuigkeiten zu agentenbasierter KI von NVIDIA auf dem Laufenden bleiben

Lassen Sie sich aktuelle Nachrichten zu agentenbasierter KI, Technologien, bahnbrechenden Neuerungen und mehr direkt in Ihren Posteingang schicken.