Ziel
CCC nutzt NVIDIA DGX Cloud zur Verwaltung und Orchestrierung von Entwicklungs-Workflows und beschleunigt so die Bereitstellung von KI-basierten Lösungen.
Kunde
CCC Intelligent Solutions Inc.
Anwendungsfall
KI-Training
Technologie
NVIDIA AI Enterprise, NVIDIA Base Command, NVIDIA DGX A100, NVIDIA DGX Cloud
CCC Intelligent Solutions (CCC) wurde 1980 gegründet und ist eine führende Software-as-a-Service (SaaS)-Plattform für sämtliche Kompositversicherungen. Die Plattform unterstützt Versicherer, Reparaturwerkstätte, Autohersteller, Ersatzteillieferanten, Kreditgeber und mehr. Mehr als 300 Versicherungsgesellschaften und 28.000 Unfallinstandsetzungsbetriebe landesweit nutzen die Technik von CCC, um Schadensfälle und Reparaturen schnell und höherer Effizienz zu bearbeiten. CCC betreibt eine zu 100 Prozent in der Cloud ausgeführte Produktionsumgebung und bietet Kunden so eine flexible Plattform für kontinuierliche Innovationsmöglichkeiten.
Die Vision von CCC ist es, die digitale Transformation der Versicherungs- und Automobilbranche durch den Einsatz von KI-fähigen Lösungen zu beschleunigen, die Workflows automatisieren und eine bessere Entscheidungsfindung ermöglichen. CCC ist das erste Unternehmen in der Branche für Autoversicherungen bei Schadensfällen, das eine direkte Verarbeitung von Reparaturschätzungen ermöglicht. CCC® Estimate (STP) nutzt KI, Regeln auf Basis des Versicherers und das riesige Technologieumfeld von CCC, um den Prozess der Schadensschätzung in Sekundenschnelle zu digitalisieren und so das Kundenerlebnis zu verbessern. Kunden bearbeiten jährlich mehr als 16 Millionen Schadensfälle mithilfe der CCC-Lösungen. Versicherungskunden konnten bis 2022 mehr als 14 Millionen einzigartige Schadensfälle mit der Computer-Vision-KI von CCC bearbeiten.
Herausforderung: Unterstützung von Datenwissenschaftlern und Ingenieuren beim KI-Modelltraining für eine schnellere Markteinführung von Lösungen
CCC beschäftigt ein großes Team von Datenwissenschaftlern, die sich für die Innovation und die Beschleunigung von Schadensabwicklungen und Reparaturen bei Autos engagieren, um das Kundenerlebnis zu verbessern. Die Verwaltung mehrerer Teams und Workflows über viele Innovationen hinweg kann jedoch eine Herausforderung darstellen. „Um intelligente Lösungen für die Schadensabwicklung von Autos stets zu innovieren und weiterzuentwickeln und so KI-basierte Lösungen effektiv bereitzustellen, müssen wir eine optimale Organisation mit den richtigen Toolsets etablieren“, sagt Reza Rooholamini, Chief Scientific Officer bei CCC. Rooholamini erklärt: „Unsere Datenwissenschaftler spielen eine wesentliche Rolle bei der Schaffung neuer Lösungen und die Möglichkeit, Modelle zu entwickeln, Experimente durchzuführen und diese Modelle problemlos in unsere KI-Workflows zu integrieren, ist von entscheidender Bedeutung.“
CCC hat eine durchgängige KI-Entwicklungs- und Trainingspipeline basierend auf einer Hybrid-Cloud entwickelt. Diese Infrastruktur nutzt über 150 NVIDIA A100 Tensor Core GPUs sowie die DGX Cloud und zusätzliche lokale NVIDIA DGX-Systeme.
Die CCC-Entwicklungsteams nutzen die DGX Cloud als KI-Training-as-a-Service-Lösung, um die Kapazität vor Ort zu ergänzen, Nachfragespitzen beim Supercomputing zu unterstützen und die allgemeine KI-Entwicklung zu beschleunigen.
Da die Datenwissenschaftler und Ingenieur-Teams 25–30 Prozent ihrer Zeit den Experimenten widmen und die enormen Datenmengen täglich wachsen, benötigte CCC eine skalierbarere Hybrid-Multi-Cloud mit mehreren Plattformen für seine Entwicklungsumgebung.
Bild mit freundlicher Genehmigung von CCC
- CCC wollte bei Schadensschätzungen die sich wiederholenden Aufgaben mit geringem Wert und hohem Volumen minimieren.
- Das Unternehmen etablierte eine End-to-End-Pipeline für das Training von KI-Modellen mithilfe einer Cloud-basierten Infrastruktur und zusätzlichen lokalen Komponenten.
- NVIDIA DGX™ Cloud stellt sicher, dass CCC Modelle problemlos von überall aus trainieren kann und rund um die Uhr On-Demand-Zugriff auf GPUs erhält.
- Die NVIDIA Base Command™ Plattform wurde in die Entwicklungspipeline für die Verwaltung und Orchestrierung von Datenmengen integriert und beschleunigt die Experimente der Datenwissenschaftler um das Doppelte.
- Diese KI-Pipeline hat es CCC ermöglicht, neue Innovationen auf den Markt zu bringen, einschließlich der Technik CCC Estimate – STP, die realistische und präzise Schadensschätzungen in Sekundenschnelle basierend auf den Regeln des Versicherers bereitstellt.
NVIDIA DGX Cloud: Optimierter Entwickler-Workflow mit On-Demand-Zugriff auf leistungsstarkes Computing
„Da wir eine zentrale KI-Entwicklungspipeline haben, die in andere Pipelines und Plugins integriert werden kann, ist es für uns wichtig, eine zentralisierte Plattform für die Verwaltung und Orchestrierung von KI-Rechenressourcen für unsere Entwickler zu haben. Dadurch wird sichergestellt, dass verschiedene Teams, die mit gemeinsam genutzten Ressourcen arbeiten, die Rechenleistung erhalten, die sie für ihre Projekte benötigen“, so Andrey Ptashnik, Lead Enterprise Architect bei CCC.
„Innerhalb der DGX Cloud nutzen wir die offene API der Base Command Plattform und die Kompatibilität mit der Kubernetes-API, um sie problemlos in unsere interne Modellentwicklungspipeline zu integrieren und sie als Scheduling- und Ressourcen-Manager zu nutzen.“
CCC erfasst jedes Jahr Millionen von unstrukturierten und strukturierten Datenpunkten. Daher ist die Fähigkeit, Daten über unsere Trainingsressourcen hinweg zu übertragen, von größter Bedeutung, um so Geschwindigkeit und Flexibilität sicherzustellen. „Die Base Command Plattform kann nicht nur Aufträge viel schneller starten und automatisieren, sondern erleichtert auch den Datentransfer erheblich. Die Kunden von CCC bearbeiten jedes Jahr Millionen von Schadensfällen mit CCC-Lösungen und generieren dabei Unmengen von Daten. Die Daten müssen aus der Produktionsumgebung in Sub-Lakes extrahiert werden, an den Ort verschoben werden, an dem das Modell entwickelt wird, und anonymisiert werden, bevor wir mit ihnen experimentieren können“, sagte Ptashnik. „Wir können die Datenmengen problemlos in die Base Command Plattform extrahieren und verwalten. Wenn wir Aufträge auf der DGX Cloud planen, können wir diese Datenmengen von der Base Command Plattform abrufen und unsere Rechenressourcen entsprechend organisieren und koordinieren.“
Reza Horrieh, Senior Manager für KI-Infrastruktur und -Sicherheit, KI-Enablement bei CCC, erklärte: „Mit der DGX Cloud erhält unser Team Zugriff auf eine leistungsstarke KI-Entwicklungs-Infrastruktur, die eine rund um die Uhr und auf Abruf verfügbare dedizierte Entwicklungs-Cloud mit einem großartigen Support-Team bietet.“
Bild mit freundlicher Genehmigung von CCC
Ergebnisse: 2-fache Beschleunigung bei der Durchführung von Experimenten und 30-mal schnellere Modellentwicklung
CCC hat 2021 mithilfe seiner KI-Pipeline CCC Estimate – STP veröffentlicht, das eine detaillierte und realistische Schätzung einer Kollision basierend auf den Regeln des Versicherers in Sekundenschnelle und unter Verwendung nur weniger Bilder von einem Smartphone abgeben kann, im Gegensatz zu mehreren Tagen, die es mithilfe manueller Methoden dauern kann. Dieser digitalisierte Schätzungsprozess hat nicht nur das Kundenerlebnis verbessert, sondern sorgt auch für eine höhere Effizienz für die Kunden.
„Wir entwickeln ein Ensemble großer Modelle und die DGX Cloud ermöglicht es uns, Modelle schneller zu trainieren und Funktionen schneller zu modernisieren, während die Base Command Plattform eine optimale Nutzung sicherstellt“, sagt Neda Hantehzadeh, PhD, Director of Data Science bei CCC. „Die Verwaltung und Orchestrierung von Datenmengen durch die Base Command Plattform ermöglichte es unseren Datenwissenschaftlern, die Durchführung von Experimenten um das Doppelte zu beschleunigen.“
Die DGX Cloud beschleunigte die Modellentwicklung und verbesserte die Kosteneffizienz. „Durch die Integrierung der DGX Cloud in unsere KI-Pipeline können wir die Modellentwicklung beschleunigen und einige Modelle in nur wenigen Tagen entwickeln“, sagt Rooholamini.
Hantehzadeh fügte hinzu: „Wir führen viele Experimente lokal durch, aber wir stoßen auf Spitzen, für die wir beispielsweise 10 Millionen Datenpunkte hinzufügen möchten, um einen neuen Durchgang zu starten. Wenn unsere firmeneigenen Systeme nicht genügend Kapazität haben, wechseln wir zur DGX Cloud. Die Base Command Plattform macht diesen Prozess nahtlos.“
Ergebnisse
- 2-fache Beschleunigung der Experimente von Datenwissenschaftlern
- Verbesserte Modellentwicklungszeit von Monaten auf Tage
„Die Verwaltung und Orchestrierung von Datenmengen durch die Base Command Plattform und der Einsatz der DGX Cloud ermöglichte es unseren Datenwissenschaftlern, die Durchführung von Experimenten um das Doppelte zu beschleunigen.“
Neda Hantehzadeh
PhD, Director of Data Science, CCCIS
Blick nach vorn
CCC plant, weiterhin in innovative und flexible Technik zu investieren, um seine Spitzenposition bei der KI-Entwicklung zu wahren. „Die durchgängige KI-Pipeline, die wir errichtet haben, ermöglicht uns die Realisierung vielerlei Innovationen. Unsere variationsreichen Produkte weisen eine Menge KI-Funktionen und Automatisierungen auf“, sagt Hantehzadeh. „Die Nachfrage nach Modelltraining steigt, und die Möglichkeit, Cloud-native Tools zu nutzen, die problemlos auf unsere leistungsstarke KI-Infrastruktur zugreifen, unsere Ressourcen besser verwalten und Experimente und Entwicklung bei Bedarf über Hybrid-Clouds hinweg verwalten können, wird uns bei der schnellen Markteinführung neuer Lösungen helfen.“
Das Team beabsichtigt, seine in die DGX Cloud integrierte KI-Pipeline auch in Zukunft für das Multi-Knoten-Training sehr umfangreicher Computer-Vision- und Sprachmodelle zu nutzen.
„Wir führen viele Experimente lokal durch, aber es gibt Spitzen, wo wir beispielsweise 10 Millionen Datenpunkte hinzufügen müssen, und müssen einen neuen Durchgang starten. Wenn wir nicht genügend lokale Kapazität haben, wechseln wir zur DGX Cloud. Die Base Command Plattform macht diesen Prozess nahtlos.“
Neda Hantehzadeh
PhD, Director of Data Science, CCCIS