NeoSpace, ein Mitglied von NVIDIA Inception, hilft Unternehmen dabei, Billionen von tabellarischen, ereignisorientierten und unstrukturierten Datensätzen mit großen tabellarischen Foundation-Modellen für Unternehmen in Echtzeit-Vorhersagen und Entscheidungen zu verwandeln. Die NeoData-Plattform, die auf NVIDIA-beschleunigtem Computing basiert, bietet die Leistung und betriebliche Skalierbarkeit, die für die komplexe Unternehmensdatenverarbeitung erforderlich ist. Banken, Telekommunikationsbetreiber, Versicherer und Unternehmen aus verschiedenen Branchen setzen bereits auf diese neue Technologie, um mehr Wissen und Wert aus ihren Daten zu gewinnen. Eine der größten Privatbanken Lateinamerikas nutzte die Foundation-Modelle von NeoSpace, um die Kreditentscheidung erheblich zu verbessern und Ratenkreditangebote zu erschließen.
NeoSpace
Oracle Cloud Infrastructure (OCI)
Generative KI/LLMs
Höhere Genauigkeit des Foundation Model
Feinabgestimmte Modellleistung
Verbesserte Zugänglichkeit zu Krediten
Vor dem Einsatz der beschleunigten Computing-Plattform von NVIDIA stellte NeoSpace fest, dass auf herkömmlichen ML-Modellen basierende Unternehmens-Workloads Schwierigkeiten hatten, mit dem Datenvolumen und der Komplexität Schritt zu halten.
Als die Kunden auf Transformer-basierte Foundation-Modelle umstellten, die mit Unternehmensdatensätzen trainiert wurden, traten Engpässe sowohl bei der Trainingszeit als auch beim Inferenzdurchsatz, bei der Latenz und den Kosten auf. Für große Finanzinstitute führten diese Einschränkungen zu langsameren Experimenten, begrenzten Anwendungsfällen und zu Schwierigkeiten, personalisierte Entscheidungen in Echtzeit für zig Millionen von Endkunden bereitzustellen.
NeoSpace suchte nach einer Möglichkeit, Foundation-Modelle in der Finanzdienstleistungsbranche produktionsreif und wirtschaftlich tragfähig zu gestalten, damit Banken KI-Anwendungen auf der Grundlage von Billionen von Unternehmensdatensätzen skalieren können.
Das NeoData-Trainingabläufe-Dashboard für fachspezifische Modelle, einschließlich Investitionsstrategien.
NeoSpace hat seine NeoData-Plattform so konzipiert, dass sie sowohl für Training als auch für Inferenz auf NVIDIA-beschleunigtem Computing ausgeführt werden kann – so werden die strukturierten und unstrukturierten Daten der Kunden in direkt umsetzbare Informationen in Echtzeit verwandelt.
NeoData operiert jetzt in großem Maßstab in einer Multi-Cloud-Umgebung für eine der größten Privatbanken Lateinamerikas mit mehr als 60 Millionen Kunden.
NeoSpace gehört zu den ersten Unternehmen in Lateinamerika, die NVIDIA GB200 NVL72-Systeme in der Produktion über Oracle Cloud Infrastructure (OCI) bereitstellen.
Der NeoSpace-Stack basiert außerdem auf NVIDIA® CUDA®-Bibliotheken, um das Training und die Bereitstellung seiner Foundation-Modelle zu beschleunigen, einschließlich:
NeoSpace orchestriert seine NVIDIA-GPUs mit NeoCore, einem internen Tool, das direkt auf Bare-Metal-Hosts in seinen Multi-Cloud-Umgebungen ausgeführt wird, um die Workload-Verteilung zu verwalten. Diese Architektur ermöglicht es NeoSpace, Foundation-Modelle als prädiktive Ebene in verschiedenen Anwendungsfällen auszuführen und fragmentierte ML-Pipelines durch einen einheitlichen Ansatz in Produktionsqualität zu ersetzen.
Das NeoData-Inferenzserver-Dashboard überwacht den Systemzustand, die Leistung und die Ressourcenauslastung für bestimmte Modell-Checkpunkte in den Bereichen Investitionen, Risikobewertung, Volatilitätsvorhersagen und mehr.
Im Vergleich zu herkömmlichen ML-Modellen liefern die Foundation-Modelle von NeoSpace, die von NVIDIA unterstützt werden, verbesserte Ergebnisse über Kundengruppen, Datenmodalitäten und Zeiträume hinweg. NeoSpace erzielte eine mindestens 30–50 % höhere Genauigkeit, sodass seine Kunden aus dem Finanzdienstleistungssektor KI-Anwendungsfälle erweitern können, ohne ihre Infrastruktur neu konzipieren zu müssen.
Im Rahmen einer Vorzeigebereitstellung arbeitete NeoSpace mit einem weiteren großen lateinamerikanischen Finanzinstitut zusammen, um eine Lösung zur Neigungsmodellierung auf Basis umfangreicher tabellarischer Daten zu entwickeln, mit der sich diejenigen Kunden identifizieren lassen, bei denen die Wahrscheinlichkeit am höchsten ist, dass sie Ratenkredite aufnehmen werden.
Das Modell wurde anhand von Kolmogorov–Smirnov (KS), der Abschlussrate und der Konversionsrate über Dezile hinweg bewertet. Diese Bereitstellung hatte Auswirkungen auf 6 Millionen Kunden in der Produktion und nutzte mehr als 10 TB an Daten, die über 50 Millionen Kunden abdeckten, einschließlich CRM-Feature Stores, Eignungsvariablen, historischem Vertragsverhalten, Transaktionsdaten und mehr.
Gegenüber der bestehenden Referenzbasis der Bank hat NeoSpace eine Verbesserung von 10 bis 20 Prozentpunkten beim KS ermöglicht. Die Abschlussrate im obersten Dezil stieg um 20 bis 30 Prozentpunkte, was zeigt, dass sich ein größerer Anteil der Kunden, die das Ratenkreditangebot der Bank in Anspruch nahmen, im Segment mit der höchsten Neigung konzentrierte. Diese Leistungssteigerungen ermöglichten es der Bank, weniger Kunden zu kontaktieren und gleichzeitig höhere Gesamtergebnisse zu erzielen, was die Effizienz pro Interaktion steigerte und wirkungsvollere Kampagnen ermöglichte.
Insgesamt führte die optimierte Neigungsstrategie zu einer Steigerung der Ratenkreditangebote um 10 %, was auf eine bessere Einstufung von Kunden mit hoher Kaufneigung und eine gezielte Kundenansprache zurückzuführen ist. Diese Foundation-Modelle bilden die neue zentrale Vorhersageebene des Instituts, die stabilere Vorhersagen, eine schnellere Amortisierung und eine Steigerung der Geschäftseffizienz ermöglicht.
NeoSpace testet ein fusioniertes Modell, das das aktuelle tabellarische Modell mit ereignisbasierten Transaktionsdaten wie Kreditkartentransaktionen, Girokontobewegungen und Rechnungszahlungen kombiniert. Hierdurch wird eine zusätzliche Steigerung des Ratenkreditangebots um etwa 5 Prozentpunkte erwartet.
Die Bank wendet dieses Framework für die Neigungsmodellierung bereits im Parallelbetrieb von einem einzelnen Produkt auf fast 50 Finanzprodukte an und schafft so eine Plattform, die jeden Kunden versteht, Bedürfnisse vorhersieht und personalisierte Kundeninteraktion skalierbar macht.
Durch die Entwicklung von NeoData auf der NVIDIA Blackwell-Plattform und dem CUDA-Software-Stack setzte NeoSpace Foundation-Modelle für Finanzdienstleistungen in Produktionsqualität ein, die Daten mit Entscheidungen für einige der größten Finanzinstitute Lateinamerikas verknüpfen.
„Foundation-Modelle für Unternehmen sind die fehlende Ebene zwischen Daten und Entscheidungen. Mit NVIDIA machen wir diese Ebene produktionsreif, mit Training und Bereitstellung in großem Maßstab, sodass Kunden prädiktive Werte aus Billionen von Unternehmensdatensätzen erschließen können.“
Bruno Pierobon
CEO, NeoSpace
Entdecken Sie führende Finanzdienstleistungsunternehmen, die KI einsetzen, um den Handel zu optimieren, Transaktionsbetrug zu erkennen und das Kundenerlebnis zu verbessern.