TECHNISCHE ÜBERSICHT

Top-Ressourcen zur Bereitstellung von KI in der Peripherie

Bewerten Sie, ob Edge Computing für Ihre Infrastruktur richtig ist.

Grafikprozessorbeschleunigte Bibliotheken, DataFrames und APIs:

  • Aufbauend auf NVIDIA CUDA® ist RAPIDS eine Sammlung von Open-Source-Softwarebibliotheken und -APIs, die GPU-Parallelität und Speicher mit hoher Bandbreite über DataFrame- und Grafikvorgänge bereitstellen. So sind typische End-to-End-Workflows in der Datenwissenschaft mindestens 50-mal schneller. Für Spark 3.0 werden neue RAPIDS-APIs von Spark SQL und DataFrames für grafikprozessorbeschleunigte, speichereffiziente Spaltendatenverarbeitung und Abfragepläne verwendet.
  • Mit Spark 3.0 wurde der Catalyst Query Optimizer modifiziert, um Operatoren innerhalb eines Abfrageplans zu identifizieren, die mit der RAPIDS-API beschleunigt werden können, und um diese Operatoren bei der Ausführung des Abfrageplans auf Grafikprozessoren innerhalb des Spark-Clusters zu planen.
  • Eine neue Spark-Shuffle-Implementierung, die auf grafikprozessorbeschleunigten Kommunikationsbibliotheken basiert, einschließlich Remote Direct Memory Access (RDMA), reduziert den Datentransfer zwischen Spark-Prozessen erheblich. Mit RDMA können Grafikprozessoren direkt und über mehrere Knoten hinweg mit bis zu 100 GB/s miteinander kommunizieren – als ob Sie auf einem riesigen Server arbeiten.


GPU-fähige Planung in Spark

  • Spark 3.0 erweitert die Integration mit den Cluster-Managern (YARN, Kubernetes und Standalone), um Grafikprozessoren und Plug-in-Points anzufordern, damit sie Vorgänge auf dem Grafikprozessor ausführen können. Dadurch können Spark-Anwendungsentwickler einfacher Grafikprozessoren anfragen und verwenden. Außerdem ist auch eine engere Integration mit Deep-Learning- und KI-Frameworks wie Horovod und TensorFlow auf Spark möglich und Grafikprozessoren werden besser ausgelastet.

 

Edge Computing – der Prozess, Rechenleistung an dem Ort bereitzustellen, an dem Daten gesammelt werden – ist einer der am schnellsten wachsenden Trends in der Unternehmens-Computing-Branche. Vor der Investition in Edge Computing muss in Unternehmen bewertet werden, ob Edge Computing für ihre Anforderungen geeignet ist.

In dieser technischen Übersicht erfahren Sie Folgendes:

  • Wie Sie bewerten können, ob Edge Computing das Richtige für Ihr Unternehmen ist
  • Was Sie vor der Bereitstellung der Edge-Infrastruktur beachten sollten
  • Wie Sie KI in der Peripherie bereitstellen
  • Welche Ressourcen Sie benötigen, um loszulegen
spark-e-book-thumb-2

JETZT HERUNTERLADEN

Send me the latest enterprise news, announcements, and more from NVIDIA. I can unsubscribe at any time.