• TWEAK
• Gadgets

NVIDIA führt neue CUDA-Bibliotheken ein

Übersetzen von : NVIDIA lancerer nye CUDA-biblioteker

NVIDIA hat eine Reihe neuer CUDA-Bibliotheken auf den Markt gebracht, die darauf abzielen, die Möglichkeiten des beschleunigten Rechnens zu erweitern. Laut NVIDIA-Blog versprechen diese Bibliotheken erhebliche Verbesserungen der Geschwindigkeit und Energieeffizienz in einer Reihe von Anwendungen.

Die neuen Bibliotheken zielen auf verschiedene Anwendungen ab, darunter große Sprachmodelle (LLM), Datenverarbeitung und physische KI. Zu den wichtigsten Highlights gehören:

Unternehmen auf der ganzen Welt nutzen zunehmend die beschleunigten Rechenlösungen von NVIDIA, was zu bemerkenswerten Geschwindigkeitssteigerungen und Energieeinsparungen führt. Beispielsweise läuft die Barracuda Virtual Reactor-Software von CPFD, die in Recyclinganlagen eingesetzt wird, auf CUDA GPU-beschleunigten virtuellen Maschinen 400-mal schneller und 140-mal energieeffizienter als auf CPU-basierten Workstations.

Eine beliebte Videokonferenzanwendung verzeichnete eine 66-fache Steigerung der Geschwindigkeit und eine 25-fache Verbesserung der Energieeffizienz, nachdem ihr Live-Untertitelsystem von CPUs auf GPUs in der Cloud migriert wurde. In ähnlicher Weise reduzierte eine E-Commerce-Plattform die Latenz und erzielte durch den Wechsel zum beschleunigten Cloud-Computing-System von NVIDIA eine 33-fache Steigerung der Geschwindigkeit sowie eine fast 12-fache Verbesserung der Energieeffizienz.

NVIDIA schätzt, dass Rechenzentren jährlich 40 Terawattstunden Energie einsparen könnten, wenn alle derzeit auf CPU-Servern laufenden KI-, HPC- und Datenanalyse-Workloads auf CUDA-GPU-beschleunigte Systeme umgestellt würden – das entspricht dem Energieverbrauch von 5 Millionen US-Haushalten pro Jahr .

Beschleunigtes Rechnen nutzt die Parallelverarbeitungsfähigkeiten von CUDA-GPUs, um Aufgaben viel schneller und energieeffizienter als CPUs auszuführen. Obwohl das Hinzufügen von GPUs den maximalen Stromverbrauch erhöht, ist der Gesamtstromverbrauch aufgrund der schnelleren Aufgabenerledigung und des anschließenden Energiesparzustands deutlich niedriger.

NVIDIA bietet einen vielseitigen Satz an Bibliotheken, die für unterschiedliche Arbeitslasten optimiert sind. Die neuen Updates erweitern die CUDA-Plattform, um ein breiteres Anwendungsspektrum zu unterstützen:

• NeMo Curator und Nemotron-4 340B bieten erweiterte Funktionen zur Erstellung benutzerdefinierter Datensätze und zur Generierung hochwertiger synthetischer Daten.
• cuVS und Polars bieten erhebliche Leistungsverbesserungen und ermöglichen eine groß angelegte Datenverarbeitung mit verbesserter Effizienz.
• Warp , Aerial und Sionna führen neue Funktionen für physikalische Simulationen und Forschung in drahtlosen Netzwerken ein und erweitern so die Fähigkeiten dieser Plattformen.

Die CUDA-Bibliotheken von NVIDIA sind für die Beschleunigung bestimmter Arbeitslasten unerlässlich und bieten spezielle Tools für unterschiedliche Rechenanforderungen. Mit über 400 Bibliotheken ist NVIDIA weiterhin führend bei der Bereitstellung leistungsstarker und effizienter Lösungen für moderne Computerherausforderungen.