• TWEAK
• Hardware
• Prozessor - cpu

Erste NVIDIA DGX H200 für OpenAI

Übersetzen von : Første NVIDIA DGX H200 til OpenAI

Der Nvidia DGX H200, der den begehrten H100 ablöst, verfügt über 1,4-mal mehr Speicherbandbreite und 1,8-mal mehr Speicherkapazität. Jensen Huang, CEO von Nvidia, übergab persönlich den ersten NVIDIA DGX H200 an OpenAI. In einem von Greg Brockman, Präsident von OpenAI, geteilten Beitrag ist Huang zu sehen, wie er mit Brockman und Chef Sam Altman posiert, mit dem DGX H200 in der Mitte.

„Der erste DGX H200 der Welt, an OpenAI geliefert und von Jensen „der Weiterentwicklung von KI, Computer und Menschlichkeit“ gewidmet, schrieb Brockman auf Twitter. Huangs Lieferung der ersten GPU an OpenAI scheint zu einer neuen Tradition geworden zu sein.

Bereits 2016 spendete Huang den ersten KI-Supercomputer DGX-1 an OpenAI und unterstützte damit die Demokratisierung der KI-Technologie. Damals war es Elon Musk, der ihn erhielt. Die neue GPU könnte eine vielgeschätzte Ergänzung des Arsenals von OpenAI sein, da die Organisation derzeit an GPT-5 arbeitet und plant, Sora in diesem Jahr öffentlich verfügbar zu machen.

Nvidia stellte letztes Jahr den DGX H200 vor. Die verbesserte GPU, die den begehrten H100 ablöst, verfügt über 1,4-mal mehr Speicherbandbreite und 1,8-mal mehr Speicherkapazität. Diese Verbesserungen verbessern die Fähigkeit, anspruchsvolle generative KI-Aufgaben zu bewältigen, erheblich. Darüber hinaus verfügt der H200 über eine schnellere Speicherspezifikation namens HBM3e, die seine Speicherbandbreite von 3,35 Terabyte pro Sekunde beim H100 auf 4,8 Terabyte pro Sekunde erhöht.

Auch die Gesamtspeicherkapazität steigt von 80 GB beim Vorgänger auf 141 GB. „ Um mit generativen KI- und HPC-Anwendungen Intelligenz zu schaffen, müssen riesige Datenmengen effizient und mit hoher Geschwindigkeit unter Verwendung eines großen, schnellen GPU-Speichers verarbeitet werden“, sagte Ian Buck, Vizepräsident für Hyperscale und HPC bei NVIDIA. „Mit der NVIDIA H200 ist die branchenweit führende KI-Supercomputing-Plattform jetzt schneller geworden, um einige der wichtigsten Herausforderungen der Welt zu lösen.“

Auch Nvidia hat mit dem H200 einen neuen KI-Supercomputer auf den Markt gebracht. Der Nvidia DGX H200 nutzt die NVLink-Verbindungstechnologie zusammen mit dem NVLink Switch System und vereint 256 H200-Superchips in einer einzigen GPU-Einheit.

Dieses Setup erreicht eine beeindruckende Leistung von 1 Exaflop und bietet 144 Terabyte gemeinsam genutzten Speicher, was einen deutlichen Sprung gegenüber der im Jahr 2020 eingeführten Vorgängergeneration Nvidia DGX A100 darstellt, die über deutlich weniger Speicher verfügte.“