Der Stand der GPU-Technik

Wagen wir nun einmal einen kleinen Exkurs zum aktuellen Stand der Technik einer Workstation. Die dort verbauten CPUs sind für die Videobearbeitung mittlerweile fast zu vernachlässigen und übernehmen fast nur noch die Daten-Steuerungsaufgaben. Die besten GPUs bieten hingegen einen Speicherdurchsatz von rund 1.000 GB/s und ca. 80 TFLOPS FP32 Rechenleistung. FP32 ist übrigens das übliche Datenformat, in dem Video-Effekte unter Resolve oder Premiere GPU-beschleunigt werden.

Tatsächlich korreliert die Geschwindigkeit der meisten GPU-Video-Effekte stärker mit dem Speicherdurchsatz als mit der FP32 Rechenleistung, was bedeutet, dass meistens eher die Speicheranbindung also die Rechenleistung der limitierende Faktor bei der Video-Effekt-Beschleunigung ist.

Was kann eine KI-Server GPU?

Sehen wir uns nun einmal die Daten eines aktuellen KI-Beschleunigers an, der momentan unter KI-Experten heiß gehandelt wird: AMDs MI300X. Dieser besitzt rund fünfmal mehr Datendurchsatz (5,3 TB/s) sowie 160 (Peak-)TFLOPS FP32. Und dieser Beschleuniger könnte prinzipiell auch als PCIe-Karte ausgeliefert und in einem normalen PC verbaut werden.

Noch spannender ist allerdings der MI300A, welcher gleichzeitig ein paar CPU-Kerne integriert, die über Unified Memory mit den GPU-Kernen verfügen. Dieser Beschleuniger ähnelt damit eigentlich einem M2-Ultra Chip von Apple, nur eben "on steroids".

Zum Vergleich, das aktuell beste Mac Studio-Modell - der Apple M2 Ultra im Vollausbau - bietet eine 24‑Core CPU, sowie eine 76‑Core GPU mit maximal 28 FP32 TFLOPS mit maximal 192 GB RAM Unified Memory bei 800 GB/s Speicherdurchsatz (und das alles für schlappe 8.000 Euro).

Der AMD MI300A Beschleuniger bietet dagegen: Ebenfalls 24 CPU-Kerne, aber in der GPU 122 FP32 TFLOPS an 128 GB HBM3 Unified Memory mit 5,3 TB/s Speicherdurchsatz. Dies entspricht also mindestens der fünffachen theoretischen Resolve-GPU-Leistung gegenüber einem Mac Ultra Studio.

Als Workstation denkbar?

Gerüchten zufolge kostet aktuell ein AMD MI300A Beschleuniger im Einkauf für ein Rechenzentrum ca. 20.000 Euro. Könnte man diesen "einfach" als Workstation verpacken, wäre dies für Hochleistungs- Anwender ein verlockendes Angebot. Vergleicht man dies mit den Preisen für Workstations, die beispielsweise SGI vor 30 Jahren veranschlagte, so könnte man sogar von einem Workstation Schnäppchen sprechen.

Auf einem solchen System sollten die meisten Effekte typischer Video-Applikationen immer in voller Qualität einfach in Echtzeit laufen können. Und auch für die sicher kommenden, generativen KI-Echtzeit-Anwendungen wäre man mit so einem System unterm Schreibtisch ebenfalls nicht schlecht gerüstet.

Kurz gesagt, die Technologie wäre eigentlich schon da, es müsste nur ein Hersteller einen Markt für solche Workstations sehen. Doch natürlich haben gar nicht mehr so viele potentielle Käufer die Auftragslage, um eine 25.000 Euro Workstation (mit allem Drum und Dran) zu refinanzieren.