Maximal 27 TFlops GPU-Rechenleistung
Damit steht Apple gerade für kommende KI-Anwendungen auffällig nackt da. Zwar kann der M2 Ultra nun im Maximalausbau mit 76 GPU Kernen rund 27 TFlops FP32 Rechenleistung bei einem Speicherdurchsatz von 800 GB/s liefern, jedoch ist dies gerade mal ein Viertel der Rechenleistung einer einzigen Nvidia RTX 4090 GPU für 1.800 Euro.
Apple muss sich dieses Problems auch durchaus bewusst sein, denn man stellt zum brandheißen Thema KI in der Pressemeldung einzig den KI-Vorteil heraus, mit dem M2 Ultra "bei maschinellem Lernen riesige Workloads in einem einzigen System zu trainieren, die selbst die leistungsstärkste eigenständige GPU nicht verarbeiten kann". Gemeint ist damit, dass man die M2 Ultra GPU-Kerne mit bis zu 192 GB RAM nutzen kann, während man bei separaten Grafikkarten unter 10.000 Euro aktuell auf 48 GB Speicher beschränkt ist.
Geeignet für KI?
Tatsächlich lässt sich ein M2 Ultra Mac Studio im günstigsten Fall für unter 7.000 Euro mit 192 GB Speicher konfigurieren, was für das Training großer KI-Modelle ein mehr als verlockender Preis ist. Nur fehlt es Apple aktuell an entsprechender Software-Unterstützung. Zumindest alle uns bekannten großen KI-Modelle lassen sich heutzutage nur unter Nvidia- oder AMD-GPUs trainieren.
Wenn Apple den KI-Zug nicht vollständig verpassen will, muss man in naher Zukunft entweder eine eigene Unterstützung von aktuellen KI-Modellen für den M2 Ultra anbieten oder mindestens einen GPU-Anbieter ins Boot holen. Nachdem die Beziehung zu Nvidia als komplett verbrannt gilt, bliebe hierfür AMD die erste Wahl - die auch bei den letzten Mac Pros für entsprechende GPU-Unterstützung gesorgt hat. Apple hätte zudem sowieso das Inhouse Know How, um die bestehenden AMD Treiber des Intel Mac Pro an den M2 anzupassen.
Nadelöhr Stromversorgung
Eine wirklich mächtige KI-Workstation könnte der neue Mac Pro mit mehreren GPUs allerdings trotzdem nicht werden, denn für viele stromschluckende GPUs ist die 300 W Zusatzleistung des neuen Mac Pro nicht ausgelegt: So gibt es im inneren gerade mal zwei 6‑polige Anschlüsse mit jeweils 75 W, sowie einen 8‑poligen Anschluss mit 150 W Leistung.
Dies würde gerade mal für den Betrieb einer einzigen Radeon PRO W7900 ausreichen, die ungefähr 62 FP32-TFLOPS schafft. Sollte Apple mit dem neuen Mac Pro daher ernsthaft den Einsatz von PCIe-GPUs als Nutzungsgebiet im Auge haben, so müsste AMD auch noch speziell für Apple besonders effiziente Modelle anbieten. Nicht sehr wahrscheinlich, aber es gab in der Vergangenheit immerhin schon ähnliche Ansätze.
