Video-Dokumentation

Der blühende Schwarzmarkt für KI-Beschleuniger in China

Gamers Nexus hat eine dreieinhalbstündige Dokumentation über den Schwarzmarkt für KI-Beschleuniger in China veröffentlicht. In der Dokumentation wird über die aktuelle Situation der Exportbeschränkungen und deren Sinnhaftigkeit berichtet, vor allem aber geht es darum, wie einfach es trotz aller Beschränkungen ist, in China an die gewünschte Hardware zu kommen.

Die mehr als 200 Minuten zusammenzufassen, fällt nicht ganz leicht, denn es gibt zahlreiche Aspekte, die hier beleuchtet werden. All diese werden nicht nur mit eigenen Einschätzungen des Themas unterfüttert, sondern mit zahlreichen Interviews der Personen, die KI-Hardware in Hongkong und China benötigen und sich dabei Mittel und Wege überlegen, an die Hardware heranzukommen.

Zunächst schaut sich Gamers Nexus die Regulierung der US-Behörden an. Diese ist ganz klar politisch motiviert und mit der strategischen Sicherheit der USA begründet. Um festzulegen, welche Hardware exportiert werden darf und welche nicht, nutzten die USA bereits mehrere Metriken. Zunächst war es die Bandbreite des NVLink-Interconnect, dann die FLOPS die vom KI-Beschleuniger erreicht werden können und aktuell eine komplizierte Formel, die unter anderem auch die Speicherbandbreite mit einschließt. Die Reaktionen und Änderungen der US-Regierung in den Metriken des Exportverbots sind mehr oder weniger ein "Katz und Maus"-Spiel zwischen den USA und den Herstellern der KI-Beschleuniger.

Ein wichtiger Punkt aber ist: Zwar haben die USA ein Exportverbot für bestimmte KI-Hardware erteilt, in China ist es aber nicht verboten die entsprechende Hardware zu importieren. Insofern gibt es hier auch keinerlei Bestrebungen dies zu verhindern.

Aber die Maßnahmen der US-Regierung haben ihre Auswirkungen auf dem chinesischen Markt und verlangen nach einer gewissen Kreativität. So bestätigen Institutionen in Hongkong und China, dass es ihnen nicht mehr möglich ist große KI-Cluster zu bestellen, was auch die DGX-Systeme mit acht KI-Beschleunigern mit einschließt. Stattdessen ist man auf PCI-Karten festgelegt, die entweder einzeln geschmuggelt oder aber sogar in Einzelteilen zerlegt über die Grenze gebracht werden. Aufkäufer im Westen sichern sich die Hardware und bringen sie dann über die Grenze.

Eine Alternative stellt die Möglichkeit dar, erlaubte Hardware so zu modifizieren, dass sie den gewünschten Zweck besser erfüllen kann. So wird der Grafikspeicher zum Beispiel der GeForce RTX 4090 verdoppelt, damit diese für KI-Anwendungen besser geeignet ist. Auch kleinere Modelle der GeForce-RTX-40- und GeForce-RTX-30-Serie sind in dieser Hinsicht interessant.

Die dritte Möglichkeit ist der Diebstahl einzelner Komponenten wie den GPUs, die dann in China wieder auf ein neues PCB zusammen mit dem entsprechenden Speicher zu einem neuen KI-Beschleuniger zusammengebaut werden. Entsprechende Services finden sich laut Gamers Nexus überall in China. Dies schließt die Möglichkeit mit ein, dass die in China ganz offiziell zusammengebauten KI-Beschleuniger von NVIDIA sozusagen vom Band fallen und gar nicht in den offiziellen Handel gelangen. Womöglich werden auch einfach überschüssige Komponenten verwendet. So können GPUs die Qualitätskontrolle nicht bestehen, werden aber wiederverwendet oder anderweitig verwendet und landen sie auf KI-Beschleunigern für den Schwarzmarkt.

Ist NVIDIA auf einem Auge blind?

Die große Frage die sich stellt ist: Wie beharrlich versucht NVIDIA den Schwarzmarkt zu unterbinden und hat das Unternehmen überhaupt die Möglichkeiten dazu?

Einige bisher in Hongkong und China ansässige Firmen haben inzwischen Tochtergesellschaften in Singapur und importieren die Hardware über diesen Weg. Der Umsatz von NVIDIA in Singapur hat sich laut Dokumentation in den vergangenen Monaten vervielfacht. Zudem haben chinesische Firmen die Möglichkeit ihre GPU-Ressourcen bei den entsprechenden Cloud-Anbietern zu mieten. Auch dies stellt eine Möglichkeit dar die Exportkontrollen zu umgehen, allerdings sind diese Cloud-Lösungen nicht mit einem On-Premise-Angebot der Hardware zu vergleichen. Letztgenanntes bietet den Wissenschaftlern doch einige Möglichkeiten mehr die Hardware in ihrem vollen Umfang zu nutzen.

So lange NVIDIA der De-Facto-Standard für KI-Hardware darstellt und der Bedarf dermaßen groß ist, werden sich immer Mittel und Wege finden, solche Exportbeschränkungen zu umgehen. Zwar ist es in China aktuell nicht möglich, gigantische KI-Cluster mit mehreren zehntausend GPUs aufzubauen, für die Forschung reichen aber einige wenige KI-Beschleuniger und an diese ist noch immer relativ einfach ein Herankommen.

In der Dokumentation wird beinahe ausschließlich auf die Hardware von NVIDIA eingegangen. Dies hat einen einfachen Grund: Für Unternehmen und Institutionen in China ist ausschließlich die Hardware von NVIDIA in der Nutzung interessant. AMD scheint zumindest eine Option zu sein, wird aber kaum verwendet und ist ebenfalls von Exportbeschränkungen betroffen. Intel spielt in diesem Segment ebenfalls kaum eine Rolle und selbst die heimischen Chips von Huawei können sich aktuell nicht gegen die nur schwer erhältliche NVIDIA-Hardware durchsetzen.

Wer die Zeit dazu hat und sich für das Thema interessiert, der sollte sich die Dokumentation von Gamers Nexus anschauen.