Werbung
Kurz vor Weihnachten machte sich NVIDIA den Inferencing-Spezialisten Groq selbst zum Geschenk und hat das Start-up für 20 Milliarden US-Dollar übernommen. Groq soll als Marke wohl unabhängig bleiben, wird dennoch nicht mehr als eine Hülle und ein Markenname bleiben, denn neben Groqs CEO Jonathan Ross sollen viele Mitarbeiter zu NVIDIA wechseln. Bisher gilt der Kauf des Netzwerk-Spezialisten Mellanox für etwa 7 Milliarden als größter Deal bei NVIDIA.
Gegründet wurde Groq im Jahr 2016 von ehemaligen Mitarbeitern, die bei Google und Broadcom die ersten Arbeiten an Googles Tensor Processing Unit (TPU) leiteten. In der aktuellen Generation verwendet Google den TPUv5 und TPUv6 einerseits für das Training der eigenen Modelle, vor allem aber das Inferening der diversen Services. Mit der siebten Generation TPUv8AX und TPUv8X sollen die Spezialbeschleuniger dann gegen NVIDIAs Rubin-Hardware antreten.
Dabei scheint Google in Zukunft nicht mehr der alleinige Nutzer der Hardware zu sein. Anthropic soll den Einsatz der TPUs planen und das in einem Umfang von bis zu einer Million Beschleunigern.
Hat NVIDIA hier also bei Groq zugeschlagen, um mit der Hardware-Expertiese gegen Googles TPUs einen Gegenspieler aufbauen zu können?
In einer internen E-Mail begründete NVIDIAs CEO Jensen Huang die Transaktion mit der Integration der Beschleuniger von Groq in die AI Factory-Architektur von NVIDIA und der "Erweiterung der Plattform, um ein noch breiteres Spektrum an KI-Inferenz- und Echtzeit-Workloads zu bedienen".
