Tensordyne Napier: Inferencing-Angriff auf NVIDIA, Google und Co

[HWL News Bot]

Mit neuen Datenformaten und einer auf diese abgestimmten Hardware will Tensordyne den etablierten KI-Hardwareanbietern Konkurrenz machen. Mathematische Optimierungen wie Sparsity sowie der Einsatz kompakter Datenformate wie FP8 oder FP4 im KI-Inferencing steigern durch eine stärkere Komprimierung die Rechenleistung und Energieeffizienz, ohne die Genauigkeit der Modelle nennenswert zu beeinträchtigen.
... weiterlesen

 

[Botcruscher]

Echte Hardware konnte man leider noch nicht testen...