MLPerf Inference v6.1: Erstmals mit Vera Rubin und AMD skaliert auf 512 Instinct MI355X

[HWL News Bot]

Die unabhängige Organisation MLCommons hat mit MLPerf Inference in der Version 6.1 neue Benchmarks für die Inferencing-Leistung der verschiedenen Systeme veröffentlicht. Für uns immer wieder interessant ist dabei das Auftauchen neuer Hardware und auch eine mögliche Einschätzung dessen, was wir nicht testen können: Große und hochskalierte Serversysteme und deren Training- sowie Inferencing-Leistung.
... weiterlesen