OpenVino und Multi-GPU Inferenz

Badrig

Nostalgiker
Thread Starter
Mitglied seit
28.01.2006
Beiträge
8.818
Ort
Nürnberg
Hey, ich Versuche gerade ein upscaling modell per openvino auf der GPU rechnen zu lassen. Ich benutze Ubuntu Server 25.10, es sind zwei Arc B580 verbaut. Mein Skript läuft zwar, aber leider nutzt er nur GPU.0. Wenn ich die Ausführung auf GPU.1 erzwinge, bricht er mit "CL_INVALID_KERNEL_ARGS" ab. Habt ihr eine Idee oder Vorschläge wie sich Multi-GPU Inferenz besser umsetzen lässt? Notfalls wechsle ich wohl auf zwei unabhängige Instanzen, eine pro GPU, aber ich hätte schon lieber eine Pipeline, die beide GPUs nutzt.
 
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh