Habe nun noch etwas experimentiert, um zumindest das RAM Problem lösen können.
System Agent Voltage minimal erhöht und der RAM läuft nun vorerst auf 3.200 ohne Probleme, keine Abstürze während eines Stresstests.
Daraufhin habe ich GTX via Displayport Kabel angeschlossen und nach Neustart...