[Kaufberatung] NVMe SSD für Auslagerungsdatei

[Kullberg]

Es geht um Rechner für ein CUDA Programm, was Riesenmengen Speicher frisst und auch ne ganze Menge Zugriffe darauf produziert.
Ich hab einen Testaufbau mit folgendem Rechner gemacht:
12700K, 32 GB 6000er DDR5, 980 Pro 1 TB, 2080Ti.
Hierbei fand ich, sobald die 32 GB RAM voll waren und in die Auslagerungsdatei beschrieben wurde, eine Schreibleistung von knapp 200 GB / Stunde und eine Leseleistung von ca. 2100 GB / Stunde. Dabei begrenzt die SSD die Performance des Programmes. Die Auslastung der SSD wird im Task Manager über weite Strecken mit 100% angegeben.

Von daher kommt meine Idee, eine separate SSD für die Auslagerungsdatei zu verwenden. Was wäre besser als eine 980 Pro?
Ist bekannt, wie die QD in dieser Situation ist?
Und was wäre für einen Rechner, der nur PCIe Gen.3 hat, zu empfehlen?

 

[WrongPlanet]

Warum nur eine SSD? Kann dein Mainboard PCIe Bifurcation? Wenn ja, nimm eine Adapterkarte für m.2 und lass die im RAID 0 laufen. Wenn du auf Nummer sicher gehen willst nimmst du noch SSDs mit min 1 DWPD und das sollte dann passen. So sieht es bei mir unter Windows 10 mit Software RAID 0 aus.

 

[Ne0line]

Mehr Ram wäre zu empfehlen. Alles andere iss wohl Humbug.

 

[Kullberg]

@WrongPlanet
Ich fürchte nur, dass RAID 0 die IOPS nicht verbessert.
@Ne0line
Der DDR5 Rechner ist Spielzeug / Testrechner. Die richtigen Rechner haben 128 GB RAM, aber der reicht auch oft nicht. Das Programm skaliert recht gut mit der single Core Performance, es läuft wesentlich besser auf kleinen Rechnern als auf Xeons / Threadrippern / Epycs. Einen So. 2066 Xeon mit 256 GB reg. ECC RAM hab ich probiert - das ist leider lahm.

Das Programm stürzt übrigens ab, wenn der Speicher incl. Auslagerungsdatei voll ist.

 

[Ne0line]

Das ist korrekt IOPS werden nicht besser.

Xeon W wäre dann wohl deine Plattform. Extra dafür gemacht.

Ähh ein Programm das abstürzt wenn die Auslagerungsdatei bzw der RAM voll ist? Werf das Ding so weit du kannst.

 

[Kullberg]

Das Programm ist alternativlos Es hat die Versionsnummer 0.28.2 - die Entwickler wissen also, dass noch etwas zu tun ist. Xeon W 2245 hab ich ausgemustert, weil zu lahm. Xeon W-1290P hab ich einen Rechner, das ist einer der Kandidaten für eine zusätzliche SSD PCIe Gen3.

 

[Ne0line]

Naja wenn mehr RAM keine alternative ist, dann wäre das schnellste von den IOPS her gesehen, im relevanten bereich wohl Optane Speicher von Intel.

 

[Kullberg]

Die Rechner, die ich dafür wirklich verwende, haben alle den maximalen RAM Ausbau, also Xeon W1290P, X5800 und 10900KF haben jeweils 128 GB. An Optane hab ich schon gedacht - meine einzige Optane 900P 280 GB ist allerdings im Dauerbetrieb in einem dual Xeon, die würde ich nur höchst ungern ersetzen, obwohl der Rechner die Leistung nicht braucht.

 

[Kullberg]

Update: ich hab eine Optane 900P als Steckkarte gekauft. Die Schreibleistung ist gestiegen auf 330 GB / h, die Leseleistung ist allerdings gesunken auf 1040 GB / h. Die Gesamtperformance ist eher schlechter

 

[Holt]

Gegenüber welcher SSD? Der 980 Pro 1TB? Die kann natürlich rund 3s so schnell lesen wie die Optane 900P, aber dafür sollte die Optane bei parallelen Lese- und Schreibzugriffen schneller als jede SSD mit NAND Flash sein. Wenn die Lese- und Schreibzugriffe natürlich nicht zeitgleich, sondern versetzt erfolgen, dann dürfte dies natürlich irrelevant sein.

 

[Kullberg]

Ja, gegenüber der 980 Pro 1 TB.
Es ist mir allerdings ein völliges Rätsel, wieso beim Versuch mit der Optane mehr Daten geschrieben, aber weniger gelesen wurden. Sollte das Verhältnis unter sonst gleichen Bedingungen nicht gleich sein? Es war der selbe Rechner, das selbe Programm, die selbe Stellung (Schach - Grundstellung). Allerdings hängt die 980 Pro an der CPU, die Optane am Chipsatz.

 

[Holt]

Es war ja die Auslagerungsdatei oder? Keine Ahnung welche Faktoren dort das Verhältnis der Schreib- und Lesevolumen bestimmt, aber mit Sicherheit dürfte es schwer sein wirklich identische Bedingungen zu schaffen, da es dann ja schon reicht wenn irgend ein Prozess im Hintergrund mal mehr oder mal weniger RAM belegt.