[Sammelthread] 10Gbit Homenetzwerk

Wieviele VLANs hast Du denn Mr. Wahoo?
Fünf: Heimnetz, Mediengeräte, IoT-Zeug, Arbeit und Management. Was eigentlich schon eher zu viel ist, wenn ich heute nochmal planen würde. Da würde ich Mediengeräte und IoT eher zusammenfassen.
Streng genommen gibt es zwischen PVE und PBS noch ein weiteres Netz, aber das ist per DAC direkt verbunden, also würde ich das nicht wirklich zählen wollen.
Aber möchte das möglichst geheim halten in Zukunft.
Geht klar, dein gutes Recht. :)
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
@Haldi meinst Du mich? Hatte mal eine Weile Zabbix am laufen. Aber leider konnte man die Dienste, welche per UDP laufen eh nicht wirklich überwachen. Wär schön, wenn man bei der Website die wichtigsten Dienste auf Betriebszustand anzeigen könnte. Aber wenn der Zabbix Server down ist, gibt es da einen Timeout, nächste Baustelle. Könnte man sicher irgendwie lösen, aber war mir dann doch zu kompliziert. Sitze eh den ganzen Tag vor dem Rechner und monitore das "manuell". Find das ganz spannend auf den Servern iftop offen zu haben, um in Echtzeit zu sehen, wer da so wo rum wuselt. Aber auf ein Netzwerkmonitoring was Verbindungen protokolliert würde ich gerne verzichten. Grobe Logs und Logs im Hostingpanel habe ich schon. Für den Grossteil reicht mir mein Echtzeit Monitoring was nur im RAM läuft. Auch aus Datenschutzgründen meiner User gegenüber.
 
Haha, doppelte Premiere: erstes Mal vom Mainserver napp-it auf das Backup Server napp-it was kopiert, und das gleich über den neuen Switch. Beide Server hängen nun so Teils/Teils an der Produktiv- und an der Lab Sense. Jeweils getagged über zwei Strippen an den X540. Omg was für ein Chaos, aber lüppt ohne murren, und meine Community hatte heute mal einen kurzen Shutdown hin nehmen müssen.

Sehr geil:

Screenshot 2025-12-26 040035.jpg



Damn Rabbithole, brauche fixeren Storage.
 
Zuletzt bearbeitet:
wo haste denn den Norton Commander von 1990 ausgegraben :rofl:
 
kein Wunder, dass Du das Futter vergessen hast, wenn Du die gleichen Schlafzeiten wie ich hast :lol:

Aktuell nutze ich nur Ubuntu zum Falten, die Produktivsysteme laufen noch @ Windows, daher kenn ich den Commander nicht wirklich.
 
dann gib mal

Code:
sudo apt-get update
sudo apt-get upgrade
sudo apt-get install mc

ein

Mit

Code:
mc

kannst Du ihn starten. Kannst Du auch mit verschiedenen Benutzer Kontext starten. Dann kannst Du auch Dateien verschieben/kopieren/bearbeiten, wo Du als normaler User in einem normalen Fileexplorer gar nicht hin kommst, bzw. darfst. Aber bitte mit Bedacht nutzen.
 
gibt immernoch genügend Software, die bevorzugt, oder manchmal auch ausschließlich auf Windows läuft ;)
 
Wie bekomme ich es hin bzw was brauche ich, damit mein an 10G-gebundenes NAS mindestens genauso fix reagiert, wie das lokale RAID5, das ca 1/3 max Bandbreite des NAS-RAID5 hat?
Wenn ich beim NAS-RAID5 auf Eigenschaften klicke, um mir die Größe und Anzahl der Files/Ordner anzeigen zu lassen, dauert das im Vergleich zum lokaler RAID5 eine halbe Ewigkeit, weil anscheinend die Accesstime pro File übers 10G-Netzwerk viel höher ist. Liegt es an Windows, von dem ich aufs NAS zugreife und/oder an der "lahmen" Consumer-Hardware (beides an RJ45 angebunden)?

btw:
Bevor ich angefangen hab diesen Beitrag zu schreiben, hab ich auf Eigenschaften geklickt. Es wurden in der Zeit nicht mal 2TB und wengier als 400.000 Files gescannt. Das NAS beinhaltet aber ca 62TB Daten und der Virenscanner ist aus :(
Beitrag automatisch zusammengeführt:

edit:
Eine halbe Stunde nach verfassen des obigen Beitrages wurden nur knapp 5TB bzw. 1,3Mio Files gescannt - mehr als 55TB stehen noch aus :heul:
 
Zuletzt bearbeitet:
Anders ist es nicht zu erklären (k.A. ob "Accesstime" der falsche Begriff dafür ist)
Was muss ich tun, um die Latenz zu reduzieren?

Ich will nicht einfach an der Puffergröße herumspielen (falls es darum geht)
 
RoCE verwenden, zB. Oder kleine Dateien im NAS auf SSD schieben (Special vdev ist da das Stichwort).
 
Wenn ich beim NAS-RAID5 auf Eigenschaften klicke, um mir die Größe und Anzahl der Files/Ordner anzeigen zu lassen, dauert das im Vergleich zum lokaler RAID5 eine halbe Ewigkeit, weil anscheinend die Accesstime pro File übers 10G-Netzwerk viel höher ist. Liegt es an Windows, von dem ich aufs NAS zugreife und/oder an der "lahmen" Consumer-Hardware (beides an RJ45 angebunden)?:heul:

Es liegt auch am Netzwerk-Protokoll.

Überlege mal, was passiert. Du willst die Größe von 100.000 Dateien anzeigen lassen. Wenn die Dateien lokal auf Deinem Rechner sind, sucht Dein File-Manager zunächst alle infrage kommenden Dateien, ermittelt dann für jede Datei die Größe, und zeigt die Summe an. Das geht sehr schnell, weil Betriebssystem-Aufrufe auf Geschwindigkeit optimiert sind und weil viel gecacht wird.

Wenn man das über das Netzwerk macht, müssen zunächst viel Aufrufe durchs Netzwerk verschickt werden, um die Dateien zusammenzusuchen. Und dann wird für jede Datei eine Anfrage durchs Netz geschickt: "gib mit die Größe von Datei xyz". Dann wird auf die Antwort gewartet. Danach geht es mit der nächsten Datei weiter. Die Netzwerkgeschwindigkeit spielt dabei keine große Rolle. Latenzen und Antwortzeiten sind entscheidend.

10 GBit/s statt 1 GBit/s bringt da nicht viel. Hier sollte man eher schauen, ob es schneller wird, wenn man Stromspar-Mechanismen ausschaltet (*). Wirklich viel bringen würde eine Änderung der Netzwerkprotokolle, so dass die Anzahl der Roundtrips verringert wird. Also. z.B. Abfrage der Größe von vielen Dateien in einem Aufruf - oder am besten Komplettauslagerung auf das NAS...

(*) In Nachbar-Threads wird versucht, den Stromverbrauch von Servern zu reduzieren. Durch Einschalten aller möglichen Stromspar-Mechanismen (ASPM, Sleep states, usw.). Das ist interessant. Aber manche Stromspar-Mechanismen führen dazu, dass exakt diese Art von Operation (sehr viele Roundtrips) langsamer wird (weil ein Prozessor oder Bus sich zwischen zwei Anfragen schlafen legt und bei jeder Anfrage Zeit zum Aufwachen braucht. Vielleicht nur ein paar Millisekunden, aber bei Tausenden von Abfragen läppert sich das). Mich wundert, dass solche Auswirkungen nicht mitgemessen werden - und warum nicht nur Optimierungen gemacht werden, die den Server nicht langsamer machen.
 
Zuletzt bearbeitet:
Wenn man das über das Netzwerk macht, müssen zunächst viel Aufrufe durchs Netzwerk verschickt werden, um die Dateien zusammenzusuchen. Und dann wird für jede Datei eine Anfrage durchs Netz geschickt: "gib mit die Größe von Datei xyz". Dann wird auf die Antwort gewartet. Danach geht es mit der nächsten Datei weiter. Die Netzwerkgeschwindigkeit spielt dabei keine große Rolle. Latenzen und Antwortzeiten sind entscheidend.

10 GBit/s statt 1 GBit/s bringt da nicht viel. Hier sollte man eher schauen, ob es schneller wird, wenn man Stromspar-Mechanismen ausschaltet (*). Wirklich viel bringen würde eine Änderung der Netzwerkprotokolle, so dass die Anzahl der Roundtrips verringert wird. Also. z.B. Abfrage der Größe von vielen Dateien in einem Aufruf - oder am besten Komplettauslagerung auf das NAS...
Das ist soweit klar, aber wo genau muss ich drehen, damit das mit meinen Mitteln (OS und Hardware) einen spürbaren Vorteil bringt?

RoCE bzw RDMA (Remote Direct Memory Access) wäre schon sehr nett, aber wie sieht es mit dem Preis aus?
 
Auch mit RoCE wird sich das niemals so anfühlen wie lokal bei diesen Mengen. Deine Erwartungshaltung wird immer zu Enttäuschung führen.
 
Ich muss glücklicherweise nur relativ selten die Größe von größeren Verzeichnisbäumen berechnen lassen oder Verzeichnisbäume nach Strings/Mustern durchsuchen lassen. Aber wenn ich es mache, logge ich mich auf dem Dateiserver ein und lasse es dort machen. Dann geht es nicht übers Netz, sondern es wird lokal ausgeführt - und deshalb ist es dann schnell.
 
Eine Möglichkeit wäre WIN11 als VM via RD (unter UGOS) laufen zu lassen. Das läuft auf dem i5-1235U (NAS) erstaunlich gut und schnell
Die Frage ist, ob ich per Direct Access auf das RAID5 (lauft unter UGOS) zugreifen kann

btw:
Was lokal vielleicht 1-2 Minuten dauern würde, dauerte Stunden :(
Wie würdet ihr vorgehen?
 

Anhänge

  • Screenshot 2025-12-27 194154.png
    Screenshot 2025-12-27 194154.png
    7,5 KB · Aufrufe: 12
Zuletzt bearbeitet:
Wie würdet ihr vorgehen?

So einen Unsinn wie Rechtsclicks / Eigenschaften unter Windows nicht auf Netzwerkshares machen…

Und ich mache echt viel Unsinn! Sogar inklusive RoCE bzw. RDMA - aber das ist es für 10Gbit m.E. echt nicht wert. Bei 100Gbit merkst Du was, bei 10Gbit…meh.

EDIT & Nachtrag: Du könntest mal schauen, wie die „snappiness“ von Deinem Client auf dem NAS aussieht, wenn Du mal ein iSCSI-Share benutzt. Das dürfte vom Protokoll dafür besser geeignet sein. Problem: das eignet sich aber nicht (ohne weiteres) für den Zugriff von mehreren Clients auf die Daten…
 
Zuletzt bearbeitet:
5. bzw. 2a. Krempel auf mehrere Shares verteilen.
 
Du mal ein iSCSI-Share benutzt.
Das Problem sind dabei, unter Umständen, Limits in der Lun Size.

Mal davon ab, dass LUN im Handling jetzt nicht unbedingt das einfachste sind, ungeachtet der Tatsache, dass man dann einen single container dafür hat.
Nen einfacher fileshare ist das bei weitem nicht mehr.

Ich mein, auf Arbeit machen wir sowas, liegt aber daran, dass wir nen hunderte TB Blockstorage haben.
 
55TB hab ich jedenfalls auch noch nicht probiert. :d Soll er halt mal bisserl umorganisieren und den Krempel auf z.B. 5x11TB legen.

Wäre aber trotzdem mal für mich interessant, würde denken, dass das für den (einen) Client besser funzt als SMB-Freitaben.
 
@besterino @underclocker2k4
Ist mein erstes NAS - von daher wenig Erfahrung, wie viele, kleine Files über 10G-LAN performen. Jetzt weiß ich es :(
Die Masse, der kleinen Files stammen aus iTunes-Backups, die ich seit 2012 archiviere

Mancher "Blödsinn" (ein einziges iTunes-Backup) ist größer als 140GB mit mehr als 113.000 Files :-[
Welche Tools habt ihr / würdet ihr nehmen, um die Backups automatisiert zu packen? Mit so fetten Files könnte ich zumindest die Bandbreite, des RAID5 nutzen

btw:
Die Rechnung stimmt zwar so nicht, aber wenn ich pro File 1ms Latenz annehme, wären das bei ~7,5Mio Files 7.500 Sekunden bzw >2h, bis "Eigenschaften" zum Stillstand kommt

Es heißt, dass DAC noch vor AOC die niedrigste Latenz hat. Aber ist das denn die Latenz, wie sie oben wegen den Explorer zum Tragen kommt?
Ich hätte die HW für DAC da, aber das wird nichts bringen, weil ich vom Switch zum NAS wieder RJ45 verwenden muss. Also von PC zum Switch via DAC und vom Switch zu NAS via RJ45
Beitrag automatisch zusammengeführt:

Soll er halt mal bisserl umorganisieren und den Krempel auf z.B. 5x11TB legen.
Bissl ist gut - das ist eine kleine Lebensaufgabe :shake:
Die Ordner, mit den vielen, kleinen Files könnte ich packen (automatisiert packen lassen wäre mir lieb)
Beitrag automatisch zusammengeführt:

3. sich den Kram lokal mounten
Hab vorhin gelesen, dass es für btrfs einen open-source Treiber gibt. Damit könnte ich zwar btrfs-Volumes unter Windows mounten. Aber wahrscheinlich werden dann nur einzelne HDDs erkannt und kein RAID5 (versuche ich noch herauszufinden). Wenn das gehen würde, könnte ich unter UGOS eine VM mit WIN11 laden und direct access zum RAID5 einrichten (ich ahne schon, dass das nicht klappt :heul:)
 
Zuletzt bearbeitet:
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh