Aktuelles

[Sammelthread] ZFS Stammtisch

CommanderBond

Experte
Mitglied seit
16.04.2012
Beiträge
628
Also ich hab nen LX Container mit Debian und Unifi drin, Kompression des Datasets wird mit 1,90x angegeben.
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.

Trambahner

Experte
Mitglied seit
14.08.2014
Beiträge
2.096
Ort
Serverraum
Ich komm bei typischen Windows-VMs auf ähnliche Raten. Ich hab LZ4 generell an ausser bei Datasets für Videofile-Storage.

Auch sehr nett kann es bei Tablespace-Files für Oracle sein, dort kommts natürlich stark drauf an, was das für DBs sind, was wird wie oft geschrieben, wo sind die Heat-Spots, etc. . Bei Oracle gibt es zwar selber verschiedene Möglichkeiten auf Oracle-Block-Ebene eine Komprimierung einzuschalten, aber die kann sogar nach hinten losgehen (wenn man nur Basis-Komprimierung lizensiert hat (die "Advanced Compression" kostet extra teure Lizenzbeträge) ), denn ein UPDATE... auf Datensätze führt zu sofortiger dekomprimierung der betroffenen Records und abspeichern in unkomprimierte Blöcke.
Ausserdem kann man evtl. CPU-Kerne für Oracle-Lizenzen sparen, wenn die Komprimierungsleistung auf Kernen ausserhalb der DB-VM liegt.
Für kommerzielle Anwender kann es daher durchaus interessant sein, LZ4@ZFS zu nutzen.
 
Zuletzt bearbeitet:

CommanderBond

Experte
Mitglied seit
16.04.2012
Beiträge
628
Hab hier einen ML10 v2 von HP. Habe von OmniOS 151020 auf 151022 geupdatet. Jetzt bootet er aber nicht mehr vom USB fängt. Er fängt scheinbar an und meldet dann dass das Gerät nicht mehr verfügbar ist. Gehe ich auf das alte BE zurück bootet er wieder ganz normal.
Hat das irgendwas mit dem neuen USB3 Support zu tun? Der USB Stick kann zwar USB3 hängt allerdings am Server an einem USB2 port. Jemand Ideen?

https://1drv.ms/i/s!Aqu7dAsPwMmShcNJpCV5sB5iTyb9_g
 
Zuletzt bearbeitet:

trendco

Experte
Mitglied seit
06.12.2011
Beiträge
195
Frage:
Mir wurde an anderer Stelle gesagt, man solle keine qcow2 VM-Images auf einem ZFS ablegen, weil hiermit ein COW auf einem COW liegen würde und das gefährlich sei und es unter Umständen zur Datenkorruption kommen könne.
Wär klasse wenn mir jemand genau erklären könnte, wo da genau die Gefahren sind?
 

ludwinator

Enthusiast
Mitglied seit
28.12.2006
Beiträge
429
Diese Gefahren gibt es per se nicht. ZFS ist es vollkommen egal, was darauf abgelegt wird.

cu
 

gea

Enthusiast
Mitglied seit
16.11.2010
Beiträge
4.536
Hab hier einen ML10 v2 von HP. Habe von OmniOS 151020 auf 151022 geupdatet. Jetzt bootet er aber nicht mehr vom USB fängt. Er fängt scheinbar an und meldet dann dass das Gerät nicht mehr verfügbar ist. Gehe ich auf das alte BE zurück bootet er wieder ganz normal.
Hat das irgendwas mit dem neuen USB3 Support zu tun? Der USB Stick kann zwar USB3 hängt allerdings am Server an einem USB2 port. Jemand Ideen?

https://1drv.ms/i/s!Aqu7dAsPwMmShcNJpCV5sB5iTyb9_g

Im Wechsel vom OmniOS 151020 auf 22 wurde der USB Treiber erneuert und der Bootloader von BSD übernommen.
Ich vermute der neue USB Treiber macht hier Probleme.

Am einfachsten wird wohl eine Neuinstallation sein, wenns geht aber eher auf Sata /M.2 etc statt auf USB. Sata/ M.2 ist einfach zuverlässiger.
 

CommanderBond

Experte
Mitglied seit
16.04.2012
Beiträge
628
Ja werd mal neu installieren. Sata/M.2 geht leider im Moment nicht dann müsste ich für eine einzige Platte einen kompletten Controller kaufen.
Spricht eigentlich was dagegen eine SMR Platte als einzelne HDD zu verwenden mit ZFS, oder ist davon abzuraten?
Also für Backupzwecke beispielsweise
 
Zuletzt bearbeitet:

gea

Enthusiast
Mitglied seit
16.11.2010
Beiträge
4.536
Ja werd mal neu installieren. Sata/M.2 geht leider im Moment nicht dann müsste ich für eine einzige Platte einen kompletten Controller kaufen.
Spricht eigentlich was dagegen eine SMR Platte als einzelne HDD zu verwenden mit ZFS, oder ist davon abzuraten?
Also für Backupzwecke beispielsweise

Bei einzelnen Platten fällt die miese Schreibleistung nicht so ins Gewicht wie bei einem Raid. ich würde sagen kann man schon machen. Raid mit MSR ist aber ein nogo.

- - - Updated - - -

Da hiess es Datenkorruption bei den qcow2 Files, weil das auch ein COW sei.

Wenn ich das richtig sehe, funktioniert qcow wie bei ESXi bei dem nach einem Snapshot Änderungen in einer separaten Datei geschrieben werden. Das funktioniert ganz anders als ein CopyOnWrite Dateisystem bei dem bei Änderungen ein kompletter Datenblock neu angelegt wird und der vorherige Zustand zum überschreiben freigegeben wird - es sei denn man legt einen Snapshot an der das Überschreiben verhindert.

Egal wie auch immer, es gibt keine Datenkorruption.
Selbst ZFS Pools auf ZFS wie man es bei Pools auf iSCSI LUNs oder bei ZFS Verschlüssellung miz Lofi nutzt ist völlig problemfrei.
 

TCM

Experte
Mitglied seit
06.04.2012
Beiträge
1.853
Da hiess es Datenkorruption bei den qcow2 Files, weil das auch ein COW sei.

Ich würde mal ganz stark nachdenken und mich fragen, wie gut ein Dateisystem sein soll, was bei bestimmten Konstellationen Daten kaputtmacht. Sowas hab ich ja noch nie gehört.
 

trendco

Experte
Mitglied seit
06.12.2011
Beiträge
195
Ich war ja selbst erschrocken über die Aussage und verstehe nicht, was für Probleme es da geben soll (außer vielleicht Performance Einbußen). Ich setze das ganze ja auch seit gut 2 Jahren genau so ein und bis dato hatte ich noch keinerlei Probleme damit. Allerdings stimmen einem solche Aussagen eben nachdenklich :stupid:

Grundlage is übrigens dieser Thread hier: qcow2 auf ZFS ? | Proxmox Support Forum

Bis dato konnte mir dort aber auch keiner erklären was da genau passieren könnte. Mythos?
 

TCM

Experte
Mitglied seit
06.04.2012
Beiträge
1.853
Man muss erstmal unterscheiden, von welcher Ebene man spricht. Spricht man vom ZFS, auf dem das Image liegt, spricht man vom Filesystem in dem Image oder spricht man vom Snapshotting von qcow2? Dass beim Snapshotting vom qcow2 was durcheinanderkommen kann, wenn man mittendrin mit ZFS-Snapshots hantiert und da wild Rollbacks macht, kann ich mir noch vorstellen. Dass das Filesystem im Image inkonsistent werden kann, ist selbst nur mit ZFS-Snapshots klar. Aber dass das ZFS kaputtgeht? No way. Man muss halt einfach wissen, was man treibt und wovon man redet.

Edit: Und DANN redet er am Ende noch davon, dass man ZFS AUF qcow2-Images anlegt, was wieder was völlig Anderes ist.

Das alles ist dann auch nur im Zusammenhang mit Snapshots ein Problem. Mit COW ansich hat das überhaupt nichts zu tun.
 
Zuletzt bearbeitet:

trendco

Experte
Mitglied seit
06.12.2011
Beiträge
195
Jetzt wirds wirr :)

Edit: Und DANN redet er am Ende noch davon, dass man ZFS AUF qcow2-Images anlegt, was wieder was völlig Anderes ist.
Bezieht sich das jetzt auf meinen Post dort im Proxmox Forum oder auf den englischen Beitrag den dort einer verlinkt hat?

Mir selbst geht es ja nur darum: Ich habe Proxmox mit ZFS-Mirror installiert und dort darauf laufen VM's deren Image-Format qcow2 ist.
 

TCM

Experte
Mitglied seit
06.04.2012
Beiträge
1.853
Ja, das war der Link im letzten Beitrag zu dem Zeitpunkt. Wenn du nur ZFS benutzt ohne Snapshots, dann dürfte es absolut keine Probleme geben. Wo kommen denn diese Bedenken ursprünglich überhaupt her?

Edit: gefunden: qcow2 Disk Shrinken? | Proxmox Support Forum

Soll er mal begründen. Halte ich für Blödsinn. Klingt, als hätte er sowas wie ZFS: Practicing failures on virtual hardware JRS Systems: the blog gelesen und reimt sich jetzt irgendwas zusammen, weil er so tief auch nicht drinsteckt.

Die Sache ist nämlich die: Entweder ist ZFS ein Filesystem, was richtig funktioniert, dann ist es völlig egal, wie die Daten aussehen und was damit gemacht wird. Es hat die Daten ordentlich zu speichern. Ende. Wenn es das nicht tut und Nutzdaten(!) das Filesystem beeinflussen, dann ist das Filesystem kaputt. Sobald das Filesystem also aus der Betrachtung raus ist und als "transparent" angenommen werden kann, sind Probleme wie die angesprochenen logisch unmöglich. Performance und Snapshots mal außen vor. Es geht rein darum, ob da was kaputtgehen kann einfach so. Und ich sage: Nein.
 
Zuletzt bearbeitet:

Turboschnecke

Enthusiast
Mitglied seit
18.05.2011
Beiträge
254
Ort
PAF
Eine Frage zu LX Zones unter OmniOS:
Ich versuche gerade ein Ubuntu in einer LX Zone zu installieren/starten. Das klappt auch soweit, aber ich habe darin keinerlei Netzzugriff, weil als Interface nur ein local loopback angelegt wird...
Ich hab auf der Console eine vnic angelegt: dladm create-vnic lx0 -l igb0
In Napp-It habe ich dann beim Anlegen der Zone entsprechend lx0 ausgewählt und den Typ auf exclusive gelassen.
Was läuft schief? Soweit ich das verstanden habe, habe ich unter Ubuntu auch nur das eine Interface , ifconfig liefert mit zumindest nur lo als Interface...
 

CommanderBond

Experte
Mitglied seit
16.04.2012
Beiträge
628
Also mit debian klappte es bei mir auf Anhieb. Nur die Vorlage war falsch was das Netzwerk betraff, musste Gateway manuell setzen, hatte ich vor ein paar Posts mal was zu geschrieben.
 

Turboschnecke

Enthusiast
Mitglied seit
18.05.2011
Beiträge
254
Ort
PAF
Hmm, ja. Dann will er da keine Maske haben, sondern gleich eine feste IP? Wollte eigentlich, dass dort DHCP benutzt wird. Hatte es nur von 192.168.1.0/24 auf 192.168.177.0/24 geändert. Direkt eine feste IP hatte ich noch nicht probiert. Mal testen :)
 

CommanderBond

Experte
Mitglied seit
16.04.2012
Beiträge
628
192.168.177.0/24 ist aber falsch du musst die Adresse vom Router da eintragen 1 oder 254 oder was du halt benutzt

create -b
set zonename=unifi
set zonepath=/ssdpool/zones/unifi-5.6
set brand=lx
set autoboot=true
set ip-type=exclusive
add net
set physical=lx0
add property (name=gateway,value="192.168.1.1")
add property (name=ips,value="192.168.1.11/24")
add property (name=primary,value="true")
end
add attr
set name=dns-domain
set type=string
set value=example.com
end
add attr
set name=resolvers
set type=string
set value=8.8.8.8
end
add attr
set name=kernel-version
set type=string
set value=3.16.0
end
add fs
set dir=/shared
set special=/ssdpool/zones/shared
set type=lofs
end

damit ging es wie gesagt bei mir mit debian.
 
Zuletzt bearbeitet:

Turboschnecke

Enthusiast
Mitglied seit
18.05.2011
Beiträge
254
Ort
PAF
Es gibt einmal "Network ip/dhcp + netmask ex 192.168.1.0/24" und einmal Gateway
Beim ersten hab ich das ganze eben auf 192.168.177.0/24 gesetzt und das Gateway auf 192.168.177.1 für den Router.

Edit: hab jetzt bei Network ip mal dhcp reingeschrieben und Gateway auf .177.1 jetzt klappt es :d
Tausenddank Commander :d :d :d
 
Zuletzt bearbeitet:

Turboschnecke

Enthusiast
Mitglied seit
18.05.2011
Beiträge
254
Ort
PAF
DHCP funktioniert und langt mir! Mir war nicht klar, was er da haben will. Hab mich an dem Beispiel orientiert und mich hats gewundert, dass es gar nicht erst ein Interface ausser dem Loopback gibt.
 

CommanderBond

Experte
Mitglied seit
16.04.2012
Beiträge
628
@gea

Folder Permission - - - - - - cfg State cfg File cfg Action
/ssdpool/zones/pyload drwx------ 3 root 4 Jan 18 15:27 pyload/zone.zfg edit zone.cfg configure
/ssdpool/zones/shared drwxrwxrwx 3 root 3 Jan 11 18:07 shared - -
/ssdpool/zones/unifi-5.6 drwx------ 4 root 7 Jan 18 15:30 unifi-5.6/zone.zfg edit zone.cfg configure

Mir ist noch ein Bug aufgefallen.
Wenn ich auf "configure" klicke steht bei cfg File und cfg Action jeweils "configured".

Wenn ich aber per "set zonename=unifi" einen Namen vergebe und dann auf configure klicke passiert dies nicht.
 

gea

Enthusiast
Mitglied seit
16.11.2010
Beiträge
4.536
Ich habs mir notiert.

Im Moment gilt meine Aufmerksamkeit der Datenschutz-Grundverordnung der EU. Die gilt direkt ab Mai in De und fordert neben Sachen wie Dokumentation über Daten und wie damit umgegengen wird, Verfahrensverzeichnisse oder Datenschutzbeauftragten auch einen Datenschutz nach Stand der Technik. Das bedeutet bereits auf Datenebene Verschlüssellung oder Strafe. Bei einer angedrohten Strafe bis zu 4% des weltweiten Umsatzes erwarte ich dass sich alle arbeitslosen Anwälte in der EU sich ab Mai darauf stürzen werden.

Ich konzentriere mich auf den technischen Aspekt. Derzeit bietet nur Solaris eine unterschiedliche Verschlüssellung auf ZFS Dateisystem-Ebene für mehrere Anwender. Ich möchte das durch ein Locking/Unlocking absichern indem ich ein ZFS Dateisystem automatisch oder per User Aktion und Zeitplan automatisch entschlüssle/verschlüssle, z.B. offen an bestrimmten Tagen zu bestimmten Zeiten.

Wie gesagt, im Moment nur Oracle Solaris, 2018 ist aber das Jahr von Open-ZFS mit

- ZFS Encryption für Open-ZFS
- entfernen eines vdevs
- Raid erweitern (hinzufügen einr Platte zu einem vdev, z.B. 6 Disk raid-Z2 auf 7 Disk raid-Z2)
- schnelles sequentielles Resilvering
 

XBashX

Neuling
Mitglied seit
31.03.2011
Beiträge
30
Hallo,

ich habe ein seltsames Problem mit meinem ZFS Filer @Home (omnios-r151022), welches mir auch jetzt erst auffällt.
Normalerweise benutze ich den Filer nur zum Abspeichern von Dokumenten und arbeite nicht direkt auf ihm, jedoch ist mir jetzt aufgefallen, dass Bilder als auch Office (hier zeigt es sich durch einen "Downloade Datei xyz" Fortschrittsbalken) sowie manchmal Adobe Dateien lange brauchen zum öffnen.
Shares sind mit SMB eingebunden auf einem Win 7 Client und 2x Win10. Auf allen tritt das Problem auf.
Normales kopieren (lesend als auch schreibend) funktioniert knapp unter der für 1GB möglichen Übertragungsrate mit 108 MB/s.
 

layerbreak

Enthusiast
Mitglied seit
30.12.2010
Beiträge
590
Ich habe auf dem AIO mir eine Debian 9.3 Minimal-Install eingerichtet. Außer root gibt es dort nur einen User "paul" und einen User "websoft mit uid=999", den die installierte Anwendung angelegt hat.
Auf dem AIO habe ich ein Dateisystem "srv" mit smb-Freigabe "srv" und guestok, Folder-ACL steht auf: root, owner@ und everyone@ auf full_set. Plus einen SMB-User "layerbreak" mit Passwort "layerbreakPW".

Jetzt möchte ich auf dieser Debian-VM dieses FS "srv" für User "websoft" per fstab-Datei verbinden.
So hab ich es z.Zt. in die fstab eingetragen:
Code:
//AIO-IP/srv	/home/div-files	cifs	username=layerbreak,password=layerbreakPW	user,uid=999,gid=999	0	0
Vorher natürlich als root per mkdir /home/div-files angelegt und per chown websoft:websoft /homediv-files websoft zugewiesen.

Ich kann zwar auf das gemountete Verzeichnis "/home/div-files" drauf zugreifen - aber nur als User root. Mir gelingt es nicht, dass der mount im User websoft gehört.

Muss ich auf meinem AIO etwas anders einstellen, damit der Debian-User richtig gemountet wird oder hab ich in der fstab einen Fehler drinne? Verträgt sich smb, cifs von OmniOS und Debian nicht?
 

you

Profi
Mitglied seit
28.12.2016
Beiträge
242
Ort
Dresden
Mh ... ich habe eine Firewall in Betrieb genommen und sehe in den logs nun, was so "Unbekanntes" passiert.

Off-Topic: Schon interessant, wenn eine Steckdosenleiste, deren Steckdosen ich per LAN schalten kann, regelmässig bei "smart-metering-service.com" vorbei schaut. WHAT THE HELL !!!

On-Topic: Meine napp-it All-in-One VM versucht regelmässig mit einem Client über Port 111 Kontakt aufzunehmen. Problem: Dieser Client (also die IP Adresse) existiert nicht mehr ... was ist das?
 

gea

Enthusiast
Mitglied seit
16.11.2010
Beiträge
4.536
@layerbreak
Mit guestok=true brauchts keine Authentifizierung, dazu ist der Gastzugang ja da.
Das erst mal ausschalten

btw
Warum nicht einfach ein ZFS Dateisystem direkt an den Debian LX Container durchreichen?

@you
Port 111 wird z.B. von NFS genutzt.
Ist NFS aktiv? Eventuell mal testhalber ausschalten.
 

you

Profi
Mitglied seit
28.12.2016
Beiträge
242
Ort
Dresden
Sobald ich NFS ausschalte, ist die Meldung weg. Nach dem Einschalten aber wieder da. Ein Re-boot der NAS Appliance hat auch keine Änderung gebracht. Komisch. Die alte IP Adresse gehörte zu einem MacBook auf dem ich testweise mal eine NFS-Share gemountet hatte. Das ist aber ewig her ?!?
 

MisterY

Enthusiast
Mitglied seit
17.03.2007
Beiträge
2.289
Wie groß ist der Performance Sprung wenn man zwei 250gb 850evo als Cache hinzufügt? Oder bringt das nichts?
 
Oben Unten