Helft mir mal.
Ich hab hier ein Proxmox mit nem 1tb mirror als root wo u.a. das os selbst liegt und auch der Speicher für VMs usw., sonst gibts keinen speicher,
Drauf gibts nen LXC mit llama.cpp drin.
Dort gibts nen dataset(? ich komm da irgendwie immer ducheinander) ai-models, das liegt am root-pool und ist im lxc gemountet, dort liegen, Überraschung, die ai models drin.
Ich mag dieses ai-models als smb freigeben, damit ich dort bequem hin und weg kopieren kann per gui.
Im Idealfall auch den Ordner von llama.cpp wo die ganzen configs drin liegen, da muss ich mir noch ansehen, wo das bei llama.cpp genau ist. Nicht alle Settings sind so einwandfrei über openwebui erreichbar, das ist halt so ne Sache. Wäre auch bequemer os.
Wo installiere ich dieses ZNAS?
Mach ich einen eigenen privileged LXC? Installier ichs direkt im Proxmox OS? Installier ich es in den LXC wo schon llama.cpp drin ist, ist auch privileged.