Fraglord
Enthusiast
Thread Starter
- Mitglied seit
- 08.10.2008
- Beiträge
- 286
Hallo zusammen 👋🏼
ich plane aktuell den Aufbau eines lokalen LLM-Setups zur Automatisierung meiner täglichen Aufgaben über n8n + AI Agent. Ziel ist es, damit u. a. E-Mails, Kalender, OCR-Dokumente und einfache Datenabfragen lokal verarbeiten zu lassen – idealerweise ohne Cloud-API wie OpenAI (um alles lokal zu halten).
Meine Frage an Euch: Welche Hardware nutzt ihr dafür und welche Erfahrungen habt ihr gemacht?
Zur Auswahl stehen bei mir aktuell folgende Optionen:
ich plane aktuell den Aufbau eines lokalen LLM-Setups zur Automatisierung meiner täglichen Aufgaben über n8n + AI Agent. Ziel ist es, damit u. a. E-Mails, Kalender, OCR-Dokumente und einfache Datenabfragen lokal verarbeiten zu lassen – idealerweise ohne Cloud-API wie OpenAI (um alles lokal zu halten).
Meine Frage an Euch: Welche Hardware nutzt ihr dafür und welche Erfahrungen habt ihr gemacht?
Zur Auswahl stehen bei mir aktuell folgende Optionen:
- Raspberry Pi 5 (8 GB) + AI-HAT (Hailo 8L)
- Jetson Orin Nano (8 GB Dev Kit)
- Intel NUC (aktuell vorhanden: NUC 10 mit i3, 32 GB RAM – Upgrade auf leistungsstärkeren NUC mit dedizierter GPU denkbar)