Tipps für meinen lokalen KI-Server gesucht

Für KI-Aufgaben läuft bei mir eine eigene Maschine zu Hause, damit die Daten im Haus bleiben und nicht bei irgendeinem Anbieter landen.

Diesmal erkläre ich nichts, sondern frage: Wie würdet ihr so einen Server aufsetzen, und was würdet ihr anders machen als ich?

Am hilfreichsten sind dabei Hinweise von Leuten, die selbst schon einen betreiben.