KI auf der eigenen Maschine

KI auf der eigenen Maschine - der Praxisleitfaden fur lokale LLMs, RAG und AgentenKunstliche Intelligenz, die komplett auf deinem eigenen Rechner lauft offline, ohne Cloud-Account, ohne dass deine Daten das Haus verlassen. Dieses Buch zeigt Schritt fur Schritt, wie das geht. Vom ersten Erfolgserlebnis in 15 Minuten (ein Sprachmodell mit Ollama starten) bis zum sauberen Produktivbetrieb auf dem eigenen Server: ein Praxisleitfaden fur alle, die lokale Sprachmodelle nicht nur ausprobieren, sondern verstehen und ernsthaft einsetzen wollen. Du lernst:- offene Modelle lokal installieren und uber eine API nutzen (Ollama, llama.cpp, vLLM)- welche Hardware wirklich zahlt VRAM, Quantisierung und Kontextfenster realistisch einschatzen- aus deinen eigenen Dokumenten eine durchsuchbare Wissensbasis bauen (RAG) und sie gezielt debuggen- wie kleine Agenten mit Tool-Calling funktionieren- das Ganze produktionsreif, sicher und DSGVO- bzw. EU-AI-Act-konform betreiben- und die ehrliche Frage: wann lokal nicht die beste Antwort istKein Theoriewalzer uber Modelltraining, sondern Praxis aus dem Homelab: Docker, Reverse Proxy, Dinge ausprobieren, kaputt machen, reparieren und dabei verstehen, warum sie funktionieren. Weil sich lokale KI schnell bewegt, erklart das Buch Prinzipien statt Tagesform, markiert kurzlebige Angaben ausdrucklich und verweist auf eine laufend gepflegte Online-Seite mit aktuellen Zahlen und Quellennachweisen. Fur Einsteiger mit IT-Grundwissen ebenso wie fur Fortgeschrittene, die Struktur und Betriebssicht suchen.