Die besten lokalen KI-Modelle (LLMs) im Vergleich
Welches Open-Source-Sprachmodell eignet sich für Coding, komplexe Logik (Reasoning), deutsche Texte oder PDF-Analyse (RAG)? Hier findest du alle aktuellen Top-Modelle mit direktem Ollama-Befehl und VRAM-Anforderung.
Schlägt fast alle lokalen Modelle in Python, Bash, TypeScript & DevOps.
Denkt vor dem Antworten sichtbar nach – perfekt für komplexe Analysen.
Extrem schnell, präzises Deutsch und läuft auf einer 16GB GPU.
Erkennt Screenshots, Diagramme und Dokumente lokal ohne Cloud.
DeepSeek-R1 (Distill Qwen/Llama)
Verfügbare Größen: 7B, 8B, 14B, 32B, 70B • Empfehlung: 14B / 32B
Sichtbare Denkschritte (Chain-of-Thought), überragend bei komplexen IT-Architekturen, Mathe, Security-Analysen und Fehlersuche.
ollama run deepseek-r1:14b Qwen 2.5 Coder
Verfügbare Größen: 1.5B, 7B, 14B, 32B • Empfehlung: 14B / 32B
Bestes lokales Programmier-Modell für Python, Bash, TypeScript, Docker, Terraform & Firewall-Skripte. Ideal für OpenCode & Continue.dev.
ollama run qwen2.5-coder:14b Llama 3.3 70B Instruct
Verfügbare Größen: 70B • Empfehlung: 70B
Enorme Wissensbasis, perfektes Deutsch, präzises Instruction-Following und JSON/Tool-Calling für produktive Unternehmens-Workflows.
ollama run llama3.3:70b Gemma 3 (Google)
Verfügbare Größen: 1B, 4B, 12B, 27B • Empfehlung: 12B / 27B
128k Kontextfenster, versteht Text und Bilder, läuft selbst in der 27B-Variante auf einer einzelnen 24GB GPU oder einem 32GB Mini-PC.
ollama run gemma3:12b Mistral Small 3 (24B)
Verfügbare Größen: 24B • Empfehlung: 24B
Entwickelt in Europa: Extrem schnelle Antwortzeiten (niedrige Latenz), hervorragend für deutsche Texte, Zusammenfassungen und lokale RAG-Systeme.
ollama run mistral-small:24b Phi-4 (Microsoft Research)
Verfügbare Größen: 14B • Empfehlung: 14B
Schlägt viele doppelt so große Modelle in MINT-, Logik- und Analyse-Benchmarks und passt bequem in 12 GB VRAM.
ollama run phi4:14b Llama 3.2 Vision / Qwen 2.5 VL
Verfügbare Größen: 7B, 11B, 72B • Empfehlung: 11B
Liest Rechnungen, Netzwerk-Diagramme, Screenshots und eingescannte PDFs komplett lokal aus (perfekt für Paperless-ngx!).
ollama run llama3.2-vision:11b BGE-M3 & Nomic-Embed-Text
Verfügbare Größen: 137M – 568M • Empfehlung: 568M
Mehrsprachige Vektor-Embeddings (inkl. exzellentem Deutsch) für die Dokumentensuche in OpenWebUI, AnythingLLM und Qdrant.
ollama pull bge-m3 Unsicher, ob dein PC oder Server für 14B, 32B oder 70B reicht?
Berechne mit unserem interaktiven VRAM-Rechner den exakten Speicherbedarf inklusive Kontextfenster und finde die passende GPU oder den besten Mini-PC.
❓ Häufige Fragen zu lokalen KI-Modellen
Welches lokale KI-Modell spricht am besten Deutsch?
Für anspruchsvolle deutsche Texte, E-Mails und Zusammenfassungen liefern Llama 3.3 (70B), Mistral Small 3 (24B) und Gemma 3 (12B/27B) die natürlichsten Ergebnisse. Auf kleinerer Hardware (8 GB VRAM) ist Llama 3.1 8B oder Gemma 3 12B (Q4) die beste Wahl.
Welches Modell ist besser zum Programmieren: DeepSeek-R1 oder Qwen 2.5 Coder?
Für schnelle Code-Vervollständigung (Autocomplete in VS Code / OpenCode) und direktes Generieren von Skripten ist Qwen 2.5 Coder (14B oder 32B) unschlagbar schnell und präzise. Für komplexe Architektur-Entscheidungen oder schwer auffindbare Bugs lohnt sich DeepSeek-R1 (14B/32B), da es das Problem vor der Antwort Schritt für Schritt durchdenkt.