Zum Inhalt springen

Ohne Anmeldung. Ohne Gerätescan.

Lokale Text-KI: Reicht der Speicher deines Rechners?

Für einen ersten Versuch brauchst du eine kleine Textaufgabe und ein eingerichtetes Textmodell. Der Rechner unten schätzt, ob der Speicher für die ausgewählten Modelle ausreicht. Wie gut die Antworten für deine Arbeit sind, prüfst du anschließend selbst.

Diese Prüfung gilt für Textmodelle, nicht für Audio, Bilder oder ein durchsuchbares Dokumentenarchiv. Ihre Angaben bleiben auf dieser Seite. Es werden keine Modelle heruntergeladen und keine Geräteinformationen ausgelesen.

Ein kurzer Textversuch für den Büroalltag

Probiere nach der Einrichtung aus, ob das Modell aus einer Notiz eine brauchbare Rückfrage formuliert. Kopiere dazu den folgenden Auftrag in den Chat des eingerichteten lokalen Textmodells. Nutze zunächst dieses Beispiel statt einer echten Kundenanfrage.

Formuliere aus dieser Notiz eine kurze, freundliche Rückfrage an den Kunden. Notiz: Eine Bürotür schleift am Boden. Die Adresse und mögliche Besichtigungstermine fehlen. Frage nach diesen Angaben. Erfinde keine Preise, Termine oder Reparaturzusagen.

Eine brauchbare Antwort fragt nach Adresse und Besichtigungsterminen und bleibt bei den Angaben der Notiz. Enthält sie einen erfundenen Preis oder eine Zusage, überarbeite den Entwurf. Achte auch darauf, ob du den Text nach der Prüfung tatsächlich verwenden würdest.

Nur ein geprüfter Antwortentwurf führt weiterPrüfe den Antwortentwurf anhand der Notiz. Enthält er erfundene Angaben, führt der Rückweg über das Überarbeiten erneut zur Prüfung. Nur ein passender Entwurf geht zur weiteren Verwendung.Antwort mit Notiz abgleichenErfundene Angaben?Entwurf überarbeitenPassenden Entwurf weiterverwendenNeinJa
Überarbeiten führt zurück zur Prüfung, nicht direkt zur Verwendung.

Du hast noch kein lokales Textmodell eingerichtet? Nutze zuerst die Speicherprüfung auf dieser Seite und danach den Ratgeber Ollama einrichten: lokale Text-KI auf Windows und Mac. Dafür brauchst du kein Video. Wenn du noch zwischen lokalem Betrieb und einem Onlinewerkzeug abwägst, hilft dir Lokale KI oder Cloud: Was passt zu deinem Betrieb?.

Für den nächsten Schritt mit eigenen Texten findest du in KI im Kundenservice: Kundenanfragen sinnvoll beantworten einen Ablauf mit freigegebenen Auskünften und menschlicher Prüfung.

Deine Speicherprüfung

1. Ihr Rechner

Ihr Ergebnis und nächster Schritt

Erst nach Ihren bestätigten Angaben prüfen wir den Speicher. Wenn Sie eine Angabe nicht kennen, hilft die Anleitung im Formular – wir setzen keinen Schätzwert für Ihren Rechner ein.

Was diese Prüfung leistet

Speicher

Wir schätzen den Bedarf dreier konkreter Textmodelle mit Platz für Betriebssystem und Büroprogramme. Das ist keine Messung Ihres Rechners.

Tempo und Qualität

Für die Modelle und Ihren Rechner liegen hier keine eigenen Qualitäts- oder Tempomessungen vor. Prüfen Sie die Antworten am kurzen Beispiel selbst.

Einrichtung

Für unterstützte Windows- und Mac-Versionen zeigen wir einen Bezug über Ollama. Der Rechner installiert nichts. Downloads starten Sie bewusst auf der Anbieterseite.

So entsteht die Schätzung

Geprüfte Auswahl: Qwen2.5 Instruct 1,5B, 3B und 7B, jeweils Q4_K_M aus den offiziellen Qwen-GGUF-Repositories. Das ist keine vollständige Marktübersicht. Datenstand: 16.10.2026.

Gewichte: tatsächliche Dateigrößen der ausgewählten Artefakte, beim 7B-Modell beide Teile zusammen. Dateigröße ist ein Ausgangswert, kein gemessener Speicherverbrauch.

Textspeicher (KV-Cache): 2 × Schichten × KV-Köpfe × Kopfgröße × Tokens × 2 Byte. Annahmen: eine Anfrage gleichzeitig; Schlüssel und Werte jeweils FP16; vollständiger Attention-Cache. Die Modellkonfigurationen verwenden GQA ohne aktiviertes Sliding Window.

Unterer Planungswert = Gewichte + KV-Cache + Laufzeitreserve. Oberer Planungswert = 1,10 × (Gewichte + KV-Cache) + 2 × Laufzeitreserve. Die Spannweite ist eine bewusst gewählte Vorsichtsannahme, kein statistisches Intervall. Reale Backend-Puffer, Speichergrenzen und Ladeverhalten können davon abweichen.

Bei einer separaten Grafikkarte prüfen wir VRAM und RAM getrennt. Zusätzlich setzen wir konservativ eine vollständige Modellkopie plus Laufzeitreserve im RAM zum Laden voraus. Das kann mögliche Konfigurationen ausschließen. Teil-Auslagerung und mehrere Grafikkarten werden nicht berechnet. Apple-Silicon-Speicher wird nur einmal gezählt; die vom Betriebssystem nutzbare GPU-Grenze muss separat geprüft werden.

MLA, Sliding Window, hybride Architekturen und MoE werden nicht mit dieser Formel bewertet. Aktive MoE-Parameter sind kein Ersatz für die gesamte geladene Modellgröße. Fehlt ein erforderlicher Wert, lautet das Ergebnis „Nicht bewertbar“.

Originalimplementierung der Cache-Tensoren (llama.cpp) · Cache-Verhalten und Architekturgrenzen (Transformers)

Quellenlinks öffnen Sie nur auf Wunsch. Die Seite selbst ruft keine externen Daten ab und speichert keine Eingaben.