Lokale KI oder Cloud: Was passt zu deinem Betrieb?

Lokale KI lohnt einen Versuch, wenn die Verarbeitung auf einem betrieblich kontrollierten Rechner bleiben soll und jemand Einrichtung und Pflege übernimmt. Cloud-KI passt, wenn ein konkreter Dienst für deine Aufgabe und deine Daten betrieblich freigegeben ist und du nichts selbst betreiben willst. Entscheide nach drei Fragen: Wohin gehen die Daten, kannst du das Ergebnis prüfen und wer trägt den laufenden Aufwand? Ist die Datenfreigabe noch offen, testest du zuerst nur mit erfundenen Angaben.

Du musst nicht den ganzen Betrieb auf eine Variante festlegen. Wähle eine einzelne Aufgabe, etwa aus kurzen Notizen offene Rückfragen formulieren, und entscheide für genau diese Aufgabe. Prüfe dabei auch, ob ein gespeicherter Textbaustein ganz ohne KI schon reicht. Ist die Aufgabe noch unklar, hilft dir zuerst der Ratgeber KI im Handwerk: Beispiele, Tools und dein erster Büroablauf.

Eigene Illustration, keine Produktoberfläche. Beide Wege brauchen eine menschliche Prüfung.

Was bedeutet lokal und was bedeutet Cloud?

Bei lokaler KI rechnet ein Modell auf deinem eigenen Rechner. Gemeint ist die Berechnung während der Nutzung, nicht das Training eines neuen Modells. Bei Cloud-KI verarbeitet ein Modell auf einem entfernten Dienst deine Anfrage. Wo die Eingabemaske läuft, sagt noch nicht, wo gerechnet wird.

Eine installierte Desktop-App heißt deshalb nicht automatisch lokal. Die offizielle Ollama-Dokumentation beschreibt zum Beispiel lokale Modelle und Cloudmodelle in derselben App. Prüfe den gewählten Modus und das Ziel der Anfrage, statt vom Produktnamen auf den Datenweg zu schließen.[1]

Außerdem: Lokal rechnen heißt nicht dauerhaft offline. Installation, Modell-Downloads und Updates brauchen in der Regel eine Internetverbindung; die Ollama-FAQ beschreibt automatische Update-Downloads unter Windows und macOS.[1] Musst du offline arbeiten, prüfe den Ablauf nach der Einrichtung einmal mit erfundenen Daten ohne Netzverbindung.

Der Entscheidungsweg für eine Aufgabe

Du willst gelegentlich unverfängliche Texte entwerfen

Etwa eine allgemeine Materialanfrage ohne Namen, Auftragsnummern oder interne Konditionen. Hier genügt oft ein kleiner Test mit einem Cloud-Dienst, den dein Betrieb bereits freigegeben hat. Ein privates Konto auf Verdacht ist dafür kein Ersatz. Fehlt die Freigabe, arbeitest du nur mit erfundenen Angaben.

Ein lokaler Test ist ebenfalls möglich. Frag dich dann, ob sich Einrichtung und Pflege für eine gelegentliche Aufgabe lohnen. Oft ist ein gespeicherter Standardtext die einfachere Lösung.

Die Verarbeitung soll auf einem kontrollierten Rechner bleiben

Dürfen bestimmte Unterlagen den vorgesehenen Rechner nicht verlassen, ist ein allgemeiner Cloud-Chat kein Ausweichweg. Prüfe dann, ob ein lokaler Ablauf die Vorgabe wirklich erfüllt. Dazu gehören neben dem Modell auch Eingabeoberfläche, Erweiterungen, Protokolle, Dateisynchronisation und Backups.

Halte fest, wer Zugriff auf Gerät und gespeicherte Texte hat, wer Updates verantwortet und wie Daten entfernt werden. Für den ersten Versuch brauchst du ohnehin keine echten Kundenakten. Wie die Einrichtung konkret abläuft, zeigt Ollama einrichten: lokale Text-KI auf Windows und Mac.

Du willst lange oder schwierige Unterlagen bearbeiten

Entscheide hier nicht nur nach dem verfügbaren Speicher. Ein Modell kann technisch starten und trotzdem Zusammenhänge falsch wiedergeben. Generative KI kann sachlich falsche oder erfundene Inhalte liefern, auch in überzeugender Sprache; darauf weist das BSI hin.[2]

Wähle deshalb eine Aufgabe, deren Ergebnis jemand fachkundig kontrollieren kann. Eine kurze Notiz eignet sich für den Einstieg besser als ein Vertragsordner.

Mehrere Personen sollen denselben Ablauf nutzen

Kläre vorab, wer Werkzeuge freigibt, Zugriffe vergibt und bei Ausfällen übernimmt. Ein lokaler Versuch auf einem Einzelrechner ist noch keine gemeinsam betreute Lösung, und ein Cloud-Konto ersetzt keine Regeln für das Team. Wie du diese Regeln auf eine Seite bringst, zeigt Eine KI-Regel für dein kleines Team.

Beginne ohne Anbindung an Mail, Kalender oder Dateisystem. Ein Chat mit manueller Texteingabe genügt, um eine eng gewählte Textaufgabe zu prüfen. Eine spätere Integration braucht einen eigenen Auftrag, passende Rechte und einen Test mit Rückweg.

Passt das Modell auf den Rechner? Das sagt noch nichts über Qualität

Für lokale KI sind freier Festplattenplatz und nutzbarer Arbeits- beziehungsweise Grafikspeicher zwei verschiedene Fragen. Dazu kommt der Textumfang, den das Modell gleichzeitig berücksichtigen soll: Ein größeres Kontextfenster braucht mehr Speicher.[1]

Die Speicherprüfung für lokale KI hilft dir bei der Planung. Sie misst dein Gerät nicht und sagt nicht voraus, ob ein Modell deine Aufgabe gut löst. Prüfe danach drei Dinge getrennt:

• Technische Nutzbarkeit: Läuft der Ablauf auf dem freigegebenen Gerät, ohne die übrige Büroarbeit zu bremsen?
• Ergebnisqualität: Bleiben Angaben richtig, fehlen wichtige Punkte, kommen unbelegte Zusagen dazu?
• Betrieblicher Aufwand: Wer richtet ein, prüft, korrigiert und pflegt? Was passiert bei einem Ausfall?

Ist eine Antwort schlecht, kaufe nicht zuerst neue Hardware. Prüfe Aufgabe, Eingabe und erwartetes Ergebnis. Ein größeres Modell oder ein anderer Dienst bringt nicht automatisch bessere Texte.

Vor echten Daten: Training, Speicherung und Vertrag prüfen

Wie ein Dienst mit Eingaben umgeht, unterscheidet sich je nach Anwendung und Tarif; das BSI empfiehlt, die jeweiligen Bedingungen zu beachten.[2] Lass für das konkrete Produkt und den konkreten Tarif diese Punkte durch die zuständige Person prüfen:

• Training: Dürfen Eingaben oder Antworten zur Verbesserung von Modellen verwendet werden? Welche Einstellung oder Vertragsregel gilt für euer Konto?
• Speicherung: Welche Inhalte, Dateien und Protokolle werden aufbewahrt, wo und mit welchen Zugriffsmöglichkeiten? Ein ausgeschaltetes Training beantwortet das nicht.
• Löschung: Wie werden Chats, hochgeladene Dateien und weitere gespeicherte Daten entfernt, und mit welchen Fristen?
• Auftragsverarbeitung: Ist ein Vertrag zur Auftragsverarbeitung (AVV) nötig, für das Produkt verfügbar und abgeschlossen? Ein privat bezahltes Konto ist dadurch noch nicht betrieblich freigegeben.
• Weitere Datenwege: Werden Erweiterungen, angebundene Dienste, Freigabelinks oder synchronisierte Ordner genutzt, und wer darf darauf zugreifen?

Datenminimierung beginnt vor der Eingabe: Gib nur ein, was die Aufgabe braucht. Entfernte Namen machen einen echten Vorgang nicht automatisch anonym, denn Adresse, Termin oder seltene Auftragsdetails können weiter auf Personen hinweisen. Für den Einstieg ist ein vollständig erfundener Vorgang deshalb die bessere Wahl.

Beispiel: eine Rückfrage statt einer Zusage

Ein kleiner Reparaturbetrieb erhält unterschiedlich formulierte Terminanfragen. Die Inhaberin möchte daraus kurze Antwortentwürfe erstellen, aber keine Kalenderanbindung einrichten. Eine Person bereitet den Text vor, die Inhaberin kontrolliert jede Zusage und verschickt die Nachricht selbst.

Für den Versuch schreibt sie eine erfundene Notiz:

Für eine Reparatur wird Donnerstag gewünscht. Ob ein Termin frei ist, wurde nicht geprüft. Welche Arbeiten nötig sind, ist noch offen. Bitte zunächst nach einer kurzen Beschreibung fragen.

Dazu verwendet sie bei jedem Kandidaten denselben Arbeitsauftrag:

Formuliere aus dieser erfundenen Notiz einen kurzen freundlichen Antwortentwurf in der Sie-Form. Frage nach der Beschreibung der Reparatur. Sage nur, dass wir die Verfügbarkeit prüfen. Bestätige keinen Termin und nenne keinen Preis. Ergänze keine Namen, Uhrzeiten oder technischen Diagnosen. Wenn Angaben fehlen, lass sie offen.

So sollte ein passender Entwurf aussehen:

Vielen Dank für Ihre Anfrage. Bitte beschreiben Sie kurz, welche Reparatur benötigt wird. Wir prüfen, ob ein Termin am Donnerstag möglich ist, und melden uns anschließend bei Ihnen.

Der Betrieb prüft jeden Weg, der zulässig ist: einen lokalen Kandidaten auf einem geeigneten Rechner, einen freigegebenen Cloud-Dienst oder beide. Ist nur einer zulässig, testet er nur diesen. Erfüllt keiner die Anforderungen mit tragbarem Aufwand, bleibt die manuell geschriebene Antwort. Das Ergebnis gilt für diese Aufgabe, nicht für alle Aufgaben im Betrieb.

So führst du den Test durch

Bei ungeklärter Freigabe oder unprüfbarem Ergebnis endet der Test.

1. Aufgabe und Soll festhalten. Wähle einen einzelnen Textvorgang. Schreib vorher auf, was enthalten sein muss und was keinesfalls erfunden werden darf. Im Beispiel: Rückfrage ja, Terminbestätigung nein.
2. Zuständigkeit und Datenweg klären. Benenne eine verantwortliche Person. Kläre Gerät, Produkt, Betriebsmodus und zulässige Eingaben. Ist das offen, arbeitest du nur in einer bereits erlaubten Umgebung mit erfundenen Texten.
3. Kandidaten einzeln vorbereiten. Für lokal prüfst du Speicher, Modellvariante und Textumfang mit der Ollama-Anleitung. Für Cloud klärst du den konkreten Dienst samt Vertrags- und Datenregeln. Schließe für den Vergleich keine zusätzlichen Konten oder Verträge ab.
4. Gleiche erfundene Eingaben verwenden. Nimm kurze Varianten derselben Aufgabe, darunter einen Fall mit fehlender Angabe und einen mit widersprüchlichen Notizen.
5. Jede Antwort selbst prüfen. Vergleiche mit der Notiz und dem Soll. Markiere erfundene Fakten, fehlende Rückfragen und unerlaubte Zusagen. Notiere auch unbrauchbare Antworten, nicht nur den besten Text.
6. Gesamtaufwand notieren. Erfasse Vorbereitung, Einrichtung, Wartezeit, Kontrolle und Nacharbeit sowie die tatsächlichen Kosten für deinen Betrieb.
7. Begrenzt entscheiden. Erfüllt der Kandidat die vorher festgelegten Anforderungen nicht, änderst du die Aufgabe oder beendest den Test. Ein bestandener Versuch erlaubt noch keinen automatischen Versand und keine echten Kundendaten.

Stopp den Test, wenn das Modell trotz Vorgabe Zusagen erfindet, die prüfende Person Fehler nicht sicher erkennt oder der Datenweg unklar wird. Fällt etwas aus, geht es mit der manuellen Bearbeitung weiter.

Wie fällt die Entscheidung nach dem Test?

Lokal weiterprüfen, wenn die Aufgabe brauchbare Ergebnisse liefert, der Datenweg zur betrieblichen Vorgabe passt und Betreuung sowie Geräteeinsatz tragbar sind. Cloud weiterprüfen, wenn ein freigegebener Dienst dieselben Anforderungen erfüllt und du seine Daten- und Vertragsregeln akzeptieren kannst. Bei der manuellen Lösung bleiben, wenn kein Weg diese Bedingungen erfüllt oder ein Textbaustein ausreicht.

Auch eine Aufteilung nach Aufgaben kann sinnvoll sein: unverfängliche Entwürfe in einer freigegebenen Cloud-Umgebung, vertrauliche Aufgaben in einem kontrollierten lokalen Ablauf. Jede Aufgabe braucht dann ihre eigene Freigabe, damit vertrauliche Inhalte nicht versehentlich in der Cloud landen.

Dein nächster Schritt: Schreib eine wiederkehrende Textaufgabe auf, dazu die erlaubten Eingaben, die prüfende Person und ein klares Abbruchkriterium. Beginne dann mit einem erfundenen Beispiel, nicht mit einer Hardwarebestellung oder einem neuen Abo. Für Antworten auf Kundenmails zeigt KI im Kundenservice: Kundenanfragen sinnvoll beantworten den vollständigen Ablauf.

Du willst den Datenweg für eine konkrete Aufgabe klären und den passenden Weg, lokal oder Cloud, in deinem Betrieb einrichten lassen? Frag inventivo nach der Einrichtung. Nenne dafür die Aufgabe, die vorhandenen Rechner und die Software, die ihr heute nutzt, aber noch keine Kundenunterlagen.

Quellen und Einordnung

1. Ollama, offizielle Dokumentation: FAQ zu Updates und Programmvorgängen, Cloud zu Cloudmodellen in App und Terminal, Context length zum Speicherbedarf größerer Kontextfenster. Abgerufen am 19.10.2026.
2. BSI: Generative KI und ihre Risiken: falsche Antworten und Datenverwendung. Abgerufen am 18.10.2026.

Hinweis: Entscheidungsweg, Testplan und Beispiel sind eine Arbeitshilfe für deine eigene Prüfung. Sie ersetzen keine rechtliche Prüfung deines Datenbestands und keinen Test auf deiner Hardware.