Tastenkürzel

→ Nächste Folie

← Vorherige Folie

ESC Zurück zur Übersicht

F Vollbild

? Diese Hilfe

LB-11 · KI & Prompt-Engineering

Lokale KI vs. Cloud-KI

Datenschutz, Kosten und Kontrolle abwägen

🎧 Episode anhören

Zwei Wege zur KI

Cloud-KI Beim Anbieter gehostet – z. B. Claude, ChatGPT.

Lokale KI Auf eigener Hardware – z. B. mit Ollama.

Beide haben klare Stärken und Schwächen

Cloud-KI

Stärke: sehr leistungsfähige Modelle, kein eigener Betrieb
Stärke: sofort startklar, immer aktuell
Schwäche: Daten verlassen das Haus
Schwäche: laufende Kosten, Abhängigkeit

Lokale KI

Stärke: Daten bleiben intern (Datenschutz)
Stärke: keine Nutzungsgebühren, volle Kontrolle
Schwäche: braucht Hardware (GPU/RAM)
Schwäche: meist kleinere/schwächere Modelle

Kostenvergleich

Cloud ist Pay-per-Use, lokal ist Anschaffung plus Strom.

Cloud: gut bei schwankender Nutzung
Lokal: rechnet sich bei hoher, konstanter Last

Datenschutz im Detail

Lokal: sensible Daten bleiben im Haus
Cloud: hängt von Anbieter und Vertrag ab
Business-/On-Prem-Optionen reduzieren Risiken
DSGVO immer beachten

Entscheidungshilfe

Faustregel: sensible Daten oder hohe Dauerlast → lokal prüfen; sonst ist Cloud oft einfacher.

Cloud: Claude, ChatGPT, Gemini
Lokal: Ollama, LM Studio

Hardware für lokale KI

Die Modellgröße muss in den Speicher passen – meist in den VRAM der Grafikkarte.

Faustregel: mehr Parameter → mehr Speicherbedarf
Quantisierung schrumpft Modelle auf handhabbare Größe
Ohne GPU läuft es auf der CPU – langsam, aber möglich

Der Hybrid-Weg

Beides kombinieren statt sich festzulegen.

Lokal Sensible Daten und Routine-Aufgaben bleiben im Haus.

Cloud Große, komplexe Anfragen gehen an ein starkes Cloud-Modell.

Ein Router entscheidet je Anfrage – nach Datenschutz und Aufwand

Das Wichtigste

Cloud = Leistung & Komfort, aber Daten außer Haus
Lokal = Datenschutz & Kontrolle, aber Hardware nötig
Kosten: Pay-per-Use vs. Anschaffung
Entscheidung nach Datenschutz und Last