Die einfache Erklärung
Ein LLM sagt immer das wahrscheinlichste nächste Token voraus – nichts weiter.
- Trainiert auf riesigen Textmengen
- Erzeugt die Antwort Stück für Stück
- „Versteht“ nicht wie ein Mensch – es rechnet
Das Kontextfenster
Alles, was das Modell gerade „sieht“, zählt zum Kontext.
- Gemessen in Token
- Umfasst Anweisung, Verlauf und Eingabe
- Ist begrenzt – irgendwann ist es voll
Warum es wichtig ist
Ein größeres Kontextfenster kann mehr Text verarbeiten – kostet aber mehr Zeit und Geld.
- Lange Dokumente ggf. zusammenfassen
- Nur relevanten Kontext mitgeben
Temperatur & Zufall
Ein Regler steuert, wie kreativ oder wie vorhersehbar das Modell antwortet.
Niedrig
Fokussiert und wiederholbar – gut für Fakten und Code.
Hoch
Vielfältiger und kreativer – gut für Ideen und Texte.
- Bei gleicher Eingabe kann die Ausgabe variieren
Wenn Modelle halluzinieren
LLMs erzeugen plausibel klingenden Text – nicht garantiert wahren.
- Erfundene Fakten, Quellen oder Zitate sind möglich
- Besonders bei Nischenwissen und aktuellen Ereignissen
- Gegenmittel: Quellen nennen lassen (RAG) und selbst prüfen
Grundregel: bei wichtigen Aussagen immer gegenprüfen – das Modell klingt auch dann sicher, wenn es falsch liegt.