Was ist Fine-Tuning?
Fine-Tuning bedeutet, ein bereits trainiertes KI-Basismodell mit eigenen Daten weiterzutrainieren – um es auf eine spezifische Aufgabe oder einen bestimmten Stil zu spezialisieren.
Basis-Modell (allgemeines Wissen) + eigene Trainingsdaten = spezialisiertes Modell
- Kein Training von Grund auf: Man baut auf einem fertigen Modell auf – das spart enorme Ressourcen
- Aufgabe definieren: Modell lernt eine Aufgabe besser – z. B. nur IT-Tickets klassifizieren
- Stil anpassen: Modell antwortet immer in Firmenton, bestimmter Sprache oder Format
- Verfügbar bei: OpenAI (GPT-3.5, GPT-4o mini), Mistral, Llama 3 (lokal), Cohere
Wie funktioniert Fine-Tuning technisch?
Schritt 1
Trainingsdaten vorbereiten
Paare aus Eingabe und gewünschter Ausgabe erstellen – typisches Format: JSONL mit „prompt" und „completion" Feldern
Schritt 2
Daten hochladen
Trainingsdatei via API oder Web-Interface hochladen – Mindestmenge je nach Anbieter: 10–100 Beispiele
Schritt 3
Training starten
Anbieter trainiert das Modell auf eigenen Servern – dauert Minuten bis Stunden je nach Datenmenge
Schritt 4
Modell testen
Feingetuntes Modell über separate Model-ID aufrufen – Qualität mit Testdaten messen
Schritt 5
In Produktion nehmen
Modell-ID in Anwendung eintragen – API-Aufruf funktioniert identisch wie beim Basismodell
Hintergrund
Was passiert?
Gewichte des Modells werden leicht angepasst – keine neuen Fähigkeiten, nur Fokussierung auf gelerntes Muster
Wann lohnt sich Fine-Tuning?
Fine-Tuning lohnt sich, wenn Prompt-Engineering und System-Prompts an ihre Grenzen stoßen.
- Sehr spezifisches Ausgabeformat: Modell soll immer exakt dasselbe Schema liefern – auch ohne langes Prompt
- Firmeneigener Ton und Stil: Modell soll klingen wie das Unternehmen – konsistent, wiederholbar
- Domänenspezifische Klassifikation: Eigene Kategorien, Labels oder Prioritäten, die im Basismodell nicht existieren
- Kurze Prompts gewünscht: Viele Regeln im System-Prompt vermeiden – Modell hat das Muster bereits gelernt
- Kostensenkung durch kleineres Modell: Fine-Tuning auf GPT-3.5 erreicht GPT-4-Qualität für spezifische Aufgabe – billiger pro Token
- Hohe Volumen: Ab Millionen von API-Aufrufen lohnt sich der Einmalaufwand
Wann lohnt sich Fine-Tuning nicht?
Nicht sinnvoll
Wissensbasierte Aufgaben
Fine-Tuning lehrt keine neuen Fakten zuverlässig.
Für firmeninternes Wissen ist RAG (Retrieval-Augmented Generation) besser geeignet.
Fine-Tuning = Verhaltensanpassung, kein Wissensspeicher.
Nicht sinnvoll
Kleine Projekte und Tests
Wenige Anfragen täglich → Aufwand steht nicht im Verhältnis.
Guter System-Prompt + Few-Shot erreicht oft dasselbe Ergebnis – ohne Trainingskosten.
Zuerst Prompt-Engineering ausschöpfen!
- Sich schnell ändernde Inhalte: Modell kann nicht auf neue Ereignisse oder Produktänderungen reagieren
- Kein gutes Trainingsdaten-Set: Schlechte Qualität der Beispiele → schlechtes Fine-Tuning
Was wird benötigt?
Trainingsdaten
Mindestens 50–100 Paare
JSONL-Format: jede Zeile ein Beispiel mit „messages"-Array (System, User, Assistant). Qualität wichtiger als Menge – fehlerhafte Daten ruinieren das Training
API-Zugang
OpenAI / Anbieter-Account
Fine-Tuning-API der jeweiligen Plattform nutzen. Bei OpenAI: Files API + Fine-tuning API. Technisches Grundverständnis nötig
Budget
Training + Betrieb
Trainingskosten: 0,008 USD / 1.000 Token (GPT-3.5). Betriebskosten: Fine-Tuned-Modelle kosten mehr pro Token als Basis. Lohnt sich erst bei hohem Volumen
Evaluation
Test-Datensatz
Separate Testdaten (nicht im Training enthalten) vorbereiten – um Qualitätsverbesserung messbar zu machen
Zeit
Iterative Arbeit
Erster Versuch selten perfekt – Daten verbessern, erneut trainieren, auswerten. Mehrere Runden einplanen
Datenschutz
Vertragliche Prüfung
Trainingsdaten gehen an den Anbieter – keine personenbezogenen oder vertraulichen Daten ohne Vertrag (z. B. OpenAI Enterprise)
Kosten und Aufwand realistisch
Einmalige Kosten
Training
GPT-3.5 Turbo: ~0,008 USD / 1.000 Token Trainingsdaten.
100 Beispiele à 200 Token = ~0,16 USD – sehr günstig.
GPT-4o mini Fine-Tuning: ~3× teurer als GPT-3.5.
Daten vorbereiten: 4–20 Stunden Arbeit je nach Umfang.
Laufende Kosten
Betrieb
Fine-Tuned GPT-3.5: ~0,012 USD / 1.000 Token (Output) – 50% teurer als Basis.
Break-Even: Wenn System-Prompt-Einsparung > Mehrkosten pro Token.
Faustformel: Unter 10.000 Anfragen/Monat selten rentabel.
Die teuerste Ressource beim Fine-Tuning ist nicht die API – es ist die Zeit für qualitativ hochwertige Trainingsdaten.
Alternativen zu Fine-Tuning
System-Prompt
Erste Wahl
Rolle, Ton, Format, Einschränkungen festlegen – kein Training nötig. Sofort einsetzbar, leicht änderbar. Grenzen: langer Prompt erhöht Tokenkosten pro Anfrage
Few-Shot
Zweite Wahl
2–5 Beispiele im Prompt mitgeben – KI übernimmt das Muster. Kein Training, sofort verfügbar. Nachteil: erhöhter Token-Verbrauch bei jeder Anfrage
RAG
Für Wissensfragen
Retrieval-Augmented Generation: relevante Dokumente werden zur Laufzeit gesucht und als Kontext übergeben. Ideal für firmeninternes Wissen, das sich ändert
Prompt-Bibliothek
Für Standardaufgaben
Bewährte Prompts speichern und wiederverwenden – kein Training, keine Mehrkosten. Oft unterschätzt und ausreichend
Fine-Tuning
Letzte Wahl
Wenn alle Alternativen ausgeschöpft sind und das Volumen stimmt. Nicht der erste Schritt – der letzte
Lokales Modell
Datenschutz + Kontrolle
Llama 3 oder Mistral lokal mit eigenen Daten fine-tunen – Daten verlassen nie das eigene System. Technisch aufwändig, aber maximale Kontrolle
Entscheidungsbaum: Fine-Tuning oder nicht?
Schritt 1: System-Prompt + Few-Shot probiert? → Wenn nein: erst das testen
Schritt 2: Geht es um neues Wissen/Fakten? → Wenn ja: RAG statt Fine-Tuning
Schritt 3: Ändert sich das Muster häufig? → Wenn ja: System-Prompt flexibler
Schritt 4: Mehr als 50.000 API-Anfragen/Monat? → Wenn nein: lohnt sich kaum
Schritt 5: Qualitativ gute Trainingsdaten vorhanden? → Wenn nein: erst Daten sammeln
→ Alle Fragen positiv: Fine-Tuning evaluieren
Fine-Tuning ist kein Shortcut – es ist das letzte Werkzeug, wenn alle einfacheren Lösungen ausgereizt sind.
Zusammenfassung
- Fine-Tuning spezialisiert ein Basismodell auf spezifische Aufgaben, Formate oder Stile – kein neues Wissen
- Lohnt sich bei: hohem Volumen, festen Ausgabeformaten, Kostensenkung durch kleineres Modell
- Nicht geeignet für: neues Wissen einlernen, kleine Projekte, sich ändernde Inhalte
- Alternativen zuerst: System-Prompt → Few-Shot → RAG → erst dann Fine-Tuning
- Hauptaufwand ist nicht die API-Nutzung, sondern qualitativ hochwertige Trainingsdaten zu erstellen
Fine-Tuning ist mächtig – aber nur wenn Prompt-Engineering, Few-Shot und RAG bereits ausgeschöpft sind.