Fine-Tuning
Kurz gesagtFine-Tuning trainiert ein bestehendes Modell mit deinen eigenen Beispielen weiter, damit es Stil, Format oder Aufgabe zuverlässiger trifft.
Einfach erklärt
Ein Basismodell hat schon aus einer riesigen Textsammlung gelernt. Fine-Tuning setzt dieses Training mit einer kleineren Menge eigener Beispiele fort, etwa mit Paaren aus «Eingabe» und «ideale Antwort». Das Glossar von Anthropic beschreibt es als weiteres Training eines vortrainierten Modells mit zusätzlichen Daten, sodass das Modell die Muster dieser Daten nachahmt. So lässt sich ein Modell an ein Fachgebiet, eine Aufgabe oder einen Schreibstil anpassen.
Alle Parameter eines grossen Modells zu trainieren, ist teuer. Methoden wie LoRA, aus einer Arbeit von Hu und Kollegen von 2021, trainieren nur einen kleinen Zusatz an Gewichten und lassen den Rest unverändert. Das senkt Rechenaufwand und Speicherbedarf.
Das Angebot unterscheidet sich je nach Anbieter. OpenAI dokumentiert Fine-Tuning für ausgewählte Modelle. Das Glossar von Anthropic sagt, die API biete es derzeit nicht an. Offene Modelle, die du selbst betreibst, lassen sich meist anpassen (siehe Open-Weight-Modelle). Prüfe die aktuelle Doku deines Anbieters.
Warum es wichtig ist
- Gleichmass: Ein angepasstes Modell kann Format oder Ton halten, ohne jedes Mal einen langen Prompt. Kürzere Prompts sparen Token.
- Kosten und Aufwand: Du zahlst fürs Training, musst saubere Beispiele vorbereiten und neu testen, wenn sich das Basismodell ändert.
- Datenqualität: Das Modell kopiert deine Beispiele samt Fehlern und Verzerrungen. Anthropic betont die sorgfältige Wahl der Trainingsdaten.
- Falsches Mittel für frische Fakten: Für Fakten, die sich ändern oder privat sind, ist RAG meist der einfachere Weg, denn du aktualisierst ein Dokument statt neu zu trainieren.
Beispiel
Ein Support-Team will Antworten in festem Hausstil und festem Aufbau. Heute trägt der Prompt zwei Seiten Stilregeln, bei jeder Anfrage mitgesendet. Das Team sammelt einige hundert geprüfte Antworten, passt ein Modell an und braucht danach nur noch einen kurzen Prompt. Ändert sich das Produkt, aktualisiert es einen Hilfeartikel für RAG und trainiert nicht neu.
Häufige Irrtümer
- «Fine-Tuning bringt dem Modell zuverlässig neue Fakten bei.» Es formt Verhalten besser, als es Wissen ergänzt. Nimm Retrieval für Fakten.
- «Du brauchst Millionen Beispiele.» Qualität zählt mehr als Menge, und die Anpassung braucht weit weniger Beispiele als das Vortraining.
- «Ein angepasstes Modell irrt nie.» Es kann weiter Dinge erfinden (Halluzination).
Fragen und Antworten
Was ist der Unterschied zwischen Fine-Tuning und RAG?
Fine-Tuning ändert das Verhalten des Modells durch Training mit Beispielen. RAG lässt das Modell, wie es ist, und fügt jedem Prompt passenden Text hinzu. RAG für wechselnde Fakten, Fine-Tuning für Stil oder Aufgabe.
Kann ich jedes KI-Modell anpassen?
Nein. Es hängt vom Anbieter und vom Modell ab. Manche APIs bieten es für ausgewählte Modelle an, andere nicht. Modelle, deren Gewichte du herunterladen kannst, lassen sich meist anpassen.
Macht Fine-Tuning ein Modell klüger?
Nicht allgemein. Es macht das Modell besser bei den Mustern in deinen Beispielen und kann bei anderem schlechter werden.
Weiterlesen
- RAG (Retrieval-Augmented Generation)
RAG (Retrieval-Augmented Generation) sucht zuerst passende Stellen in deinen Dokumenten und gibt sie dem Modell, damit es daraus antwortet.
- Parameter
Parameter sind die Zahlen, auch Gewichte genannt, die ein Modell im Training anpasst und dann zum Antworten nutzt; ihre Zahl ist ein grobes Mass für die Grösse.
- Open-Weight-Modell
Ein Open-Weight-Modell ist ein KI-Modell, dessen trainierte Gewichte zum Download bereitstehen, sodass du es selbst betreiben und oft anpassen kannst.
- Prompt
Ein Prompt ist die Eingabe an ein KI-Modell: deine Frage oder Aufgabe samt Anweisungen, Beispielen und Text, den es nutzen soll.
- Large Language Model (LLM)
Ein Large Language Model (LLM) ist ein KI-System, das mit riesigen Textmengen lernt, das nächste Token vorherzusagen, und so schreibt, fasst zusammen und antwortet.