Was ist Fine-Tuning?

Fine-Tuning heißt, ein trainiertes KI-Modell mit einem kleineren, aufgabenspezifischen Datensatz, meist eigenen Daten, etwas weiterzutrainieren. Es behält seine Fähigkeiten, lernt aber deine Aufgabe: Ton, Format, Fachgebiet. Ein Maßanzug-Modell ohne Neubau-Kosten.

Fine-Tuning bedeutet, das Training eines fertigen Modells mit ein paar tausend Beispielen genau der Aufgabe fortzusetzen, die es meistern soll, meist mit eigenen Daten. Es existiert, weil Training von null Millionen kostet, während der Tuning-Durchlauf billig ist: Support-Tickets im Stil deiner Firma, Vertragsklauseln nach deinem Schema, Arztnotizen in deinem Format. Das Extra-Training schiebt die inneren Einstellungen des Modells zu deinen Beispielen hin und backt das Verhalten ins Modell selbst ein. Die häufigste Variante in der Praxis: ein kostenloses Open-Source-Modell nehmen und zum eigenen Spezialisten tunen, denn geschlossene Modelle lassen sich oft nicht so frei anpassen. Das ist der Kernunterschied zur Retrieval-augmentierten Generierung, die das Modell unverändert lässt und ihm beim Antworten frische Dokumente reicht. Retrieval ändert, was das Modell ansehen kann; Fine-Tuning ändert, wie es sich verhält. Die Kosten: Man braucht saubere Beispieldaten, und zu enges Tunen macht das Modell außerhalb der Nische schlechter, ein Versagen mit dem einprägsamen Namen katastrophales Vergessen.

Einen erfahrenen Koch einstellen und ihn zwei Wochen auf die Speisekarte deines Restaurants trainieren. Du schickst ihn nicht auf die Kochschule; Messerführung, Timing und Technik kamen am ersten Tag mit. Die zwei Wochen lehren ihn deine Gerichte, deine Portionen, dein Anrichten. Weit billiger, als einen Koch von null auszubilden, und danach lebt das Wissen im Koch, keine Rezeptkarten am Herd nötig.