WissenKI-Begriffe für Solos

Fine-Tuning einfach erklärt, und warum du es als Solo meist nicht brauchst

Fine-Tuning klingt nach der mächtigsten Stellschraube an einem KI-Modell. Dabei brauchen die wenigsten Solounternehmer sie je. Was Fine-Tuning technisch bedeutet, und wann Prompting oder RAG die bessere Wahl sind.

Tommy Hummel-Nguyen
Tommy Hummel-Nguyen · Ingenieur, kein Softwareentwickler ·

Ein erfahrener Koch, der monatelang eine neue Küche lernt, bis sie ihm in Fleisch und Blut übergeht, im Vergleich zu einem Koch, dem du vor jedem Gericht kurz das passende Rezept in die Hand drückst. Fine-Tuning ist Ersteres: das Modell selbst wird über einen eigenen Trainingsprozess dauerhaft verändert. Das Rezept-Reichen ist eher das, was RAG macht, das Modell bleibt gleich, es bekommt nur zur Laufzeit die passenden Informationen dazu.

Kurz gesagt

Fine-Tuning heißt, ein bereits fertig trainiertes KI-Modell mit einem eigenen, kleineren Datensatz weiter zu trainieren, damit sich sein Verhalten dauerhaft in eine bestimmte Richtung verschiebt. Anders als bei einem Prompt oder bei RAG verändern sich dabei die inneren Parameter des Modells selbst. Für die meisten Solounternehmer lohnt sich das nicht, weil ein guter Prompt oder RAG dieselben Probleme meist schneller und günstiger lösen.

Was beim Fine-Tuning technisch passiert

Ein fertig trainiertes Modell bekommt einen zweiten, deutlich kleineren Trainingslauf mit eigenen Beispieldaten, etwa tausenden Beispielen für die Art von Antwort, die du dir wünschst. Dabei verschieben sich die inneren Gewichte des Modells selbst, nicht nur der Prompt drumherum. Das Ergebnis ist ein Modell, das sich in genau die trainierte Richtung anders verhält, auch ohne dass du es jedes Mal neu daran erinnerst. Der Preis dafür: ein eigener, sauber aufbereiteter Datensatz, ein eigener Trainingslauf und danach die laufende Pflege, wenn sich deine Anforderungen ändern.

Die Faustregel, die sich in der Praxis durchgesetzt hat

Erst prompten, dann RAG einsetzen, und Fine-Tuning nur, wenn beides das eigentliche Problem nicht löst, so beschreiben es unter anderem IBM und K2view übereinstimmend. Prompting ist am schnellsten eingerichtet und am günstigsten, ideal für den ersten Versuch. RAG macht Antworten verlässlicher, weil sie sich auf echte, mitgelieferte Quellen stützen. Fine-Tuning ist der teuerste und aufwendigste Weg, dafür verändert es das Verhalten des Modells dauerhaft, statt es bei jeder Anfrage neu vorzugeben.

Warum das für dich als Solo fast nie die richtige Antwort ist

Das ehrliche Warnsignal für echtes Fine-Tuning ist Konsistenz: das Modell versteht längst, was du willst, setzt es aber über sehr viele Wiederholungen hinweg nicht zuverlässig genug um. Bei den meisten Problemen, die Solounternehmern im Alltag begegnen, fehlender Kontext, ungenaue Anweisung, veraltete Information, ist das aber gar kein Konsistenzproblem, sondern eines, das ein besserer Prompt oder eine Anbindung über RAG direkt löst. Ohne eigenes Entwicklerteam und ohne einen sehr spezifischen, wiederkehrenden Anwendungsfall ist Fine-Tuning für dich fast immer der falsche erste Schritt.

Quellen: RAG vs. Fine-tuning (IBM) · RAG vs fine-tuning vs prompt engineering (K2view)

Häufige Fragen

Brauche ich Fine-Tuning, wenn Claude meinen Schreibstil nicht trifft?

Meistens nicht. Ein guter Prompt mit Beispielen deines Stils oder eine kurze Stilbeschreibung lösen das in aller Regel schneller und günstiger als ein eigener Trainingslauf.

Was kostet Fine-Tuning ungefähr?

Das hängt stark vom Modell und der Datenmenge ab und ändert sich laufend, deshalb hier keine pauschale Zahl. Grundsätzlich gilt: es ist aufwendiger und teurer als Prompting oder RAG, weil ein eigener Trainingsdatensatz und ein eigener Trainingslauf nötig sind.

Woran erkenne ich, dass Fine-Tuning tatsächlich die richtige Lösung wäre?

Am ehesten daran, dass das Modell dein Ziel längst verstanden hat, es aber trotz guter Prompts über tausende Anfragen hinweg nicht zuverlässig genug umsetzt. Das ist ein Konsistenzproblem, kein Wissensproblem, und genau dafür ist Fine-Tuning gedacht.

Willst du das bei dir umsetzen?

In der Community zeige ich, was bei mir hält. Im Erstgespräch schauen wir uns dein Vorhaben konkret an.