Wie KI-Modelle entstehen
Englischer Fachbegriff: Fine-Tuning
Finetuning ist das Nachtraining eines fertigen Grundmodells mit ausgewählten Beispielen, damit es eine bestimmte Aufgabe oder Art zu antworten lernt.
Wie die Einschulung im neuen Job
Nach der Ausbildung weiß man viel, aber im neuen Job lernt man erst, wie hier gearbeitet wird: wie Anfragen beantwortet werden, welcher Ton gilt, was zu tun ist. Dafür braucht es keine neue Ausbildung, sondern gute Beispiele. Finetuning ist diese Einschulung.
Für die meisten Unternehmen ist eigenes Finetuning heute nicht der erste Schritt. Gute Prompts, feste Anweisungen in Projekten, Skills und RAG mit euren Unterlagen bringen meist schneller und günstiger ans Ziel. Finetuning lohnt sich eher, wenn ein Modell sehr oft dieselbe, eng umrissene Aufgabe in einem ganz bestimmten Stil erledigen soll. Aktuelles Wissen gehört eher in RAG: Was beim Finetuning gelernt wurde, steckt fest im Modell.
Stell dieselbe Frage einem Grundmodell und einem Modell nach dem Finetuning.
Für diese Übung braucht es JavaScript im Browser.
Vereinfachte Darstellung. Ein Grundmodell setzt Text fort, es beantwortet nicht von sich aus Fragen.
Die häufigste Form heißt Supervised Fine-Tuning (SFT): Das Modell bekommt Paare aus Eingabe und gewünschter Antwort und lernt, solche Antworten zu erzeugen. Geht es ums Befolgen von Anweisungen, spricht man von Instruction Tuning. So wird aus einem Grundmodell, das nur Text fortsetzt, ein Assistent, der antwortet. Damit nicht alle Milliarden Parameter neu berechnet werden müssen, gibt es sparsame Verfahren (Parameter-Efficient Fine-Tuning). Das bekannteste, LoRA, lernt nur kleine Zusatz-Bausteine und lässt das ursprüngliche Modell unverändert.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.