Ein Modell auf eigenen Daten nachtrainieren damit es eine bestimmte Aufgabe besser kann — teuer und aufwendig.
Fine-Tuning bedeutet ein vortrainiertes Basismodell mit eigenen Daten weiterzutrainieren. Das Modell lernt den Stil, die Fachsprache und die Muster der eigenen Daten. Kosten: 5.000-50.000 EUR je nach Datenmenge. Meistens NICHT noetig — RAG ist fuer die meisten Anwendungsfaelle die bessere Wahl. Fine-Tuning lohnt sich nur wenn: Das Modell einen sehr spezifischen Stil braucht (z.B. medizinische Befunde), die Aufgabe extrem repetitiv ist, oder RAG nicht praezise genug ist.
RAG vs. Fine-Tuning: RAG = Nachschlagewerk auf dem Tisch. Fine-Tuning = Wissen im Kopf. RAG ist flexibler (Dokumente jederzeit austauschbar), Fine-Tuning ist schneller (kein Suchen noetig).