DefinicjaFine-tuning (dostrajanie modelu) to dodatkowe trenowanie gotowego modelu AI na zestawie przykładów: pytanie i wzorcowa odpowiedź. Model uczy się z nich stałego stylu, formatu albo sposobu rozwiązywania konkretnego zadania. Fine-tuning zmienia sam model, w przeciwieństwie do promptu i RAG, które tylko podają mu informacje przy każdym pytaniu.
Czym fine-tuning różni się od promptu i RAG?
Prompt i RAG mówią modelowi, co ma zrobić i na jakich danych, za każdym razem od nowa. Fine-tuning zmienia sam model, więc pewne zachowanie ma on „wbudowane”. Najprościej: prompt to instrukcja dla pracownika, RAG to segregator z dokumentami na jego biurku, a fine-tuning to szkolenie, po którym pewne rzeczy robi odruchowo.
Dlatego fine-tuning słabo nadaje się do wiedzy, która się zmienia. Cennik czy oferta po douczeniu i tak się zestarzeją, a dokument w RAG podmienisz w minutę.
Kiedy fine-tuning ma sens w firmie?
Gdy to samo, wąskie zadanie powtarza się tysiące razy i prompt nie daje stabilnego wyniku. Przykłady:
- Przypisywanie zgłoszeń do kategorii według wewnętrznych zasad firmy.
- Opisy produktów w jednym, ściśle określonym układzie i tonie.
- Wyciąganie danych z dokumentów do zawsze tej samej struktury.
Warunek: potrzebujesz dużo dobrych przykładów. Model nauczy się też błędów, które w nich są.
Od czego zacząć zamiast fine-tuningu?
Od dobrze napisanego polecenia z kilkoma przykładami i od sprawdzenia wyników na zestawie prawdziwych przypadków. Dostawcy modeli sami zalecają tę kolejność: w wielu zastosowaniach dopracowany prompt wystarcza. Jeśli AI ma odpowiadać z dokumentów firmy, następny krok to RAG. Po fine-tuning sięga się dopiero wtedy, gdy oba te sposoby zawiodą i wiadomo dokładnie, jaki wynik ma się poprawić.
Fine-tuning ma też koszt utrzymania: przy nowej wersji modelu albo zmianie zasad trzeba douczać od nowa. Zanim go zamówisz, zapytaj wykonawcę, jak zmierzy poprawę i kto będzie aktualizował dane treningowe. Jak ocenić, gdzie AI w ogóle się opłaca, opisuję w artykule Audyt AI: co sprawdza.
Najczęstsze pytania
Czy fine-tuning nauczy model wiedzy o mojej firmie?
Częściowo, ale to zawodny sposób na fakty: model może je przekręcić, a po każdej zmianie trzeba go douczać. Do aktualnej wiedzy firmy lepiej nadaje się RAG.
Czy do fine-tuningu trzeba własnego serwera?
Nie zawsze. Część dostawców pozwala douczyć ich model w chmurze; można też douczać modele otwarte na własnej infrastrukturze. Warto sprawdzić, gdzie trafiają dane treningowe.
Zobacz też
Źródła