Mit jelent a fine-tuning?
A fine-tuning (magyarul „finomhangolás") az a folyamat, amikor egy már betanított AI modellt (pl. GPT, Claude, Llama) további, specifikus adatokon tovább tanítunk, hogy az adott területen vagy stílusban jobban teljesítsen. A modell „alaptudása" megmarad, de rátanul a saját adataidra.
Az analógia: egy általános orvos évek alatt szakorvossá válik. Nem felejti el az alapokat, hanem mélyebbé teszi a tudását egy szűkebb területen. A fine-tuning ugyanezt csinálja az AI-val.
A kiindulás mindig egy alapszintű modell (foundation model) — ezt nem a nulláról építjük, hiszen az milliárd dollárba és évekbe kerülne. A fine-tuninggal néhány ezer példából, néhány óra-nap alatt, néhány tíz-száz dollárból kapunk testreszabott modellt.
Mikor érdemes fine-tune-olni?
A fine-tuning erős eszköz, de nem mindig a megfelelő válasz. Konkrétan akkor érdemes, ha:
- Egyedi stílus vagy hangnem kell. Pl. cégspecifikus copywriting, ahol a brand-hang nagyon karakteres.
- Strukturált output kell. Pl. minden válasz JSON formátumban, megadott mezőkkel.
- Speciális szakterület, ahol az általános modell hiányos. Pl. magyar jogi szövegek, gyógyszerészeti szabályozás.
- Token-takarékosság. A fine-tunolt modell rövidebb promptból is jó választ ad — ez közvetlen költségmegtakarítás (ld. token).
És itt jön a fontos: nem fine-tune kell, ha:
- Friss tényadatok kellenek (jogszabály, ár, készlet) — erre a RAG jobb.
- Ritka feladat — egy jól megírt prompt + 2-3 példa elég.
- Nincs elég adat. Min. 100-500 jó minőségű példa kell — ennél kevesebb erőltetés.
Üzleti példa
Egy magyar SaaS cég ügyfélszolgálata heti 800 e-mailt válaszolt meg, és a hangnem kritikus volt: barátságos, de szakmai, magyaros, a brand-mosollyal. Az általános ChatGPT prompt-tal 80%-ban sikerült ezt elérni — de a maradék 20% feltűnően „AI-szagú" volt.
Összegyűjtötték az elmúlt 18 hónap 2.400 valódi ügyfél-e-mail válaszát, amelyeket az ügyfélszolgálat-vezető írt vagy szerkesztett. Ezekkel fine-tune-oltak egy GPT-3.5-modellt (kb. 12 óra, kb. 180 USD).
Az új modell:
- A brand-hang találati arány 80%-ról 96%-ra nőtt — szinte megkülönböztethetetlen az emberitől.
- A prompt 1500 tokenről 200 tokenre csökkent (mert a modell már „tudja" a szabályokat) — havi szinten ez 2.100 USD megtakarítás.
- A válaszadási idő pedig 7-ről 2 másodpercre csökkent.
A 180 USD befektetés az első 3 napban megtérült.
Mit kell tudni egy cégvezetőnek?
A fine-tuning nem mágia, három korlátja van:
- Adat-igény. Min. 100-500 jó minőségű, konzisztens példa kell. „Egy kicsit ilyen, egy kicsit olyan" példák ronthatnak az eredményen.
- Frissíthetőség. A fine-tunolt modell statikus — ha új információ jön (új termék, új szabályzat), újra kell tanítani. A RAG ezt sokkal jobban kezeli.
- Kompatibilitás. Ha a kiindulási modell elavul (pl. GPT-3.5 → GPT-5), a fine-tunolt verzió is „elveszik" — újra kell tanítani az új alapra.
A jó stratégia legtöbbször a RAG + prompt engineering kombinációja, és csak ha ezek nem elegek, akkor jön a fine-tuning. Az AI Boostnál cégeknél jellemzően a 5-10. AI-projekt környékén kerül elő a fine-tuning — addigra már látszanak a valódi szűk keresztmetszetek.