Mit jelentenek a paraméterek?
A paraméterek egy AI modell — különösen egy neurális hálózat — belső, betanulható számértékei. Ezek a paraméterek tárolják mindazt, amit a modell tanult a tréning során. Amikor egy LLM-ről azt halljuk, hogy „70 milliárd paraméteres", az azt jelenti, hogy a modell 70 milliárd ilyen szám belső állapotán keresztül „gondolkodik".
Hasznos analógia: a paraméterek olyanok, mint az agy szinapszisai. A számuk nem közvetlenül „intelligencia", de minél több van belőlük, annál finomabb mintázatokat tud a modell megtanulni és megjegyezni.
A modern modellek mérete:
- Kis modellek: 1-7 milliárd paraméter (futtatható egy modern laptopon)
- Közepes modellek: 7-70 milliárd (szerveren)
- Nagy modellek: 100 milliárd+ (több GPU vagy felhő szükséges)
- Frontier modellek (GPT-5, Claude 4): becsülten 1.000 milliárd+
Hogyan kapcsolódnak a tanításhoz?
A tanítás folyamata a paraméterek beállítása. Egy transformer modell tréningje így néz ki:
- A modell kap egy bemenetet (pl. szöveg).
- Kiszámol egy választ — kezdetben véletlenszerűen, mert a paraméterek véletlen értékekkel indulnak.
- Megméri, mennyire tér el a válasz a helyestől.
- Apránként módosítja a paramétereket úgy, hogy a hiba csökkenjen.
- Ezt megismétli milliárdszor, különböző bemenetekkel.
A fine-tuning is paraméterállítás — csak nem nulláról indít, hanem egy meglévő modell paramétereit módosítja kis mértékben a saját adatainkon.
Üzleti példa egy KKV-nál
Egy magyar tanácsadó cég kísérletezett három különböző méretű modellel ugyanarra az ügyfélszolgálati feladatra:
| Modell | Méret | Sebesség | Pontosság | Költség |
|---|---|---|---|---|
| Kicsi | 7B paraméter | gyors | 78% | alacsony |
| Közepes | 70B paraméter | közepes | 91% | közepes |
| Nagy | 400B+ paraméter | lassú | 94% | magas |
A cég a közepes modellt választotta — mert a 91% és 94% közötti különbség nem indokolta a 4-5x magasabb futtatási költséget. Több paraméter nem mindig jobb döntés — a feladathoz illő modell a jó döntés.
Mit kell tudni egy cégvezetőnek?
A „paraméterszám" nem minőségi mutató önmagában. Egy 7B paraméteres modell, amit jó adatra fine-tune-oltak, gyakran többet tud egy konkrét feladatban, mint egy 70B paraméteres általános modell.
Három gyakorlati következmény:
- Ár-teljesítmény: a paraméterszám közvetlenül befolyásolja a futtatási költséget (token árát). Egy 10x nagyobb modell tipikusan 10-30x drágább üzemeltetni.
- Sebesség: nagyobb modell lassabban válaszol. Élő ügyfélkapcsolatban a 2 másodperces válasz limit, és ez korlátozza a választható modellt.
- Adatvédelem: a kisebb modellek lokálisan is futtathatók (saját szerveren), tehát nem kell az ügyféladatot kiküldeni a felhőbe. Érzékeny iparágakban ez lehet a döntő szempont.