Egy ügyféllevél besorolásához gyakran felesleges ugyanazt az MI-t használni, amely összetett kutatási kérdéseken is dolgozik. A kis nyelvi modellek mellett komoly kutatási érvek szólnak, de a megtakarítás és a pontosság azon múlik, milyen feladatot bízunk rájuk.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benEgy szűk feladathoz másfajta tudás kell
Képzeljünk el egy magyar webshopot, ahová naponta érkeznek szállítással, visszaküldéssel és számlázással kapcsolatos levelek. A rendszer első dolga mindössze annyi, hogy a megfelelő munkatárshoz irányítsa őket. Ehhez egészen más képesség kell, mint egy dühös vásárló rendhagyó panaszának megértéséhez vagy egy több országot érintő ügy áttekintéséhez.
A kis nyelvi modell, röviden SLM, kevesebb tanult belső paraméterrel működik, mint a nagy rendszerek; ezek a paraméterek alakítják a szövegfeldolgozását. Egységes mérethatár nincs. A kisebb méret és a specializáltság ráadásul külön tulajdonság: egy kis modell is készülhet általános használatra, és egy nagyot is taníthatnak szűk szakterületre. A specializálás jelenthet további tanítást magyar szövegeken vagy egyetlen munkafeladat példáin. Az NVIDIA és a Georgia Tech kutatói elsősorban az ismétlődő részfeladatokban látnak nagy lehetőséget. Állásfoglalásuk irányt jelöl, általános fölényt nem bizonyít.
A célzott tanítás felülírhatja a méretelőnyt
Ennek van kísérleti alapja. A 2023-as Distilling Step-by-Step kutatásban egy 770 millió paraméteres, célzottan tanított T5 modell az ANLI szöveges következtetési teszten megelőzte az 540 milliárd paraméteres PaLM néhány bemutató példával instruált változatát. A kisebb rendszer a tanítás során a nagy modell által előállított magyarázatokból is tanult. Ez a tudásátadás a desztilláció egyik formája. Az eredmény egy meghatározott feladatra és összehasonlításra vonatkozott; a mai csúcsmodellekkel szembeni általános fölény nem következik belőle.
A webshop számára ebből az következik, hogy a levélosztályozó teljesítményét saját, korábban nem látott ügyfélleveleken érdemes mérni. A beszélgetési ügyesség kevéssé számít, ha a rendszer következetesen felismeri a visszaküldési kérelmeket. Egy jól körülhatárolt feladatnál az elvárt eredményt és a hibákat is könnyebb meghatározni.
Megfelelő hardveren a kisebb modell kevesebb memóriával és számítással működhet, ami nagy forgalomnál költség- és sebességelőnyt adhat. Bizonyos modellek helyben is futtathatók, így megfelelő rendszerkialakítással az ügyfélszöveg feldolgozásához sem kell külső szolgáltatás. A kis méret önmagában azonban nem biztosít adatvédelmet. A hozzáférések és a naplózás ugyanúgy számítanak.
A specializálás nem automatikus minőségi garancia
A nehézség a kivételeknél kezdődik. Ugyanaz a levél szólhat késő csomagról és megváltozott számlázási adatokról, mialatt a vásárló közben a rendelést is lemondja. A szűk mintákra tanított rendszer ilyenkor elhibázhatja a besorolást. Az angol teszteredmény pedig kevés a magyar ügyféllevelekhez – a többnyelvű működés és az összetett utasítások követése a 2026-os WMT-vizsgálatban is korlátokat mutatott. aclanthology.org
A magyar specializálás körül tudományos vita is kialakult. A Made in Hungary című, szeptemberi előzetes tanulmány szerzői szerint az ajánlott futtatási beállításokkal az általános Qwen3-4B jobb eredményeket ért el magyar tesztjeiken, mint a belőle magyarra adaptált Racka-4B. Korábbi képességek gyengülését is jelezték. Ez még előzetes eredmény, és az összevetés azonos méretű modellekről szól. Arra figyelmeztet, hogy a nyelvi specializálás hasznát is igazolni kell; önmagában a magyar tanítóanyag nem garancia.
Az olcsóbb futtatás mellett fizetni kell a tanítóadatok rendbetételéért, a rendszer karbantartásáért és a hibák ellenőrzéséért. Kis forgalomnál egy kész, nagy modell szolgáltatása összességében kedvezőbb lehet. A költségelőny csak a teljes működés számbavétele után állapítható meg.
A munkamegosztás erősebb állítás a kizárólagosságnál
A kutatásokból olyan jövőkép rajzolódik ki, amelyben többféle modell dolgozik együtt. A könnyen ellenőrizhető rutinmunkát kisebb rendszerek végzik, az összetett eseteket nagyobb modell vagy ember kapja. Ennek külön megoldandó része annak felismerése, hogy mikor kell továbbadni az ügyet – egy magabiztos tévedés könnyen észrevétlen marad.
A webshop próbájába ezért kerüljenek többértelmű, hiányos és elírásokkal teli levelek is. Az összevetés mutassa meg a téves besorolások számát és a javításukhoz szükséges emberi időt. A kis, célzott modellek mellett akkor lesz erős üzleti érv, ha ugyanazt az elfogadható eredményt kevesebb teljes ráfordítással hozzák. Ezen múlik, mekkora szerepet kapnak a mindennapi munkában.
