Sokan úgy próbálnak jobb választ kicsikarni az MI-ből, hogy egyre hosszabb utasítást írnak. Még egy jelző, még egy szabály, még egy mondat arról, milyen legyen a hangnem. A prompt végül fél oldal, az eredmény mégis csak közelít ahhoz, amit elképzeltünk.
Ilyenkor gyakran egyszerűbb megmutatni az MI-nek, mit tartunk jó válasznak.
Ennek a technikának a neve few-shot prompting. A modell kap egy vagy néhány mintát, majd ezek alapján oldja meg az új feladatot. Különösen jól használható akkor, amikor a kívánt stílust, szerkezetet, besorolási logikát vagy válaszformátumot nehéz pusztán szabályokkal leírni.
Zero-shot, one-shot, few-shot
A kifejezések mögött egyszerű különbség van. Zero-shot esetben csak kiadod a feladatot, példa nélkül. One-shotnál egyetlen mintát adsz. Few-shotnál néhány példán keresztül mutatod meg, hogyan néz ki a jó megoldás.
Nem kell technikai rendszerben gondolkodni. Egy hétköznapi ChatGPT- vagy Gemini-beszélgetésben is ugyanígy működik. Ha bemásolsz két jól megírt ügyfélválaszt, majd kéred a harmadik elkészítését ugyanazon elvek szerint, máris példákból tanítod a modellt az adott feladatra.
A modell mintázatot keres a példában
Tegyük fel, hogy ügyfél-visszajelzéseket szeretnél három kategóriába sorolni. Leírhatod hosszasan, mit jelent a „hiba”, a „funkciókérés” és a „pozitív visszajelzés”. Van egyszerűbb út.
Példa
Ügyfél: „Nem tudom letölteni a számlát.”
Kategória: hiba
Ügyfél: „Jó lenne, ha Excelbe is lehetne exportálni.”
Kategória: funkciókérés
Ügyfél: „Az új kereső sokkal gyorsabb lett.”
Kategória: pozitív visszajelzés
Most sorold be ezt:
„A mobilappban nem jelenik meg a tegnapi rendelésem.”
A modell a példákból látja a feladatot és a kívánt válasz formáját is. A Google Gemini hivatalos prompting útmutatója kifejezetten javasolja a few-shot példákat, többek között formázás, megfogalmazás és a válasz hatókörének irányítására.
Stílusnál különösen sokat ér egy minta
A „legyen közvetlen, intelligens, szakmai, de ne merev” típusú utasítás értelmezhető, csak éppen többféleképpen.
Ha van egy rövid szöveged, amelynek tetszik a hangja, add oda mintaként. Utána írd le, mit szeretnél megtartani belőle.
Például:
Az alábbi bekezdés hangvétele a referencia. Figyeld meg a mondathosszt, a közvetlenséget és azt, hogy kevés jelzőt használ. Ne másold a tartalmát vagy a mondatait. Az új szövegben ezt a stíluslogikát kövesd.
[MINTA]
Most írd át ebben a stílusban az alábbi szöveget.
[SZÖVEG]
Itt a minta sok olyan információt átad, amelyet nehéz lenne tíz külön szabállyal pontosan rögzíteni.
A példának is jónak kell lennie
A few-shot prompting nem varázslat. A modell abból tanul a pillanatnyi feladathoz, amit elé teszel. Ha a mintáid következetlenek, túl hosszúak vagy egymásnak ellentmondanak, ezt a bizonytalanságot is továbbviheti.
A Google útmutatója ezért következetes formátumot és konkrét, lehetőleg változatos példákat ajánl. Az OpenAI jelenlegi modellútmutatója közben arra figyelmeztet, hogy a túl sok ismétlődő instrukció és példa ronthatja a hatékonyságot. Azokat a példákat érdemes megtartani, amelyek ténylegesen valamilyen fontos elvárást rögzítenek.
Egy jó példa nem attól jó, hogy hosszú. Világosan látszik belőle, mi a bemenet, milyen döntést vagy átalakítást végzünk, és milyen formában várjuk az eredményt.
A jó minta adatot is strukturálhat
A technika szövegíráson túl is hasznos. Tegyük fel, hogy hosszú jegyzetekből mindig ugyanazt a négy mezőt szeretnéd kinyerni: ügyfél neve, probléma, következő lépés, határidő. Adj egy rövid jegyzetet és mellé a kívánt négy mezős eredményt. Ezután jöhet az új jegyzet.
A modell így egyszerre kap információt arról, mit tekintsen fontosnak és milyen szerkezetben válaszoljon. Ha többféle bemenet várható, érdemes két-három eltérő példát adni, hogy ne egyetlen mondatformát tanuljon meg.
Persze itt is számít, mit másolsz be. Ügyféladatot, bizalmas dokumentumot vagy jogvédett szöveget csak akkor használj mintaként, ha annak kezelése az adott eszközben és munkafolyamatban rendben van.
Mikor érdemes elővenni?
A technika különösen hasznos szövegek átírásánál, kategorizálásnál, adatok strukturálásánál, ügyfélválaszok egységesítésénél vagy bármilyen ismétlődő feladatnál, ahol már van legalább egy jó mintád.
Ha az MI újra és újra majdnem azt adja, amit szeretnél, a következő promptot nem feltétlenül kell hosszabbra írni. Keress egy olyan eredményt, amire azt mondanád, hogy „pont ilyen kell”, és mutasd meg neki.
Egy jól kiválasztott példa sokszor pontosabban láthatóvá teszi az elvárást, mint egy újabb bekezdésnyi instrukció.
