Kim Kardashian – aki jelenleg jogászi karriert épít – bevallotta, hogy a ChatGPT segítségével bukott meg jogi vizsgákon. Ezután üvölt a chatbottal, miközben a valódi probléma nem az MI volt, hanem az, ahogy használta.
Kim vs. ChatGPT: toxikus barátság
Kim Kardashian mérgező barátságnak nevezte a ChatGPT-vel való viszonyát. Egy interjúban elárulta, hogy jogi tanácsért használja a chatbotot. Képernyőfelvételt készít a kérdésről, feltölti, és várja a helyes választ.
Az eredmény?
„Mindig rosszat mond. Megbuktattott vizsgákon.”
És mit csinál Kim, amikor ez megtörténik? Ráordít. Szó szerint.
„Dühös leszek, és kiabálok vele, hogy Te buktattál meg!‘”
Mivel ez nem segít, Kim megpróbál az MI érzelmeire appellálni. Igen, jól olvasod.
„Azt mondom neki: ‘Hé, meg fogsz buktatni, mit érzel azzal kapcsolatban, hogy neked tudnod kellene ezeket a válaszokat?‘”
És a ChatGPT? Természetesen válaszol, mert arra van tréningelve, hogy válaszoljon:
„Ez csak arra tanít, hogy bízz a saját ösztöneidben.”
Kim reakciója erre? Screenshot a barátnői csoportba, hogy
„El tudjátok hinni, hogy ez a kurva így beszél velem?”
Kim nem tudja, hogy a ChatGPT nem beszél vele, hanem statisztikailag a legvalószínűbb szavakat generálja a promptja alapján.
Ha rosszul kérdezel, rossz választ kapsz
A Kardashian-klán sok mindenben jeleskedik – brandépítésben, közösségi média stratégiában, valóságshow-k forgatásában. De a prompt engineering? Hát… nem éppen az erősségük.
Kim tehát azt mondja, hogy képernyőfotót készít a kérdésről, feltölti, és megkérdezi a választ. Ez olyan, mintha elmennél egy könyvtárba, odadobnál egy könyv-borítót a könyvtárosnak, és azt mondanád:
„Oké, mondd meg, mi a végeredmény!”
A ChatGPT – és bármely más nagy nyelvi modell (LLM) – hallucinál. Ez nem hiba, hanem tulajdonság. Az LLM-ek nem tudják, mi a „helyes válasz”. Ők egy brutálisan hatalmas adathalmot elemeznek, és a legvalószínűbb szöveget generálják a promptod alapján. Ha a promptod rossz, a válasz is rossz lesz.
Amerikában volt rá példa, hogy ügyvédeket szankcionáltak azért, mert ChatGPT-vel írtak jogi beadványokat, amelyek nemlétező ügyekre hivatkoztak. Mert a ChatGPT szépen kitalált precedenseket, amelyek sosem léteztek.
Kim esete tehát nem egyedi. Csak hangosabb.
Miért nem működik az „érzelmi meggyőzés” az MI-nál?
Kim stratégiája az, hogy megpróbál lelkiismeret-furdalást kelteni a ChatGPT-ben. De a ChatGPT-nek nincs lelkiismerete. Nincs érzése. Nem „akarja” megbuktatni Kimet. A ChatGPT egy statisztikai modell, amely token-alapon működik. Nem „érti” a kérdést. Nem „érzi”, hogy rossz választ adott. Csak prediktál.
Amikor Kim azt kérdezi: „Hogyan érzed magad azzal kapcsolatban, hogy meg fogsz buktatni?„, a ChatGPT egyszerűen egy olyan választ generál, ami a legvalószínűbb folytatás a prompthoz. És mivel az MI-ket arra tréningezték, hogy empatikusan, emberien hangzó válaszokat adjanak, persze hogy azt fogja mondani: „Bízz magadban!” De ez nem tanács. Ez token-predikció.
A prompt engineering nem opcionális
A Kardashian-eset tökéletes példa arra, hogy miért nem elég „csak használni” az MI-t. Ha nem érted, hogyan működik, nem fogod megkapni azt, amire szükséged van.
Íme néhány alapvető szabály, amit Kimnek (és mindenkinek) tudnia kellene:
- Ne kérdezz tény-alapú jogi kérdéseket egy LLM-től anélkül, hogy ellenőriznéd a választ. Az LLM-ek hallucinálnak. Ha jogi vizsgára készülsz, használj megbízható forrásokat, ne generatív MI-t.
- Ne várj „helyes választ”, várj „valószínű választ”. Az LLM-ek nem igazságot mondanak. Mintázatokat követnek.
- Ne próbáld meg érzelmileg manipulálni az MI-t. Nem működik. Az MI nem „érez”. Tokeneket generál.
- Használj konkrét, strukturált promptokat. Ahelyett, hogy „Mi a válasz erre?”, próbáld ezt: „Mely jogi precedensek támasztják alá X esetet az Y jogrendszerben? Kérlek, add meg a konkrét ügyneveket és évszámokat.”
- Mindig ellenőrizd az eredményt. Ha nem ellenőrzöd, készülj fel a bukásra.
Az MI nem barát, nem ellenség. Csak eszköz
Kim frenemy-nek (barát-ellenség) nevezi a ChatGPT-t. De ez téves keretezés. A ChatGPT nem barát. Nem ellenség. Eszköz. Olyan, mint egy kalapács. Ha rosszul használod, könnyen rácsaphatsz az ujjadra. De ettől a kalapács nem lesz toxikus. Csak te használtad rosszul.
A Kardashian-klán rengeteg dologban jeleskedik. De ez az eset szépen mutatja: még a legnagyobb brandek is elbukhatnak, ha nem veszik komolyan a technológia működését. Valószínüleg Kim továbbra is használni fogja a ChatGPT-t. Továbbra is screenshotokat fog küldeni a barátnőinek. És továbbra is ordítani fog rá. De a ChatGPT? Nem fogja érdekli. Mert nem tud érezni.
És te? Mikor ordítottál utoljára egy MI-ra, amiért rossz választ adott. Ahelyett, hogy megkérdezted volna magadtól: jó kérdést tettem fel?
