Az Anthropic bejelentette, hogy a jövőbeli Claude-modellek szöveges kimenetei vízjelet kapnak. A technológia célja az MI közreműködésének felismerhetővé tétele, mégis erős ellenállást váltott ki. Mit jelent ma szerzőnek lenni, ha az alkotásban mesterséges intelligencia is részt vesz?
A vízjel nem azt mondja meg, ki írta a szöveget
A Claude rendszere nem rejtett karaktereket tesz a szövegbe, és nem kapcsolja a kimenetet egy konkrét felhasználóhoz vagy beszélgetéshez. Bizonyos, jelentés szempontjából egyenértékű szóválasztásokban statisztikai mintázatot hagy, amelyből később megbecsülhető, hogy Claude részt vett-e a szöveg létrehozásában.
Az Anthropic maga hangsúlyozza, hogy a vízjel nem tudja megmondani, hogy a Claude írta-e a szöveget, vagy csak erősen szerkesztette. Tulajdonjogról vagy szerzőségről sem állít semmit.
Szerintem éppen itt kezdődik az érdekes része a történetnek. Ha egy szövegben kimutatható az MI közreműködése, abból könnyen az lesz a társadalmi következtetés, hogy az ember nem valódi szerző. Pedig a kettő egyáltalán nem ugyanaz.
Az MI-használatot még mindig könnyen összekeverjük a csalással
Évek óta használok generatív MI-t, és soha nem éreztem szükségét annak, hogy ezt elrejtsem. A mivagyunk.hu szerkesztőségi gyakorlatában is nyíltan vállaljuk a használatát, erről külön szerkesztőségi nyilatkozat szerepel az Impresszumban.
De ebből nem következik, hogy beírom egy üres mezőbe, hogy írj nekem egy cikket erről, majd változtatás nélkül publikálom a választ.
A bemenet sokszor évek alatt felhalmozott tudás, korábbi cikkek és munkák, saját álláspont, beszélgetések és ötletek. Én döntöm el, mi legyen a kérdés, milyen irányba menjünk, melyik állítás gyenge, hol kell új forrás, mi maradjon ki, és végül mit vállalok a saját nevem alatt.
Az MI ilyenkor része az alkotási folyamatnak. Nem az alkotási folyamat egésze.
A technikai jelölés eltünteti az árnyalatokat
Az MI-generált szöveghez mára hozzátapadt a beadandókkal való csalások, a tartalomfarmok, a spam és a gondolkodás kiszervezésének képe. Egy technikai jelölés viszont nem feltétlenül tud különbséget tenni a vak másolás és egy hosszú, ember által irányított szerkesztési folyamat között.
Ráadásul van benne egy furcsa paradoxon. Az Anthropic szerint egy teljes újraírás már eltüntetheti a vízjelet, miközben enyhébb szerkesztésnél az megmaradhat. Vagyis aki mindenáron el akarja rejteni az MI használatát, annak erre továbbra is lehetősége lehet. A becsületes felhasználó viszont könnyebben marad felismerhető.
Ez nem teszi értelmetlenné a vízjelezést. Arra viszont figyelmeztet, hogy nem szabad belőle erkölcsi bizonyítványt csinálni.
A szabályozás is ismeri az emberi szerkesztés fogalmát
Az EU AI Act 50. cikke előírja, hogy a generatív MI-rendszerek szolgáltatói géppel olvasható módon tegyék felismerhetővé a mesterségesen generált vagy manipulált tartalmat.
A közérdekű ügyekről tájékoztató MI-generált szövegeknél a rendelet külön közzétételi kötelezettséget is meghatároz. Ugyanakkor ez alól kivételt enged, ha a tartalom emberi felülvizsgálaton vagy szerkesztői kontrollon ment át, és természetes vagy jogi személy szerkesztői felelősséget vállal a publikációért.
Ez fontos különbségtétel. A technológiai eredet és a szerkesztői felelősség két külön kérdés.
A transzparencia nem önfeljelentés
Az MI-használat átláthatósága nem azt jelenti, hogy a szerző lemond a szerzőségről. Csak őszintén megmutatja, milyen eszköz vett részt a munkában, miközben továbbra is vállalja a gondolatokat, a szerkesztést, az ellenőrzést és a publikálás felelősségét.
Én ebben látom a helyes irányt. Nem szeretném elrejteni, hogy MI-t használok. Azt viszont nem szeretném, ha egy technikai jelölés önmagában többet állítana a munkámról, mint amit valójában bizonyítani képes.
A vízjel jelezheti, hogy a modell ott volt a folyamatban. Azt viszont nem, hogy ki gondolkodott.
