Mi történik, ha az AI végre maga hagy nyomot a saját szövegeiben? 🤖
forrás: techlearning.com
Az Anthropic, a Claude fejlesztője bejelentette, hogy az új Claude-modellek által generált szövegekbe láthatatlan, géppel felismerhető AI vízjelet épít. Ez nem egyszerűen egy elrejtett karakter vagy metaadat, amit egy mozdulattal ki lehet törölni: maga a szöveg hordozza a jelet. A cél, hogy később ellenőrizhető legyen, részt vett-e Claude a szöveg létrehozásában.
Ez szerintem kifejezetten jó hír. Főleg most, amikor egyre több vita van arról, hogyan lehet megkülönböztetni az ember által írt és az AI által generált szövegeket.
Ugye nemrég egy AI-használatra vonatkozó gyanú elég volt hozzá, hogy Jerry Falade álmai menjenek a kukába. Az ő esete pont azt mutatja meg, mekkora tétje van ma annak, tudod-e bizonyítani, hogy ki írta valójában a könyvet: ember vagy gép, és mennyire vékony jégen táncol ma minden szerző.
Hogyan működik az AI vízjel?
Az AI minden egyes új szó generálásakor több lehetséges következő szó közül választ. A Claude AI vízjel-rendszere ezt a választási folyamatot finoman módosítja: egy titkos kulcs és a korábban generált szavak alapján befolyásolja, hogy a lehetséges tokenek közül melyiket választja.
Egyetlen szóválasztásból természetesen semmit nem lehet megállapítani. Egy hosszabb szövegben azonban rengeteg ilyen döntés történik, ezek pedig együtt egy olyan statisztikai mintázatot hozhatnak létre, amelyből később felismerhető, hogy Claude részt vett-e a szöveg generálásában.
Az internet máris keresi a radírt
Alig jelent meg az AI vízjel híre, máris felbukkantak olyan projektek és szolgáltatások, amelyek a Claude vízjelének eltávolítását vagy megzavarását ígérik. Persze kiskaput keresők mindig voltak, vannak és lesznek is. Ezen igazából nem kell meglepődni…
Viszont ha valóban a szöveg szóválasztási mintázatába épül az AI vízjel, akkor elvileg nem lehet egyszerűen áttenni a szöveget egy másik fájlformátumba, vagy kitörölni valamilyen rejtett metaadatot. Magát a szöveget kell jelentősen átírni ahhoz, hogy a jel megváltozzon vagy eltűnjön. Az Anthropic szerint a kisebb szerkesztések túlélhetik a vízjelet, egy teljes újraírás viszont már eltávolíthatja.
Egy regénynél nem mindegy, hogyan van megírva
Egy iskolai dolgozatnál talán nem tragédia, ha egy program átfogalmaz egy mondatot, miközben a jelentése megmarad. Egy regénynél viszont a jelentés csak a történet egyik fele.
Ha valaki egy AI-jal megíratott regényből egy AI vízjel-eltávolítóval próbálja eltüntetni a nyomokat, annak a programnak nem az lesz az elsődleges feladata, hogy megőrizze az író stílusát, ritmusát, szóhasználatát és visszatérő motívumait. A célja a vízjel megzavarása. Vagyis könnyen lehet, hogy a végén nemcsak az AI vízjelét sikerül eltüntetni, hanem magát az irodalmi szöveget is sikerül elcseszni.
Miért lenne fontos az AI vízjel az íróknak?
Nem az a baj, hogy van AI. Én is használom, hasznos. A mostani botrányok és az AI-jal kapcsolatos egyre nagyobb bizalmatlanság fényében viszont szerintem kifejezetten jó lenne, ha az AI által generált szövegekben lenne egy megbízható, ellenőrizhető AI vízjel..
Főleg úgy, hogy az utóbbi időben már konkrét szerzőket is megvádoltak AI-használattal megbízhatatlan detektorok alapján. Egy ilyen AI vízjel viszont egészen más kategória lenne: nem azt próbálná megjósolni egy külső program, hogy „ez nekem AI-szagú”, hanem azt vizsgálná, hogy a Claude valószínűleg részt vett a szöveg létrehozásában vagy jelentősebb szerkesztésében.
Az én bombabiztos megoldásom
Szerintem a legbiztosabb megoldás íróintézetek létrehozása lenne! Nem viccelek! xD (Csak egy kicsit.)
Legyenek olyan helyek, ahová az író bemegy, leadja a telefonját meg mindenféle kütyüjét, aztán bezárkózik a hatalmas, hangulatos épületbe, és ír. Írógépen, nyilván. Kinézhetne az egész úgy, mint egy gigantikus kávézó és alkotóközpont szerelemgyereke: könyvespolcok, kávé, menza, kényelmes fotelek, szieszta-szoba, csendes íróhelyek, nagy kert… Én nagyon adnám. (Ugyanitt befektetőket keresek az ötletbe! :D)
Addig azonban marad a technológia. És ha az AI vízjelrendszer valóban úgy működik, ahogy az Anthropic állítja, komoly lépés lehet egy átláthatóbb könyvkiadás felé. Nem azért, hogy senki ne használhasson AI-t, hanem azért, hogy nehezebb legyen úgy használni, majd letagadni, mintha semmi sem történt volna…