Az Anthropic mesterséges intelligenciája, a Claude, előrelépést tett a tartalom átláthatósága terén. A vállalat bejelentette, hogy augusztus 2-tól kezdődően kiadott összes modell egy láthatatlan jelölőrendszert fog beépíteni az általuk generált szövegbe. Ez az intézkedés, amelyet globálisan fognak bevezetni, az Európai Unió szintetikus tartalmak azonosítására vonatkozó követelményeivel való összhangot hivatott teremteni.
A fő cél az, hogy Claude által készített szövegek felismerhetők legyenek anélkül, hogy a felhasználó bármilyen minőségbeli vagy olvashatósági különbséget észrevenne. A vízjel szabad szemmel nem látható, de beágyazva marad a szövegbe, még akkor is, ha azt más platformokon másolják és beillesztik. Ez a kezdeményezés a több mint 190 szervezet által aláírt, a mesterséges intelligencia által generált tartalmak átláthatóságára vonatkozó helyes gyakorlatról szóló kódexre, valamint az uniós mesterséges intelligencia törvényre reagál, amely augusztus óta előírja az ilyen típusú tartalmak vízjellel való ellátását.
Az Anthropic döntése nem véletlen. Az európai szabályozások előírják a mesterséges intelligencia alapú vállalatok számára, hogy címkézzék a szintetikus tartalmakat , hogy a felhasználók meg tudják különböztetni azokat az ember által létrehozott tartalmaktól. A mesterséges intelligencia törvény 50.2. cikke kimondja, hogy a szolgáltatóknak biztosítaniuk kell, hogy rendszereik kimenetei géppel olvasható formátumban legyenek címkézve. Az Anthropic más nagy technológiai vállalatokkal, mint például az OpenAI, a Google, a Meta és a Microsoft, aláírta ezt az átláthatósági kódexet, bár olyan cégek, mint Elon Musk xAI-ja, még nem csatlakoztak.
A vállalat elmagyarázta, hogy a vízjelezést kétféleképpen végzik: képek és grafikák esetében a C2PA (Coalition for Content Provenance and Authenticity) szabványon alapuló metaadatokat használnak; szöveg esetén egy láthatatlan vízjelet alkalmaznak, amely magába a generálási folyamatba van integrálva. Ez a vízjel nem változtatja meg a válaszok jelentését vagy minőségét , és a szöveggel együtt továbbítódik, amikor azt másolják, exportálják vagy megosztják egy API-n keresztül.
A rendszer a modell által generált tokenek sorozatán alapul. Rejtett karakterek vagy látható metaadatok hozzáadása helyett a vízjel a szavak kiválasztásába van kódolva, ha több egyformán érvényes lehetőség is rendelkezésre áll. Például, ha a „az ég…” kifejezésre van szükség, a modell választhatja a „felhős” vagy a „szürke” kifejezést. A vízjel esetében ez a választás nem véletlenszerű, hanem egy titkosító kulcstól és az azt megelőző szavaktól függ. Így a kulcs birtokosa statisztikailag meg tudja állapítani, hogy a szöveget Claude generálta-e.
Ez a módszer, amelyet már más rendszerekben, például a Google SynthID-jében is használnak, sem költségeket, sem késleltetést nem okoz a folyamatban. A vízjel-észlelés nem bolondbiztos : ha a szöveget szerkesztik, átfogalmazzák, lefordítják vagy más tartalommal keverik, a vízjel eltűnhet. Továbbá a jel gyengébb a nagyon rövid részletekben vagy a kódban. Az Anthropic elismeri, hogy a vízjel hiánya nem jelenti azt, hogy a tartalmat nem mesterséges intelligencia generálta, és hogy a vízjel jelenléte nem meggyőző a tényleges szerzőség szempontjából.
A vállalat közölte, hogy a vízjel az augusztus 2. óta kiadott összes modellre vonatkozik, és a korábbi modellek fokozatosan kapják meg a frissítést. Az intézkedés globális, nem csak Európára vonatkozik , és az összes Claude terméket érinti, beleértve az API-t, a Claude Code-ot, a Claude Cowork-öt, valamint harmadik féltől származó platformokat, mint például az AWS Infrastructure , a Google Cloud és a Microsoft Foundry. A nyilvános észlelés azonban még nem érhető el: az Anthropic bejelentette, hogy néhány héten belül kiad egy eszközt, amellyel a felhasználók és harmadik felek ellenőrizhetik, hogy egy szöveg tartalmazza-e a vízjelet.
Egy másik jelentős korlátozás, hogy a vízjel nem azonosítja a felhasználót vagy az eredeti beszélgetést. Azt sem teszi különbséget, hogy a szöveget a semmiből hozták-e létre, vagy Claude egyszerűen csak segített javítani, fordítani vagy összefoglalni a meglévő tartalmat. Ez kritikát váltott ki, mivel az európai szabályozások kifejezetten kizárják a standard szerkesztési feladatokat, az Anthropic mégis minden felhasználásra alkalmazza a vízjelet. Ezen hiányosságok ellenére az intézkedés előrelépést jelent a dezinformáció és a mesterséges intelligencia visszaélése elleni küzdelemben.
Az Anthropic döntése egy szélesebb iparági mozgalom része. Az OpenAI, a Google, a Meta, a Microsoft és a Mistral is aláírta az Átláthatósági Kódexet , és hasonló rendszereket vezetnek be. Az egységes szabvány hiánya és a technikai korlátok miatt azonban az észlelés nem tökéletes. Például egy kép képernyőképének készítése eltávolíthatja a C2PA metaadatokat, a szöveg teljes átírása pedig törölheti a vízjelet.
Oktatási és szakmai környezetben ezek a címkézőeszközök hasznosak lehetnek a mesterséges intelligencia által generált munkák azonosításában, de a szakértők óvatosságra intenek, mivel nem jelentenek végleges megoldást. Maga az Anthropic is hangsúlyozza, hogy a címke nem a szerzőség bizonyítéka, hanem inkább a valószínűség jelzése. Ahogy a technológia fejlődik, valószínűleg robusztusabb rendszereket fogunk látni, de egyelőre az átláthatóság továbbra is kihívást jelent.
Röviden, a láthatatlan vízjelek hozzáadása Claude-ban fontos lépést jelent az európai szabályozásoknak való megfelelés és a felhasználók számára a tartalom eredetéről szóló további információk biztosítása felé. Bár a rendszernek vannak korlátai, jelentős lépés a helyes irányba. A tech közösség szorosan figyelemmel fogja kísérni az Anthropic által hamarosan bevezetni ígért észlelő eszközt, valamint azt, hogy más vállalatok hogyan alkalmazkodnak ehhez az új valósághoz.