Ce s-a întâmplat
Recent, compania Anthropic a anunțat implementarea unor „marcaje invizibile” (watermarks) în textele și codul generat de modelul său AI, Claude. Această măsură a fost luată pentru a alinia platforma la noile cerințe ale Actului UE privind Inteligența Artificială (EU AI Act), care impune identificarea clară a conținutului sintetic. Cu toate acestea, la doar câteva ore de la lansare, comunitatea de dezvoltatori și utilizatori avansați de pe platforme precum GitHub și X (fostul Twitter) a raportat găsirea unor metode simple de a elimina sau de a modifica aceste marcaje, făcând conținutul imposibil de urmărit.
Context tehnologic
Marcarea invizibilă în LLM-uri (Large Language Models) funcționează de obicei prin manipularea statistică a modului în care modelul alege cuvintele (token-urile). În loc să aleagă cel mai probabil cuvânt, modelul alege un cuvânt dintr-o „listă albă” secretă, creând un model matematic subtil care poate fi detectat ulterior de un software specializat, dar care rămâne imperceptibil pentru ochiul uman. Spre deosebire de un watermark pe o imagine, care este vizual, cel textual se bazează pe probabilități matematice inserate în structura frazelor.
De ce contează
Eșecul rapid al acestor măsuri subliniază o provocare fundamentală în guvernarea AI: tehnologia evoluează mai rapid decât mecanismele de control. Dacă marcajele pot fi eliminate prin tehnici simple de „prompt engineering” (cum ar fi solicitarea modelului de a insera caractere speciale și apoi ștergerea lor manuală) sau prin utilizarea unui alt AI mai mic pentru a rescrie textul, atunci responsabilitatea și transparența devin greu de aplicat. Aceasta este o problemă majoră pentru combaterea dezinformării și a plagiatului academic.
Impact
Pe termen scurt, acest incident ar putea forța companiile de AI să revină la planșetă pentru a dezvolta metode de criptare mai robuste. Pe termen mediu, autoritățile de reglementare din UE ar putea impune sancțiuni sau cerințe tehnice și mai stricte dacă se dovedește că soluțiile actuale de „auto-reglementare” sunt ineficiente. Încrederea publicului în capacitatea de a distinge între conținutul uman și cel sintetic va continua să scadă.
Ce urmează
Ne putem aștepta la o „cursă a înarmării” între dezvoltatorii de AI care creează sisteme de detectare și comunitatea open-source care caută să mențină anonimatul conținutului. O tendință emergentă este utilizarea „semnăturilor criptografice” la nivel de metadate, însă acestea sunt și mai ușor de eliminat prin simpla copiere a textului într-un document nou. Lupta pentru proveniența digitală este abia la început.