OpenAI blochează o campanie de dezinformare rusească ce folosea Inteligența Artificială

Ce s-a întâmplat

OpenAI a anunțat recent destructurarea unei operațiuni de influență clandestine, originară din Rusia, care utiliza instrumentele sale de inteligență artificială generativă pentru a produce și propaga dezinformare. Grupul din spatele acestei campanii a creat conturi pentru a genera articole de știri false, comentarii pe rețelele sociale și analize politice care lăudau acțiunile Rusiei și criticau dur politicile occidentale și pe cele ale Ucrainei. Printre tactici s-a numărat crearea unui index fictiv de „suveranitate” și a unui think-tank fals localizat aparent în Israel, scopul fiind acela de a oferi o aură de legitimitate mesajelor propagandistice.

Context tehnologic

Tehnologia centrală utilizată în acest incident este reprezentată de Modelele de Limbaj Mari (LLM), precum GPT-4. Aceste modele sunt capabile să genereze text coerent, persuasiv și adaptat stilistic pentru diverse audiențe în doar câteva secunde. În contextul campaniilor de influență, AI-ul elimină bariera lingvistică (permițând scrierea într-o engleză sau ebraică perfectă de către non-nativi) și reduce drastic costurile de producție a conținutului. OpenAI a utilizat instrumente interne de monitorizare pentru a detecta tipare anormale de utilizare, identificând modul în care prompt-urile (instrucțiunile) erau folosite pentru a genera variații ale aceluiași mesaj de dezinformare.

De ce contează

Acest eveniment este crucial deoarece demonstrează că bariera de intrare în „războiul informațional” a scăzut semnificativ. Dacă în trecut era nevoie de „ferme de troli” cu sute de angajați, astăzi, un mic grup de operatori poate inunda spațiul digital cu mesaje targetate folosind AI. Pentru industria tehnologică, acest caz subliniază responsabilitatea imensă a furnizorilor de AI de a implementa sisteme de siguranță (guardrails) care să prevină utilizarea malițioasă a modelelor lor în scopuri politice sau subversive.

Impact

Pe termen scurt, acțiunea OpenAI a limitat propagarea unor narative false specifice, protejând integritatea discursului public online. Totuși, pe termen mediu, asistăm la o „cursă a înarmării” între sistemele de detectare și cele de generare. Succesul detectării depinde de colaborarea dintre companiile de tehnologie și serviciile de informații. Utilizatorii obișnuiți vor deveni tot mai sceptici față de conținutul online, ceea ce poate duce la o criză de încredere în informațiile digitale legitime.

Ce urmează

Ne putem aștepta ca actorii statali să devină mai sofisticați, folosind modele AI open-source (care nu pot fi monitorizate de companii precum OpenAI) pentru a evita detectarea. Tendința viitoare va fi implementarea unor „semnături digitale” sau watermark-uri invizibile pentru conținutul generat de AI, astfel încât platformele de social media să poată eticheta automat propaganda. Lupta împotriva dezinformării va trece de la eliminarea manuală a conturilor la utilizarea unor sisteme de AI defensiv capabile să identifice campanii de influență în timp real.

*