Ce s-a întâmplat
Firma de avocatură Fasig Brooks a depus oficial o plângere în instanță împotriva OpenAI, creatorul ChatGPT, reprezentând o victimă a atacului armat din 2014 de la Florida State University (FSU). Procesul susține că modelul de inteligență artificială a generat răspunsuri false și defăimătoare, inversând rolurile în mod tragic: victima a fost prezentată drept autorul atacului. Reclamantul solicită despăgubiri pentru stres emoțional și afectarea reputației, subliniind pericolele informațiilor eronate produse de algoritmi.
Context tehnologic
Problema centrală în acest caz este fenomenul cunoscut sub numele de „halucinație AI”. Modelele de limbaj mari (LLM), precum GPT-4, funcționează prin predicția următorului cuvânt dintr-o secvență, bazându-se pe tipare statistice învățate din seturi masive de date. Acestea nu au o înțelegere reală a adevărului istoric sau a eticii. Atunci când sistemul nu găsește o corelație exactă sau când datele de antrenament sunt contradictorii, acesta poate „inventa” fapte care par plauzibile din punct de vedere gramatical, dar sunt complet false din punct de vedere factual.
De ce contează
Acest caz reprezintă un punct de cotitură pentru responsabilitatea legală a companiilor de tehnologie. Până recent, platformele online au fost protejate de legi care stipulau că nu sunt responsabile pentru conținutul postat de utilizatori. Totuși, în cazul AI-ului generativ, conținutul este creat direct de algoritmul companiei. Dacă instanțele decid că OpenAI este responsabilă pentru „minciunile” ChatGPT, acest lucru ar putea forța o restructurare completă a modului în care produsele AI sunt lansate pe piață și testate pentru siguranță.
Impact
Pe termen scurt, OpenAI și alți dezvoltatori ar putea introduce filtre de siguranță mult mai riguroase, limitând capacitatea AI de a răspunde la întrebări despre persoane private. Pe termen mediu, am putea asista la apariția unor reglementări stricte care să oblige companiile să includă mecanisme de „verificare a faptelor” (fact-checking) în timp real, crescând costurile de operare și complexitatea tehnică a asistenților virtuali.
Ce urmează
Rezultatul acestui proces va stabili un precedent juridic major. Dacă OpenAI pierde, industria AI se va confrunta cu un val de procese similare din partea persoanelor ale căror nume au fost asociate eronat cu activități infracționale sau scandale. Ne putem aștepta ca viitoarele modele AI să pună un accent mult mai mare pe „atribuire” — citarea surselor exacte pentru a permite utilizatorului să verifice validitatea informației.
*