Ce s-a întâmplat
Recent, în Congresul Statelor Unite a fost introdus un proiect de lege controversat intitulat „AI Kill Switch Act”. Această inițiativă legislativă îi oferă Secretarului Departamentului de Securitate Internă (DHS) autoritatea de a ordona companiilor de tehnologie să reducă capacitatea (throttling) sau să închidă complet modelele de inteligență artificială „frontieră” (cele mai avansate) în situații de urgență națională. Companiile care refuză să se conformeze acestor ordine riscă sancțiuni financiare drastice, care pot ajunge până la 20 de milioane de dolari pentru fiecare zi de nerespectare.
Context tehnologic
Conceptul de „Kill Switch” (întrerupător de urgență) nu este nou în tehnologie, fiind utilizat frecvent în sisteme industriale sau software critice pentru a preveni dezastrele. În contextul inteligenței artificiale, acesta se referă la capacitatea de a întrerupe procesarea datelor și accesul la model în timp real. Modelele „frontieră”, precum GPT-4 sau Claude, sunt antrenate pe seturi masive de date și necesită o infrastructură de calcul imensă. Implementarea unui astfel de mecanism ar însemna că dezvoltatorii trebuie să includă protocoale de securitate care să permită o oprire controlată, dar rapidă, fără a compromite integritatea datelor utilizatorilor sau stabilitatea sistemelor interconectate.
De ce contează
Acest proiect de lege marchează o schimbare majoră în modul în care guvernele percep riscurile asociate cu AI-ul generativ. Nu mai este vorba doar despre etică sau drepturi de autor, ci despre securitate națională. Susținătorii argumentează că un model AI compromis de hackeri sau utilizat pentru a crea arme biologice sau atacuri cibernetice de amploare trebuie oprit imediat. Pe de altă parte, criticii și liderii din industria tehnologică se tem că o astfel de putere discreționară acordată guvernului ar putea înăbuși inovația, ar putea fi folosită pentru cenzură și ar crea o vulnerabilitate majoră („single point of failure”) în însăși arhitectura de securitate a AI-ului.
Impact
Pe termen scurt, propunerea va intensifica lobby-ul marilor companii de tehnologie (OpenAI, Google, Meta) împotriva reglementărilor excesive. Pe termen mediu, dacă legea va fi adoptată, am putea asista la o transformare a arhitecturii cloud, unde furnizorii vor fi obligați să demonstreze că pot „trage ștecherul” la cererea autorităților. Acest lucru ar putea duce la o fragmentare a pieței globale de AI, deoarece companiile internaționale ar putea evita găzduirea modelelor pe servere americane supuse unei astfel de legislații.
Ce urmează
Urmează o perioadă de dezbateri intense în comisiile parlamentare din SUA. Este probabil ca versiunea finală a legii să includă criterii mult mai stricte pentru ceea ce constituie o „urgență națională”, pentru a preveni abuzurile politice. De asemenea, ne putem aștepta ca și alte jurisdicții, precum Uniunea Europeană, să urmărească acest model legislativ pentru a-și asigura propriile mecanisme de control asupra tehnologiilor emergente care pot scăpa de sub control uman.