Ce s-a întâmplat
Recent, cercetătorii în securitate cibernetică au descoperit că mai multe modele de inteligență artificială malițioase au fost încărcate pe platforma Hugging Face – cel mai popular hub pentru comunitatea de open-source AI. Aceste modele erau deghizate pentru a părea că aparțin organizației OpenAI. Timp de câteva zile, aceste fișiere au fost disponibile pentru descărcare, având capacitatea de a executa cod periculos pe computerele utilizatorilor care le testau. Scopul principal al atacatorilor a fost sustragerea de „secret tokens” și date de autentificare, care ar fi permis accesul neautorizat la alte proiecte și infrastructuri cloud.
Context tehnologic
Platformele precum Hugging Face funcționează similar cu GitHub, dar sunt specializate pentru modele de Machine Learning (ML). Atunci când un utilizator descarcă un model, acesta nu descarcă doar un set de date statice, ci adesea fișiere (cum ar fi cele în format „pickle”) care pot executa cod în momentul în care sunt încărcate în memorie pentru a fi rulate. Atacatorii au profitat de această funcționalitate de „deserializare” pentru a insera scripturi care se conectează la servere externe și trimit informații confidențiale fără știrea utilizatorului.
De ce contează
Acest incident subliniază o vulnerabilitate critică în ecosistemul AI: încrederea implicită în sursele open-source. Deoarece OpenAI este un nume de referință, utilizatorii tind să descarce modele care poartă această etichetă fără a verifica riguros proveniența. Impactul este major deoarece compromiterea unui cont de dezvoltator pe Hugging Face poate duce la furtul de proprietate intelectuală, compromiterea unor întregi linii de producție software și accesul la datele clienților stocate în medii cloud securizate.
Impact
Pe termen scurt, acest eveniment a forțat Hugging Face să își îmbunătățească sistemele de scanare a malware-ului și să implementeze măsuri mai stricte de verificare a identității pentru organizațiile mari. Pe termen mediu, asistăm la o scădere a încrederii în modelele neoficiale și la o nevoie acută de standarde de securitate pentru fișierele de tip model AI, similar cu modul în care antivirusurile scanează fișierele executabile obișnuite.
Ce urmează
Ne așteptăm ca „AI Supply Chain Security” (securitatea lanțului de aprovizionare AI) să devină o prioritate pentru companii în 2025. Sub administrația președintelui Donald Trump, este probabil ca reglementările privind securitatea infrastructurii critice să includă și audituri obligatorii pentru software-ul bazat pe AI utilizat în agențiile guvernamentale și în sectorul privat strategic. Dezvoltatorii vor trebui să adopte formate de fișiere mai sigure, precum „safetensors”, care previn execuția de cod malițios.
Surse
- WIRED – Artificial Intelligence
- Hugging Face Security Blog
- CISA Cybersecurity Alerts