Ce s-a întâmplat
Compania chineză de inteligență artificială Z.ai a lansat recent un model AI extrem de performant, distribuit sub formă de „open-weights” (greutăți deschise). Această decizie a alertat experții internaționali în securitate, deoarece modelul demonstrează capacități avansate în scrierea și analizarea codului informatic. Deși scopul declarat este de a ajuta companiile să își fortifice sistemele de apărare, există temeri justificate că tehnologia va fi rapid adoptată de grupări de hackeri pentru a identifica vulnerabilități de tip „zero-day” și pentru a automatiza atacurile cibernetice.
Context tehnologic
Pentru a înțelege miza, trebuie să diferențiem între modelele AI „închise” (precum GPT-4 de la OpenAI) și cele „open-weight”. Într-un model cu greutăți deschise, cercetătorii și dezvoltatorii au acces la parametrii învățați de rețeaua neuronală în timpul antrenamentului. Acest lucru permite rularea modelului pe infrastructură proprie, fără supravegherea companiei mamă, și modificarea acestuia (fine-tuning) pentru sarcini specifice. În cazul Z.ai, modelul a fost antrenat pe seturi masive de date care includ cod sursă și documentație tehnică, ceea ce îl face un expert în limbaje de programare și arhitecturi de sistem.
De ce contează
Această lansare marchează un punct de cotitură în cursa înarmării digitale. Până acum, modelele capabile de analize complexe de securitate erau protejate în spatele unor API-uri controlate. Accesul liber la un model de talia Z.ai democratizează accesul la instrumente de hacking de nivel statal. Pentru industria de securitate, înseamnă o nevoie urgentă de a adopta AI pentru apărare (Cyber AI), deoarece atacurile vor deveni mai rapide, mai ieftine și mai greu de detectat prin metodele tradiționale.
Impact
Pe termen scurt, ne putem aștepta la o creștere a tentativelor de phishing mai sofisticate și la o scanare mai intensă a rețelelor corporative pentru erori de configurare, facilitate de viteza de procesare a AI-ului. Pe termen mediu, companiile de software vor fi obligate să integreze audituri AI în procesul de dezvoltare (DevSecOps) pentru a găsi bug-urile înainte ca hackerii să folosească modele precum Z.ai pentru a le exploata. Există, de asemenea, riscul unor tensiuni geopolitice crescute privind reglementarea exportului de tehnologie AI.
Ce urmează
Predicția principală este apariția „agenților AI de atac”, entități autonome care pot naviga singure într-o rețea, adaptându-se la contramăsuri în timp real. În paralel, vom vedea o presiune legislativă pentru a impune „limitatoare” (guardrails) mai stricte chiar și pentru modelele open-source. Bătălia se va muta de la cine are cel mai bun model, la cine poate procesa și reacționa cel mai rapid la datele generate de aceste sisteme.