Ce s-a întâmplat
Recent, James Kettle, un renumit cercetător în securitate cibernetică de la PortSwigger, a realizat o serie de experimente pentru a testa limitele actuale ale Inteligenței Artificiale în domeniul hacking-ului ofensiv. Rezultatele sale, prezentate în comunitatea de cybersecurity, indică faptul că, deși modelele lingvistice mari (LLM) sunt capabile să identifice vulnerabilități subtile și să scrie cod de exploatare, acestea eșuează adesea în etapele finale ale unui atac complex fără îndrumare umană. Kettle a concluzionat că cele mai periculoase tehnici de hacking rămân cele de tip „human-in-the-loop”, unde AI-ul preia munca brută de analiză, dar omul ia deciziile strategice.
Context tehnologic
În acest context, tehnologia principală este reprezentată de Modelele Lingvistice Mari (LLM), precum GPT-4 sau Claude, adaptate pentru sarcini tehnice. Aceste modele sunt antrenate pe volume masive de cod sursă și documentație tehnică, ceea ce le permite să înțeleagă structura programelor informatice. În hacking, AI-ul este folosit pentru „fuzzing” (testarea automată a input-urilor), analiza statică a codului și generarea de scripturi de tip „exploit”. Totuși, AI-ul actual are dificultăți în a înțelege contextul specific al unei rețele de business sau în a improviza atunci când măsurile de securitate blochează o rută standard.
De ce contează
Această cercetare este esențială pentru industria de securitate deoarece demitizează ideea unui „buton magic” prin care infractorii cibernetici pot dărâma infrastructuri critice doar cu AI. Totodată, subliniază o schimbare de paradigmă: bariera de intrare în hacking scade. Un atacator cu cunoștințe medii, asistat de un AI bine configurat, poate atinge nivelul de eficiență al unui expert. Pentru companii, acest lucru înseamnă că volumul atacurilor „inteligente” va crește, chiar dacă complexitatea lor supremă depinde încă de factorul uman.
Impact
Pe termen scurt, vom asista la o creștere a productivității atât pentru „white hat hackers” (cercetători de securitate), cât și pentru atacatori, deoarece AI-ul elimină sarcinile repetitive. Pe termen mediu, este probabil ca sistemele de apărare (EDR/XDR) să integreze propriile module AI pentru a contracara atacurile asistate de mașini în timp real. Vulnerabilitățile de tip „zero-day” ar putea fi descoperite mai rapid de ambele tabere.
Ce urmează
Predicțiile indică dezvoltarea unor „agenți AI de hacking” specializați, care pot opera autonom în medii controlate, dar care vor rămâne dependenți de operatori umani pentru obiective de mare valoare. Ne putem aștepta la o cursă a înarmării tehnologice în care succesul nu va fi determinat de cine are cel mai bun AI, ci de cine știe să colaboreze mai eficient cu acesta.
*
Surse
- WIRED – Artificial Intelligence
- PortSwigger Research (James Kettle)