Ce s-a întâmplat
Publicația WIRED a reușit să reconstruiască și să analizeze codul sursă al noului sistem de operare bazat pe inteligență artificială dezvoltat de Flock Safety, o companie lider în domeniul tehnologiei de supraveghere pentru forțele de ordine. Deși Flock este cunoscută în principal pentru camerele sale de citire automată a numerelor de înmatriculare (ALPR), investigația confirmă faptul că noua lor tehnologie, deja implementată de anumite departamente de poliție, are capacități mult mai extinse. Sistemul poate identifica acum trăsături specifice ale vehiculelor (cum ar fi portbagaje de plafon sau autocolante), dar și prezența pietonilor și a animalelor, transformând camerele statice în instrumente de monitorizare comportamentală complexă.
Context tehnologic
Tehnologia Flock se bazează pe Computer Vision (viziune computerizată), o ramură a inteligenței artificiale care antrenează computerele să interpreteze și să înțeleagă lumea vizuală. Folosind modele de tip Deep Learning, sistemul nu se limitează la a „vedea” o imagine, ci o fragmentează în metadate.
În loc să caute doar un șir de caractere (numărul de înmatriculare), AI-ul utilizează rețele neuronale convoluționale pentru a clasifica obiectele din cadru. De exemplu, sistemul poate distinge între o bicicletă, un pieton sau un câine și poate filtra căutările poliției după atribute non-identificabile prin metode tradiționale. Această procesare are loc adesea la „marginea rețelei” (edge computing), direct pe dispozitiv, permițând alerte cvasi-instantanee către dispeceratele de poliție.
De ce contează
Impactul acestei descoperiri este major pentru echilibrul dintre siguranța publică și dreptul la viață privată.
1. Extinderea supravegherii: Trecerea de la monitorizarea vehiculelor la monitorizarea oamenilor și a atributelor specifice creează o rețea de supraveghere omniprezentă.
2. Lipsa transparenței: Codul descoperit arată funcționalități despre care publicul nu a fost informat pe deplin în timpul proceselor de achiziție publică.
3. Eficiența vs. Abuz: Deși ajută la rezolvarea rapidă a crimelor, capacitatea de a căuta „o persoană cu rucsac roșu” în întreg orașul ridică riscuri de profilare și erori de identificare.
Impact
Pe termen scurt, forțele de ordine vor avea instrumente mult mai puternice pentru localizarea suspecților, ceea ce ar putea duce la o creștere a ratei de soluționare a cazurilor. Totuși, pe termen mediu, acest lucru va intensifica dezbaterea legislativă privind reglementarea AI în spațiul public. Există riscul ca aceste sisteme să fie utilizate pentru monitorizarea protestatarilor sau a grupurilor marginalizate, ducând la o eroziune a încrederii cetățenilor în instituțiile statului și în tehnologia AI în general.
Ce urmează
Ne putem aștepta ca Flock și competitorii săi să integreze modele de limbaj mari (LLM) pentru a permite polițiștilor să interogheze sistemul în limbaj natural (ex: „Arată-mi toți bărbații care au trecut pe aici în ultima oră purtând șepci albastre”). Tendința este spre o „supraveghere predictivă”, unde AI-ul nu doar raportează ce s-a întâmplat, ci încearcă să identifice tipare suspecte înainte de comiterea unei infracțiuni, ceea ce va necesita cadre etice și legale mult mai stricte.
Surse
- WIRED: „Flock Has a Powerful New AI Tool for Police. We Got Its Code”
- Flock Safety Official Documentation (Publicly available context)
*