Ce s-a întâmplat
O echipă de cercetători condusă de MIT (Massachusetts Institute of Technology) a prezentat o nouă metodologie de proiectare a sistemelor de Inteligență Artificială, denumită „Humble AI” (AI Umil). Spre deosebire de modelele actuale care tind să ofere răspunsuri cu un grad ridicat de încredere chiar și atunci când datele sunt ambigue, acest nou sistem este antrenat să recunoască propriile limite.
În testele clinice axate pe diagnosticarea radiologică, AI-ul a demonstrat capacitatea de a „ridica mâna” și de a solicita intervenția unui medic uman atunci când probabilitatea de eroare depășește un anumit prag. Această schimbare de paradigmă urmărește să elimine fenomenul de „halucinație” sau de încredere excesivă a mașinii, transformând AI-ul dintr-un instrument de decizie solitar într-un asistent colaborativ.
Context tehnologic
Majoritatea modelelor de Machine Learning (ML) sunt optimizate pentru a minimiza eroarea medie pe un set mare de date. Totuși, în medicină, o eroare „medie” nu este suficientă; o singură decizie greșită poate fi fatală. Tehnologia din spatele „Humble AI” utilizează algoritmi de estimare a incertitudinii (Uncertainty Quantification).
În loc să returneze doar o etichetă (ex: „Pneumonie”), sistemul analizează distribuția probabilităților și identifică dacă datele de intrare (imaginea radiologică) sunt similare sau nu cu cele pe care a fost antrenat. Dacă imaginea prezintă anomalii rare sau zgomot vizual pe care modelul nu îl înțelege pe deplin, acesta refuză să dea un verdict, transferând sarcina către expertul uman. Aceasta este o formă de „învățare activă” și colaborare om-mașină.
De ce contează
Impactul acestui studiu este major pentru încrederea publicului în tehnologie. Una dintre cele mai mari bariere în adoptarea AI în sănătate este „cutia neagră” – faptul că medicii nu înțeleg de ce un AI a luat o decizie și dacă acea decizie este sigură.
Prin implementarea unui AI umil, riscul de malpraxis asistat de tehnologie scade semnificativ. Mai mult, acest model optimizează timpul medicilor: aceștia nu mai trebuie să verifice fiecare decizie banală a AI-ului, ci se pot concentra exclusiv pe cazurile complexe semnalate de sistem ca fiind incerte. Este o utilizare eficientă a resurselor umane și tehnologice.
Impact
Pe termen scurt, ne putem aștepta la o integrare mai rapidă a acestor module în software-urile de imagistică medicală. Spitalele vor putea adopta AI-ul cu mai puține rețineri etice și legale. Pe termen mediu, conceptul de „umilință algoritmică” s-ar putea extinde dincolo de medicină, în domenii precum conducerea autonomă (unde mașina predă controlul șoferului în condiții meteo extreme) sau în analiza financiară, prevenind prăbușiri de piață cauzate de decizii automate eronate.
Ce urmează
Cercetătorii de la MIT intenționează să rafineze aceste modele pentru a oferi și explicații textuale, nu doar un simplu avertisment de incertitudine. Viitorul AI-ului nu este unul de autonomie totală, ci unul de interdependență inteligentă. Vom vedea standarde internaționale de reglementare care ar putea impune ca orice AI utilizat în „misiuni critice” să posede un mecanism de validare a incertitudinii.
Surse
- MIT News - Artificial Intelligence Section
- Studiul original condus de echipa MIT Computer Science and Artificial Intelligence Laboratory (CSAIL).
*