Ce s-a întâmplat
Cercetătorii de la Massachusetts Institute of Technology (MIT) au publicat un studiu aprofundat despre efectele „monoculturii algoritmice” în procesele de recrutare. Într-o eră în care tot mai multe companii externalizează trierea CV-urilor către un număr restrâns de furnizori de software bazat pe Inteligență Artificială, există riscul ca aceleași erori sau preferințe să fie multiplicate la nivelul întregii piețe a muncii. Totuși, studiul MIT indică faptul că rezultatele nu sunt uniform negative; impactul depinde critic de detaliile implementării și de modul în care firmele interacționează cu aceste instrumente.
Context tehnologic
#
Ce este monocultura algoritmică?
În termeni simpli, monocultura algoritmică apare atunci când un număr mare de entități independente (în acest caz, departamente de resurse umane) adoptă același sistem de luare a deciziilor automatizate. Dacă zece firme diferite folosesc același model de Machine Learning pentru a evalua un candidat, acel candidat va primi, teoretic, același scor peste tot.
#
Mecanismul de funcționare
Algoritmii de recrutare sunt antrenați pe seturi de date istorice pentru a identifica trăsături corelate cu succesul profesional. Problema intervine atunci când modelul are o „pată oarbă” (bias) sau o eroare de evaluare. Într-un sistem diversificat, o greșeală a unui algoritm ar putea fi corectată de evaluarea diferită a altuia. În monocultură, eroarea devine sistemică.
De ce contează
Impactul asupra industriei și utilizatorilor este major din două perspective contrastante:
1. Riscul de excludere sistemică: Dacă un algoritm popular respinge un candidat talentat din cauza unei corelații greșite, acel candidat ar putea fi respins de întreaga piață a muncii simultan, fără a avea șansa unei a doua opinii.
2. Paradoxul beneficiului: Studiul MIT a descoperit că, în anumite scenarii, dacă firmele folosesc același algoritm dar au criterii finale de selecție ușor diferite, candidații pot beneficia de o mai mare predictibilitate și pot fi „descoperiți” mai ușor de firmele care li se potrivesc cel mai bine.
Impact
Pe termen scurt: Companiile vor trebui să fie mai atente la furnizorii de AI aleși și să introducă mecanisme de verificare umană („human-in-the-loop”) pentru a evita excluderea accidentală a talentelor din cauza erorilor de model.
Pe termen mediu: Am putea asista la reglementări care să oblige companiile să raporteze ce algoritmi folosesc, pentru a preveni formarea unor monopoluri de decizie care pot destabiliza echitatea socială pe piața muncii.
Ce urmează
Predicțiile indică o tranziție către „diversitate algoritmică”. Firmele mari ar putea începe să dezvolte propriile modele personalizate sau să combine soluții de la furnizori diferiți pentru a obține un avantaj competitiv în atragerea talentelor pe care algoritmii standard îi ignoră. De asemenea, auditul algoritmilor va deveni o profesie standard în HR.
Surse
- MIT News - Artificial Intelligence Section
- Study: "The effects of an algorithmic monoculture depend on the details"