Ce s-a întâmplat
Cercetătorii de la Google Research au publicat un studiu detaliat intitulat „Empty shelves or lost keys?”, care analizează mecanismele din spatele „halucinațiilor” sau erorilor factuale în Modelele de Limbaj Mari (LLM). Studiul demonstrează că, în multe cazuri, modelele de inteligență artificială dețin informația corectă în rețeaua lor neuronală (rafturile nu sunt goale), dar eșuează în procesul de recuperare a acesteia în momentul generării răspunsului (cheile sunt pierdute). Această distincție este crucială pentru dezvoltarea viitoarelor sisteme AI mai fiabile.
Context tehnologic
Pentru a înțelege acest fenomen, trebuie să privim AI-ul ca pe un sistem cu două tipuri de cunoștințe: cunoașterea parametrică (informația stocată în greutățile rețelei în timpul antrenării) și cunoașterea contextuală (informația oferită în prompt). Studiul Google se concentrează pe cunoașterea parametrică. Ei folosesc o analogie vizuală: un model poate avea „rafturi goale” (nu a învățat niciodată faptul respectiv) sau poate avea „chei pierdute” (a învățat faptul, dar mecanismul de atenție nu îl poate localiza corect atunci când este întrebat).
De ce contează
Această cercetare schimbă paradigma modului în care îmbunătățim AI-ul. Până acum, soluția standard era „mai multe date” (antrenarea pe seturi de date mai mari). Totuși, dacă problema este de fapt reamintirea (recall) și nu stocarea, atunci simpla adăugare de date nu va rezolva halucinațiile. Impactul este major pentru industriile care depind de acuratețe, precum medicina, dreptul sau educația, sugerând că avem nevoie de arhitecturi care optimizează accesul la memorie, nu doar capacitatea de stocare.
Impact
Pe termen scurt, dezvoltatorii de AI vor pune un accent mai mare pe tehnici precum RAG (Retrieval-Augmented Generation) pentru a compensa slăbiciunile memoriei parametrice. Pe termen mediu, ne putem aștepta la o restructurare a modului în care sunt antrenate modelele, trecând de la o memorare brută la o structurare mai logică a informațiilor, reducând astfel cazurile de „chei pierdute” și crescând încrederea utilizatorilor în asistenții virtuali.
Ce urmează
Următoarea frontieră în AI va fi dezvoltarea unor mecanisme de „auto-verificare” internă, unde modelul își poate evalua gradul de certitudine asupra unei informații înainte de a o exprima. De asemenea, cercetarea Google deschide calea către modele mai mici, dar mai eficiente, care nu încearcă să știe totul, ci excelează în a recupera cu precizie ceea ce au învățat deja.
*
Surse: Google Research Blog, arXiv Research Paper.