Ce s-a întâmplat
Recent, OpenAI a publicat o analiză detaliată a SWE-Bench Pro, unul dintre cele mai utilizate seturi de date pentru evaluarea modelelor de inteligență artificială în sarcini complexe de programare (software engineering). Cercetătorii au descoperit că o parte semnificativă din problemele incluse în acest benchmark sunt fie imposibil de rezolvat, fie evaluate incorect din cauza unor teste de verificare defectuoase. Această descoperire pune sub semnul întrebării clasamentele actuale ale modelelor de limbaj (LLM) și sugerează că industria are nevoie de metode de evaluare mult mai riguroase pentru a măsura progresul real în automatizarea programării.
Context tehnologic
În dezvoltarea AI, un benchmark este un set standardizat de teste folosit pentru a compara performanța diferitelor modele. SWE-Bench este special conceput pentru a simula munca unui programator real, cerând AI-ului să rezolve probleme (issue-uri) extrase din proiecte open-source reale de pe GitHub. Spre deosebire de testele simple de scriere a codului, acesta presupune navigarea într-o bază de cod complexă, înțelegerea contextului și aplicarea unor corecții care să treacă de testele unitare preexistente. Analiza OpenAI arată însă că „zgomotul” (erorile din testele în sine) poate face ca un model mai slab să pară mai performant sau invers.
De ce contează
Impactul acestei analize este major deoarece companiile și cercetătorii își orientează investițiile și strategiile de dezvoltare în funcție de aceste scoruri. Dacă instrumentele de măsură sunt defecte, întreaga traiectorie a inovației poate fi deviată. Pentru utilizatorul final și companiile care adoptă agenți AI pentru programare, acest lucru înseamnă că promisiunile de eficiență trebuie privite cu prudență: un model care „câștigă” un benchmark compromis s-ar putea să nu fie neapărat cel mai util în scenarii de producție reale.
Impact
Pe termen scurt, este probabil ca dezvoltatorii de benchmark-uri să înceapă un proces masiv de curățare a seturilor de date pentru a elimina problemele „nerezolvabile”. Pe termen mediu, vom asista la o trecere de la evaluări automate simple către evaluări asistate de om sau sisteme de verificare multi-strat, pentru a asigura o acuratețe mai mare. Încrederea în scorurile de tip „scor de lider” (leaderboard) va scădea, forțând furnizorii de AI să demonstreze valoarea prin studii de caz practice, nu doar prin cifre abstracte.
Ce urmează
Ne așteptăm ca OpenAI și alți lideri din industrie să propună noi standarde de evaluare care să includă „verificatori de verificare”. Tendința viitoare va fi dezvoltarea de medii de testare dinamice, unde AI-ul nu doar scrie cod, ci interacționează cu un sistem de feedback în timp real, mult mai apropiat de fluxul de lucru al unui inginer uman. Calitatea datelor de evaluare va deveni la fel de importantă ca și cantitatea datelor de antrenament.
Surse
Analiză bazată pe raportul tehnic publicat de OpenAI: Separating signal from noise in coding evaluations (2024).