Ce s-a întâmplat
Recent, atenția comunității tehnologice s-a reîndreptat către ELIZA, considerat primul chatbot din istorie, creat de Joseph Weizenbaum la MIT între 1964 și 1966. Deși este adesea asociat cu scriptul „DOCTOR”, care simula un psihoterapeut rogerian, cercetări recente și analiza codului sursă original scot la iveală complexitatea acestui experiment. Weizenbaum a fost surprins și chiar îngrijorat de modul în care utilizatorii au atribuit sentimente și inteligență reală unui program software extrem de simplu din punct de vedere algoritmic.
Context tehnologic
ELIZA nu funcționa pe baza rețelelor neuronale sau a modelelor mari de limbaj (LLM) pe care le folosim astăzi. Tehnologia sa se baza pe potrivirea tiparelor (pattern matching) și substituție. Programul analiza textul introdus de utilizator, căuta cuvinte-cheie și aplica reguli de transformare pentru a genera un răspuns.
#
Cum funcționa scriptul DOCTOR?
Cea mai celebră versiune a ELIZA, scriptul DOCTOR, folosea o metodă de „ascultare activă”. Dacă utilizatorul spunea „Mă doare capul”, ELIZA putea identifica structura și răspundea cu „De ce spui că te doare capul?”. Nu „înțelegea” conceptul de durere, ci doar manipula simbolurile lingvistice conform unor reguli predefinite.
De ce contează
ELIZA este fundamentală pentru înțelegerea interacțiunii om-calculator. A demonstrat pentru prima dată „Efectul ELIZA”, tendința oamenilor de a antropomorfiza tehnologia. Chiar și atunci când știau că vorbesc cu un cod, utilizatorii își deschideau sufletul în fața programului. Acest fenomen este extrem de relevant astăzi, când ne confruntăm cu halucinațiile AI și cu riscul de a avea încredere oarbă în răspunsurile oferite de sisteme precum ChatGPT.
Impact
Pe termen scurt, ELIZA a provocat o dezbatere etică despre limitele inteligenței artificiale, determinându-l pe Weizenbaum să devină unul dintre cei mai vocali critici ai domeniului. Pe termen mediu, a pus bazele pentru asistenții virtuali moderni și a demonstrat că interfața conversațională este cea mai naturală metodă de interacțiune între om și mașină.
Ce urmează
Analiza codului sursă al ELIZA ne ajută să demistificăm AI-ul modern. În viitor, vom vedea o reglementare mai strictă a modului în care agenții AI își declară natura non-umană pentru a evita manipularea emoțională a utilizatorilor, continuând lecția începută de Weizenbaum acum 60 de ani.
Surse
- IEEE Spectrum
- MIT Archives
- Joseph Weizenbaum, "Computer Power and Human Reason"