Jocul imitației: ELIZA
Computere care gîndesc și psihologul software
Într-o perioadă în care creații și descoperiri tehnologice incredibile iau prim-planul, articolul nostru este despre începuturi. Mai precis, cînd ChatGPT se alătură drept veriga cea mai puternică portofoliului OpenAI, vă prezentăm un episod care a stat la baza apariției inteligenței artificiale în general și chatboților, în particular. Facem, așadar, o călătorie în anii 1950-1960 și ne întîlnim cu Alan M. Turing și Joseph Weizenbaum.
Poate gîndi un computer?
Alan Mathison Turing (1912-1954) este menționat în majoritatea materialelor care oferă o perspectivă istorică asupra dezvoltării inteligenței artificiale ori teoriei codurilor. Cercetările sale au mers cu mult dincolo de aceste discipline, iar Turing a fost preocupat de biologie, filosofie, teoria relativității și, bineînțeles, logică matematică.
Pornim aici de la articolul pe care l-a publicat în 1950, cu titlul Computer Machinery and Intelligence (Computere și inteligență). În articol, Turing scrie detaliat despre un test cu ajutorul căruia să răspundem la întrebarea dacă o mașinărie gîndește. Pentru început, britanicul propune un test în care un cercetător adresează întrebări pe nevăzute unui interlocutor, întrebări din care deduce sexul partenerului de discuție. Apoi Turing face pasul surprinzător: Ce s-ar întîmpla dacă locul interlocutorului ar fi luat de o mașinărie? Aceasta ar trebui să fie problema care înlocuiește întrebarea mult mai vagă privitoare la gîndirea mașinăriilor și numește testul jocul imitației, sau the imitation game.
Meticulozitatea cercetării sale, prin care ia în considerare numeroase critici posibile, inspirate din argumente teologice, neurologice, sociale, apoi matematice și fizice, este fascinantă și vă recomandăm lectura articolului în întregime. Dintre contraargumentele discutate, iată trei:
Creierele umane și circuitele computerelor au în comun electricitatea, de unde rezultă o asemănare substanțială între ele, ce se poate manifesta și prin gîndire. Turing combate acest argument cu exemplul motorului analitic la care lucrase predecesorul său, Charles Babbage, în perioada 1822-1831. Principiile de funcționare erau exclusiv mecanice și totuși, dispozitivul putea calcula. Babbage nu și-a văzut proiectul realizat în întregime, din motive financiare, însă în 2000, Muzeul de Științe din Londra a finalizat construcția, iar mașinăria făcea calcule cu pînă la 31 de zecimale. Răspunsul lui Turing, așadar, este că nu ar trebui să restrîngem definiția computerelor—și nici întrebarea privitoare la gîndire—la dispozitive electronice.
O altă obiecție este denumită de Turing a capetelor în nisip. O redăm fără niciun comentariu, căci este savuroasă:
[Obiecție:] „Consecințele unor mașinării care să gîndească ar fi îngrozitoare. Să sperăm și să credem că nu o vor putea face.”
[Răspunsul lui Turing:] Nu cred că acest argument este substanțial încît să necesite respingere. Consolarea ar fi mai potrivită: poate ar trebui căutată în transmigrarea sufletelor.
În fine, este discutată o obiecție de la Ada Lovelace, prima femeie informatician și colaboratoare a lui Babbage: „Motorul analitic [al lui Babbage] nu are pretenția de a crea nimic. El poate face numai ce știm noi să-i ordonăm să facă.” Demontarea obiecției vine prin referire la complexitate. Încă de atunci, mașinăriile electronice și mecanice erau deja atît de sofisticate, încît cu greu putea cineva să aibă control precis asupra tuturor parametrilor. De aceea, mărturisește Turing, nu de puține ori a fost surprins de rezultatele propriilor dispozitive. Chiar dacă ar fi ținut seama de toți parametrii care ar influența comportamentul mașinăriei, adesea este imposibil să controlezi chiar și simple voltaje la nivel de subdiviziune. Concluzia este că imprevizibilul se naște din complexitate; altfel spus, cu cît un computer este mai complex, cu atît are mai multă libertate de creație.
La psiholog
În 1964, germanul Joseph Weizenbaum conducea o echipă de cercetători de la MIT, cu care lucra la un proiect ce avea să devină primul robot conversațional sau chatbot: un program ([ro]bot) care să poată purta o conversație (chat) pe teme arbitrare. Robotul a fost botezat ELIZA, de la personajul din piesa Pygmalion, scrisă de George Bernard Shaw: Eliza Doolittle, care învață să-și îmbunătățească vorbirea. Pentru că imaginile sînt adesea grăitoare, chiar și cînd „graiul” este al unei mașinării, iată un fragment al unei conversații:
Scopul principal al proiectului a fost, însă, unul surprinzător: să arate cît de superficiale sînt conversațiile interumane—într-atît că pot fi simulate cu succes de un program. O țintă indirectă a satirei lui Weizenbaum a fost școala rogeriană de psihologie, fondată de Carl Rogers, prin care se propune o alternativă la psihanaliza lui Freud și studiul comportamentului, al lui B. F. Skinner.
Tehnologic, ELIZA folosește idei originare pentru procesarea limbajului natural (Natural Language Processing, NLP), un domeniu înfloritor și astăzi, cu numeroase descoperiri care au influențat majoritatea modelelor recente, inclusiv ChatGPT. Superficialitatea dialogului a fost programată cu o tehnică denumită pattern matching (potrivirea tiparelor), prin care se caută anume cuvinte „cu greutate” într-o replică a utilizatorului—precum pronume, verbe, unele substantive. Replica programului se construiește apoi astfel încît să le conțină exact pe acestea sau pe unele înrudite (vezi imaginea).
ELIZA a fost începutul acestei discipline, care s-a dezvoltat precum un bulgăre de zăpadă ce se rostogolește la vale. În plus, în afară de programarea propriu-zisă a roboților conversaționali, Weizenbaum este parte a unui grup de cercetători cu activitate și în domeniul subiectelor etice și psihologice pe care le stîrnesc astfel de rezultate. Și nu ne referim aici numai la satira rogeriană, ci la lucrări cu substanță la intersecția între informatică, matematică, psihologie, științe cognitive și filosofie. Un exemplu semnificativ este cartea lui Norbert Wiener, părintele ciberneticii, această artă și știință a comunicării între om și mașină. Dumnezeu și golemul a fost publicată, poate nu întîmplător, în anul în care se „năștea” ELIZA: 1964.
Teme de gîndire
Cum înțelegeți întrebarea dacă un computer poate gîndi? Cum v-ați defini propriul joc al imitației: ce trebuie să facă un computer pentru a „trece drept om”?
Care credeți că sînt domeniile în care un computer poate înlocui cu succes omul? Dar cele în care inteligența artificială nu are nicio șansă?
Care dintre posibilele progrese ale tehnologiei și inteligenței artificiale credeți că ar fi cele mai utile omenirii și în ce sens ați defini această utilitate? Dar dacă ne referim la dezvoltări periculoase?
Cîtă atenție acordați problemelor etice provocate de inteligența artificială? Este binevenit să judecăm cu aceeași monedă a eticii umane? Ar trebui dezvoltată o nouă abordare a „eticii computerelor”? Ar trebui abandonată complet această problemă?
Formulați propriile răspunsuri în primă fază. Apoi, cercetați pe Internet subiecte precum etica computerelor, argumentul camerei chinezești, inteligența artificială prietenoasă, etică în spațiul cibernetic, cibernetică. Termenii specifici în engleză sînt, respectiv: computer ethics, the Chinese room argument, friendly AI, cyber ethics, cybernetics.
Scrieți-ne răspunsurile voastre în comentarii sau prin email la newsletter[at]poligon-edu.xyz.
Bibliografie și recomandări de lectură
Alan M. Turing, Computer Machinery and Intelligence, 1950, articol disponibil gratuit aici.
Joseph Weizenbaum, ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine, 1964, articol disponibil gratuit aici.
Norbert Wiener, Dumnezeu și golemul, 1964, disponibilă în română la Humanitas.