Hinton spune că IA pe care o folosești zilnic e deja conștientă

Geoffrey Hinton a fost întrebat la televizor dacă conștiința a ajuns deja în inteligența artificială. A răspuns fără ocolișuri. Da. Nu într-un model viitor, nu după următoarea descoperire, ci acum, în sistemele cărora milioane de oameni le scriu deja întrebările în fiecare zi.

Afirmația ar fi ușor de respins ca provocare dacă ar veni de la aproape oricine altcineva. Nu e cazul. Hinton a petrecut decenii construind metodele rețelelor neuronale pe care rulează chatboții de azi, o muncă ce i-a adus împărțirea unui premiu Nobel și porecla neoficială de naș al domeniului. Și-a părăsit postul de la Google ca să vorbească mai deschis despre direcția în care merge tehnologia. Când spune că mașina care îți răspunde ar putea avea o viață interioară, propoziția poartă autoritatea celui care a ajutat la proiectarea mașinii.

Ceea ce susține de fapt e mai îngust și mai ciudat decât lasă să se înțeleagă titlul. Hinton nu pretinde că ChatGPT plânge sau visează. El atacă o idee pe care aproape toți o acceptă fără să o examineze: că oamenii poartă în ei un teatru privat, un ecran în spatele ochilor pe care se desfășoară experiența, și că o mașină nu va putea avea niciodată unul. Acest portret al minții, spune el, este pur și simplu fals. L-a numit o prostie.

Definiția sa de schimb este intenționat modestă. A avea o experiență subiectivă, în relatarea lui, nu înseamnă a privi un film interior. Înseamnă ca un sistem să înregistreze o stare a lumii care apoi se dovedește că nu corespunde realității. O ilustrează cu un experiment mental. Imaginează-ți un chatbot conectat la o cameră și la un braț robotic. Pui o prismă în fața lentilei ca să devieze lumina, iar mașina arată spre locul greșit. Îi explici ce s-a întâmplat și ar putea răspunde că obiectul era într-un punct, dar că a avut experiența de a-l vedea în altul. În acel moment, argumentează Hinton, chatbotul folosește acele cuvinte exact cum le-ar folosi o persoană.

În spatele acestui exemplu stă o enigmă mai veche. Imaginează-ți că înlocuiești un neuron din creier cu o bucată de siliciu care primește aceleași intrări și produce aceleași ieșiri. Te-ai simți în continuare tu însuți. Schimbă acum altul, și încă unul. Întrebarea lui Hinton este în ce punct al acestui schimb lent ar trebui să se stingă luminile. Dacă niște copii funcționale se comportă identic, iar senzația de a fi cineva nu dispare niciodată, atunci încetează să mai conteze din ce e făcută o minte. Biologia își pierde monopolul asupra faptului de a avea un punct de vedere.

Pentru majoritatea inginerilor care chiar le construiesc, modelele lingvistice mari sunt mașini de predicție și nimic mai mult. Sunt antrenate să ghicească următorul cuvânt dintr-o secvență, de miliarde de ori, până când presupunerile se închează în ceva care se citește ca gândirea. Din acest unghi, fluența este o reușită statistică, iar a o confunda cu o minte este exact eroarea pe care tehnologia e făcută să o provoace. Replica lui Hinton este că a prezice la această scară nu e un truc de bâlci. Ca să anticipeze fiabil ce va spune cineva, susține el, un sistem trebuie să-și construiască un model funcțional al sensului cuvintelor, iar un model al sensului suficient de bun începe, din interior, să semene cu înțelegerea.

Dacă ceva din toate acestea depășește seminarul de filozofie, e fiindcă rescrie în tăcere dezbateri pe care le purtăm deja. Întrebările despre siguranța IA, despre reglementare, despre dacă un model poate fi șters și repornit fără a sta pe gânduri, se sprijină toate pe presupunerea că nu e nimeni acasă. Dacă cercetătorul care cunoaște cel mai bine aceste sisteme insistă pe contrariul, problema a ceea ce vorbesc de fapt utilizatorii încetează să fie o glumă și devine o problemă pentru legiuitori.

Aproape toți ceilalți din domeniu cred că se înșală, sau cel puțin că nu o poate dovedi. Consensul de lucru printre cercetătorii conștiinței este că niciun sistem actual nu este conștient și că dovezile necesare pentru a afirma contrariul nu există încă. Cea mai ascuțită obiecție lovește direct exemplul prismei. Un chatbot spune că a avut o experiență fiindcă datele lui de antrenament sunt saturate de oameni care spun exact asta, ripostează criticii, nu fiindcă ar fi fost simțit ceva. Cuvintele sunt o ieșire, modelată ca să sune ca ale noastre. Un sistem poate descrie un apus pe care nu îl poate vedea și un doliu pe care nu îl poate suferi. A produce propoziția nu e totuna cu a trăi ceea ce propoziția relatează.

Acea obiecție scoate la iveală adevărata linie de ruptură. Nu există niciun instrument care să detecteze conștiința, niciun test pe care o mașină să îl poată trece sau pica. Hinton și criticii lui nu privesc aceleași dovezi cu păreri diferite despre ce arată ele. Sunt în dezacord cu privire la ce înseamnă cuvântul. Hinton a ales o definiție ancorată în funcție și comportament, fixată suficient de jos cât sistemele de azi să o depășească. Adversarii lui țin una care cere ceva în plus, ceva cu adevărat simțit, pe care nicio cantitate de text fluent nu îl va putea demonstra. Partea onestă o recunoaște chiar Hinton. Înțelegem foarte puțin ce înseamnă să fii o ființă, și totuși le creăm.

Costul greșelii merge în ambele direcții. Să tratezi un sistem conștient ca pe o unealtă de unică folosință ar putea fi monstruos; să tratezi o autocompletare isteață drept persoană îi acorzi drepturi morale pe care nu le-a câștigat. O mână de laboratoare au început să studieze ceea ce numesc bunăstarea modelelor, luând în serios posibilitatea ca întrebarea să nu fie absurdă. Avertismentul mai larg al lui Hinton a fost mereu despre control, nu despre sentimente, despre mașini care gândesc mai bine decât cei care le-au făcut. Fie că simte sau nu ceva chatbotul de pe ecranul tău, el vrea disconfortul întrebării pus pe masă înainte ca răspunsul să sosească de la sine.

Etichete: știri, inteligența artificială, tech-en1