Demis Hassabis despre creierul uman: „o aproximare biologică a unei mașini Turing”

Demis Hassabis și-a construit cariera pornind de la ideea că creierul uman este singurul model funcțional pentru inteligența generală. Săptămâna aceasta, un fragment dintr-o declarație a sa a devenit emblema a tot ceea ce, în opinia unui critic, industria inteligenței artificiale înțelege greșit despre minte. Însă fraza completă, din care a fost extras fragmentul, este mai nuanțată și mai revelatoare decât formularea care s-a răspândit.

„o aproximare biologică a unei mașini Turing.”

Expresia stă la baza unui eseu semnat de Benjamin Riley în The Verge, „Our minds aren’t equipped to handle AI”. Riley își începe textul cu o idee a pionierului ciberneticii Norbert Wiener: „Gândirea fiecărei epoci se reflectă în tehnica ei”, apoi îl prezintă pe Hassabis, în prezent președintele Google DeepMind și directorul științific principal al Alphabet, drept cel mai clar exemplu al unei industrii care își vede propriile mașini atunci când privește un craniu. Cuvintele provin dintr-o conversație cu James Manyika, publicată anul acesta în Dædalus, revista American Academy of Arts and Sciences.

Ce spune fraza completă

În Dædalus, Hassabis explica ce înseamnă AGI pentru el. O definește drept „un sistem care manifestă toate capacitățile cognitive ale minții umane”, pentru că creierul este „singura dovadă concretă pe care o avem până acum, poate chiar în întregul univers, că inteligența generală este posibilă”. Apoi urmează fraza completă: „Creierul poate fi privit ca o aproximare biologică a unei mașini Turing, ceea ce înseamnă că, teoretic, ar putea învăța orice este calculabil.” Fraza următoare pune însă o limită. Orice sistem finit are nevoie de „un anumit grad de specializare, fiindcă timpul, memoria și informația sunt limitate”.

Citită astfel, afirmația nu spune că oamenii sunt laptopuri. Este o afirmație despre amploarea lucrurilor pe care le-ar putea învăța un creier, în principiu, și funcționează totodată ca o specificație inginerească. Dacă creierul este mașina de referință, AGI este orice sistem care îi egalează întreaga gamă de capacități. Hassabis schițează chiar și un test: antrenezi un model cu un orizont al cunoștințelor oprit în 1910 și vezi dacă ajunge la relativitatea generală, așa cum a făcut Einstein în 1915. „Deocamdată, răspunsul este clar: nu”, spune el.

Critica operează la un alt nivel

Obiecția lui Riley ține de cu totul altceva. Bazându-se pe cercetările lui Paul Cisek, neurolog la Universitatea din Montreal, el susține că e mai potrivit să înțelegem creierul ca pe un sistem de control cu feedback, care acționează asupra lumii pentru a schimba ceea ce percepe și care este modelat mai întâi de evoluție, apoi de cultură: imitație, limbaj, scris, școli. În acest model, un chatbot care face partea solicitantă a gândirii este „un hot dog cognitiv”: tentant pe moment, dar nociv dacă devine o hrană obișnuită. Riley amintește că Leah Belsky, directoarea departamentului de educație al OpenAI, a numit ChatGPT „cea mai mare platformă de învățare din lume” și invocă un studiu din China, potrivit căruia mii de elevi au încetat, în esență, să-și mai facă temele după ce au început să folosească inteligența artificială.

Clauza care tranșează disputa

Cea mai puternică contradicție se găsește chiar în paragraful lui Hassabis. Câteva rânduri mai jos, el spune că elementul esențial este „potențialul creierului de a învăța aproape orice, mai ales că putem proiecta și construi instrumente și mașini care să ne ajute să dobândim cunoștințe”. Această precizare cuprinde întreaga dispută. Riley nu demonstrează, de fapt, că perspectiva mașinii Turing este falsă. Dovezile sale se referă la instrumente care învață în locul unei persoane, nu la cele care o ajută să învețe. O afirmație despre calculabilitate descrie ce ar putea asimila teoretic un creier. Nu spune nimic despre măsura în care un anumit produs îl lasă pe cel care învață cu mintea mai plină sau mai goală.

Întrebarea îi revine acum celui care stabilește direcția științifică a Alphabet. În august, Hassabis a renunțat la atribuțiile zilnice de director general pentru a se concentra asupra strategiei și cercetării AGI, spunându-le angajaților, potrivit Fortune, că AGI este aproape și că este esențial pentru omenire să facem bine următorii pași. Un laborator care își evaluează mașinile în raport cu întreaga gamă de capacități ale creierului uman are un interes direct ca acea gamă să nu se restrângă în cazul oamenilor care le folosesc.

O aproximare a unei mașini Turing tot trebuie programată de ceva. În cazul oamenilor, acest lucru a însemnat întotdeauna munca lentă a învățării — singurul pas pe care un instrument îl poate fie amplifica, fie sări pe nesimțite.

Etichete: Demis Hassabis, Google DeepMind, AI in education, Artificial general intelligence, Turing machine