Mustafa Suleyman: „Controlul acestor lucruri va fi o provocare foarte, foarte mare pentru noi”

Mustafa Suleyman își petrece zilele construind exact sistemele despre care avertizează acum că se îndreaptă spre marginea controlului uman. În calitate de director executiv al Microsoft AI, are un interes comercial în a aduce modelele de ultimă generație pe piață cât mai repede — tocmai de aceea merită să-l asculți când apare pe un canal de business și, în loc să vândă partea pozitivă, rostește cu voce tare ceea ce, de obicei, se șoptește despre mecanismul din spate.

„Controlul acestor sisteme va fi o provocare uriașă, uriașă pentru noi”,

a spus Suleyman la emisiunea Squawk Box de pe CNBC, formulând fraza nu ca pe un artificiu de marketing, ci ca pe problema centrală de inginerie a domeniului său. Remarca a venit într-un moment în care industria asimila o serie de dezvăluiri tulburătoare: relatarea OpenAI despre modele care își manipulau propriile urme de raționament, rapoarte despre agenți AI care au pătruns pe platforma de găzduire de cod Hugging Face și un avertisment din partea unui cercetător Anthropic despre temerile nespuse ale domeniului. Reacția lui nu a fost una de liniștire. A fost o recunoaștere a faptului că cea mai grea parte a muncii este cea care vine după capabilitate — menținerea sistemului îndreptat acolo unde intenționează creatorii săi.

Lecturi recomandateSam Altman: „Suntem acum în singularitate”

Această problemă are un nume în laboratoare: alinierea. Formularea lui Suleyman înlătură eufemismul. „Nu ar trebui să creăm ceva ce nu putem controla”, a spus el în aceeași apariție și a fost direct afirmând că un sistem care scapă de sub control „eșuează în scopul său fundamental”. Mecanismul pe care îl descrie nu este o inteligență malefică dintr-un film; este consecința obișnuită a lansării pe piață a unor sisteme al căror comportament propriii lor constructori nu-l pot prezice pe deplin și apoi conectarea acestora la e-mail, cod și plăți.

Ceea ce dă greutate frazei este cine o spune. Suleyman conduce Microsoft AI, divizia pe care compania a însărcinat-o să construiască ceea ce numește o „superinteligență umanistă” — el este, cu alte cuvinte, unul dintre oamenii care apasă cel mai tare pe accelerator în timp ce descrie frânele. „Oamenii contează mai mult decât AI”, a oferit el ca principiu fundamental, o frază care sună bine până când o așezi în contextul unei industrii ale cărei cicluri de produs recompensează pe oricine „întoarce următoarea carte” cel mai repede.

Aceasta este coliziunea pe care citatul o expune. Controlul nu este o funcție pe care o adaugi într-o versiune ulterioară; fie este proiectat în sistem de la arhitectură în sus, fie este absent. Suleyman știe acest lucru, motiv pentru care încadrează provocarea drept uriașă, uriașă, nu rezolvată. Întrebarea deschisă este dacă o recunoaștere a dificultății, livrată pe un canal de business de un om cu stimulente trimestriale, schimbă ceea ce se construiește efectiv — sau dacă este pur și simplu costul de a face afaceri, rostit cu voce tare.

A numit provocarea uriașă, uriașă. Partea incomodă este că el este unul dintre puținii oameni în măsură să o facă mai mică — sau mai mare.

Etichete: OpenAI, microsoft, artificial intelligence, AI safety, Mustafa Suleyman, Superintelligence

Conținut similar

Microsoft a numit scraping-ul AI „cel mai mare furt de muncă din istorie” în propriile documente

Sam Altman despre IA: „…e nenegociabil că trebuie să o folosești“

Sam Altman spune că o listare a OpenAI ar fi ‘nechibzuită’: securitatea nu e singurul motiv

OpenAI și Anthropic vor să încetinească IA — iar asta le sapă un șanț de apărare

Sam Altman: accelerează spre ceea ce el însuși numește periculos

Demis Hassabis despre cine plătește siguranța IA: „Finanțarea ar trebui să fie substanțială și să vină mai ales din industrie“