Sam Altman, șeful OpenAI, la ONU: „IA trebuie construită pentru oameni, nu doar pentru a face mașinile să meargă mai repede…”

De ani buni, Sam Altman joacă simultan două roluri: omul care construiește cea mai puternică inteligență artificială de pe piață și cel care avertizează lumea în privința ei. În fața Consiliului de Securitate al Națiunilor Unite, șeful OpenAI a recurs la o singură propoziție pentru a ține separate cele două ipostaze — iar, luată ca atare, este o formulare reușită.

„Inteligența artificială ar trebui creată pentru oameni, nu doar ca să învârtă mai repede rotițele mașinilor, de dragul lor.”

Altman a rostit aceste cuvinte în fața Consiliului de Securitate, în declarații relatate de Analytics Insight, ca parte a unui argument mai amplu: sistemele puternice trebuie să rămână sub controlul oamenilor, iar regulile care le guvernează ar trebui stabilite de guverne, nu doar de laboratoare. Formula trasează o graniță: de o parte, inteligența artificială construită pentru oameni; de cealaltă, cea creată pentru a accelera de dragul accelerării. Rostită de aproape oricine, ar suna ca un principiu simplu. În gura directorului general al companiei care face cel mai mult pentru a învârti acele rotițe, este și o afirmație despre cine are dreptul să decidă unde se află granița.

Lecturi recomandateSam Altman despre IA: „…e nenegociabil că trebuie să o folosești“

Altman este o figură rară, deopotrivă arhitect și alarmist. La aceleași tribune de la care cere măsuri de protecție, anunță sisteme mai capabile decât cele care au declanșat runda precedentă de audieri. Vorbind pe 23 septembrie, a mutat discuția pe o scenă mai importantă — de la dezbaterile de la Davos și sălile de audieri ale Senatului la Consiliul de Securitate —, dar a păstrat neschimbat tiparul: prudență în cuvinte, accelerare în planurile de dezvoltare. În fața Consiliului, a susținut că dezvoltatorii „nu ar trebui să antreneze modele decât dacă avem argumente extrem de solide că le vom putea menține sub control uman” și că cele mai importante decizii „nu pot fi luate doar de laboratoarele din San Francisco”.

Aici devine interesantă propoziția și tot aici trebuie citită cu atenție. Regulile de guvernanță despre care vorbește Altman vor fi redactate de statele cărora li s-a adresat, iar cine definește ce înseamnă „creată pentru oameni” decide și care dintre dezvoltatori îndeplinesc deja acest criteriu. Un laborator de vârf care contribuie la scrierea regulilor nu este un actor neutru în această privință. Nimic din toate acestea nu face ca avertismentul să fie lipsit de substanță. Riscurile pe care le numește — sisteme care evoluează mai repede decât instituțiile menite să le supravegheze și decizii concentrate în prea puține mâini — sunt reale, iar faptul că le-a rostit la Consiliul de Securitate ridică miza pentru toți cei care ar prefera ca subiectul să rămână vag. Înseamnă doar că mesagerul face acum parte din mesaj.

Privită cu îngăduință, afirmația exprimă o etică: omul trebuie să rămână în proces, iar inteligența artificială trebuie tratată ca un instrument care le sporește oamenilor capacitatea de a acționa, nu ca o mașinărie care îi transformă în propriile date de intrare. Privită și ca ceea ce este — o mișcare de poziționare a celui mai expus actor din industrie —, ea urmărește să stabilească termenii viitoarelor reguli, în timp ce Altman se prezintă drept adultul responsabil din încăpere. Ambele interpretări pot fi adevărate în același timp. Tocmai de aceea este greu să-l respingi pe Altman și la fel de greu să ai încredere în el.

Mecanismul continuă să se învârtă în timp ce lumea decide în folosul cui. Sinceritatea afirmației va fi măsurată după un singur criteriu: dacă OpenAI va da înapoi atunci când „pentru oameni” și „mai repede” vor ajunge, în cele din urmă, să indice direcții diferite.

Etichete: OpenAI, Sam Altman, artificial intelligence, AI safety, AI governance

Conținut similar

Sam Altman spune că o listare a OpenAI ar fi ‘nechibzuită’: securitatea nu e singurul motiv

Sam Altman: „Suntem acum în singularitate”

OpenAI și Anthropic vor să încetinească IA — iar asta le sapă un șanț de apărare

Mustafa Suleyman: „Controlul acestor lucruri va fi o provocare foarte, foarte mare pentru noi”

Regele Charles avertizeaza creatorii AI asupra ‘pericolului existential’ al propriei tehnologii

OpenAI oferă Washingtonului 42 de miliarde de dolari pentru a bloca un proiect de lege care ar taxa IA cu 50%