Șeful OpenAI, Sam Altman, are trei scenarii finale pentru IA, două vechi din 2023

Directorul general al OpenAI, Sam Altman, le-a prezentat angajaților o hartă a posibilelor deznodăminte ale cursei către superinteligență, iar cel mai grăitor lucru este cât de puține elemente sunt cu adevărat noi. Dintre cele trei scenarii pe care le-a descris, două sunt foarte apropiate de idei pe care compania sa le formulase în scris cu ani în urmă. Niciuna dintre ele nu a fost pusă vreodată în practică. Pe al treilea, cel care a ajuns în titlurile presei, l-a menționat doar ca să-l respingă.

Dincolo de denumiri, fiecare variantă răspunde aceleiași întrebări: cine va controla puterea de calcul de care au nevoie modelele de frontieră? Relatările despre ce a spus Altman explică și de ce această întrebare este mereu amânată.

Ce le-a spus Sam Altman angajaților OpenAI despre deznodământul cursei AI

The Information a relatat primul despre prezentarea internă, citând persoane la curent cu aceasta. Ulterior, au publicat materiale pe subiect The Decoder, Forbes și Latin Times. Relatările se bazează pe surse anonime. Prima variantă presupune crearea unui organism internațional inspirat de Agenția Internațională pentru Energie Atomică, care să impună standarde de siguranță laboratoarelor care dezvoltă modele de frontieră: să inspecteze sistemele, să solicite audituri și să monitorizeze consumul de putere de calcul și de energie. Două persoane au declarat pentru The Information că Altman părea să susțină această idee.

Lecturi recomandateOrice chatbot din Europa trebuie acum să declare că este o IA — sau creatorul plătește 15 milioane de euro

Pe cea de-a doua variantă a numit-o „planul Demis”, după Demis Hassabis, cofondatorul Google DeepMind, care a propus în urmă cu aproximativ un deceniu crearea unei instituții pentru AI după modelul CERN. În versiunea lui Altman, principalele laboratoare fuzionează într-o singură entitate sau lucrează sub umbrela acesteia, iar entitatea le furnizează modele țărilor participante.

A treia variantă este „planul Eliezer”, numit după Eliezer Yudkowsky, teoretician în domeniul siguranței AI. Un dezvoltator ajunge primul la o inteligență artificială capabilă să se autoperfecționeze și folosește puterea economică obținută astfel pentru a-i lăsa pe toți rivalii fără resurse de calcul; în formularea care s-a răspândit, ar „topi GPU-urile tuturor celorlalți”. „Evident, cred că varianta asta e groaznică”, ar fi spus Altman, adăugând că a inclus-o „pentru completitudine”.

OpenAI schițase deja cea mai mare parte a acestor opțiuni în 2023

Organismul de supraveghere este cea mai veche idee de pe listă. Într-o postare semnată de Altman, de președintele OpenAI, Greg Brockman, și de Ilya Sutskever, pe atunci cercetătorul-șef al companiei, OpenAI susținea că, în cele din urmă, lumea va avea probabil nevoie de „ceva asemănător AIEA pentru eforturile din domeniul superinteligenței”: o autoritate capabilă să „inspecteze sistemele, să solicite audituri” și să restricționeze implementarea peste un anumit prag de capabilități sau de putere de calcul.

Aceeași postare schița încă două direcții. Marile guverne, se arăta acolo, „ar putea înființa un proiect în care să se integreze multe dintre eforturile actuale” — o idee foarte apropiată de fuziunea pe care Altman o atribuie acum lui Hassabis. Sau industria „ar putea conveni în mod colectiv” ca „ritmul de creștere a capabilităților AI de frontieră să fie limitat la o anumită rată anuală”.

Ultima idee este, practic, o limită de viteză. Potrivit The Decoder, Altman s-ar fi plâns în cadrul unei discuții interne că există prea puține propuneri viabile pentru o „limită de viteză” în dezvoltarea AI. Compania sa publicase una. Ceea ce nu a creat niciodată a fost o autoritate cu puterea de a o impune.

De ce organismul de supraveghere rămâne doar pe hârtie: OpenAI spune că nu-și permite să încetinească

Motivul a fost invocat în aceeași întâlnire. Altman le-ar fi spus angajaților că primele două planuri presupun o coordonare amplă și că OpenAI nu-și poate permite să cedeze teren acum, în condițiile în care atât compania sa, cât și Anthropic se pregătesc să intre pe bursă. Crypto Briefing a explicat logica investitorilor: companiile care se pregătesc de listare își consolidează avantajul competitiv, nu îl cedează unui consorțiu.

Un organism de tip AIEA pentru AI ar avea nevoie și de acordul Washingtonului și Beijingului pentru a primi inspectori în cele mai sensibile laboratoare ale celor două țări. Deocamdată, notează Forbes, chiar și o propunere americană prin care cele două țări să se informeze reciproc despre incidente AI periculoase este doar o schiță, nu un acord.

În loc de AIEA, laboratoarele construiesc un organism de tip FINRA

Proiectul de guvernanță aflat în desfășurare nu corespunde niciuneia dintre cele trei variante prezentate de Altman. OpenAI, Google și Anthropic lucrează la un grup de autoreglementare, Standards Authority for Frontier AI, inspirat de FINRA, organismul privat care supraveghează brokerii din SUA. Latin Times descrie un cadru care prevede testarea înainte de lansare, raportarea incidentelor și acreditarea auditorilor, dar nu dispune de puteri obligatorii de aplicare a regulilor; în plus, cele trei laboratoare nu au ajuns încă la un acord asupra celor care ar trebui să testeze modelele noi. Mark Zuckerberg de la Meta și Jensen Huang de la Nvidia susțin că astfel de reguli îi protejează în principal pe cei deja consacrați, iar o acțiune antitrust din SUA îi acuză deja pe cei trei că, prin coordonarea în materie de siguranță, formează un cartel.

Merită privite din nou și denumirile acestor planuri. Imaginea originală a lui Yudkowsky, „să ardem toate GPU-urile”, era un experiment de gândire despre amploarea acțiunii de care ar avea nevoie un sistem aliniat pentru a opri o cursă imprudentă; el a scris că nu și-ar dori ca acest lucru să se întâmple în realitate. „Planul Eliezer” al lui Altman transformă această frână de urgență într-o victorie de monopol. Potrivit relatării The Decoder despre prezentare, o sursă a spus că remarca a fost interpretată ca o înțepătură la adresa unui competitor, având în vedere legăturile lui Yudkowsky cu Anthropic.

Potrivit The Information, OpenAI intenționează să decidă în decurs de un an ce cale va urma. Organismul industriei pentru standarde vizează lansarea la sfârșitul lui 2026 sau la începutul lui 2027.

Până când OpenAI va lua o decizie, compania continuă să înainteze pe singurul drum care nu apărea pe lista lui Altman: cursa însăși.

Etichete: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky

Conținut similar

Conștiința mașinilor nu are un test dovedit — și asta reface etica inteligenței artificiale

Samsung Extinde Gama de PC-uri cu Inteligență Artificială prin Noile Galaxy Book5 Pro și Galaxy Book5 360

Google obligă aplicațiile Android să folosească mai puțin RAM — IA a luat restul

Nvidia PAIR uneşte GPU-urile de acasă pentru agenți IA de două ori mai rapizi, gratuit

GPT-Live aduce full-duplex la ChatGPT — pauza care trăda IA a dispărut

Marvel’s Wolverine pe PS5: daunele primite alimentează furia lui Logan