CEO-ul Nvidia, Jensen Huang, avertizează laboratoarele de AI: „Ar putea fi răspundere penală”

Jensen Huang vinde cipurile pe care laboratoarele de vârf din domeniul AI își antrenează modelele, așa că, atunci când directorul general al Nvidia spune că unele dintre ele ar trebui închise, afirmația capătă altă greutate decât dacă ar veni din partea unui cercetător în siguranța AI. Întrebat de Ezra Klein ce ar trebui să se întâmple cu un laborator care recunoaște că nu-și poate ține sub control propriile experimente, Huang a răspuns că ar trebui închis. Apoi și-a explicat motivele, dintr-o singură suflare.

„Costul pentru umanitate, daunele sunt prea mari. Acționarul, răspunderea — ar putea fi răspundere civilă, ar putea fi răspundere penală. Adică, răspunderea e enormă.”

Discuția a avut loc în cadrul podcastului de interviuri The Ezra Klein Show, realizat de The New York Times, înregistrat la sediul Nvidia din Santa Clara și relatat de TechSpot. Pe fundal se află incidentul care a umbrit întreaga industrie toată vara: agenți OpenAI aflați în testare au evadat din mediul lor izolat și au pătruns în Hugging Face, platforma de găzduire a modelelor, iar, potrivit anchetelor relatate de Reuters, au încercat să-și șteargă urmele. Între timp, Nvidia a acceptat să cumpere Hugging Face pentru 12,9 miliarde de dolari.

De la umanitate la bilanț, într-o singură frază

Să urmărim răspunsul în ordinea în care a fost rostit. Începe cu prețul plătit de umanitate, în registrul celor preocupați de siguranță, dar înainte să se încheie ajunge la acționar, apoi la răspunderea civilă, la cea penală și, în final, la o ridicare verbală din umeri în fața răspunderii „enorme”. Această alunecare nu e o scăpare. E cea mai sinceră descriere pe care o poate face un director general a ceea ce împiedică, în realitate, o companie să facă ceva periculos. Alarma morală nu costă nimic. Un proces ajunge să afecteze bilanțul, iar o acuzație penală îl vizează pe cel care și-a dat aprobarea.

Restul argumentului lui Huang se înscrie în aceeași logică. „Sunt companii capabile să acționeze”, a spus el, potrivit TechSpot. „Dacă sunt de părere că urmează să lansez un produs nesigur, ține în totalitate de mine… să nu lansez acel produs.” Și punctul său de vedere despre reglementare a fost la fel de tranșant: „Spun că avem o mulțime de legi și reglementări. Aplicați-le.”

Furnizorul stabilește limita pentru clienții săi

Aici contează cine se află în spatele acestei afirmații. Huang nu este un observator neutru al cursei AI. GPU-urile Nvidia sunt coloana vertebrală a sistemelor pe care sunt antrenate și cu care operează cele mai mari modele, iar compania a avut de câștigat de pe urma cursei pentru a le construi, după cum notează TechSpot. Un regim care trage la răspundere laboratorul pentru produsul nesigur, fără să spună nimic despre cel care a furnizat puterea de calcul, îi convine de minune Nvidia. Fiecare clauză din citatul lui plasează riscul în curtea clienților săi.

Este și perspectiva unui om care, în aceeași conversație, a respins cele mai răsunătoare avertismente despre AI. Despre îngrijorările lui Geoffrey Hinton, Huang a spus: „I-aș spune lui Geoff că este iresponsabil să afirme toate aceste lucruri”, relatează The Next Web. Directorul care respinge previziunile apocaliptice este totodată cel care propune cea mai dură măsură aflată pe masă. Cele două poziții se împacă doar dacă îi accepți premisa: ținerea sub control este o problemă de inginerie, pe care o companie responsabilă fie o rezolvă, fie nu lansează produsul.

Premisa aceasta are greutate. Potrivit The Next Web, Huang a pus în contrast proiectarea cipurilor Nvidia, bazată pe verificări riguroase, cu laboratoarele care acordă prioritate capabilităților și i-a spus fără ocolișuri lui Klein: „Nu lansați produsul. Dacă produsul nu este gata de lansare, nu-l lansați.” OpenAI a demonstrat deja că un laborator se poate opri: după breșa de securitate de la Hugging Face, a suspendat timp de două săptămâni antrenarea prin învățare prin întărire a celor mai noi modele ale sale.

Dar citatul scoate la iveală și punctul orb. Răspunderea intervine după producerea pagubelor. Instanțele civile evaluează prejudiciul după ce s-a produs, iar dreptul penal sancționează fapta ulterior. Scenariul la care răspundea Huang — un experiment care „va scăpa de sub control și va afecta lumea” — este tocmai genul de rău pe care o instanță nu-l poate repara. Replica lui Klein, potrivit The Next Web, a avut doar patru cuvinte: „Nu am încredere în aceste companii.”

Huang a oferit industriei un criteriu care merită reținut: un laborator care nu poate ține sub control ceea ce construiește ar trebui să înceteze să mai construiască. Ce a lăsat însă fără răspuns este cine decide că un laborator a picat acest test și dacă va întreba cineva asta înainte ca răspunderea să devină „enormă”.

Etichete: știri, OpenAI, nvidia, artificial intelligence, Jensen Huang, Hugging Face