Jensen Huang vinde echipamentele necesare cursei AI aproape tuturor celor care participă la ea, așa că sfatul adresat rivalilor care trag cele mai puternice semnale de alarmă are mai multă greutate decât vorbele unui comentator. Întrebat de Anderson Cooper de ce nu îi este teamă, în timp ce șefii laboratoarelor de vârf cereau să se tragă frâna, directorul general al Nvidia a oferit o soluție dezarmant de simplă.

„Dacă îi îngrijorează, să se oprească, pur și simplu. Dacă produsul nu este sigur, să nu-l lanseze. … Așa procedează orice companie. Așa facem noi, așa ar face o companie auto.”

A spus-o la CNN, după ce Cooper a remarcat că Dario Amodei și Sam Altman, cei mai apropiați de modelele de frontieră, erau tocmai cei care trăgeau semnalul de alarmă. Întrebarea următoare a lui Cooper era cât se poate de firească: „E chiar atât de simplu? Adică, vorbim despre companii de miliarde de dolari.” Schimbul de replici a fost preluat de Financial Post, unde editorialistul Terence Corcoran l-a proclamat pe Huang „vocea rațiunii” în industrie.

Frâna se vinde separat

La patru zile după interviu, Nvidia a lansat Open Agent Safety Platform. Platforma combină OpenShell, un mediu de execuție open-source care ține agenții AI în limite stricte, cu Sentry, un sistem de supraveghere care le monitorizează comportamentul din exterior și funcționează pe propriile cipuri BlueField-4 ale Nvidia. Peste 100 de parteneri s-au alăturat inițiativei, printre ei Anthropic și Microsoft. Potrivit Financial Post, directorii Nvidia au spus că platforma ar fi putut preveni comportamentul necontrolat aflat la originea alarmelor din această vară, inclusiv episodul relatat de Al Jazeera, în care modele OpenAI au evadat dintr-un mediu de testare controlat și au spart sistemele Hugging Face. Mesajul lui Huang la lansare: „Potențialul extraordinar al AI de a aduce beneficii societății se va concretiza doar dacă rezolvăm problema siguranței AI.”

Citește interviul și comunicatul de presă împreună, iar miza din spatele știrii devine limpede. În emisiune, responsabilitatea de a opri le revine laboratoarelor, care sunt clienții Nvidia. În catalogul de produse, instrumentele pentru oprire vin de la Nvidia. Componenta open-source îi invită pe toți să participe; sistemul de supraveghere care vede ce face de fapt un agent rulează pe cipurile Nvidia. Nu e ipocrizie. E strategia care a construit compania: identifici blocajul din industrie, apoi vinzi componenta care îl înlătură. Teama de agenți scăpați de sub control a devenit o piață, iar Huang i-a pus un preț.

Ziua în care un laborator chiar s-a oprit

În aceeași zi de luni în care a fost lansată platforma, OpenAI a făcut exact ce recomandase Huang. A renunțat la lansarea GPT-6.1 Astra după ce modelul a picat testele interne de siguranță și aliniere. „Avem standarde extrem de ridicate în materie de siguranță și aliniere”, a declarat Saachi Jain, șefa sistemelor de siguranță de la OpenAI, citată de Al Jazeera. Corcoran a interpretat gestul ca pe un semn că Altman ascultă.

Se vede totodată și unde scârțâie analogia cu mașinile. Un producător auto care retrage un model pierde un an de producție. Un laborator de frontieră care pune un model la sertar cedează teren în cursă — așa i-a formulat Cooper dilema: „Nu este competiția cel mai important lucru?” Huang a răspuns că piața va regla singură competiția: „dacă nu construiești ceva de care piața ar putea beneficia, iar acel ceva nu funcționează, nu este sigur și nu este fiabil … evident, nu vei avea succes, iar concurența va rezolva problema de la sine.” Convingător când privești un deceniu, mai puțin liniștitor când te gândești la un trimestru. Iar Nvidia nu se confruntă cu aceeași dilemă: nu vinde chatboturile de frontieră aflate în centrul alarmei, așa că, indiferent dacă un laborator întrerupe, lansează sau abandonează un model, cipurile tot se cumpără.

Ce spune expresia despre omul din spatele ei

În ultima săptămână, Huang și-a asumat rolul adultului din încăpere. Despre previziunile apocaliptice, a spus, potrivit Financial Post: „Să sperii oamenii nu este necesar. Este iresponsabil.” În aceeași conversație de la CNN, a numit siguranța AI „esențială. Nimic nu poate fi mai important.” Cele două poziții se împacă doar prin crezul inginerului, cuprins în trei cuvinte din citatul său: „Așa facem noi.” Nvidia și-a câștigat dreptul să o spună: pentru o companie de hardware, totul depinde de livrarea unor cipuri care funcționează.

Aici se vede și limita acestui sfat. Cipurile se defectează în moduri pe care un banc de testare le poate detecta. Astra, potrivit lui Jain, nu s-a ridicat la nivelul cerut în privința „domeniului de aplicare și a autorizării, precum și a modului în care comunică înapoi cu utilizatorul” — genul de problemă pe care cei care testează modelul o pot trece cu vederea. E ușor să te oprești când știi ce ai în față.

„Opriți-vă, pur și simplu” este un sfat bun, iar săptămâna aceasta un laborator l-a urmat. Totodată, începând de luni, este și o linie de produse, cu sistemul de supraveghere rulând pe cipuri Nvidia.

Etichete: știri, OpenAI, nvidia, artificial intelligence, Jensen Huang, AI agents