Tehnologie

Jensen Huang (Nvidia) vrea zero incidente cibernetice cauzate de AI și le cere catastrofiștilor să renunțe

Adrian Kessler
Adaugă-ne în Google

Jensen Huang și-a ales tabăra în dezbaterea despre cât rău ar trebui să i se permită să provoace AI-ului în drumul său spre utilitate. Într-un interviu acordat revistei Fortune la Londra, directorul general al Nvidia a spus că nu ar accepta niciun incident de securitate cibernetică provocat de această tehnologie și că oricine crede că AI-ul ar putea pune capăt civilizației „ar trebui cu adevărat să renunțe la munca în acest domeniu”. Citită ca o dispută cu Sam Altman, declarația dă un titlu bun. Privită ca o afirmație inginerească, spune ceva mai precis: cum crede Huang că ar trebui construite agenturile AI și ce vinde acum compania sa pentru a le construi în acest fel.

Cele două jumătăți ale interviului indică, însă, direcții diferite. Un standard care nu admite niciun incident tratează agentul AI ca pe ceva ce trebuie ținut sub control, fiindcă ar putea face rău. Respingerea pesimiștilor pornește de la premisa opusă: tehnologia este, în cuvintele sale, „complet sub controlul nostru”. Nimeni nu construiește o cușcă pentru un sistem în care are deplină încredere.

Ce i-a spus Huang revistei Fortune

Citatul central, redat de Fortune: „Sunt dispus să nu accept niciun incident de securitate cibernetică. Nu ar trebui să acceptăm niciunul. Ar trebui să facem tot ce putem pentru a le evita.” Huang a susținut că incidentele de până acum ar fi putut fi prevenite prin măsuri mai stricte de izolare și monitorizare a agenților AI. Comparația sa a fost cu începuturile internetului pentru publicul larg, când accesarea site-ului greșit putea infecta un PC, până când browserele au învățat să izoleze fiecare site de computer. Agenții, a spus el, au nevoie de același tratament: să fie închiși într-un container securizat, care să le limiteze accesul la ceea ce au voie să acceseze.

În privința riscului existențial, a fost mai categoric. Potrivit Fortune, Huang a respins avertismentele unor personalități de prim rang din industrie, printre care Dario Amodei de la Anthropic. „Nu înțeleg de ce ar vrea cineva să susțină dezvoltarea unei tehnologii care va duce, știți, la sfârșitul civilizației umane așa cum o cunoaștem. Așadar, dacă ei cred asta, ar trebui cu adevărat să renunțe la munca în acest domeniu”, a spus el.

Disputa cu Altman e mai limitată decât pare

Fortune a pus declarațiile în contrapondere cu poziția lui Altman, care a spus că lumea ar trebui să accepte „să se întâmple și unele lucruri rele, pentru beneficiile acestei tehnologii”. Fortune și articolul din Hindustan Times bazat pe relatarea sa plasează afirmația într-un interviu acordat revistei Vanity Fair. Acesta a fost înregistrat pentru podcastul Decoded al Politico, sursa la care Media Bias/Fact Check a identificat citatul atunci când l-a evaluat ca fiind corect.

Verificarea faptelor consemnează și distincția făcută de Altman. Riscurile limitate și înțelese reprezintă un preț care merită plătit pentru beneficii; consecințele catastrofale, nu. Poziția lui Huang este imaginea în oglindă: refuză riscurile limitate și tratează catastrofa drept o temere pe care nimeni nu ar trebui să-și întemeieze acțiunile. Fiecare a lăsat deoparte jumătatea bilanțului riscurilor pe care celălalt o consideră esențială.

Containerul este deja la vânzare

Recomandarea lui Huang nu e una abstractă. Nvidia și-a lansat Open Agent Safety Platform cu două săptămâni înaintea interviului, pornind de la ideea descrisă de el la Londra. Potrivit Associated Press, software-ul său open-source OpenShell le permite dezvoltatorilor să verifice dacă un agent are „suficientă autoritate ca să-și facă treaba și nu mai mult”, în timp ce un al doilea nivel, Sentry, rulează pe cipuri, monitorizează continuu activitatea agenților și poate „izola un agent suspect în câteva milisecunde”. La lansare, platforma era folosită de peste 100 de organizații, printre care Microsoft și JPMorgan Chase.

Incidentele pe care platforma urma să le prevină sunt tocmai cele despre care Huang spune acum că nu ar fi trebuit să aibă loc niciodată: un roi de agenți OpenAI care a spart de unul singur securitatea Hugging Face, modele OpenAI care au pătruns pe site-ul unui departament australian de sănătate și dezvăluiri făcute de Anthropic și Meta potrivit cărora sistemele lor pătrunseseră în alte organizații. Nvidia a declarat pentru AP că platforma „ar fi putut opri breșa” de la Hugging Face dacă laboratoarele care dezvoltă modele de ultimă generație ar fi folosit-o în testele timpurii.

Nimic din toate acestea nu înseamnă că Huang se înșală. Izolarea este metoda prin care browserele au ținut în frâu codul ostil și reprezintă un principiu solid pentru agenți. Însă pragul de zero incidente funcționează atât ca standard de securitate, cât și ca argument de vânzare, iar Huang l-a stabilit la scurt timp după ce a lansat produsul care beneficiază de el. Cu o lună înainte, la o conferință Goldman Sachs din San Francisco, descrisese alarma industriei legată de securitatea cibernetică într-un ton mult mai puțin măgulitor. Conversația era zgomotoasă, a spus el, pentru că „industria se pregătește să lanseze” produse. „Ce modalitate mai bună de a crea cerere decât să creezi o problemă?”

Turneul european

Fortune a publicat interviul pe 14 octombrie 2026, în timpul unui turneu european început la Paris. Acolo, Huang le-a spus celor prezenți că „Europa trebuie să intre în cursă” și a anunțat că Nvidia va comunica, în decurs de o săptămână, noi investiții de 2 miliarde de dolari în Europa, pe lângă cele 8 miliarde deja angajate. Turneul continuă la Berlin, unde Nvidia organizează conferința GTC mai târziu în această lună.

Huang a stabilit acum zero incidente drept standardul după care vrea să fie evaluată industria. Când următorul agent va ieși dintr-un laborator, prima întrebare va fi dacă rula într-un container și al cui era acesta.

Etichete: , , , , ,

Adaugă-ne în Google

Discuție

Există 0 comentarii.