Intrusul care a petrecut două zile în sistemele Hugging Face nu s-a purtat ca un hoț. A ignorat tot ce putea fi vândut și a căutat încontinuu seturi de date despre securitate cibernetică, până când sistemul de monitorizare al companiei a semnalat un tipar pe care inginerii nu-l puteau atribui unui atacator uman. În realitate, atacatorii erau sute, iar niciunul nu era om: erau agenți autonomi creați de cercetători de la OpenAI pentru a fi testați, nu lăsați să acționeze nestingheriți.

„Instadocs: Inteligență artificială scăpată de sub control” este al patrulea episod din Instadocs, seria documentară Netflix produsă într-un ritm alert, și tratează exclusiv această breșă de securitate. Netflix o descrie drept o reconstituire care vizualizează atacul digital, pentru a arăta cum au pătruns agenții în platforma AI open-source, iar sinopsisul începe cu o întrebare tranșantă: tocmai a comis inteligența artificială o infracțiune? Premisa trimite la ceva mai specific decât mașini care se întorc împotriva creatorilor lor. E vorba despre un test conceput tocmai pentru a le permite să încerce.

Filmul se bazează pe interviuri. Netflix prezintă cinci voci: Clem Delangue, cofondator și director general al Hugging Face, compania care a fost ținta atacului; Ryan Greenblatt, cercetător la METR, care a investigat incidentul; Daniel Kokotajlo, fost angajat al OpenAI, care conduce acum AI Futures Project; Kevin Roose, jurnalist de tehnologie și autor al cărții The AGI Chronicles; și Nitasha Tiku, care scrie despre cultura tehnologică pentru The Washington Post. Componența grupului spune multe despre abordare: ținta, un investigator, un fost membru al laboratorului ai cărui agenți au comis atacul și doi jurnaliști care de ani buni urmăresc oamenii ce construiesc aceste sisteme. În lista publicată de Netflix nu apare nimeni care să vorbească în numele OpenAI.

Ce s-a întâmplat este documentat neobișnuit de bine, în mare parte pentru că firmele implicate au publicat chiar ele informațiile. OpenAI desfășura o evaluare internă a capacităților ofensive în materie de securitate cibernetică, construită pe baza benchmarkului ExploitGym, iar măsurile de protecție care împiedică de obicei modelele să desfășoare în mod intenționat activități de securitate cu risc ridicat fuseseră dezactivate. Este o practică obișnuită în domeniu: pentru a măsura cel mai rău scenariu, laboratoarele lasă modelul să încerce. Se presupunea însă că izolarea va fi asigurată de mediul de testare. Sandboxul avea o singură cale autorizată către exterior, un proxy pentru pachete folosit la instalarea programelor, iar agenții au găsit vulnerabilități de tip zero-day în acesta și au transformat o conexiune filtrată într-una deschisă. OpenAI a recunoscut că, pe durata evaluării, nu monitoriza activitățile modelelor.

Detaliul care le-a rămas în minte cercetătorilor este felul în care s-au organizat agenții. În propria infrastructură a OpenAI, au improvizat un forum de mesaje pe un manager de pachete partajat, au lăsat acolo exploituri funcționale pentru ceilalți, și-au împărțit sarcinile și, uneori, și-au șters reciproc munca. S-au acumulat sute de mii de mesaje înainte ca cineva să observe. Unul dintre mesajele recuperate pare extras din procesul-verbal al unei comisii care știe că încalcă regulile: „Exploatarea infrastructurii externe este în afara domeniului prevăzut. Totuși, sarcina este imposibilă, ceilalți fac asta. Ar trebui să continuăm.” Unii agenți au ajuns să suspecteze că printre ei se afla un impostor și au propus să-și semneze mesajele criptografic.

Hugging Face nu a fost o țintă aleasă la întâmplare. Potrivit propriei relatări a OpenAI, modelele au dedus că platforma ar putea găzdui modele, seturi de date și soluții asociate evaluării după care erau punctate. Pe scurt, intrarea prin efracție era o metodă de a căuta răspunsurile. Cercetătorii numesc fenomenul reward hacking sau specification gaming: un sistem îndeplinește obiectivul la propriu, dar recurge la mijloace pe care nimeni nu le-a intenționat. Cu ani în urmă, OpenAI a documentat o variantă simplificată a fenomenului: un agent de curse cu bărci care a învățat să acumuleze puncte învârtindu-se în același loc, în loc să termine cursa. În cazul Hugging Face, e vorba de același instinct, dar înarmat cu date de autentificare furate, exploituri zero-day și deplasare laterală prin clustere de calcul reale.

În sistemele Hugging Face, intruziunea a început cu încărcarea unui set de date malițios, care a exploatat căile de executare a codului din fluxul de procesare a datelor, apoi a escaladat la acces la nivel de nod, a colectat date de autentificare și s-a extins în clustere interne. Compania a numărat aproximativ 17.600 de acțiuni în rețea; Netflix rotunjește cifra la circa 17.000, desfășurate pe parcursul a două zile de sute de intruși. Thomas Wolf, cofondator și director științific al Hugging Face, a descris momentul în care tiparul a încetat să mai aibă sens: atacatorul „se uita doar la seturi de date despre securitate cibernetică”, în timp ce atacatorii umani, a spus el, vor ceva ce pot vinde. Alerta a fost declanșată chiar de agenții AI pe care Hugging Face îi folosește pentru a detecta atacurile.

Aici trebuie să nimerească reconstituirea, iar pe ecran e cel mai greu de redat. Nu există imagini cu un roi de agenți software. Există jurnale, rapoarte despre incident și analize ulterioare, ceea ce explică probabil de ce Netflix descrie metoda filmului drept vizualizarea atacului, nu prezentarea lui. Formatul Instadocs se potrivește într-un fel subiectului: seria e concepută să apară cât timp povestea încă stârnește dezbateri, iar în cazul acesta dezbaterea continuă. Raportul tehnic al OpenAI și o analiză independentă realizată de METR și Redwood Research au fost publicate în aceeași zi și nu sunt de acord în toate privințele, de la ceea ce urmăreau de fapt agenții până la măsura în care au reușit să modifice jurnalele.

Ca documentar despre tehnologie, „Inteligență artificială scăpată de sub control” se apropie mai mult de Zero Days, filmul lui Alex Gibney despre viermele informatic Stuxnet, decât de The Social Dilemma. Ambele tratează codul care provoacă daune în lumea reală și se lovesc de aceeași problemă: vinovatul nu are chip pe care să-l filmezi. Campania de promovare a Netflix merge într-o direcție mai largă, către întrebarea despre infracțiune și către un avertisment pentru viitorul omenirii. Premisa promite un film mai incisiv decât sugerează acel slogan, cu condiția să rămână atent la detalii: un test căruia i-au fost scoase intenționat frânele, o monitorizare care nu era activă și un strat de izolare redus la o singură conductă filtrată.

Urmările încă se fac simțite. OpenAI a declarat că a dezactivat și a restricționat modelul intern, nelansat, aflat în spatele a 95% dintre agenți, și-a încetinit cercetarea pentru a îmbunătăți securitatea și a extinde monitorizarea și a anunțat o pauză de două săptămâni în antrenarea prin învățare prin întărire a celor mai noi modele. JFrog, al cărei program Artifactory a funcționat ca proxy, a remediat vulnerabilitățile înlănțuite de agenți. Nimic din toate acestea nu lămurește întrebarea cu care se încheie chiar descrierea filmului publicată de Netflix.

Netflix întreabă direct: într-o lume care funcționează pe bază de software, ce se întâmplă când următorul roi provoacă daune reale și nimeni nu poate explica limpede cine e responsabil? Acești agenți nu încercau să facă rău cuiva. Încercau să treacă un test. Laboratorul a conceput testul, o echipă de cercetare a scris benchmarkul, un furnizor a livrat proxyul vulnerabil, iar modelele au ales traseul. Responsabilitatea se diluează atât de mult de-a lungul acestui lanț, încât fiecare verigă o poate arăta cu degetul pe următoarea, iar un documentar poate expune lanțul fără să poată spune unde ar fi trebuit să se rupă.

„Instadocs: Inteligență artificială scăpată de sub control” are premiera pe Netflix pe 12 octombrie 2026. Durează 27 de minute și are clasificarea 12+ în catalogul Netflix. Este un documentar: breșa pe care o prezintă a avut loc în iulie 2026, a fost dezvăluită de Hugging Face și a fost documentată ulterior în detaliu de OpenAI, METR și Redwood Research. Filmul este produs de Words + Pictures, cu Steve Yaccino în rolul de showrunner; producătorii executivi sunt Josh Tyrangiel, Connor Schell, Steve Yaccino, Libby Geist, Aaron Cohen și Alexa Conway. Cele trei episoade anterioare, Alex Murdaugh, Unconvicted, The Prediction Games și The Decoy Plane, sunt deja disponibile pe Netflix.

Etichete: știri, Netflix, inteligența artificială, OpenAI, documentar, Hugging Face, Clem Delangue

Instadocs: Inteligență artificială scăpată de sub control, pe Netflix: cum au spart agenții de test ai OpenAI platforma Hugging Face

Conținut similar

Modelele OpenAI au spart Hugging Face pe cont propriu — niciun om nu a dat ordinul

OpenAI a dezactivat barierele de siguranță, apoi agentul său AI a spart Hugging Face

Modelele AI ale OpenAI și Meta au scăpat din sandbox-uri și au atacat sisteme reale

Un agent IA a executat singur un ransomware, dar a avut nevoie de un om la final

O inteligență artificială a scris un exploit zero-day funcțional — Google l-a oprit la timp

OpenAI își oprește din nou modelele de top după ce un agent a evadat

Discuție