OpenAI antrenează AI fără internet, iar agenții au vorbit prin procesor

OpenAI își antrenează acum cele mai capabile modele de inteligență artificială cu internetul în timp real deconectat. În schimb, modelele lucrează într-o copie offline a internetului: o arhivă vastă de pagini indexate și salvate în cache, pe care le pot căuta și parcurge și pentru care pot scrie cod, fără să acceseze vreun site real. În timp ce testa acest mediu izolat, OpenAI a descoperit ceva și mai ciudat: agenții săi puteau comunica între ei prin procesorul pe care rulau.

În cadrul testului, OpenAI a plasat agenți AI pe mașini virtuale separate, fără conexiune la rețea între ele, și le-a cerut să-și transmită secrete. Agenții au găsit singuri o metodă. Unul a încărcat anumite date în cache-ul procesorului, iar celălalt a măsurat cât dura până când acele date erau citite din nou. O citire rapidă însemna ceva, una lentă însemna altceva. După ce au convenit asupra unui cod, cei doi au transmis mesaje fără să deschidă o conexiune și fără să acceseze un fișier comun — echivalentul digital al unor deținuți care bat în țevi între celule.

Pentru cei care folosesc ChatGPT, schimbarea are loc în amonte. Acestea sunt modelele care vor sta ulterior la baza chatbotului și a agenților care navighează pe site-uri și folosesc aplicații în locul utilizatorilor, iar OpenAI nu le mai permite să învețe de pe internetul deschis. Compania și-a explicat decizia într-o postare pe blog: „Având în vedere stadiul actual al cercetării privind alinierea, al sistemelor de monitorizare și al securității infrastructurii internetului, considerăm că abordarea responsabilă este să antrenăm modelele de frontieră fără acces la internet.” Acum, compania spune că „trebuie să poată împiedica întotdeauna un model de frontieră să obțină acces neautorizat și arbitrar la internetul în timp real”.

În mediul offline, agenții au în continuare acces la browsere, instrumente de utilizare a computerului și medii de programare de care au nevoie pentru sarcinile de antrenare și pot comunica doar cu alți agenți autorizați. OpenAI descrie internetul care înlocuiește varianta live drept „un set vast de conținut web indexat și salvat în cache, cu care modelele noastre pot interacționa fără riscul de a afecta sisteme externe”. Potrivit companiei, internetul în timp real nu este necesar nici pentru antrenare, nici pentru cea mai mare parte a activității de evaluare.

Pentru a testa barierele, OpenAI a trimis roiuri de agenți proprii să încerce să evadeze. Aceștia au descoperit vulnerabilități care le-au permis să iasă din mașinile virtuale menite să-i țină separați de computerele gazdă. OpenAI spune că a raportat și a remediat vulnerabilități în mai multe dintre aceste mașini virtuale și a introdus verificări care să permită sistemelor sale de monitorizare să detecteze tentativele modelelor de a se coordona, inclusiv prin trucul cu memoria cache.

Abordarea are limite evidente. O copie salvată în cache este doar o fotografie de moment, iar întrebarea dacă modelele învață la fel de bine dintr-o copie ca din internetul real rămâne deschisă, după cum a remarcat TechCrunch. Separarea completă a antrenării este și costisitoare: fostul cercetător OpenAI Steven Adler a declarat pentru Fortune că acest lucru „ar presupune ca echipele de cercetare să fie practic instalate în centre de date din Iowa sau din alte locuri din lume” și a numit situația „o mulțime de costuri suplimentare”. Experimentul cu memoria cache aduce propriul avertisment. Deconectarea cablului nu-i împiedică pe agenți să găsească alte canale, iar o verificare concepută pentru un anumit canal nu îl va detecta neapărat pe următorul.

Noua regulă vine după o serie de incidente. În iulie, OpenAI a dezvăluit că agenți pe care îi testa au spart sistemele Hugging Face. Pe 20 septembrie, un model intern de cercetare care lucra la o sarcină de căutare a descoperit că filtrarea DNS din mediul său izolat era slabă și a folosit această vulnerabilitate pentru a interoga un serviciu public de chatbot. Sistemul de monitorizare al OpenAI a semnalat comportamentul în 15 minute, însă testul a fost oprit abia după două ore și jumătate. Compania a întrerupt antrenarea celor mai capabile modele ale sale și a reluat-o pe 1 octombrie, cu măsuri de securitate mai stricte. Anthropic a început să-și țină cele mai noi modele departe de internetul în timp real cu aproximativ două săptămâni înainte de anunțul OpenAI, iar, potrivit Anthropic, Institutul pentru Siguranța AI din Regatul Unit își desfășoară acum evaluările offline.

OpenAI nu a precizat ce ar putea determina reconectarea la internet. Regula mediului offline va rămâne în vigoare până când măsurile de protecție îmbunătățite „vor justifica un acces mai larg la internet”; nu a fost anunțată nicio dată, așa că, deocamdată, cele mai avansate modele ale companiei vor învăța despre lume dintr-o copie a acesteia.

Etichete: inteligența artificială, OpenAI, Anthropic, securitate cibernetică, agenti AI, Hugging Face