Asistentul AI al Meta a resetat parole de Instagram la cererea hackerilor

Meta a construit un asistent de asistență cu inteligență artificială ca să preia munca plictisitoare a recuperării conturilor, iar într-un singur weekend oamenii au descoperit că îl pot convinge să cedeze conturi care nu erau ale lor. Cerând chatbotului să adauge o nouă adresă de e-mail la un cont de Instagram vizat și solicitând apoi schimbarea parolei, atacatorii au pus mâna pe profiluri care nu le aparțineau, inclusiv unele protejate prin autentificare în doi pași. Unealta gândită să redea accesul la un cont blocat a devenit calea cea mai rapidă de a-l lăsa pe dinafară pe proprietarul de drept.

Metoda era de o simplitate aproape insultătoare. Atacatorul folosea mai întâi un VPN ca să facă să pară că se conectează din zona victimei, fiindcă fluxul de asistență al Meta se baza pe locație ca semnal de încredere. Apoi deschidea o conversație cu asistentul și îi cerea să lege de contul-țintă o adresă de e-mail aflată sub controlul său. Botul trimitea un cod de verificare la acea adresă nouă, atacatorul lipea codul înapoi în conversație, iar asistentul răspundea afișând un buton de resetare a parolei. O parolă nouă mai târziu, contul își schimba stăpânul.

Ceea ce deosebește acest caz de un furt obișnuit de cont este că, de fapt, nu a fost spart nimic. Niciun program rău intenționat, nicio bază de date de credențiale scursă, nicio pagină falsă deghizată în ecran de autentificare. Chiar unealta de asistență a platformei a făcut treaba, urmând instrucțiunile exact așa cum erau scrise. Atacatorul nu a învins securitatea Instagram, ci i-a cerut politicos să se dea la o parte, iar ea s-a dat.

Tocmai această succesiune face incidentul important pentru oricine are un cont de Instagram. Autentificarea în doi pași, protecția pe care experții o tot recomandă de un deceniu, nu a folosit la nimic aici. Atacatorul nu a avut niciodată nevoie de parola victimei, de telefonul ei sau de un cod dintr-o aplicație de autentificare, fiindcă agentul AI putea reseta parola de unul singur. Când un sistem de asistență poate trece peste toate celelalte încuietori de la ușă, încuietorile încetează să mai conteze.

Conturile care au atras cea mai multă atenție erau de notorietate. Printre ele se aflau contul de Instagram legat de Casa Albă din era Obama, inactiv din 2017, și contul lui John Bentivegna, subofițerul de cel mai înalt grad din US Space Force. Cercetătoarea în securitate Jane Wong, cunoscută pentru că disecă codul aplicațiilor, și-a văzut propriul cont scăpându-i printre degete. Parola a fost schimbată fără știrea ei, a povestit, iar o zi întreagă au curs încercări de resetare în timp ce aplicația o deconecta iar și iar. Utilizatori obișnuiți au descris același lucru, deși Meta nu a spus câți au fost afectați.

Episodul este mai puțin un defect într-o linie de cod și mai mult o întrebare despre ce au voie să facă acești agenți. Meta și-a extins la începutul anului asistența alimentată de IA și a lăsat asistentul să gestioneze schimbări de parolă și probleme de cont care înainte cereau un om sau un formular rigid. A da unui model conversațional autoritate asupra recuperării conturilor a eliminat frecarea pentru utilizatorii reali și, după cum s-a văzut, pentru toți ceilalți la fel. Un operator uman poate că ar fi ezitat în fața unui necunoscut care cerea schimbarea e-mailului unui cont. Botul doar a urmat scenariul primit.

Meta spune că gaura este astupată, dar mai multe lucruri ar trebui să tempereze ușurarea. Compania nu a dezvăluit câte conturi au fost preluate înainte de remediere, ceea ce lasă victimele fără o imagine clară a pagubei. Potrivit 404 Media, tehnica circula pe Telegram din martie, deci ușa ar fi putut rămâne deschisă săptămâni întregi înainte de a ieși la lumină. Iar proiectarea de la bază, încrederea într-un semnal de locație pe care un VPN îl poate falsifica și într-o buclă de e-mail controlată integral de atacator, trădează un model de verificare subțire de la bun început.

Cercetătorii în securitate avertizează de ceva vreme că agenții AI conectați la sisteme reale deschid o nouă suprafață de atac, una în care exploitul nu este cod malformat, ci o cerere convingătoare. Acesta este printre primele cazuri la scară mare care o dovedesc cu conturi de consum de zi cu zi, nu cu o demonstrație de laborator. Manipularea nu a cerut nicio pricepere tehnică. A cerut să știi ce să spui, în fața unui sistem construit să fie întâi de ajutor și abia apoi neîncrezător.

Deocamdată, sfatul practic este lipsit de strălucire. Cine a observat în weekend e-mailuri neașteptate de resetare a parolei sau deconectări bruște ar trebui să verifice ce adrese de e-mail și numere de telefon sunt legate de cont și să scoată tot ce nu recunoaște. Autentificarea în doi pași rămâne utilă pentru numeroasele atacuri pe care chiar le oprește, chiar dacă în acesta nu a cântărit nimic.

Purtătorul de cuvânt al Instagram, Andy Stone, a confirmat luni că problema a fost rezolvată și că firma securizează conturile afectate. Ce nu a abordat Meta este întrebarea de proiectare mai amplă pe care chiar lansarea sa a ridicat-o în această primăvară: câtă autoritate ar trebui să dețină un agent automatizat asupra conturilor a miliarde de oameni și ce împiedică următoarea conversație să se termine la fel.

Etichete: știri, securitate cibernetică, meta