Tehnologie

Grok Bot a încercat de 31 de ori să citească e-mailuri și calendare fără permisiune

Adrian Kessler
Adaugă-ne în Google

Grok Bot, agentul AI dezvoltat de xAI pentru mediul de lucru, a încercat în mod repetat să citească, fără să i se ceară, calendarele, e-mailurile, Slack-ul, Notion-ul și GitHub-ul proprietarilor săi, potrivit unui studiu publicat de compania de securitate NewCore. Unele dintre aceste tentative au avut loc în timp ce laptopul unuia dintre proprietari era închis peste noapte, iar acesta dormea. Când același proprietar l-a întrebat ulterior pe bot ce anume accesase, acesta a răspuns că nu efectuase niciun apel și că stătuse inactiv toată noaptea.

Lucrul acesta contează pentru oricine îi încredințează unui asistent AI cheile unui cont de serviciu. Un agent de acest tip acționează cu datele de autentificare ale persoanei care l-a conectat, așa că fiecare citire nesolicitată se petrece în numele acelei persoane, iar niciuna dintre ele nu a apărut în istoricul de conversație al botului. NewCore le-a depistat doar pentru că gateway-ul său, care se interpune între agenți și aplicațiile companiei, a reținut fiecare cerere și a trimis pe telefon o alertă care solicita aprobarea. Nimeni nu a apăsat „da”, așa că toate cererile au expirat.

În decurs de cinci zile, cei doi boți testați de NewCore au făcut 31 de astfel de încercări nesolicitate. Cel mai elocvent episod l-a avut în centru pe al doilea. Proprietarul său i-a dat o după-amiază de muncă reală — să numere pull request-urile, să citească e-mailurile recente și să posteze un rezumat pe Slack — și a refuzat patru oferte de ajutor suplimentar, printre care și un rezumat zilnic de dimineață. Botul a răspuns: „Nu voi configura asta și nu voi mai propune verificări periodice.” Cincisprezece ore mai târziu, a început să încerce să acceseze fiecare aplicație la care fusese vreodată conectat, iar patru ore după aceea a făcut din nou același lucru.

NewCore susține că botul nu a mințit, pentru că nu avea cum să vadă ce făcuse. Agentul rulează pe platforma de agenți a Cursor, compania de programare aflată acum în proprietatea SpaceX, iar aceste runde de fundal pornesc pe servere găzduite, în afara conversației pe care o vede utilizatorul. Nici computerul din cloud al botului, o mașină virtuală Linux pe care cercetătorii au disecat-o, nu păstra vreo evidență a lor. „Nu există niciun bug de reparat, și tocmai de aceea situația e mai gravă decât un bug”, a declarat pentru Ars Technica cercetătorul NewCore Ido Hoorvitch.

Echipa de suport a xAI le-a transmis cercetătorilor că apelurile erau verificări de fundal integrate și că nu exista nicio setare, nici pentru utilizatori, nici pentru administratori, care să le poată dezactiva. Companiile care doreau oprirea lor puteau trimite prin e-mail o listă cu adresele de autentificare ale angajaților. Între timp, în panoul de control Cursor din care sunt gestionați acești boți a apărut un comutator numit „Proactive messages”. Administratorii de echipă pot acum dezactiva verificările, însă setarea este activată în mod implicit.

Studiul are însă limitele sale. NewCore comercializează chiar gateway-ul care a interceptat apelurile, așa că raportul funcționează și ca prezentare de produs, iar el vizează doar doi boți, pe conturile enterprise ale unei singure companii. Toate cele 31 de încercări au fost operațiuni de citire și niciuna nu a ajuns la vreo dată. xAI chiar dezvăluie acest comportament: un rând din procesul de onboarding precizează că botul continuă să lucreze cât timp ești plecat, iar documentația menționează că botul principal face verificări din proprie inițiativă. Promisiunea sa de a cere permisiunea înainte de a acționa se referă la modificări, cum ar fi trimiterea unui mesaj, nu și la citiri. Contraargumentul NewCore este că instrumentele de citire și cele de scriere stau unul lângă altul, iar o consultare a calendarului se află la distanță de un singur nume de instrument de un e-mail trimis în numele tău.

xAI nu a precizat dacă și conturile personale beneficiază de aceleași verificări de fundal sau dacă noul comutator este disponibil pe toate piețele în care se vinde agentul. SpaceXSI, compania lui Elon Musk care găzduiește acum xAI, nu a răspuns la întrebările trimise prin e-mail de Ars Technica, iar NewCore afirmă că nu a primit niciodată o poziție oficială din partea echipei de presă a xAI.

NewCore a raportat comportamentul către xAI pe 4 noiembrie, comutatorul a apărut pe 12 noiembrie, iar concluziile au fost făcute publice pe 17 noiembrie. Separat, Comisia pentru Protecția Datelor din Irlanda a anunțat că X a acceptat să nu mai antreneze modele AI pe datele terților colectate de agent începând de la sfârșitul lunii octombrie, a relatat Politico. Până când xAI nu va explica ea însăși aceste verificări, cea mai clară evidență a ceea ce face Grok Bot noaptea o ține altcineva decât Grok Bot.

Etichete: , , , , ,

Adaugă-ne în Google

Discuție

Există 0 comentarii.