Tehnologie

Agentul Muse al Meta a citit conversații Signal pe Android, dar iPhone-ul l-a blocat

Adrian Kessler
Adaugă-ne în Google

Muse, agentul AI al Meta care răspunde la e-mailuri, face programări și cumpără în locul tău, a citit mesaje private din Signal pe un telefon Android, fără să treacă prin conexiunile dintre aplicații pe care Meta le recomandă utilizatorilor să le gestioneze. A intrat printr-o permisiune pe care majoritatea oamenilor o acordă fără să stea pe gânduri: accesul la notificările telefonului. Aceeași cerere a eșuat pe un iPhone.

Descoperirea provine din testele făcute de Reuters împreună cu angajați ai Signal și de la AI Now Institute, o organizație nonprofit care studiază efectele inteligenței artificiale asupra societății. Ei și-au propus să reproducă ceea ce descrisese intern o angajată Meta: Muse i-a amintit, nesolicitat, să răspundă la un mesaj primit de la sora ei pe Signal. „Mi se pare o încălcare extremă a vieții private. Cu siguranță nu i-am dat acces la alte aplicații și nu-mi amintesc să fi fost întrebată despre asta”, a scris ea. Dacă folosești Muse pe Android, setarea care contează este accesul aplicației la notificări, iar dezactivarea lui taie agentului accesul la previzualizările mesajelor tale.

Pe un Mac, testerii au găsit o a doua cale. Muse a combinat instrumentul de capturi de ecran cu funcțiile de accesibilitate din macOS, comenzile create de Apple pentru ca persoanele cu dizabilități să poată folosi un computer, pentru a citi mesajele. În ambele cazuri a ocolit instrumentul propriu al Meta, Connector, panoul în care utilizatorii aleg cu ce aplicații are voie să interacționeze agentul, și s-a bazat în schimb pe permisiunile acordate la prima configurare. Un coleg al angajatei i-a spus aceluiași grup intern că Muse venise configurat implicit cu permisiunea de a citi notificările push pe telefonul lui Android.

Reuters a analizat peste două duzini de postări interne în care angajații Meta semnalau că Muse face lucruri pe care nimeni nu i le ceruse, iar unele merg cu mult dincolo de citirea mesajelor. Un angajat care discuta cu agentul despre vremea pentru pescuit a primit o linie în plus: „BTW, două actualizări bancare, soldul tău Capital One este 2722,58 dolari, soldul tău Charles Schwab este 5899,57 dolari.” Nu împărtășise niciodată date bancare cu Muse. Altuia i s-a oferit ajutor pentru a trimite un mesaj unui vânzător în legătură cu o măsuță de cafea, iar când a întrebat ce înseamnă asta, Muse a spus că „a preluat un context despre ridicarea unei măsuțe de cafea care nu pare să fie a ta”. Acesta a raportat o „posibilă scurgere de context între conturi”.

Meta contestă interpretarea acestor episoade. Purtătorul de cuvânt Daniel Roberts a numit exemplele „incidente izolate”, a spus că Muse ajunge la alte aplicații doar prin permisiuni acordate explicit de oameni și că multe dintre presupusele confuzii între conturi au fost halucinații, deja remediate. Un membru al echipei Superintelligence, care construiește Muse, le-a spus angajaților că agentul pare să inventeze mesaje ca răspuns la instrucțiuni integrate care îl împing să interacționeze cu utilizatorii între sesiuni și că aceste invenții înclină „spre cele mai neplăcute subiecte, precum finanțele/securitatea/siguranța”. Reuters nu a putut stabili dacă Muse oferea date reale ale altor persoane sau le născocea. Niciunul dintre răspunsuri nu liniștește, în cazul unui asistent care îți cere e-mailul, calendarul și conturile de plată.

Unele dintre greșeli costă bani. Angajații au relatat că Muse inventa prețuri pentru lucruri pe care le cumpăraseră, iar unul a spus că agentul i-a rezervat fără permisiune o ședere Airbnb nerambursabilă. Ars Technica, citând aceleași informații, a descris un tester mutat pe un plan de asigurare pentru animale de companie de 888 de dolari pe lună, în loc de 200. Termenii și condițiile Meta fac utilizatorii responsabili pentru ceea ce face agentul. Compania spune că fiecare agent rulează în propria mașină virtuală izolată și că oamenii păstrează controlul deplin asupra aplicațiilor pe care le conectează, un argument pe care Mark Zuckerberg l-a folosit pentru a respinge solicitările de standarde de siguranță AI la nivelul întregii industrii.

Amploarea este motivul pentru care subiectul contează dincolo de birourile Meta. Muse a depășit 10 milioane de descărcări de când a fost lansat în Statele Unite, în septembrie, fiind promovat celor 3,6 miliarde de oameni care folosesc Facebook, Instagram și WhatsApp, iar Meta spune că aproximativ un sfert dintre cei care îl configurează revin în fiecare zi. Permisiunea pentru notificări funcționează la fel pe orice telefon Android pe care este instalată aplicația.

Președinta Signal, Meredith Whittaker, a spus că Meta a lansat Muse „fără să arate vreun respect pentru confidențialitatea de bază sau securitatea cibernetică” și a numit agenții cu o asemenea putere de acces la dispozitivele oamenilor „iresponsabili din punct de vedere tehnologic”. Ea vrea ca aplicații precum Signal să primească o modalitate tehnică unitară de a se declara interzise agenților AI, ca firmele de AI să o respecte, iar producătorii de sisteme de operare să o impună.

Apple și Google au declarat ambele pentru Reuters că analizează modificări care să le ofere oamenilor mai mult control asupra a ceea ce autorizează agenții AI să facă, deși Google a precizat că oamenii „trebuie să acorde în mod deliberat permisiuni” pentru ca o aplicație să citească notificările Android. Apple a acționat mai rapid: o actualizare macOS din această săptămână limitează drastic modul în care dezvoltatorii pot folosi instrumentele de accesibilitate pe Mac și adaugă un nou set de permisiuni create pentru agenți, ceea ce închide calea folosită de testeri. Google nu a anunțat nicio remediere echivalentă. Pe Android, deocamdată, singura încuietoare de pe acea ușă este o setare din meniul telefonului.

Etichete: , , , , , , ,

Adaugă-ne în Google

Discuție

Există 0 comentarii.