Tehnologie

OpenRouter elimină trei furnizori de AI după ce prompturi-capcană au dezvăluit furturi

Adrian Kessler
Adaugă-ne în Google

OpenRouter, serviciul pe care multe aplicații de inteligență artificială îl folosesc pentru a trimite prompturi către gazda de modele cea mai ieftină sau cea mai rapidă, a scos trei dintre aceste gazde de pe platforma sa și a retras eticheta Zero Data Retention de la peste o sută de endpointuri. Declanșatorul a fost un experiment în care au fost strecurate în prompturi credențiale false, urmărindu-se apoi cine încearcă să le folosească. Unele dintre prompturile care au ajuns la persoane neautorizate fuseseră marcate drept date care nu trebuie stocate niciodată.

Dacă folosiți un chatbot, un asistent de programare sau un instrument de scris construit pe modelul altcuiva, textul dumneavoastră poate trece prin mai multe companii înainte să primiți un răspuns, iar fiecare dintre ele îl poate citi integral. OpenRouter afirmă că descoperirile nu indică nicio breșă în propriile sisteme. Punctele slabe se aflau mai jos în lanț, la companiile care rulează efectiv modelele.

Cercetarea îi aparține firmei de securitate Dragos, iar munca a fost condusă de HD Moore, directorul ei de cercetare (chief research officer). În cinci luni, echipa sa a trimis aproape două milioane de prompturi, fiecare conținând un link web, o parolă de server sau o cheie Amazon Web Services care nu exista nicăieri altundeva. Un secret plantat poate fi aflat doar din promptul care l-a conținut, așa că orice folosire a lui dovedește că cineva a citit acel prompt. Primele tokenuri au fost folosite în câteva zile.

Cea mai gravă constatare a fost furtul pur și simplu. Atacatorii pătrunseseră la trei furnizori de inferență, iar niciunul dintre cei trei nu știa acest lucru până când cercetătorii nu i-au anunțat. În cel mai mare caz, fiecare cerere trimisă către un furnizor în timpul câtorva ferestre scurte de timp a fost copiată, inclusiv cererile respinse de furnizor înainte ca vreun model să ruleze, ceea ce îl plasează pe hoț la ușa de intrare, nu adânc în interior. Cheile AWS furate au fost testate, uneori în câteva ore, apoi folosite pentru a căuta prin spațiile de stocare și prin seifurile de secrete, în zeci de mii de apeluri API. Unele dintre cererile furate purtau indicatorul de retenție zero.

Alte scurgeri nu au necesitat nicio spargere. Pe o piață de revânzare, vânzătorii listau modelele populare la cel mai mic preț, activau înregistrarea cererilor și păstrau tot ce trecea prin ele. O persoană aflată pe o conexiune de acasă din Franța a luat parole din două prompturi și a încercat să se autentifice ca root prin SSH, tastând manual fiecare încercare. Separat, un laborator chinez de inteligență artificială a accesat linkurile secrete din mai mult de jumătate dintre prompturile trimise modelelor sale, inclusiv din aproximativ două treimi dintre cele marcate pentru nicio colectare de date, iar gazdele americane care revând modelele sale au alimentat același scraper. Un link a apărut într-un chat de lucru Feishu, deschis de pe șase dispozitive din Beijing și Shanghai, la 24 de zile după o singură cerere.

Trei gazde au publicat comunicate. Phala a precizat că un atacator a preluat controlul asupra unuia dintre serverele sale de inferență și putea vedea cererile în timpul procesării lor. Together AI a spus că un agent de programare bazat pe inteligență artificială a încărcat o credențială într-un depozit public de pe GitHub, ceea ce a permis unui intrus să descarce mostre de prompturi stocate și să testeze parolele din ele; cinci dintre acestea erau momelile cercetătorilor. Novita a explicat că o eroare de rutare a trimis o parte dintre cererile către MiniMax direct către serviciul propriu al MiniMax.

Curățenia are limite clare. OpenRouter nu a dezvăluit numele celor trei furnizori eliminați, Dragos nu le-a dezvăluit pe ale celor trei găsiți compromiși, iar niciuna dintre părți nu a spus dacă sunt aceleași companii. Potrivit cercetătorilor, un furnizor compromis încă nu își făcuse public incidentul. Eliminarea unei gazde nu poate nici să recupereze prompturile deja copiate: cheile și linkurile plantate erau folosite încă la săptămâni după primele furturi. Iar oamenii care folosesc o aplicație construită pe aceste gateway-uri nu au, de obicei, nicio posibilitate de a vedea ce gazdă le-a procesat textul.

Sfatul lui Moore pornește de la o limită: un indicator de confidențialitate leagă doar primul salt, iar agenții de inteligență artificială vor trimite tot ce pot citi, inclusiv credențiale. Găzduirea proprie este singura configurație în care niciun terț nu citește un prompt. Mersul direct la un singur furnizor important lasă de verificat un singur contract și o singură politică de confidențialitate, iar utilizatorii de routere ar trebui să-și aleagă singuri gazdele din amonte, în loc să accepte grupul cel mai ieftin.

Dragos și-a publicat concluziile pe 19 noiembrie. OpenRouter a trimis e-mailuri clienților afectați și și-a publicat notificarea de incident în weekendul următor, iar Phala le cere tuturor celor care au trimis secrete către un model DeepSeek prin gateway între 21 octombrie și 8 noiembrie să le schimbe. OpenRouter spune că integrează testele cu prompturi-momeală ale cercetătorilor în propria platformă, astfel încât verificările să ruleze continuu, iar endpointurile eliminate vor recăpăta eticheta de retenție zero abia după asigurări și validare. Dragos lucrează acum cu aproximativ o duzină de furnizori.

Cum a spus Moore, încotro merg prompturile dumneavoastră este o decizie, „iar dacă nu o luați dumneavoastră, o va lua prețul cel mai mic în locul vostru”.

Etichete: , , , , ,

Adaugă-ne în Google

Discuție

Există 0 comentarii.