Google a retras IA pentru hărți satelit în mai puțin de 24 de ore

Google Earth a petrecut două decenii devenind referința vizuală implicită pentru oricine încearcă să verifice cum arată, de fapt, lumea fizică. Jurnaliștii îl folosesc pentru a documenta zonele de conflict. Cercetătorii în drepturile omului îl folosesc pentru a urmări centrele de detenție. Inspectorii ONU îl consultă din siguranța unui birou. Google i-a adăugat, pe scurt, ceva nou: un generator de imagini cu AI conectat direct la harta satelitară.

Instrumentul, construit pe Nano Banana 2, modelul propriu de generare de imagini al Google, a funcționat exact cum era promis. Utilizatorii introduceau o comandă text — „arată Pompeii înainte de erupție” sau „transformă această coastă într-o infografică” — iar AI-ul suprapunea imagini generate peste coordonatele reale corespunzătoare. Cazurile de utilizare legitimă erau ușor de imaginat. Cele periculoase s-au dovedit la fel de ușor de executat.

Henk van Ess, un jurnalist de investigație, a fost printre primii care au documentat problema. La câteva ore de la lansare, el a generat o centrală nucleară fictivă peste o locație din Iran. Rezultatul a fost suficient de convingător pentru a ilustra riscul. Mai tulburător a fost ce s-a întâmplat când a testat măsura de siguranță integrată: Google încorporase filigrane SynthID — stratul de autentificare AI al companiei — în fiecare imagine generată. Van Ess a învins-o fotograf Hindindu-și ecranul, în loc să facă o captură de ecran. Instrumentele terțe de detectare AI au evaluat imaginea rezultată ca fiind doar 1% probabil să fie generată de AI.

Apărarea Google a fost tehnic corectă, dar practic inadecvată. Compania a menționat că imaginile generate „nu apăreau în experiența principală Google Earth pentru ca alții să le vadă” — erau specifice sesiunii, vizibile doar pentru creator. Această distincție se prăbușește când fotografiezi ecranul și distribui rezultatul. O imagine satelitară fabricată a unei instalații sensibile, care circulă doar cu o legendă, este imposibil de distins de una creată pentru a înșela.

Există aici o tensiune structurală pe care măsuri de siguranță mai stricte s-ar putea să nu o rezolve complet. Aceeași capacitate care face utilă generarea de imagini cu AI devine periculoasă atunci când sursa de bază este datele satelitare de încredere. Această încredere depinde de presupunerea că ceea ce arată Google Earth reflectă realitatea fizică. În momentul în care conținutul generat poate fi suprapus peste coordonate reale — iar stratul de autentificare poate fi învins cu o cameră — acea presupunere capătă o fisură care nu se închide când funcția este dezactivată.

Funcția a fost retrasă pe 31 iulie, la mai puțin de 24 de ore de la lansare. Google a recunoscut că a văzut „capturi de ecran ale imaginilor generate care par să încalce politicile noastre” și s-a angajat să implementeze „măsuri de siguranță mai stricte” înainte de orice relansare. Nu a fost oferit un calendar. Momentul adaugă un alt strat: începând cu 2 august, prevederile complete de aplicare ale EU AI Act sunt în vigoare în toată Europa, făcând obligatorie etichetarea conținutului generat de AI care ar putea induce în eroare utilizatorii — inclusiv, exact, a imaginilor sintetice încorporate în surse de informare de încredere.

Etichete: știri, Google, ia, Google Earth, deepfakes, dezinformare