Afaceri și finanțe

Meredith Whittaker, președinta Signal care se luptă cu asistenții AI din telefon

Penelope H. Fritz
Adaugă-ne în Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Născut2000
OcupațiePreședinta Signal Foundation
PremiiPremiul Helmut Schmidt Future

Vineri, Signal a activat o setare pe care majoritatea utilizatorilor nu o vor observa niciodată. Pe iPhone-urile noi, aplicația împiedică acum inteligența artificială Siri de la Apple să citească ce apare pe ecran într-o conversație și blochează implicit capturile de ecran, iar pe Android închide fereastra ori de câte ori Gemini, de la Google, încearcă să se uite. Meredith Whittaker, președinta Signal, a anunțat personal schimbarea și, în aceeași postare, a recunoscut că nu este de ajuns. Agenții pe care Apple, Google și Microsoft îi integrează în sistemele lor de operare pot ajunge în continuare la ceea ce este stocat pe dispozitiv, iar pe un Mac Signal nu îi poate opri deloc. Ea a descris situația drept o amenințare existențială la adresa aplicației pe care o conduce.

Lupta i se potrivește, dar scoate la iveală și dilema aflată în centrul carierei sale. Whittaker a petrecut peste un deceniu la Google, înainte de a deveni una dintre cele mai tăioase critici ale modelului de afaceri care a plătit pentru acea carieră. Acum conduce un serviciu de mesagerie non-profit care refuză să colecteze date, nu vinde nimic și depinde de donatori, dar trebuie să funcționeze pe telefoane construite chiar de companiile ale căror produse de inteligență artificială le consideră iresponsabile. Signal poate cripta un mesaj de la un capăt la altul. Nu poate cripta sistemul de operare.

Drumul ei spre tehnologie a fost unul neașteptat. Whittaker a studiat retorica și literatura engleză la Universitatea California din Berkeley și s-a angajat la Google în 2006, unde a rămas treisprezece ani. A înființat grupul Open Research, care a lucrat cu cercetători universitari și dezvoltatori open-source la măsurarea neutralității rețelei, la confidențialitate și securitate, și a co-fondat M-Lab, Measurement Lab, o rețea deschisă ce a devenit cea mai mare sursă publică de date despre performanța internetului.

Măsurătorile au învățat-o să se îndoiască de afirmațiile care nu vin însoțite de dovezi. În 2017, a co-fondat împreună cu cercetătoarea Kate Crawford institutul AI Now Institute la Universitatea din New York (NYU), după un simpozion găzduit de Casa Albă. Institutul a studiat ce face inteligența artificială oamenilor asupra cărora este folosită, nu ce poate face într-o demonstrație, iar rapoartele sale reveneau mereu la același argument: problema mai profundă ține mai puțin de codul părtinitor și mai mult de cine deține aceste sisteme și împotriva cui sunt îndreptate. Ulterior, a deținut catedra de cercetare Minderoo la NYU și a fost director de facultate al AI Now; astăzi este consilierul său principal.

Acest argument a pus-o în conflict direct cu angajatorul. În 2018, a redactat o petiție împotriva Project Maven, un contract cu Pentagonul prin care Google dezvolta instrumente de viziune artificială pentru programul american de drone. Peste trei mii de angajați au semnat-o, iar Google nu a mai reînnoit contractul. După câteva luni, a fost una dintre principalele organizatoare ale Google Walkout, când peste douăzeci de mii de angajați și-au părăsit birourile după apariția informațiilor potrivit cărora compania plătise un pachet de plecare de 90 de milioane de dolari lui Andy Rubin, un director acuzat de comportament sexual inadecvat. Whittaker a spus mai târziu că Google a luat măsuri de represalii, cerându-i să renunțe la activitatea de la AI Now. A plecat în iulie 2019.

În aceeași vară, a declarat în fața Comisiei pentru Știință a Camerei Reprezentanților că sistemele de inteligență artificială pot consolida prejudecățile și a cerut protecție pentru avertizorii din industria tehnologică. La începutul lui 2020 a mers mai departe în fața Comisiei de Supraveghere a Camerei Reprezentanților, susținând că problema recunoașterii faciale nu ține doar de acuratețe, ci și de puterea celor care o folosesc împotriva oamenilor care au mai puțină, și cerând încetarea utilizării ei. Din noiembrie 2021 a fost consilier principal pentru inteligență artificială al președintei Comisiei Federale pentru Comerț (FTC), Lina Khan.

Signal a angajat-o în septembrie 2022 ca prima sa președintă, o funcție creată împreună cu conducerea aplicației. Signal nu are publicitate și nu are date de utilizator de vândut, iar Whittaker a spus deschis că funcționarea sa costă aproximativ 50 de milioane de dolari pe an. O mare parte din primii ei ani la conducere s-a dus pe explicarea motivului pentru care o aplicație de mesagerie care păstrează aproape nimic despre utilizatorii săi are nevoie totuși de o echipă mare de ingineri și de donatori constanți, și a faptului că alternativa înseamnă să fii plătit în supraveghere.

Criticii ei indică limitele acestui model. Protocolul de criptare al Signal protejează deja conversațiile de pe WhatsApp, însă aplicația în sine rămâne doar o fracțiune din dimensiunea produsului Meta construit pe criptografia ei, iar influența lui Whittaker asupra guvernelor se sprijină în mare parte pe o singură amenințare: că Signal va părăsi o țară în loc să-și slăbească criptarea. A îndreptat-o către Uniunea Europeană și, din nou în iunie, către Regatul Unit. Amenințarea este credibilă pentru că o aplicație finanțată prin donații nu are acționari de mulțumit, dar face ca răspunsul Signal către autorități să semene mai degrabă cu exilul decât cu negocierea. Episodul care a adus aplicației cea mai mare explozie de atenție a arătat o fisură asemănătoare. Când, în martie 2025, s-a aflat că înalți oficiali americani discutaseră planuri militare într-un grup Signal în care fusese inclus din greșeală un jurnalist, Whittaker a apărat criptarea ca fiind standardul de aur în comunicarea privată și a subliniat că nicio aplicație nu poate împiedica oamenii să adauge persoana greșită într-o conversație. O publicitate la o asemenea scară este greu de refuzat și și mai greu de controlat.

De atunci, atenția ei s-a mutat de la guverne la companiile care fabrică dispozitivele. La Davos, în ianuarie, a numit agenții de inteligență artificială de la nivelul sistemului de operare periculoși pentru serviciile criptate, avertizând că un sistem căruia i se acordă acces root poate fi deturnat. Într-un interviu pentru Bloomberg din iunie, a spus că chatboții nu sunt prietenii nimănui și a descris un asistent cu acces la datele ei de plată și la contul ei Signal drept un fel de ușă din dos. Săptămâna aceasta, teste realizate de Reuters împreună cu angajați ai Signal și AI Now au constatat că agentul Muse al Meta citea conversațiile Signal pe Android prin accesul la notificări, iar Whittaker a numit agenții cu o asemenea putere de acces o nesăbuință tehnologică.

În 2023, revista TIME a inclus-o pe prima sa listă a celor mai influente persoane din domeniul inteligenței artificiale. În mai 2024 a primit la Hamburg Premiul Helmut Schmidt pentru viitor, acordat de Die Zeit și partenerii săi pentru activitatea sa privind democrația și tehnologia, iar în iulie 2025 a intrat în consiliul de administrație al grupului media german Hubert Burda Media.

Ce urmează depinde mai puțin de Signal și mai mult de Apple, Google și Microsoft. Whittaker le-a cerut tuturor celor trei o modalitate documentată prin care aplicațiile să poată ține agenții de inteligență artificială departe de ecranele și de datele lor, iar Signal spune că este prudent optimistă în privința faptului că Google și Apple se implică. Dacă o construiesc, blocajul pe care l-a activat în această săptămână devine o regulă implicită în întreaga industrie. Dacă nu, cea mai privată aplicație de mesagerie de pe piață va continua să lanseze soluții de ocolire împotriva telefoanelor pe care rulează, iar președinta ei va continua să spună asta public.

Etichete: , , , , , , ,

Adaugă-ne în Google

Discuție

Există 0 comentarii.