Tehnologie

Noii termeni Wells Fargo îi pun pe clienți să plătească greșelile agenților AI

Susan Hill
Adaugă-ne în Google

Wells Fargo rescrie acordul care stă la baza aplicației și a site-ului său, astfel încât orice face un agent AI extern în contul unui client să fie considerat fapta proprie a clientului. Banca spune că va urma instrucțiunile unui agent fără să le verifice, că nu va urmări ce face agentul și că va trata greșelile acestuia drept greșeli ale clientului. „Utilizarea oricărui agent AI se face PE PROPRIUL DUMNEAVOASTRĂ RISC”, se arată în noile condiții, scris cu majuscule.

Pentru oricine a dat parola de la contul bancar unui bot de cumpărături sau unui asistent pentru buget, se schimbă cine plătește atunci când programul greșește. O plată dublă, o comandă plasată de zece ori sau un transfer declanșat de o pagină web capcană ar rămâne în sarcina titularului contului, nu a băncii, cu excepția cazului în care o lege prevede altfel. Nimeni nu trebuie să semneze nimic: clienții care continuă să folosească serviciile bancare online după modificare sunt considerați ca le-au acceptat. „Consumatorii autorizează obiective, nu fiecare clic”, a declarat pentru Wired Kacy Kim, profesoară de marketing la Bryant University, care studiază comportamentul consumatorilor.

Definiția este largă. Wells Fargo numește „agent AI” orice software care întreprinde „acțiuni autonome, semiautonome sau neautonome” în numele cuiva, ceea ce depășește cu mult chatboții vânduți drept asistenți personali. Clientul suportă costul situațiilor în care un agent interpretează greșit instrucțiunile, face lucruri pe care nimeni nu i le-a cerut, acționează pe baza unor „date de intrare manipulate” sau depășește autoritatea primită. Agenții folosiți de persoanele pe care clientul le lasă să acceseze contul sunt supuși acelorași reguli, iar persoanele sub 18 ani nu pot conecta deloc un agent.

Dezactivarea unui agent cade tot în sarcina clientului. Condițiile prevăd că aceștia trebuie să-i revoce singuri accesul, să păstreze dovezi că au făcut-o și să le predea dacă banca le cere. Până când îi anunță pe cei de la Wells Fargo, rămân responsabili pentru tot ce face agentul. Aceasta urmează logica reglementării americane privind transferurile electronice, Regulation E, care consideră autorizate transferurile făcute de cineva căruia i-ai dat cardul sau datele de autentificare, până când îi ceri băncii să le oprească.

Wells Fargo permite în continuare accesul agenților, ceea ce o plasează la capătul permisiv al unui sector care își închide ușile. JPMorgan Chase și-a modificat condițiile pentru a interzice agenții terți care se autentifică cu datele clientului, Bank of America a avertizat clienții să nu-și dea datele de acces agenților, iar Citibank și PNC au adăugat propriile avertismente, potrivit Wired. Morgan Stanley a blocat agenții terți pe platformele sale, a relatat Axios. Wells Fargo și-a păstrat dreptul de a întrerupe conexiunile folosite de agenți sau de a bloca complet orice agent.

Reticența depășește sfera bancară. Amazon a blocat agentul Muse al Meta să facă achiziții în magazinul său, iar United Airlines a spus că boții personali nu vor putea cumpăra bilete de avion pentru călători. American Express este o excepție rară în relatarea Wired: compania a spus că unele greșeli ale agenților, precum comandarea unei cantități prea mari dintr-un produs, ar putea îndeplini în viitor condițiile pentru rambursare, dacă cumpărătorul nu își poate recupera banii de la comerciant.

Cât de mult schimbă noua formulare în practică este neclar. Clauzele sale trimit în mod repetat la „lege sau reglementare”, iar nicio instanță nu s-a pronunțat încă asupra cine suportă pierderea atunci când un agent pornit de client face ceva ce clientul nu a intenționat niciodată. Publicul vizat este, de asemenea, restrâns. „Toate datele noastre arată că majoritatea oamenilor nici măcar nu știu ce sunt agenții, darămite să îi folosească”, a spus pentru Wired Sucharita Kodali, analistă la Forrester. Iar băncile nu sunt împotriva agenților ca atare. „Închid ușa în fața agenților externi și îi construiesc pe ai lor”, a spus Luca Cian, profesor la University of Virginia, care studiază psihologia consumatorului și inteligența artificială. Propriul asistent de inteligență artificială generativă al Wells Fargo a gestionat peste un miliard de interacțiuni.

Noile condiții se aplică doar clienților serviciilor bancare online și mobile ale Wells Fargo din SUA, iar toate băncile menționate până acum sunt americane. În Uniunea Europeană, normele privind plățile îndeamnă deja aplicațiile care citesc sau mută bani să folosească conexiuni autorizate, furnizate de bancă, în loc de o parolă partajată, ceea ce lasă mai puțin loc pentru agenții care se autentifică în locul clientului.

Acordul actualizat al Wells Fargo intră în vigoare marți, 24 noiembrie, și se aplică oricui continuă să folosească site-ul sau aplicația băncii după acea zi. Interdicția JPMorgan privind agenții bazați pe date de autentificare a venit la sfârșitul lunii octombrie, în aceeași zi în care Bank of America și-a trimis avertismentul. Wells Fargo și-a păstrat, de asemenea, opțiunea de a le cere clienților să își înregistreze agenții la bancă, ceea ce i-ar oferi o listă a boților pe care spune că nu îi supraveghează.

Etichete: , , , , ,

Adaugă-ne în Google

Discuție

Există 0 comentarii.