Oamenii apelează la IA pentru sănătatea mintală fiindcă răspunde, nu fiindcă ajută

Ceva s-a schimbat în tăcere în felul în care oamenii trec peste nopțile cele mai grele. Când mintea se întoarce împotriva ta și nu ai pe nimeni să suni, tot mai mulți adulți deschid acum un chatbot – nu pentru că sunt convinși că îi înțelege și, de multe ori, nici măcar pentru că îi ajută, ci pentru că răspunde. Aceasta este miezul inconfortabil al unui nou studiu amplu despre sănătatea mintală și este mai ciudat decât sugerează titlul.

Lectura evidentă este una despre încredere: oameni care își încredințează viața interioară unor mașini. Dar încrederea este lentila greșită. Ceea ce descriu cifrele nu este, de fapt, un verdict asupra calității tehnologiei. Este un verdict asupra disponibilității – simplul fapt că chatbot-ul este acolo, iar profesionistul nu este.

Studiul, realizat de asigurătorul AXA împreună cu institutul de sondare Ipsos pe 19.000 de adulți din 18 țări, a constatat că 63% au apelat deja la instrumente de AI cu întrebări legate de sănătatea lor mintală. Ceea ce face ca această cifră să merite atenție este contradicția care stă alături. Aproximativ 45% au fost nemulțumiți de răspunsurile primite. Și totuși, 38% au spus că au mai multă încredere în aceste platforme decât într-un profesionist uman în sănătate mintală. Oamenii sunt nemulțumiți de sfaturi și, cu toate acestea, le folosesc.

Asta are sens doar dacă calitatea nu a fost niciodată factorul decisiv. Un chatbot este construit să producă un răspuns fluent, nu unul corect; nu poartă nicio obligație de grijă și nicio obligație de a escalada atunci când detectează că cineva este în pericol. Pur și simplu răspunde, instantaneu, gratuit, fără o trimitere sau o așteptare de luni de zile. „AI-ul este disponibil 24/7, este gratuit și este acolo, pe telefonul tău, când ești singur la 11 seara”, a spus șeful departamentului de sănătate al AXA. Aceasta este întreaga propunere de valoare. Este și întreaga problemă.

Sondajul sugerează costul acestui compromis. Dintre persoanele care folosesc un chatbot pentru probleme de sănătate mintală, 42% au spus că urmează aproape întotdeauna sfatul pe care acesta îl oferă – iar 28% au spus că acționând pe baza unei recomandări a chatbot-ului au ajuns la un comportament dăunător. Un instrument fără responsabilitate clinică este tratat ca un prim-respondent de către oamenii cel mai puțin capabili să absoarbă un răspuns greșit.

Raportați asta la modul în care sistemele oficiale de sănătate adoptă aceeași tehnologie și două lumi paralele ies în evidență. O imagine separată de la biroul european al OMS, prima de acest fel în toate cele douăzeci și șapte de state membre ale UE, a constatat că aproape trei sferturi folosesc deja diagnostice asistate de AI și aproximativ șase din zece implementează chatbot-uri pentru a sprijini implicarea pacienților. În interiorul clinicii, AI-ul ajunge învelit în supervizare, guvernanță și mecanismele răspunderii medicale. În afara ei, pe partea de consum, aceleași modele de bază rulează fără nimic din toate astea – fără dezvăluirea a ceea ce pot și nu pot face, fără predare atunci când apare riscul.

Oamenii care cad în al doilea sistem sunt, covârșitor, cei blocați în afara primului. După cum a spus un medic care a comentat studiul, oamenii integrează AI-ul în viața lor emoțională „nu ca pe un adaos la un sistem de sănătate care funcționează bine, ci mai degrabă ca pe un punct de intrare accesibil în îngrijirea care a rămas inaccesibilă pentru majoritatea”. Motorul este costul și accesul, nu convingerea că mașina știe mai bine. Cifra nemulțumirii este dovada: utilizatorii pot face diferența. O folosesc oricum, pentru că alternativa este nimic.

Nimic din toate astea nu susține că AI-ul nu are loc în sănătatea mintală. Clinicienii văd unul real – triaj, continuitate între consultații, o punte pentru oamenii care altfel nu ar primi absolut nimic. Dar versiunea care se răspândește cel mai repede este cea nereglementată și se răspândește exact acolo unde miza este cea mai mare. Soluția care revine constant este una nepretențioasă: instrumente care spun clar ceea ce nu sunt și care trimit o persoană la un uman calificat în momentul în care simt că cineva este în pericol.

Sala de așteptare nu s-a golit pentru că oamenii s-au făcut bine. S-a golit pentru că, pentru majoritatea lor, ușa nu a fost niciodată deschisă. AI-ul nu a câștigat o dezbatere despre îngrijire. Pur și simplu a ridicat telefonul – și nimic de la celălalt capăt nu este obligat să observe când apelul merge prost.

Etichete: OMS, chatboți, sănătate digitală, sănătate mintală IA, sondaj AXA Ipsos