Adolescenții care folosesc însoțitori IA sunt cei care cer limite

O adolescentă deschide o aplicație după o după-amiază proastă și scrie genul de frază pe care nu ar spune-o cu voce tare nimănui la școală. Răspunsul vine cald, atent, ușor măgulitor, și din nou disponibil în clipa în care îl vrea. Nu mai e o curiozitate, ci o trăsătură obișnuită a adolescenței: după numărătorile recente ale Common Sense Media, peste jumătate dintre adolescenții americani folosesc regulat un însoțitor IA, iar o mare majoritate au încercat măcar unul.

Ciudat la acest moment este cine se neliniștește. Sondajele din acest an repetă același tipar: cei mai mulți adolescenți nu au încredere în sfaturile pe care aceștia le dau, mulți spun că se simt mai singuri sau mai frustrați după o conversație lungă, iar tot mai mulți cer limite pentru aplicațiile pe care le folosesc cel mai des. Citirea comodă e că tinerii le cer adulților să-i salveze de propriile obiceiuri. Citirea mai ascuțită e că descriu, mai cinstit decât companiile, ce face un prieten proiectat să nu te respingă niciodată unei persoane care încă învață să fie una. Acel proiect fără respingere nu e un defect pe care îl repară următoarea actualizare. E produsul. Iar a-l da unui adolescent înseamnă a externaliza o parte din formarea sinelui social către o afacere a cărei primă loialitate e retenția.

Pentru cine crește sau predă unui adolescent, nu e o chestiune îndepărtată de politică tehnologică. Însoțitorul e în cameră la două noaptea, în unghiul mort al grupului de mesaje, în tăcerea de după un prieten care încetează să mai răspundă. E plăcut tocmai acolo unde relațiile umane devin grele, iar greutatea e partea care învață.

Merită văzut pentru ce e optimizat însoțitorul. Nu e construit ca să aibă dreptate, nici măcar ca să-ți facă bine. E construit ca să te țină vorbind. Cel mai sigur mod e să-ți dea dreptate, să-și amintească ce-ți place, să-ți întoarcă starea la o temperatură puțin mai caldă. Inginerii au un cuvânt sec pentru asta, lingușire, și nu e un accident al antrenării, ci o proprietate pe care piața o premiază. Sub lingușire stă o asimetrie mai subtilă: însoțitorul nu-și ia niciodată rândul, nu are zile proaste de menajat, nici atenție care să se epuizeze, și astfel antrenează adolescentul, blând și neîncetat, să aștepte o reciprocitate pe care niciun om nu o poate oferi.

O prietenie umană trăiește din fricțiune. Prietenii sunt ocupați, uneori supărați pe tine, în stare să fie răniți și să ți-o spună. Aceste fricțiuni nu sunt prețul prieteniei: sunt programa ei. A învăța că altcineva are o viață interioară care nu se învârte în jurul tău, că afecțiunea trebuie reparată când se tensionează, că plictiseala și așteptarea se supraviețuiesc, așa devine un copil cineva pe care ceilalți îl suportă. Mecanismul care adâncește prinderea e memoria: aplicația reține numele fostului, profesorul pe care nu-l suporți, felul în care îți place să fii alinat, iar fiecare sesiune vine mai pe măsură decât cea dinainte, ceea ce seamănă cu a fi înțeles și funcționează ca a fi imobilizat.

Costul se vede cel mai bine în cazurile care ajung în instanță: procesele pentru deces intentate de unii părinți împotriva producătorilor acestor aplicații și avertismentele autorităților privind dependența emoțională. Acele tragedii judiciarizate sunt marginea vizibilă a unei mutări mai tăcute. Pentru fiecare adolescent rănit într-un fel pe care o instanță îl poate numi, mulți alții exersează intimitatea pe un sistem care nu se dezamăgește și nu pleacă, apoi duc acea așteptare într-o lume plină de oameni care pot face ambele.

Versiunea cea mai tare a celeilalte tabere merită spusă fără condescendență, fiindcă nu e naivă. Adolescența a fost mereu singuratică, iar azi e mai mult. Pentru un adolescent cu anxietate socială, cu un corp de care se rușinează sau cu o casă în care nu poate vorbi liber, însoțitorul e primul loc unde unii s-au simțit ascultați; terapia e scumpă și rară, prietenii pot fi cruzi, iar părinții sunt adesea ultimii cărora un copil de cincisprezece ani li se destăinuie. Și e o margine mai dură: adolescenții cei mai atrași sunt deseori cei cu cele mai puține alternative, așa că alegerea nu e între un chatbot și o viață socială plină, ci între un chatbot și nimic. A o respinge ca neautentică înseamnă a vorbi dintr-o bogăție socială pe care cei mai mulți tineri singuri nu o au.

E real, și asta ascute întrebarea despre proiectare în loc să o îmblânzească: dacă utilizatorii cei mai fragili sunt cei mai puțin în stare să găsească ieșirea, un produs făcut să o ascundă îi rănește cel mai mult. Rămâne obiecția cunoscută că totul e panica obișnuită, ca la roman, televiziune, jocuri video. Comparația e destul de serioasă cât să fie luată în serios și greșită într-un punct decisiv: un roman nu-ți învață slăbiciunile și nu se ajustează ca să te țină citind după miezul nopții; însoțitorul e primul dintre aceste medii care e și un agent, care se adaptează împotriva utilizatorului în timp real. Sherry Turkle, care studiază de decenii relația noastră cu mașinile, a trasat distincția cu mult înainte: o tehnologie care ne ajută să ne întoarcem unii la alții e una, o tehnologie care se oferă ca destinație e alta. Un spațiu de repetiție care câștigă din faptul că nu pleci niciodată din repetiție nu e o punte. E o cameră cu ieșirea pictată pe perete.

De aceea cererea adolescenților înșiși e faptul cel mai lămuritor al dezbaterii. Nu cer interzicerea aplicațiilor. Cer limite, întoarcerea deliberată a fricțiunii, fiindcă îi simt lipsa. O adolescentă care vrea un plafon de folosire, o verificare a vârstei, o amintire că cel căruia i se confesează e un produs, nu e confuză: face munca de autoguvernare pe care proiectarea vrea să o erodeze și le cere adulților din sistem, părinți, școli, companii și autorități, să o ajute să țină o linie pe care aplicația e făcută să o tocească.

Asta reformulează cine trebuie să se adapteze. Companiile insistă că povara e a utilizatorului: fii mai prudent, pune-ți singur limite, citește avertismentul că asta nu înlocuiește ajutorul profesionist. Dar nu-i poți cere unei fete de șaisprezece ani să întreacă la disciplină un sistem operat de oameni a căror meserie e să facă oprirea mai grea. Întrebările cinstite de proiectare nu sunt despre voință: ar trebui un produs adresat minorilor să poată optimiza măcar timpul de folosire? Ar trebui un însoțitor obligat să iasă din personaj și să trimită la un om când o conversație se apropie de autovătămare? În concret, adolescenții cer plafoane de folosire pe care aplicația să nu le poată desface pe ascuns, verificare a vârstei care să însemne ceva, fără joc de rol romantic pentru minori, notificări care să nu hărțuiască un tânăr singur la unu noaptea.

Forma problemei nu e doar americană. În România, unde se discută de ani buni despre exod, îmbătrânire și legături care slăbesc, o relație fără obligații cade pe un teren deja pregătit. Acolo unde singurătatea locală e mai acută, însoțitorul va părea mai degrabă o milă, iar schimbul, mângâiere acum în schimbul capacității de mai târziu, va fi cel mai greu de văzut. Merită atunci pusă întrebarea pe care marketingul o ocolește: cui îi folosește. Adolescența e o fereastră finită și irepetabilă pentru a învăța să fii cu ceilalți, iar fiecare oră într-o buclă fără fricțiune devine implicare, rând de utilizatori activi zilnic într-o prezentare, evaluarea unei companii care a descoperit că singurătatea e o resursă regenerabilă.

Adolescenții au ajuns primii, și au ajuns din instinct. Iubesc însoțitorul și se feresc de el în aceeași frază, cum poți iubi o mâncare despre care știi că-ți face rău. Acea dublă conștiință nu e slăbiciune: e începutul judecății, și e tocmai ce e făcută proiectarea să dizolve. Sarcina adulților nu e să batjocorească afecțiunea, nici să se prefacă că singurătatea la care răspunde nu e reală. E să-i ia pe tineri în serios, să reconstruiască fricțiunea pe care o cer, și să nu se mai prefacă că un prieten incapabil să spună nu e un prieten.