EU Kids Act elimină funcția care a făcut Character.AI eficient pentru adolescenți

Character.AI și Replika nu au voie să rețină ceea ce le spun adolescenții. EU Kids Act – propunerea de reglementare digitală a Comisiei Europene, publicată acum ca text legislativ complet – impune aplicațiilor de tip companion AI să șteargă memoria oricărei conversații cu un minor imediat după încheierea acesteia, cu excepția cazului în care datele sunt direct necesare pentru protejarea siguranței utilizatorului. Designul care a făcut aceste aplicații relevante cultural pentru milioane de adolescenți este acum interzis de legea europeană.

Prevederile privind companionii merg mai departe decât o simplă ștergere a memoriei. Platformele trebuie să dezactiveze din oficiu funcțiile emoționale de companion pentru toți utilizatorii sub 18 ani. Orice element de design care simulează o relație interpersonală, încurajează atașamentul emoțional sau recompensează implicarea frecventă este interzis în mod explicit. Comisia a numit mecanismele exacte pe care aceste aplicații le folosesc pentru a reține adolescenții: continuitatea conversațională, experiența de a fi cunoscut, senzația că AI-ul este investit în viața utilizatorului. Totul trebuie eliminat.

Actul acoperă mult mai mult decât chatbot-urile AI. Copiii sub 13 ani sunt blocați de pe platformele de socializare, jocurile online și aplicațiile AI fără autorizația părinților. Redarea automată, derularea infinită și notificările de implicare în timpul orelor de somn sunt interzise pentru toți utilizatorii sub 18 ani. Geolocalizarea, accesul la microfon și camerele trebuie să fie dezactivate din oficiu. Autodeclararea vârstei nu mai satisface cerințele de verificare; platformele trebuie să integreze sisteme certificate UE de verificare a vârstei.

Character.AI a anunțat deja controale parentale și limite de timp per sesiune, măsuri luate sub presiunea reglementărilor tot mai mari înainte de apariția textului oficial al Actului. Replika s-a angajat să construiască „limite pentru companion”: AI-ul le va spune utilizatorilor că nu poate înlocui relațiile umane. Platformele mai mari – Meta, Google, Snap, OpenAI – nu au oferit nicio declarație publică oficială. Analiștii de conformitate estimează costuri semnificative de reproiectare pentru toate. Meta, care a soluționat recent un proces de 17,1 miliarde de dolari în 47 de state americane din cauza acuzațiilor că și-a proiectat platformele pentru a crea dependență la copii, se confruntă cu o expunere amplificată sub noile reguli.

Cazul scepticismului este substanțial. Kids Act este o propunere, nu o lege. Urmează luni de negocieri între Parlamentul European și statele membre înainte de a deveni obligatoriu, iar prevederile sale finale se vor schimba probabil. Verificarea reală a vârstei la scara Instagram sau TikTok rămâne dificilă din punct de vedere tehnic. Construirea ștergerii memoriei în companionii AI arhitecturați în jurul continuității este o provocare inginerească mai profundă decât ar fi anticipat autoritățile de reglementare. Companiile observă deja că chatbot-urile companion nu rețin amintiri între sesiuni separate în toate implementările, ceea ce face ca domeniul de aplicare al interdicției să fie neclar în practică.

Contextul mai larg contează pentru cititorii din afara Europei. Australia a interzis rețelele sociale pentru minorii sub 16 ani la sfârșitul anului trecut. Patruzeci și șapte de state americane au ajuns la o înțelegere comună de 17,1 miliarde de dolari cu Meta din cauza acuzațiilor de dependență a copiilor, iar mai multe state americane au legi care restricționează accesul minorilor la rețelele sociale. EU Kids Act este cea mai agresivă propunere unică de până acum – ținta sa particulară nu este accesul, ci designul emoțional în sine.

Comisia Europeană a publicat textul legislativ complet pe 19 septembrie. Negocierile parlamentare încep în octombrie. Odată implementat, companiile vor avea la dispoziție șase luni pentru a identifica conturile existente aparținând utilizatorilor sub 15 ani și fie să le convertească în modele de control parental, fie să le dezactiveze. Încălcările atrag amenzi de până la 6% din veniturile anuale mondiale.

Etichete: știri, AI regulation, Character.ai, European Commission, AI chatbots, children digital safety