Regele Charles avertizeaza creatorii AI asupra ‘pericolului existential’ al propriei tehnologii

„Cei care au creat aceste tehnologii avertizează acum tot mai mult că AI riscă să dezvolte capacități mai întunecate — poate chiar să ia viața.” Fraza pe care a ales-o Regele Charles nu a fost o precauție despre hackeri sau state ostile. A fost o oglindă, ținută în fața oamenilor care construiesc sistemele, iar avertismentul din interior era unul pe care el li-l atribuia.

Aceasta este jumătatea discursului pe care cea mai mare parte a relatărilor l-au ocolit. Fraza care a circulat a fost cea mai blândă din aceleași remarci — „pericolele existențiale ale căderii unor astfel de tehnologii în mâini greșite.” Mâini greșite este un cadru confortabil dacă ești cel care livrează unealta. Plasează pericolul acolo, într-un răufăcător care folosește greșit un instrument neutru, mai degrabă decât în instrumentul însuși sau în firmele care se întrec să îl facă mai capabil. Charles a refuzat să lase lucrurile așa.

În schimb, el a îndreptat riscul înapoi către sursa sa. Creatorii sunt cei care trag acum semnalul de alarmă, a spus el — și apoi a adresat o întrebare sălii, cu o muchie ascuțită: „Cu siguranță, avem nevoie de mijloace suficiente de control înainte să fie prea târziu?”

Greutatea acelei fraze stă pe un singur cuvânt. Controlul este singurul lucru pe care o adunare ca aceasta nu îl poate oferi de fapt. Nu are putere statutară, nu stabilește nicio limită pe care o companie trebuie să o respecte și nu implică nicio penalitate pentru ignorarea lui. Ceea ce a rezultat a fost un acord de a urmări „principii comune” — o frază care descrie o aspirație, nu un mecanism. Directorii, după toate relatările, au fost recunoscători pentru conversație. Recunoștința nu este o garanție.

Există o inversiune instituțională aici, ușor de trecut cu vederea sub ceremonie. Un monarh nu are nicio pârghie asupra Nvidia, OpenAI, Anthropic sau Google DeepMind. Nu poate licenția un model, nu poate audita o sesiune de antrenament, nu poate încetini o lansare. Oamenii care pot face aceste lucruri — legislatori, autorități de reglementare a concurenței, ministrul care stătea de fapt în încăpere — nu erau cei care convocau. O figură cu autoritate simbolică și fără putere de aplicare îi ruga pe oamenii cu toată puterea fără aplicare din lume să se autoreglementeze, vă rog. Cam aceasta este aranjamentul pe care industria l-a preferat dintotdeauna.

Citită astfel, reuniunea le-a făcut constructorilor o favoare tăcută. A lăsat povestea să devină „mâini greșite”, cadrul în care tehnologia este în regulă și doar abuzul ei este problema. A transformat un avertisment despre capacitatea inerentă — mașina care dezvoltă „capacități mai întunecate” pe propria traiectorie — într-o dezbatere familiară despre actori rău-intenționați. Și a învelit totul în legitimitatea unei Coroane care, oricât de sinceră, nu poate impune nici măcar o singură linie a măsurilor de siguranță pe care le-a cerut.

Întâlnirea a avut loc la Dumfries House, domeniul georgian restaurat al Regelui, din Ayrshire, Scoția. În încăpere s-au aflat directorul general al Nvidia, Jensen Huang, fondatorul Google DeepMind, Demis Hassabis, directorul financiar al OpenAI, Sarah Friar, directorul pentru afaceri globale al Anthropic, Tino Cuéllar, ministrul pentru inteligență artificială al Regatului Unit, Kanishka Narayan, și părintele Paolo Benanti, consilierul Vaticanului pentru etica tehnologiei. Charles a avut grijă să recunoască și promisiunea AI — în special în medicină — și să ridice problema costului său de mediu. El a rugat oaspeții să mențină tehnologia „ferm în slujba umanității, comunității și lumii naturale.” Niciun angajament obligatoriu nu a părăsit încăperea cu ei.

Așadar, cei mai puternici oameni din domeniu au auzit un șef de stat descriind produsul lor ca fiind capabil, de unul singur, să ia viața — și au ieșit cu cadrul lor preferat intact și cu o audiență regală de arătat. Mijloacele de control pe care Regele le-a cerut rămân exact acolo unde erau înainte ca el să vorbească: în mâinile cărora li se adresa, și ale nimănui altcuiva.

Etichete: OpenAI, artificial intelligence, AI safety, AI risks, King Charles