Eliezer Yudkowsky, autorul de fanfiction care a transformat teama de IA într-un bestseller

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Născut	11 septembrie 1979 Chicago, Statele Unite
Ocupație	Scriitor și cercetător în IA

Când Sam Altman le-a prezentat, potrivit relatărilor, angajaților OpenAI modurile în care cursa către superinteligență s-ar putea încheia, unul dintre cele trei scenarii purta un prenume. „Planul Eliezer” imaginează un singur laborator care ajunge primul la o inteligență artificială capabilă să se autoperfecționeze și își folosește avansul pentru a-i lăsa pe toți rivalii fără putere de calcul, iar Altman l-a menționat doar ca să spună că este o idee groaznică. Formula care a rămas în urma relatării, „topind GPU-urile tuturor celorlalți”, trimite la un exemplu folosit chiar de Eliezer Yudkowsky într-un eseu despre riscurile AI, în care a propus „să arzi toate GPU-urile” ca ilustrare, adăugând imediat: „Nu cred că asta ai vrea de fapt să faci cu o AGI puternică.”

Faptul că un director executiv numește o strategie după el arată cât de departe au ajuns ideile sale, iar aproape tot acest drum s-a făcut prin scris. Yudkowsky este un cercetător în domeniul AI fără diplomă universitară și, mai presus de toate, un autor prolific: sute de eseuri pe bloguri, un roman-fluviu inspirat de Harry Potter și un bestseller al cărui titlu nu lasă loc de îndoială.

S-a născut la Chicago, pe 11 septembrie 1979, și a crescut într-o familie de evrei ortodocși moderni; astăzi este laic. Problemele cronice de sănătate l-au obligat să renunțe la gimnaziu, iar liceul și facultatea nu le-a urmat niciodată. În 2000, la douăzeci de ani, a fondat Singularity Institute for Artificial Intelligence, cu sprijinul lui Brian și Sabine Atkins, având ca obiectiv accelerarea apariției inteligenței artificiale. Nu a trecut mult până când a început să se îngrijoreze de ceea ce încercase să construiască, iar în 2005 institutul studia deja cum pot fi gestionate riscurile unor mașini mai inteligente decât creatorii lor. În 2013, organizația a devenit Machine Intelligence Research Institute, cu sediul la Berkeley.

Lecturi recomandateȘeful OpenAI, Sam Altman, are trei scenarii finale pentru IA, două vechi din 2023

A început să scrie cu adevărat în noiembrie 2006, când el și economistul Robin Hanson au devenit principalii contributori la Overcoming Bias, un blog colectiv despre raționalitatea umană. În februarie 2009, postările sale au stat la baza LessWrong, un blog comunitar dedicat „rafinării artei raționalității umane”, care a ajuns principalul spațiu online al mișcării autointitulate raționaliste. Eseurile publicate acolo, cunoscute simplu drept „The Sequences”, abordau erorile cognitive, teorema lui Bayes și felurile în care oamenii inteligenți se păcălesc singuri. În 2015, MIRI a adunat peste 300 dintre ele în Rationality: From AI to Zombies, iar în 2017 a publicat Inadequate Equilibria, o carte scurtă despre motivele pentru care societățile lasă nerezolvate probleme care ar putea fi remediate. Stuart Russell și Peter Norvig discută propunerile sale în manualul lor de referință despre AI, iar Nick Bostrom îl citează în Superintelligence: Paths, Dangers, Strategies.

Apoi a venit romanul. Harry Potter and the Methods of Rationality, cunoscut de fani drept HPMOR, a apărut în foileton pe FanFiction.Net între 28 februarie 2010 și 14 martie 2015: 122 de capitole și peste 660.000 de cuvinte în total. Premisa schimbă un singur detaliu din universul original. Petunia Evans se căsătorește cu un profesor de la Oxford, Michael Verres, iar Harry, rămas orfan, crește educat acasă și învață științele; astfel, băiatul care ajunge la Hogwarts pune magia la încercare cu metoda științifică și se revoltă împotriva contradicțiilor lumii vrăjitorilor. În casa Ravenclaw se împrietenește cu Draco Malfoy, Hermione Granger și profesorul Quirrell. Intriga se întunecă mai mult decât lasă să se înțeleagă umorul, dar subiectul adevărat este felul în care gândim.

Cititorii s-au împărțit în tabere radical opuse. În 2011, The Atlantic a consemnat scandalul izbucnit pe forumurile de fan fiction în jurul „tratamentului blasfemiator — sau genial — al universului original” și l-a citat pe scriitorul de science-fiction David Brin, care a numit seria „grozavă, subtilă, dramatică și stimulatoare”. Specialistul în drept William Baude a mers și mai departe în The Washington Post: „cea mai bună carte Harry Potter scrisă vreodată, deși nu este scrisă de J.K. Rowling”. Amanda Silberling de la TechCrunch a considerat-o „foarte plictisitoare”. Yudkowsky a refuzat propunerea de a elimina elementele preluate de la Rowling și de a vinde povestea ca roman original, așa cum s-a întâmplat cu Fifty Shades of Grey, pornit din fan fiction-ul Twilight. „HPMOR este legat în mod fundamental de romanele Harry Potter originale și poate fi înțeles doar în raport cu ele”, a spus el.

Ironia carierei sale este că omul asociat cel mai mult cu avertismentele despre AI a atras, totodată, oameni către construirea acesteia. În februarie 2023, Altman a scris că Yudkowsky i-a făcut „pe mulți dintre noi să devină interesați de AGI”, a contribuit la obținerea finanțării pentru DeepMind și a fost „esențial în decizia de a lansa openai”. În primăvara aceluiași an, Yudkowsky a publicat în revista Time un editorial în care cerea un moratoriu mondial, pe termen nedeterminat, asupra antrenării modelelor AI de mari dimensiuni; ulterior, Time l-a inclus în lista celor mai influente 100 de persoane din domeniul AI în 2023.

Cea mai directă carte a sa a apărut pe 16 septembrie 2025. Scrisă împreună cu Nate Soares, colegul său de la MIRI, și publicată de Little, Brown, If Anyone Builds It, Everyone Dies susține că sistemele moderne de AI sunt mai degrabă cultivate decât construite: sunt antrenate să încorporeze miliarde de ponderi numerice pe care nici propriii dezvoltatori nu le pot interpreta, astfel încât nimeni nu poate stabili în mod fiabil obiectivele unui sistem care ajunge mai inteligent decât noi. Omenirea, spun autorii, ar pierde în fața unei superinteligențe așa cum pierd oamenii în fața motorului de șah Stockfish, iar singura cale sigură este o oprire coordonată. Cartea a intrat pe listele de bestselleruri ale The New York Times, atât la categoria hardcover, cât și în clasamentul combinat de nonficțiune.

Recenziile au fost la fel de împărțite ca opiniile cititorilor romanului. În The Guardian, David Shariatmadari a considerat cartea „la fel de limpede pe cât sunt de greu de acceptat concluziile ei”. Ian Leslie a lăudat, în The Observer, „claritatea, verva și bucuria abia stăpânită” a volumului. În The New York Times, Stephen Marche a comparat-o cu un manual de Scientologie, iar Adam Becker, în The Atlantic, a fost și mai tranșant: „Pur și simplu greșesc.”

Între timp, dezbaterea s-a mutat pe ecran. Yudkowsky este una dintre vocile din The AI Doc: Or How I Became an Apocaloptimist, alături de Yoshua Bengio și Timnit Gebru, documentarul lui Daniel Roher despre ce înseamnă să devii tată în era AI, ajuns pe Netflix pe 15 septembrie 2026. Vrăjitorul adolescent care face experimente controlate și coautorul care vrea să oprească experimentul sunt unul și același scriitor, care le cere în continuare cititorilor să urmărească firul unei demonstrații până la capăt, oricât de tulburătoare ar fi ultima verigă.

Etichete: inteligența artificială, scriitori, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Conținut similar

Michael Polansky: arhitectul cercetării oncologice pe care succesul altcuiva l-a ținut în umbră

Sam Altman: „Suntem acum în singularitate”

Sam Altman, șeful OpenAI, la ONU: „IA trebuie construită pentru oameni, nu doar pentru a face mașinile să meargă mai repede…”

Dacă start-up-ul tău ai fi doar tu și 10.000 de boți? Cum să devii unicorn fără să angajezi pe nimeni

Bill Gates: „IA va fi fie cel mai mare factor de egalizare inventat vreodată, fie cea mai gravă sursă de nedreptate”

Yann LeCun, pionierul IA care pariază un miliard de dolari împotriva chatboților