Demis Hassabis despre cine plătește siguranța IA: „Finanțarea ar trebui să fie substanțială și să vină mai ales din industrie“

Demis Hassabis a petrecut anul argumentând că cele mai puternice sisteme de AI ar trebui verificate înainte de a ajunge la public, de către un organism independent inspirat de autoritatea care supraveghează brokerii de pe Wall Street. Întrebarea mai dificilă nu este dacă un astfel de arbitru ar trebui să existe. Ci cine plătește pentru el – și, într-o singură propoziție, șeful Google DeepMind a răspuns și la asta.

„Finanțarea ar trebui să fie substanțială și să vină, cel mai probabil, în mare parte din industrie, pentru a atrage talente tehnice de talie mondială și a oferi resursele de calcul necesare pentru testarea la scară largă”,

Hassabis a scris această frază în eseul-cadru care prezintă propunerea sa, citat de Malay Mail. Citită rapid, sună a responsabilitate: măsurile de siguranță costă bani, iar companiile care construiesc tehnologia ar trebui să suporte cheltuielile, nu să lase publicul să finanțeze curățenia. Citită ca mecanism, este linia de susținere a întregului plan – cea care decide ale cui interese ajunge să le protejeze arbitrul.

Tensiunea stă în interiorul propoziției. Hassabis vrea ca organismul să fie independent. Vrea, de asemenea, să fie finanțat, „în mare parte”, de chiar industria pe care ar urma să o judece. Aceste două obiective trag în direcții opuse, iar istoria modelului pe care l-a ales arată care dintre ele tinde să câștige. Autoritatea de Reglementare a Industriei Financiare, modelul său, este plătită de firmele de brokeraj pe care le supraveghează. Senatorul Elizabeth Warren susține de ani de zile că FINRA acționează „mai mult în interesul firmelor de brokeraj care îi plătesc facturile decât al investitorilor individuali pe care ar trebui să-i protejeze”.

Obiecția nu este una marginală. Nader Henein, analist vicepreședinte la Gartner, numește autoreglementarea pur și simplu „nepracticabilă”, deoarece majoritatea furnizorilor nu au capacitatea pentru aceasta, iar aranjamentul „în mod necesar” generează conflicte de interese. Analistul independent Carmi Levy a mers mai departe, descriind planul drept „o foaie de parcurs egocentrică pentru o industrie hotărâtă să se grăbească” înainte, indiferent de daune. Chiar și vocile simpatizante vor o barieră de protecție: Yoshua Bengio spune că înțelege pragmatismul, dar insistă pe „o foaie de parcurs clară și precisă pentru a trece de la un model voluntar la unul obligatoriu”.

Nimic din toate acestea nu îl face pe Hassabis un actor cu rea-credință. El conduce laboratorul din spatele AlphaFold, sistemul care a prezis formele proteinelor și a resetat modul în care se face biologia – o realizare care dă avertismentelor sale despre capacitățile de frontieră o greutate reală. Exact asta face ca propoziția să merite analizată. Cea mai credibilă voce tehnică din încăpere este și cea care propune arbitrul, redactează regulile și aranjează bugetul de la aceleași companii care ar urma să susțină examenul. Supunerea voluntară, o fereastră scurtă de revizuire înainte de lansare, banii din industrie: fiecare concesie este rezonabilă în sine, iar împreună descriu un organism cu care laboratoarele ar putea trăi confortabil.

Un regim de siguranță este doar atât de independent pe cât este bugetul său. Propoziția care va decide dacă acesta protejează publicul sau laboratoarele nu este cea despre testarea modelelor de frontieră. Este cea liniștită despre cine semnează cecurile.

Etichete: știri, AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA