CEO-ul Google, Sundar Pichai: procentul de cod scris de AI la Google nu mai înseamnă nimic

Directorul general al Google nu mai ține socoteala. Întrebat ce proporție din codul companiei este scrisă acum de AI, Sundar Pichai a spus că întrebarea nu mai are sens, fiindcă AI-ul contribuie la tot codul. În aceeași conversație, a minimalizat importanța unui moment de care se pregătește o mare parte a industriei: apariția unui AI care își construiește versiuni mai bune, fără ca oamenii să mai fie implicați în proces.

Ambele afirmații s-ar putea dovedi întemeiate. Problema este cine le verifică. Cifra la care Pichai a renunțat era singurul număr pe care cei din afara companiei îl puteau compara cu datele altor firme. Ce o înlocuiește, precum și dovezile care susțin perspectiva mai liniștită a lui Pichai asupra AI-ului capabil să se autoperfecționeze, provin din măsurătorile făcute de Google despre Google.

Ce a spus Sundar Pichai despre AI și codul Google

Pichai a stat de vorbă cu Alex Kantrowitz în cadrul podcastului Big Technology, înregistrat la sediul Google din Mountain View și publicat de Kantrowitz și sub forma unui interviu scris, cu întrebări și răspunsuri. Când Kantrowitz a amintit afirmația mai veche că un sfert din codul Google era scris cu ajutorul AI-ului și l-a întrebat care este cifra actuală, Pichai a numit-o „lipsită de sens”, deoarece fiecare parte a codului asupra căreia lucrează acum Google „este profund influențată de AI”.

Lecturi recomandateOpenAI a spart o problemă de matematică de 80 de ani fără un model specializat

În locul ei, a oferit cifre despre Gemini 4 Argon, cel mai nou model al Google, pe care compania l-a pus la dispoziția propriilor ingineri. În cele patru săptămâni de la lansare, a spus el, Google a înregistrat o creștere de 30% a CL-urilor, denumirea internă pentru propunerile de modificare a codului, și o scădere cu o treime a revenirilor asupra modificărilor — schimbările care trebuie anulate după ce sunt implementate. „Acum urmărim evoluția cu ajutorul unor indicatori mai noi”, a spus el.

Vechiul indicator nu a dispărut de la sine. Într-o postare pe blog din aprilie, Google a estimat că AI-ul genera 75% din codul nou, față de 25% în 2024 și 50% în toamna precedentă, potrivit Semafor și ETV Bharat. La vremea respectivă, Semafor a remarcat că unele dintre aceste afirmații erau aproape imposibil de verificat și le-a comparat cu cele ale Snap, unde proporția era de 65%, și ale Meta, care urmărea să atingă niveluri similare.

De ce spune Pichai că AI-ul capabil să se autoperfecționeze este încă departe

În privința autoperfecționării recursive, sau RSI, Pichai și-a prezentat răspunsul drept o clarificare a afirmației cofondatorului său. Sergey Brin numise RSI un factor esențial pentru Argon, a spus el, însă „suntem încă destul de departe de etapa finală a RSI”. Apoi a descris situația actuală de la Google: „Cel mai potrivit mod de a descrie lucrurile este că există bucle RSI, alături de cercetători în AI, în diferite etape ale dezvoltării modelelor. Aș spune că aproape avem agenți care îi ajută pe cercetătorii în AI să colaboreze, într-un fel automatizat, pentru a construi aceste modele.”

Brin mersese mai departe cu câteva zile înainte. La o masă rotundă despre Argon, ale cărei materiale au fost publicate de Google, el a spus că firma „începe să intre în acel ciclu de autoperfecționare” și că „acum cercetătorii noștri și modelul lucrează mână în mână la următoarea versiune a modelului”, după cum a relatat Business Insider. Un raport Gladstone AI publicat luna aceasta arată că majoritatea cercetătorilor intervievați la Anthropic, OpenAI și Google DeepMind se așteaptă ca RSI să înceapă în următoarele trei până la 12 luni.

Raportul Google despre siguranță îi susține afirmațiile lui Pichai, pe baza propriilor teste ale companiei

La prima vedere, datele îi dau dreptate lui Pichai. Raportul Google DeepMind privind siguranța și securitatea modelului Argon constată că „nu există o accelerare semnificativă, de la un capăt la altul, a cercetării și dezvoltării în domeniul AI, fie că este sau nu determinată de AI” și clasifică acest risc drept „scăzut în prezent”, a relatat TNW. Potrivit raportului, agenții AI „scriu majoritatea codului de producție și a remedierilor de erori, deși modificările de cod sunt în continuare supuse verificării umane înainte de trimitere”. Proporția solicitărilor de modificare a codului delegate integral a crescut de la 7,5% în aprilie la 11,9% în septembrie; aproximativ 88% dintre ele necesită în continuare intervenții repetate din partea oamenilor sau cod scris de o persoană.

Aceste concluzii se bazează pe instrumentele proprii ale Google. Pragul pentru automatizarea cercetării în AI de către AI este evaluat cu ajutorul unui test intern format din 74 de sarcini, pe care nimeni din afara companiei nu îl poate rula. O analiză publicată pe LessWrong atrage atenția asupra unui pasaj chiar din raport: dintre sarcinile inițiale auditate de Google, „aproximativ un sfert conțineau erori care împiedică orice trimitere să fie acceptată”. Deoarece multe rulări au expirat înainte de finalizare, raportul nu oferă o estimare punctuală pentru Argon, care a rezolvat aproximativ jumătate dintre rulările încheiate. Google susține că verdictul său rămâne valabil chiar dacă toate rulările neterminate ar fi avut succes.

Verificarea umană este filtrul pe care se sprijină argumentul privind siguranța. Cu 30% mai multe propuneri de modificare a codului înseamnă cu 30% mai multe schimbări pentru oamenii care asigură acest control, iar indicatorii aleși de Pichai măsoară volumul de cod produs și revenirile asupra modificărilor, nu cât de atent a fost citită fiecare schimbare.

Soluția propusă chiar de Pichai: evaluatori independenți

Pichai nu a respins îngrijorările. Cercetarea privind alinierea are în continuare „lacune evidente”, a spus el, iar „îngrijorarea este justificată”. În opinia sa, următorul pas este stabilirea unor standarde la nivelul întregii industrii, „inclusiv posibilitatea evaluării de către evaluatori independenți”, după modelul standardelor contabile și al auditorilor externi, precum și adoptarea unor reglementări care „vor ajunge să joace un rol”.

Raportate la acest standard, ambele afirmații făcute săptămâna aceasta sunt încă neverificate independent. Google își numără propriile liste de modificări, își evaluează propriile reveniri asupra codului și își punctează propriul test de cercetare.

Procentul pe care l-a numit lipsit de sens era rudimentar, dar oricine îl putea compara cu cel al Snap. Cifrele care îl înlocuiesc pot fi consultate doar din interiorul Google.

Etichete: Google, Gemini, Sundar Pichai, programare cu AI, Sergey Brin

Conținut similar

Maestro: Jocul de dirijat în VR primește un DLC Star Wars și se lansează pe PSVR2

Mojo 1.1 deschide compilatorul pentru contribuitori externi pentru prima dată

Un agent AI s-a reantrenat singur pentru a repara erori — şi a uitat cum să spună nu

GPT-6 Astra i-a blocat pe utilizatorii plătitori, iar motivul sunt propriile reguli de securitate ale OpenAI

SpaceX depune cererea pentru cel mai mare IPO din istorie: 75 de miliarde la 1.750 de miliarde de dolari

Java 27 elimină GC-ul care îngheța aplicațiile și reduce memoria cu 33%