Sam Altman vrea să se consemneze clar că ține cu oamenii care cumpără memorie pentru propriile computere. Directorul general al OpenAI spune că remarca potrivit căreia PC-urile de acasă ar ține pe loc prețioasele rezerve mondiale de DRAM a fost scoasă din context și că, de multă vreme, pledează pentru creșterea producției în industrie. Conversația integrală arată că are dreptate doar pe jumătate. Contextul schimbă ce a vrut să spună, dar nu și direcția în care argumentul lui trimite cipurile cât timp durează penuria.

Și-a susținut apărarea pe X după câteva zile de glume pe seama lui și a intrat în joc chiar el. Un utilizator i-a cerut să-și redenumească contul „Ram Altman”. El a răspuns „ok, da” și și-a schimbat numele afișat. Apoi s-a explicat: „chiar vreau ca lumea să aibă o mulțime de memorie și oamenii să pună în computerele lor câtă vor, și e al naibii de enervant că asta a fost scos din context”. A adăugat: „De multă vreme susțin că lumea ar trebui să-și mărească producția de memorie.”

Ce a spus, de fapt, Altman la Cheeky Pint

Replica vine din Cheeky Pint, podcastul găzduit de John Collison, cofondatorul Stripe, care publică transcrierile integrale. Pasajul sună astfel: „Din perspectiva alocării globale, însă, e de-a dreptul groaznic ca toată lumea să țină în propriul computer o bună parte din rezerva limitată de DRAM a lumii. Și să o folosească […] 5% din timp. Dacă încerci să faci față unui mediu în care oferta este foarte limitată, vrei ca utilizarea în cloud să fie la maximum.”

Cele mai multe articole au început citatul de aici. Dar contează ce s-a spus înainte. Collison întrebase de ce prețurile mari la memorie nu atrag producători noi pe piață. Altman a răspuns că „mâna invizibilă nu-și mai face treaba acum”. Timp de decenii, a spus el, un producător de DRAM „investea 20 de miliarde de dolari în cheltuieli de capital ca să facă 19 miliarde” și trecea prin perioade de boom și de recesiune. Acum, când fiecare ar urma să obțină, după estimarea lui, „cam 100 de miliarde de dolari flux de numerar liber într-un an”, „toți își amintesc ce s-a întâmplat în trecut. De câte ori au fost aproape să dea faliment pentru că au construit prea multe fabrici”. Abia apoi a vorbit despre cei care vor să ruleze local modele AI: modele open-source pe propriile computere, pornind de la ideea că astfel scade presiunea asupra centrelor de date. Replica despre situația „de-a dreptul groaznică” era răspunsul lui la această presupunere.

Mai târziu, în aceeași conversație, spune că prețurile la energie și cipuri „ar trebui să scadă”, că „dacă nu scad, o să fiu foarte trist” și că „oferta trebuie să crească mult”. În sens restrâns, apărarea lui stă în picioare. Vorbea despre rularea acasă a modelelor AI, nu despre computere pentru jocuri sau editare video, și a cerut creșterea producției în același episod.

Unde nu mai ajută contextul

Într-o piață în care oferta nu ține pasul cu cererea, discuția despre alocare este o discuție despre cine primește cipurile. „Utilizarea la maximum în cloud” le trimite către centrele de date, iar OpenAI este unul dintre cei mai mari cumpărători de pe această piață. Samsung și SK Hynix au semnat scrisori de intenție pentru a furniza memorie proiectului de infrastructură Stargate al OpenAI, angajament pe care The Register l-a estimat la aproximativ 900.000 de plachete DRAM introduse în producție pe lună. Scrisorile nu sunt obligatorii, dar arată cât de mult din piață intenționează OpenAI să cumpere. Notebookcheck a remarcat că argumentul se potrivește și modelului de afaceri al OpenAI: modele închise, care rulează în centrele sale de date și sunt vândute prin abonament.

Nici măcar cea mai limpede afirmație din episod despre abundență nu îi aparține lui Altman. Ideea unui „excedent de capacitate de calcul”, în care „oricine vrea un computer, din orice motiv, poate avea unul”, este rezumatul făcut de Collison poziției lui Altman. Acesta nu i-a răspuns direct. A replicat în termeni de centre de date, vorbind despre costul pe cinci ani al unui gigawatt de capacitate, pe care l-a estimat la aproximativ 70 de miliarde de dolari și despre care a spus că ar vrea să-l vadă coborând la 20 de miliarde.

Cifra de 5% nu are nicio sursă

Numărul care a declanșat disputa nu este susținut de nicio măsurătoare. PC Games Hardware a remarcat că el descrie cât timp este ocupată memoria, nu de câtă memorie are nevoie o mașină: sistemul de operare păstrează date în cache, iar programele solicită memorie în cantități mari, în reprize. Un gigabyte care stă nefolosit peste noapte trebuie să fie totuși disponibil când se încarcă un joc sau un model local. Oamenii rulează AI pe propriul hardware și din motive pe care o cifră de utilizare nu le poate surprinde: confidențialitate, control asupra unui model pe care un furnizor nu îl poate modifica pe ascuns și un cost plătit o singură dată, în locul unui abonament.

Elon Musk a intervenit și el pe X, scriind: „Și oamenii au dreptul la memoria RAM!” Așa cum a remarcat PC Games Hardware, propria sa companie de AI operează centrul de date Colossus din Memphis.

Penuria se vede deja în prețurile din magazine. Pe 2 noiembrie, Raspberry Pi a majorat cu 80 de dolari prețul modelului Raspberry Pi 5 de 16 GB, până la 385 de dolari, invocând „lipsa unor surse alternative de aprovizionare cu DRAM de 16 GB”. PC Gamer, publicația al cărei articol a făcut cunoscut schimbul de replici de pe X unui public larg, a scris că pasionații de tehnologie și jucătorii au fost „scoși din piața hardware-ului nou” de OpenAI și de restul industriei AI. Episodul Cheeky Pint a fost publicat pe 29 octombrie, iar răspunsurile lui Altman pe X au venit în primele zile ale lunii noiembrie.

Soluția lui Altman la toate acestea este construirea mai multor fabrici. Chiar după propriile lui spuse, companiile care ar trebui să le ridice își amintesc cât de aproape au fost de faliment ultima dată când cineva le-a spus că boomul de atunci era diferit. Până când își vor schimba părerea, memoria este deja alocată așa cum a descris el: cumpărătorului care plătește cel mai mult și o folosește cel mai intens. Iar acel cumpărător este un centru de date, nu un computer desktop.

Etichete: știri, OpenAI, Sam Altman, Dram, cipuri de memorie, John Collison