Tehnologie

Yann LeCun, către mediul academic: „Nu ar trebui în niciun caz să lucrați la LLM-uri”

Adrian Kessler
Adaugă-ne în Google

De ani buni, Yann LeCun le spune celor din industria AI că modelele lingvistice mari sunt o abatere de la direcția potrivită. Într-un fragment dintr-o prelegere care circulă acum pe X, laureatul Premiului Turing își îndreaptă avertismentul către un public mai restrâns și mai vulnerabil — cercetătorii din laboratoarele universitare — și nu mai lasă loc de echivoc.

„Nu ar trebui să lucrați la LLM-uri. Cel puțin dacă sunteți în mediul academic, nu ar trebui sub nicio formă să lucrați la LLM-uri. Nu aveți nimic de adus în plus. Dacă vă interesează să faceți progrese reale în AI, să dezvoltați un fel de AI ancorată în lumea reală, dacă vreți AI fizică, nu lucrați la LLM-uri și nici la modele generative.”

A spus-o la ETH Zurich, în cadrul prelegerii „World Models: Enabling the Next AI Revolution”, susținută pe 29 mai, la seria de conferințe Frontiers of Embodied AI. Comentatorul din domeniul AI Rohan Paul a publicat fragmentul săptămâna aceasta, prezentându-l drept „cea mai recentă prelegere” a lui LeCun, deși are deja patru luni. Replica următoare a stârnit râsete: „Așa că, după cum probabil vă dați seama, asta nu mă face prea popular în Silicon Valley.” Slide-ul din spatele lui, intitulat „Recommendations to my fellow AI scientists”, se încheie cu majuscule roșii: „Dacă vă interesează o AI la nivel uman, nu lucrați la LLM-uri.”

Prima parte ține de resursele de calcul

Dincolo de provocare, sfatul adresat mediului academic ține de economie. Progresul în domeniul modelelor lingvistice mari se obține prin antrenări pe clustere de calcul pe care și le pot permite doar câteva companii. Un doctorand nu poate contribui prea mult într-o cursă decisă de bugete — asta înseamnă, în practică, afirmația că „nu aveți nimic de adus în plus”. LeCun susține de ceva vreme acest punct de vedere: la VivaTech, la Paris, în 2024, le-a spus studenților care voiau să construiască următoarea generație de AI că LLM-urile se află în mâinile marilor companii, după cum a relatat VentureBeat.

Slide-ul enumeră și direcțiile pe care ar vrea să le urmeze cercetătorii în schimb. Arhitecturi cu înglobări comune, nu modele generative. Modele bazate pe energie, nu modele probabilistice. Metode regularizate, nu metode contrastive. Control predictiv bazat pe model, nu învățare prin întărire — pe care ar păstra-o doar pentru corectarea unui plan atunci când lumea nu se comportă așa cum s-a anticipat. Sunt idei care pot fi testate cu echipamente modeste, iar aici laboratoarele universitare încă au un avantaj.

A doua parte este adevărata provocare

„Nu lucrați nici la modele generative” merge mai departe decât argumentele obișnuite împotriva chatboturilor. Respinge generarea însăși — ideea de a construi inteligență prin prezicerea următorului cuvânt sau a următorului pixel — și îl plasează pe LeCun în dezacord cu o mare parte din domeniul AI fizice, deși acesta este adesea asociat cu numele lui. Săptămâna trecută, AMD a fost de acord să cumpere World Labs, compania lui Fei-Fei Li, într-o tranzacție plătită integral în acțiuni și evaluată la aproximativ 8,2 miliarde de dolari. The Register a descris achiziția drept o măsură de protecție în cazul în care LLM-urile se dovedesc a fi o fundătură și a observat că LeCun a susținut același lucru. Cu toate acestea, World Labs construiește modele care generează și simulează medii 3D. Cosmos 3 de la NVIDIA este, la rândul său, un model generativ al lumii, iar Physical Intelligence își construiește modelele pentru roboți pe baza modelelor de limbaj și viziune. Banii care se îndreaptă spre „lumi, nu cuvinte” nu merg, în cea mai mare parte, către viziunea lui LeCun.

Sfatul unui om cu participații în companie

Trebuie luată în calcul și poziția celui care vorbește. LeCun a plecat de la Meta și este acum președinte executiv al AMI Labs din Paris, companie care a atras în martie 1,03 miliarde de dolari la o evaluare de 3,5 miliarde de dolari — cea mai mare rundă de finanțare inițială din Europa — pentru a construi modele ale lumii ca alternativă la LLM-uri. Compania își mărește echipa la Paris, New York, Montreal și Singapore. Fiecare cercetător care îi urmează sfatul devine un posibil angajat.

Asta nu înseamnă că sfatul este cinic. LeCun susținea această idee înainte să existe AMI și a plătit pentru ea cu reputația sa cu mult înainte ca investitorii să plătească în bani. Dar, în 2026, recomandarea de cercetare și planul de afaceri indică exact aceeași direcție, iar studenții ar trebui să țină cont de acest lucru.

LeCun a glumit că replica îl costă prieteni în Silicon Valley. Pentru un student care își alege tema de doctorat, miza este mai mare: să-și parieze doctoratul pe arhitectura pentru a cărei validare el tocmai a atras un miliard de dolari.

Etichete: , , , ,

Adaugă-ne în Google

Discuție

Există 0 comentarii.