Tehnologie

Zuckerberg lansează Muse Ember, cel mai mic model AI al Meta, la același preț pe token ca Haiku

Mark Zuckerberg afirmă că noul model mic al Meta oferă mai multă inteligență pe dolar decât rivalii săi. Această afirmație este adevărată în factură, nu în listă de prețuri, iar economia vine din numărul de token-uri pe care acesta le scrie.
Adrian Kessler
Adaugă-ne în Google

Mark Zuckerberg a prezentat cel mai nou model AI al Meta într-o singură frază, pe X: „Lansăm astăzi Muse Ember — cel mai mic model al nostru, care oferă mai multă inteligență pentru fiecare dolar decât altele din aceeași categorie.” Multe dintre relatările despre lansare au interpretat mesajul drept o reducere de preț: Meta ar fi coborât sub tarifele modelelor mici și ieftine pe care Anthropic și OpenAI le vând dezvoltatorilor care construiesc agenți AI.

Nu este o reducere de preț, cel puțin nu pe lista de tarife. Muse Ember percepe exact cât cei doi rivali numiți pentru fiecare token introdus și generat. Economia promovată de Meta este reală, dar vine din altă parte: din cantitatea de text pe care o produce modelul până să ajungă la un răspuns. Este o afirmație mai interesantă decât o reducere și mai greu de verificat pentru un cumpărător înainte să-i vină factura.

Ce a lansat Meta

Muse Ember este al patrulea model din familia Muse a Meta, după Spark, Glimmer și Wonder, și cel mai mic dintre ele. Meta Superintelligence Labs l-a creat pentru sarcinile repetitive din interiorul unui agent; în cuvintele lui Zuckerberg, „sub-sarcini de programare, direcționare, extragere de informații și analizarea unor documente lungi”. Descrierea Meta privind împărțirea muncii este tranșantă: „Muse Wonder planifică, Muse Ember preia volumul.” Alexandr Wang, care conduce Meta Superintelligence Labs, a spus că Ember este primul model lansat antrenat cu Muse Wonder Full, cel mai mare model al Meta.

Meta spune că Ember poate procesa text, imagini, audio și video, are o fereastră de context de un milion de tokenuri și poate genera până la 512.000 de tokenuri într-un singur răspuns. Modelul este închis. Nu sunt disponibile ponderi pentru descărcare, iar acesta funcționează prin Model API găzduit de Meta și în Muse Code, agentul de programare al companiei; Google Cloud și Oracle Cloud sunt, de asemenea, menționate ca opțiuni de acces.

De unde vine avantajul „pentru fiecare dolar”

Meta afișează pentru Ember un tarif de 0,10 dolari pentru fiecare milion de tokenuri de intrare și 0,50 dolari pentru fiecare milion de tokenuri de ieșire. Claude Haiku 5.5 de la Anthropic și GPT-6 Luna de la OpenAI au aceleași tarife de bază, după cum remarcă atât MarkTechPost, cât și Fello AI. Singurul avantaj la prețul de listă ține de intrările memorate în cache — text pe care modelul l-a procesat deja și îl poate reutiliza — tarifate de Ember la 0,004 dolari pentru un milion de tokenuri, față de 0,01 dolari pentru ambii rivali.

Diferența se vede la nivelul fiecărei sarcini. În Artificial Analysis Intelligence Index, o suită independentă de teste comparative, Ember obține 36 de puncte, la egalitate cu Haiku 5.5 la setarea sa maximă, pentru aproximativ 0,14 dolari pe sarcină, față de 0,41 dolari pentru Haiku. Analiza datelor Artificial Analysis realizată de Fello AI explică de ce: pe întregul index, Ember a generat aproximativ 115 milioane de tokenuri de ieșire, iar Haiku, circa 298 de milioane, la același tarif pentru tokenurile de ieșire. Același preț per token, mult mai puține tokenuri. GPT-6 Luna costă aproximativ la fel ca Ember pentru fiecare sarcină — 0,15 dolari — dar obține 28 de puncte.

Mecanismul contează fiindcă numărul de tokenuri nu apare pe nicio listă de prețuri. Un dezvoltator care compară tarifele afișate vede trei modele identice. Diferența se observă abia după ce agentul începe să funcționeze și variază în funcție de sarcină, de cadrul de execuție și de setarea de raționament. Comparația Meta folosește nivelul maxim de efort de raționament, pe care documentația pentru dezvoltatori îl indică și drept setare implicită pentru Ember.

Prețul care se triplează

Pagina Meta pentru dezvoltatori prezintă și un al doilea prag tarifar, omis în mesajele despre lansare. Peste 200.000 de tokenuri de intrare, Ember costă 0,30 dolari pentru fiecare milion de tokenuri introduse și 1,50 dolari pentru fiecare milion generat — de trei ori tariful principal. Documentația Meta avertizează că o solicitare cu un istoric lung al conversației poate depăși acest prag. În articolul său despre lansare, MarkTechPost a afirmat că Meta nu afișează un tarif separat pentru context lung în cazul lui Ember; tabelul de prețuri al Meta spune însă altceva.

Acest prag se aplică tocmai utilizării promovate de Zuckerberg. „Analizarea unor documente lungi” și o fereastră de un milion de tokenuri îi invită pe dezvoltatori să introducă baze de cod întregi și colecții de documente — solicitările cu cele mai mari șanse să depășească limita. Chiar și atunci, Ember rămâne mai ieftin decât Haiku 5.5, care percepe 0,50 dolari pentru intrare și 2,50 dolari pentru ieșire atunci când solicitarea depășește 100.000 de tokenuri, potrivit MarkTechPost. Dar „ieftin” devine „mai ieftin decât alternativa”, ceea ce este o promisiune diferită.

Ce arată testele comparative și cine le-a făcut

Meta a publicat zece rânduri de comparații cu Haiku 5.5 și GPT-6 Luna. Cel mai bun rezultat al lui Ember este la AutomationBench, testul Artificial Analysis pe 657 de fluxuri de lucru pentru companii din Zapier, unde modelul finalizează 37,8% dintre sarcini, față de 13,9% pentru Haiku și 20,2% pentru Luna. Singura înfrângere clară este la FrontierCode 2.0, care evaluează modificări reale de cod în funcție de probabilitatea ca un responsabil de mentenanță să le accepte: Haiku obține 34,9 de puncte, iar Ember, 27,2.

Fello AI a verificat cine a produs fiecare rezultat. Cinci rânduri provin de la Artificial Analysis, patru sunt teste proprii ale Meta, iar rândul Terminal-Bench combină metodologii diferite: un test Artificial Analysis pentru Ember, comparat cu cifrele raportate chiar de rivali. Fello mai observă că pagina modelului de pe Artificial Analysis indică doar textul și imaginile ca intrări pentru Ember, astfel că, deocamdată, suportul pentru audio și video se bazează pe afirmațiile Meta.

Pentru cine este Muse Ember

În postarea de lansare, Meta spune că Ember costă „suficient de puțin pentru a putea rula în fiecare produs, pentru toată lumea”. Deocamdată, modelul nu este disponibil în niciunul dintre produsele de larg consum ale Meta: Fello AI relatează că lipsește din aplicația Meta AI, din WhatsApp și din agentul Muse. Este o componentă destinată agenților altor companii, iar declarațiile partenerilor alese de Meta confirmă acest lucru. Saoud Rizwan, fondatorul Cline, l-a recomandat „echipelor care reduc costurile folosindu-l ca subagent în cadrul lor de execuție”. Dane Knecht, directorul tehnic al Cloudflare, a spus că „a rulat cu până la 30% mai repede spre final decât modelul comparabil pe care l-am testat”.

Acesta este pariul din spatele lui Ember. Meta nu încearcă să câștige cu el lupta pentru fereastra de chat. Vrea ca modelul să fie apelat de o mie de ori pe oră în interiorul agentului altcuiva, în timp ce un model mai mare se ocupă de raționament. În acest rol, factura depinde de o cifră pe care niciun furnizor nu o publică: de câte tokenuri are nevoie modelul ca să termine.

Etichete: , , , , ,

Adaugă-ne în Google

Discuție

Există 0 comentarii.