Meta lancia Muse Ember: 1 milione di token e focus sugli agenti

Meta lancia Muse Ember: 1 milione di token e focus sugli agenti

Meta ha lanciato Muse Ember, un modello leggero pensato per occuparsi di attività ripetitive nei flussi di lavoro degli agenti: chiamate agli strumenti, sottoattività di programmazione, classificazione delle richieste, estrazione di dati e lettura di documenti estesi. È disponibile da lunedì 9 novembre in Muse Code e Meta Model API, con tariffe a partire da 0,10 dollari per milione di token in ingresso.

Meta Superintelligence Labs lo presenta come il modello più piccolo ed efficiente realizzato finora. L'obiettivo non è sostituire i modelli più potenti, ma distribuire il lavoro: Muse Wonder o Muse Spark possono pianificare e risolvere la parte più impegnativa, mentre Ember esegue attività circoscritte su larga scala. Nelle parole di Meta, «Muse Wonder plans, Muse Ember handles the volume».

Il modello accetta testo, immagini, audio, video e PDF, ma genera testo. La sua finestra di contesto raggiunge 1.048.576 token e supporta fino a 524.288 token in uscita. Meta lo propone per processi come l'analisi di contratti, la revisione del codice o l'esame di raccolte di file e registri, oltre che per l'utilizzo di applicazioni desktop a partire da schermate.

Un modello per l'esecuzione, non il pianificatore principale

L'architettura proposta da Meta separa la pianificazione dall'esecuzione. Un modello più grande può stabilire come affrontare un problema e poi delegare a Ember le azioni ripetitive. In un esempio di assistenza clienti, il modello più potente definirebbe le regole per rispondere a un problema; Ember le applicherebbe poi a decine di migliaia di casi.

La documentazione di Meta descrive usi più specifici: eseguire attività di programmazione e comandi da terminale delegati da un agente principale, concatenare chiamate agli strumenti, indirizzare ogni richiesta al sistema appropriato ed elaborare in parallelo numerose immagini, file o registri. Tra gli esempi di elaborazione in batch figurano la classificazione dei ticket, l'estrazione di campi, l'aggiunta di didascalie e l'ordinamento di fotografie.

Ember supporta le funzioni di utilizzo del computer, comprensione delle immagini, chiamate agli strumenti, output strutturato e grounding tramite ricerche. La documentazione dell'API segnala che condivide il formato delle richieste di Muse Spark, quindi, nella maggior parte degli esempi, passare da un modello all'altro consiste nel modificare l'identificatore. Per problemi complessi di programmazione risolti in una singola interazione, domande che richiedono molte conoscenze o programmazione visiva, Meta consiglia Muse Spark o Muse Wonder.

La famiglia Muse comprendeva già Spark, il modello di fascia media lanciato ad aprile; Glimmer, la sua alternativa open source presentata ad agosto; e Wonder, il modello di frontiera arrivato a ottobre. Ember è il quarto modello del marchio. Meta afferma che è il primo addestrato con Muse Wonder Full e collega il suo lancio all'obiettivo annunciato alla presentazione di Wonder e Wonder Full: utilizzarli per sviluppare modelli specializzati.

Prezzi, limiti e accesso all'API

Il prezzo di partenza è di 0,10 dollari per milione di token in ingresso, 0,004 dollari per milione di token in ingresso memorizzati nella cache e 0,50 dollari per milione di token in uscita. Queste tariffe si applicano alle richieste con un massimo di 200.000 token in ingresso. Se una richiesta supera questa soglia, Meta applica la tariffa per il contesto lungo a tutti i token della richiesta, non solo a quelli oltre il limite: 0,30 dollari per milione di token in ingresso, 0,012 per milione di token in cache e 1,50 dollari per milione di token in uscita.

Il modello è disponibile in modalità standard su Meta Model API e anche in Muse Code, sia con pagamento a consumo sia tramite abbonamento. Nell'API non dispone di una variante Contributor: questa modalità, che offre tariffe ridotte in cambio del permesso di utilizzare i contenuti inviati e le risposte per addestrare modelli futuri, non è disponibile per Ember. In Muse Code, le richieste con più di 200.000 token in ingresso consumano più rapidamente l'utilizzo incluso nel piano.

L'identificatore del modello è muse-ember-1.0. La documentazione di Meta elenca gli endpoint Responses, Chat Completions e Messages, anche se la disponibilità su Muse Code e Model API viene annunciata direttamente nella presentazione del prodotto. Meta pubblica inoltre un limite di 3.000 richieste e 4 milioni di token al minuto per il modello, applicato per team e non per singola chiave.

Google Cloud include Muse Ember 1.0 nel proprio catalogo di modelli partner, ma lo contrassegna come versione preliminare. La scheda indica la disponibilità tramite l'endpoint globale, l'input di testo e immagini e gli stessi limiti massimi di contesto e output. La documentazione di Meta, da parte sua, elenca anche audio, video e PDF tra i formati di input supportati.

Cosa mostrano i test pubblicati

Meta utilizza i risultati di Artificial Analysis per confrontare l'intelligenza e il costo per attività. Nell'Intelligence Index, Ember ottiene 36 punti al livello massimo di ragionamento. L'azienda afferma che eguaglia il miglior punteggio di Claude Haiku 5.5 a circa un terzo del costo e supera le configurazioni di GPT-6 Luna. Nella tabella della valutazione, Ember raggiunge 35,8 punti con un costo stimato di 0,136 dollari per attività; Haiku arriva a 36,2 punti per 0,411 dollari e Luna segna 27,8 punti per 0,152 dollari.

Al livello xhigh, Meta riporta per Ember un punteggio di 33,9 e un costo di 0,116 dollari per attività. L'azienda stima che, al livello massimo, ogni attività costi circa 0,14 dollari. Si tratta di stime basate sulle tariffe proposte per il modello, non di prezzi indipendenti dalla quantità di token consumati.

I risultati variano anche a seconda del test. In AutomationBench-AA, che valuta flussi di lavoro aziendali end-to-end, Ember ottiene il 37,8%, contro il 20,2% di Luna e il 13,9% di Haiku. In Agents’ Last Exam raggiunge il 61,6%, superando il 57,1% di Luna e il 57,0% di Haiku. E nel Personal Superintelligence Index, un indice interno di Meta sul lavoro personale e della conoscenza, registra il 46,8%; Haiku ottiene il 36,1% e Luna il 37,0%.

Nella programmazione, Ember raggiunge il 40,9% in Terminal-Bench 4.0, contro il 39,2% di Haiku e il 16,4% di Luna, utilizzando per ciascun modello la migliore configurazione pubblicata. In Coding Agent Index-AA, che misura la programmazione in ambienti con agenti reali, i punteggi sono rispettivamente 46, 37 e 31. Ma non prevale in tutti gli ambiti: in FrontierCode 2.0-AA, che valuta le attività di ingegneria in base all'accettabilità delle modifiche per l'integrazione, Haiku raggiunge il 34,9%, Ember il 27,2% e Luna il 25,2%.

I test multimodali offrono un altro confronto. In GDP.pdf-AA, incentrato sul lavoro professionale con documenti estesi, Ember e Luna sono alla pari con il 22,8%; Haiku si ferma al 20,8%. In PerceptionBench con strumenti, una valutazione della percezione visiva dettagliata, Ember segna l'80,6%, Haiku il 78,6% e Luna il 62,8%.

In OSWorld 2.1, che misura l'utilizzo delle applicazioni desktop, Meta riporta una ricompensa parziale del 69,5% per Ember e del 68,9% per Haiku. Considerando le attività completate interamente, Ember arriva al 33,8%, contro il 27,8% di Haiku e il 17% di Luna. Un'esecuzione separata di Muse Spark 1.3 ha ottenuto il 39,25% di attività completate, anche se il confronto pubblicato non presenta questo risultato come parte della stessa esecuzione.

Velocità e lavoro aziendale, secondo i partner

Meta ha accompagnato il lancio con le testimonianze di aziende che hanno provato Ember. Yashodha Bhavnani, vicepresidente dei prodotti IA di Box, ha spiegato che il team lo ha utilizzato per valutare i contratti clausola per clausola rispetto alle regole di negoziazione di un'azienda e per selezionare le candidature in base a un profilo dettagliato. Secondo Bhavnani, il sistema era anche in grado di individuare i candidati al limite che potevano comunque essere considerati come riserve.

“On the Box AI Complex Work Eval, Muse Ember delivers impressive accuracy, speed and token efficiency. It can score a contract against a company's negotiation playbook clause by clause and land on the right overall risk rating, or screen candidates against a detailed brief and flag the borderline ones who still qualify as alternates. Muse Ember is a fast, efficient foundation for agents doing real work on enterprise content.”

— Yashodha Bhavnani, vicepresidente dei prodotti IA di Box

Saoud Rizwan, fondatore di Cline, ne ha sottolineato l'utilizzo come subagente per la programmazione e l'analisi dei documenti. Konstantinos Papamiltiadis, vicepresidente senior delle alleanze globali di Oracle, ha affermato che i primi test hanno dimostrato la capacità di affrontare attività di ingegneria complesse.

You.com ha fornito i dati di un test di programmazione: secondo Chak Pothina, responsabile dell'inferenza, Ember ha completato tutte le attività di coding valutate con una latenza p95 di 2,2 secondi, la più bassa tra i modelli testati. L'azienda ha dichiarato che ciò significava una velocità da quattro a tredici volte superiore rispetto ai principali modelli open-weight e un utilizzo di token in uscita inferiore dal 36% al 48%. Sono risultati comunicati dai partner di Meta, non una valutazione indipendente inclusa nella tabella di Artificial Analysis.

Meta descrive nel dettaglio i test di sicurezza

Prima del lancio, Meta ha valutato Ember secondo il proprio Meta Superintelligence Scaling Framework. L'azienda afferma di aver esaminato i rischi chimici e biologici, quelli di cybersicurezza e quelli legati alla perdita di controllo, e che nelle categorie valutate il modello è rimasto al di sotto delle soglie di alto rischio del framework. Aggiunge inoltre che Ember ha ricevuto la stessa formazione e gli stessi test di sicurezza di base.

Meta aggiunge di aver studiato il comportamento di Ember quando agisce per conto di un utente: se rispetta le sue istruzioni, gestisce correttamente le informazioni sensibili, resiste alle indicazioni nascoste in pagine web, documenti o risposte degli strumenti e richiede l'intervento umano prima di azioni ad alto impatto. L'azienda non pubblica nella presentazione i risultati numerici di questi test di sicurezza.

Per ora, Meta propone Ember come soluzione per attività ripetitive su larga scala, con Muse Spark o Muse Wonder a disposizione per i compiti più difficili. L'azienda afferma di avere già modelli più efficienti in fase di addestramento e che condividerà aggiornamenti, ma non ha annunciato una data né ulteriori dettagli al riguardo.

Fonti: TechCrunch, The New Stack, Meta AI Research, Meta Model API, Meta Model API, Documentazione Google Cloud, Meta Model API