Inkling 2 Mini ha 26.400 milioni di parametri e può essere eseguito localmente su dispositivi con 32 GB di memoria, inclusi i Mac con Apple Silicon. Thinking Machines Lab lo ha presentato il 20 novembre come modello a pesi aperti che elabora testo e immagini, con una finestra di contesto fino a un milione di token.
La proposta non consiste solo nel ridurre le dimensioni rispetto ai modelli più grandi. Inkling 2 Mini utilizza un'architettura transformer con cicli: esegue nuovamente parte dei suoi strati per aggiungere calcolo per token e, secondo Thinking Machines, migliorare il ragionamento senza allungare la risposta con più passaggi scritti.
Dodici strati vengono eseguiti tre volte
Il modello è organizzato in 24 strati e un'architettura Mixture of Experts. I primi sei e gli ultimi sei vengono eseguiti una volta; i 12 centrali passano tre volte per ogni token. Il risultato è di 48 applicazioni di strato per token a partire da 24 strati archiviati, con pesi condivisi tra i passaggi.
La scheda tecnica di Thinking Machines quantifica il modello in 3.400 milioni di parametri attivi prima di contabilizzare l'effetto dei cicli e in 5.400 milioni di attivazioni dei pesi per token includendoli. L'azienda spiega che ogni passaggio aggiuntivo attraverso gli strati ripetuti aggiunge circa 1.000 milioni di parametri attivi effettivi. Artificial Analysis, da parte sua, indica che il modello utilizza 3.100 milioni di pesi unici per token di testo: una misura diversa dal conteggio effettivo che incorpora i cicli.
Il design separa le dimensioni dei pesi archiviati dal lavoro svolto dal modello durante la generazione. Invece di produrre più testo per mostrare ogni fase del ragionamento, può elaborare internamente le rappresentazioni in più passaggi. Thinking Machines sostiene che ciò sia particolarmente utile nelle attività di programmazione con agenti, che richiedono di concatenare azioni e decisioni.
L'azienda afferma che ripetere i 12 strati centrali ha offerto miglioramenti di precisione maggiori rispetto alla ripetizione degli ultimi 12 in 27 valutazioni su 28. La spiegazione è che gli strati centrali partecipano maggiormente al ragionamento astratto, mentre i blocchi iniziale e finale lavorano alla traduzione tra le rappresentazioni di input e output e quelle interne.
Risultati notevoli nella programmazione, con differenze a seconda del test
Nelle valutazioni pubblicate da Thinking Machines, Inkling 2 Mini ha ottenuto il 48,2 % in DeepSWE v1.1 e il 77,9 % in SWE-bench Pro v2 Hard. L'azienda lo colloca davanti ai modelli a pesi aperti con meno di 100.000 milioni di parametri in questi test. In SWE-bench Verified ha registrato il 79,2 % e in Vals Index v2.2 il 46,5 %.
I risultati non sono uniformi in tutte le attività. In Terminal Bench v2.1 ha ottenuto il 71,6 %, al di sotto del 73,0 % di Qwen3.8-27B; in DeepSWE v1.1, invece, ha superato il 42,2 % di quel modello. Thinking Machines avverte che le configurazioni di valutazione variano da un modello all'altro, quindi i dati vanno letti nel contesto di ciascun test.
Artificial Analysis ha assegnato a Inkling 2 Mini 20,1 punti nel suo Intelligence Index, lo stesso punteggio di Qwen3.8-27B. Nel confronto, il modello di Thinking Machines ha richiesto circa 2,8 volte meno calcolo per attività, ma ha prodotto circa il 38 % di token di output in più per raggiungere quel punteggio. Artificial Analysis stima un costo di 0,59 dollari e 9 minuti per attività per Inkling 2 Mini, contro 3,53 dollari e 38,2 minuti per Qwen3.8-27B; il calcolo dei costi utilizza i prezzi pubblicati da Thinking Machines.
Secondo la tabella di Thinking Machines, il modello ha ottenuto anche l'85,3 % in DeepSearchQA e l'82,7 % in MCP Atlas. Nella visione, ha raggiunto il 92,8 % in OmniDocBench v1.6. Questi risultati sono coerenti con la sua natura multimodale: può ricevere immagini oltre al testo, anche se il suo output è testuale.

Un modello di circa 20 GB per l'uso locale
Il file dei pesi occupa circa 20 GB, distribuiti nei formati di precisione NVFP4 e MXFP8. Thinking Machines afferma che la maggior parte dei pesi è stata addestrata e viene distribuita in NVFP4, mentre gli ultimi quattro strati utilizzano MXFP8. L'azienda sostiene che mantenere in inferenza la precisione utilizzata durante l'addestramento eviti le perdite di conversione associate a una quantizzazione successiva.
L'azienda supporta i dispositivi Apple Silicon con almeno 32 GB di memoria unificata e il computer desktop NVIDIA DGX Spark. Per altre GPU e piattaforme consiglia almeno 32 GB di VRAM. Su Apple Silicon, Hugging Face elenca Ollama ed Exo Labs tra le opzioni di esecuzione; la scheda riporta anche la compatibilità con Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth e, per le versioni GGUF quantizzate, llama.cpp.
Thinking Machines ha mostrato il modello funzionare offline su un MacBook Pro durante un volo. In una dimostrazione, ha generato in pochi minuti un simulatore di volo giocabile. L'azienda ha presentato anche Thinkyville, una piccola città pixelata in cui 20 abitanti autonomi funzionano su un MacBook offline: pianificano le loro giornate, interagiscono e rispondono ai messaggi del giocatore.
Secondo la scheda di Hugging Face, per prestazioni ottimali Inkling 2 Mini accetta immagini con dimensioni comprese tra 40 e 4.096 pixel per lato. La sua finestra di contesto arriva a un milione di token. La licenza Apache 2.0 consente di scaricare i pesi e utilizzarli nella ricerca, nel fine-tuning e nell'integrazione in prodotti di terze parti, nel rispetto delle relative condizioni.
Il ragionamento interno solleva interrogativi sulla supervisione
Poiché i cicli consentono di aumentare il calcolo senza che ogni passaggio compaia in una catena di ragionamento visibile, Thinking Machines ha esaminato se rendessero più difficile la supervisione. Per confrontare diverse profondità di ciclo, l'azienda ha utilizzato una variante di ricerca con un numero variabile di passaggi, pubblicata anch'essa insieme al modello.
In questa variante, l'orizzonte delle attività risolte senza una catena di pensiero scritta è passato da 16 secondi con un passaggio a 37 secondi con tre. Le prestazioni in un test di ragionamento seriale hanno continuato a migliorare fino a dieci cicli, il doppio di quelli utilizzati durante l'addestramento. L'azienda afferma che le catene di pensiero si sono accorciate all'aumentare dei passaggi, ma sono rimaste leggibili, e che non ha osservato una tendenza al rialzo nei test di sabotaggio agentivo.
Thinking Machines sostiene che, nei suoi esperimenti a questa scala, il comportamento sia rimasto monitorabile. Nella scheda di sicurezza aggiunge che il modello ha avuto poco controllo sulla propria catena di pensiero e non è stato in grado di svolgere attività occulte in ambienti agentivi realistici. Conclude inoltre che non offre capacità materialmente superiori a quelle già disponibili nei modelli a pesi aperti.
“I cicli consentono al modello di ragionare più a lungo senza scrivere il proprio ragionamento.”
— Thinking Machines Lab
I limiti riconosciuti da Thinking Machines
L'azienda segnala che il modello è meno affidabile nelle conversazioni lunghe e quando riceve istruzioni con molti vincoli. In ComplexConstraints v1.1 ha ottenuto il 33,4 %, dietro a Qwen3.8-27B, che ha raggiunto il 35,6 %. Rimane inoltre indietro rispetto ai modelli più grandi nei test di ragionamento intensivo come CritPt v2 e HLE-Diamond.
La scheda di Hugging Face avverte che il ragionamento può essere ripetitivo, soprattutto durante il debugging del codice, e consiglia di limitare i token di output e i turni degli agenti. Avverte inoltre che, quando utilizza strumenti, il modello può ignorare convenzioni dettagliate o eliminare e sovrascrivere file senza chiedere conferma. La qualità può diminuire nelle lingue diverse dall'inglese; nei test in cinese, l'azienda ha osservato frasi troncate e mescolanza di lingue.
Thinking Machines consiglia la supervisione umana per gli usi ad alto impatto, di eseguire le attività agentive in un ambiente isolato e di chiedere conferma prima di azioni distruttive o irreversibili. Raccomanda inoltre di valutare il modello per ogni caso d'uso, lingua e popolazione prima di distribuirlo e di non utilizzarlo per decisioni mediche, legali o critiche per la sicurezza senza una convalida specifica e la supervisione umana.
I pesi sono disponibili su Hugging Face con licenza Apache 2.0; è possibile accedere al modello anche tramite Tinker, la piattaforma di inferenza e personalizzazione di Thinking Machines. La scheda di Ollama riporta l'identificatore inkling-2-mini e le varianti da 20 GB, mentre l'azienda presenta Tinker Playground come opzione per provarlo.
Fonti: Wccftech, GitHub, The Decoder, Thinking Machines Lab, Hugging Face, Ollama, Artificial Analysis