Inkling 2 Mini ejecuta 26.400 millones de parámetros en local

Inkling 2 Mini ejecuta 26.400 millones de parámetros en local

Inkling 2 Mini tiene 26.400 millones de parámetros y puede ejecutarse localmente en equipos con 32 GB de memoria, incluidos Mac con Apple Silicon. Thinking Machines Lab lo presentó el 20 de noviembre como un modelo de pesos abiertos que procesa texto e imágenes, con una ventana de contexto de hasta un millón de tokens.

La propuesta no consiste solo en reducir el tamaño frente a modelos mayores. Inkling 2 Mini utiliza una arquitectura de transformador con bucles: vuelve a ejecutar parte de sus capas para añadir cómputo por token y, según Thinking Machines, mejorar el razonamiento sin alargar la respuesta con más pasos escritos.

Doce capas se ejecutan tres veces

El modelo está organizado en 24 capas y una arquitectura Mixture of Experts. Las seis primeras y las seis últimas se ejecutan una vez; las 12 del medio pasan tres veces por cada token. El resultado son 48 aplicaciones de capa por token a partir de 24 capas almacenadas, con pesos compartidos entre las pasadas.

La ficha técnica de Thinking Machines cifra el modelo en 3.400 millones de parámetros activos antes de contabilizar el efecto de los bucles y en 5.400 millones de activaciones de pesos por token al incluirlos. La empresa explica que cada pasada adicional por las capas repetidas suma alrededor de 1.000 millones de parámetros activos efectivos. Artificial Analysis, por su parte, indica que el modelo utiliza 3.100 millones de pesos únicos por token de texto: una medida distinta de la cuenta efectiva que incorpora los bucles.

El diseño separa el tamaño de los pesos almacenados del trabajo que el modelo hace durante la generación. En lugar de producir más texto para mostrar cada fase de razonamiento, puede procesar internamente las representaciones en varias pasadas. Thinking Machines sostiene que esto resulta especialmente útil en tareas de programación con agentes, que requieren encadenar acciones y decisiones.

La compañía afirma que repetir las 12 capas centrales ofreció mejores ganancias de precisión que repetir las 12 últimas en 27 de 28 evaluaciones. Su explicación es que las capas centrales participan más en el razonamiento abstracto, mientras que los bloques inicial y final trabajan en la traducción entre las representaciones de entrada y salida y las internas.

Resultados fuertes en programación, con diferencias según la prueba

En las evaluaciones publicadas por Thinking Machines, Inkling 2 Mini obtuvo 48,2 % en DeepSWE v1.1 y 77,9 % en SWE-bench Pro v2 Hard. La empresa lo sitúa por delante de los modelos de pesos abiertos con menos de 100.000 millones de parámetros en esas pruebas. En SWE-bench Verified registró 79,2 %, y en Vals Index v2.2, 46,5 %.

Los resultados no son uniformes en todas las tareas. En Terminal Bench v2.1 consiguió 71,6 %, por debajo del 73,0 % de Qwen3.8-27B; en cambio, en DeepSWE v1.1 superó el 42,2 % de ese modelo. Thinking Machines advierte que las configuraciones de evaluación varían entre modelos, así que las cifras deben leerse dentro de cada prueba.

Artificial Analysis asignó a Inkling 2 Mini 20,1 puntos en su Intelligence Index, la misma puntuación que Qwen3.8-27B. En su comparación, el modelo de Thinking Machines necesitó alrededor de 2,8 veces menos cómputo por tarea, pero produjo aproximadamente un 38 % más de tokens de salida para alcanzar esa puntuación. Artificial Analysis calcula un coste de 0,59 dólares y 9 minutos por tarea para Inkling 2 Mini, frente a 3,53 dólares y 38,2 minutos para Qwen3.8-27B; el cálculo de coste utiliza los precios publicados por Thinking Machines.

El modelo también obtuvo 85,3 % en DeepSearchQA y 82,7 % en MCP Atlas, según la tabla de Thinking Machines. En visión, logró 92,8 % en OmniDocBench v1.6. Esos resultados encajan con su carácter multimodal: puede recibir imágenes además de texto, aunque su salida es texto.

Inkling 2 Mini ejecuta 26.400 millones de parámetros en local
© Thinking Machines Lab

Un modelo de unos 20 GB para uso local

El archivo de pesos ocupa alrededor de 20 GB, distribuido en precisión NVFP4 y MXFP8. Thinking Machines dice que la mayor parte de los pesos se entrenó y se despliega en NVFP4, mientras que las cuatro últimas capas usan MXFP8. La compañía afirma que mantener en inferencia la precisión utilizada durante el entrenamiento evita pérdidas de conversión asociadas a una cuantización posterior.

La empresa admite equipos Apple Silicon con al menos 32 GB de memoria unificada y el ordenador de sobremesa DGX Spark de NVIDIA. Para otras GPU y plataformas recomienda 32 GB o más de VRAM. En Apple Silicon, Hugging Face enumera Ollama y Exo Labs entre las opciones de ejecución; la ficha también recoge compatibilidad con Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth y, para versiones GGUF cuantizadas, llama.cpp.

Thinking Machines mostró el modelo funcionando sin conexión en un MacBook Pro durante un vuelo. En una demostración, generó en unos minutos un simulador de vuelo jugable. La compañía también presentó Thinkyville, una pequeña ciudad pixelada donde 20 habitantes autónomos funcionan en un MacBook sin conexión: planifican sus días, interactúan y responden a mensajes del jugador.

Inkling 2 Mini acepta imágenes de entre 40 y 4.096 píxeles por dimensión para un rendimiento óptimo, según la ficha de Hugging Face. Su ventana de contexto llega a un millón de tokens. La licencia Apache 2.0 permite descargar los pesos y utilizarlos en investigación, ajuste fino e integración en productos de terceros, respetando sus condiciones.

El razonamiento interno plantea preguntas de supervisión

Como los bucles permiten más cómputo sin que cada paso aparezca en una cadena de razonamiento visible, Thinking Machines examinó si dificultaban la supervisión. Para comparar distintas profundidades de bucle, la empresa utilizó una variante de investigación con número de pasadas variable, que también publicó junto al modelo.

En esa variante, el horizonte de tareas resueltas sin cadena de pensamiento escrita pasó de 16 segundos con una pasada a 37 segundos con tres. El rendimiento en una prueba de razonamiento en serie siguió mejorando hasta diez bucles, el doble de los utilizados durante su entrenamiento. La empresa afirma que las cadenas de pensamiento se acortaron al aumentar las pasadas, pero siguieron siendo legibles, y que no observó una tendencia al alza en pruebas de sabotaje agentivo.

Thinking Machines sostiene que el comportamiento siguió siendo monitorizable en sus experimentos a esta escala. En la ficha de seguridad añade que el modelo tuvo poco control sobre su cadena de pensamiento y no pudo realizar tareas encubiertas en entornos agentivos realistas. También concluye que no ofrece una capacidad materialmente superior a la disponible ya en modelos de pesos abiertos.

“Looping allows the model to reason longer without writing its reasoning down.”

— Thinking Machines Lab

Las limitaciones que reconoce Thinking Machines

La compañía señala que el modelo es menos fiable en conversaciones largas y cuando recibe instrucciones con muchas restricciones. En ComplexConstraints v1.1 obtuvo 33,4 %, por detrás de Qwen3.8-27B, que alcanzó 35,6 %. También queda por debajo de modelos mayores en pruebas intensivas de razonamiento como CritPt v2 y HLE-Diamond.

La ficha de Hugging Face advierte de razonamientos repetitivos, especialmente durante la depuración de código, y recomienda limitar los tokens de salida y los turnos de los agentes. También alerta de que, al usar herramientas, puede ignorar convenciones detalladas o borrar y sobrescribir archivos sin pedir confirmación. En idiomas distintos del inglés la calidad puede bajar; en pruebas en chino, la empresa observó frases truncadas y mezcla de idiomas.

Thinking Machines recomienda supervisión humana para usos de alto impacto, ejecutar tareas agentivas en un entorno aislado y pedir confirmación antes de acciones destructivas o irreversibles. También aconseja evaluar el modelo para cada caso de uso, idioma y población antes de desplegarlo, y no utilizarlo en decisiones médicas, legales o críticas para la seguridad sin validación específica y supervisión humana.

Los pesos están disponibles en Hugging Face bajo Apache 2.0; también se puede acceder al modelo mediante Tinker, la plataforma de inferencia y personalización de Thinking Machines. La ficha de Ollama ofrece el identificador inkling-2-mini y variantes de 20 GB, mientras la empresa presenta Tinker Playground como opción para probarlo.

Fuentes: Wccftech, GitHub, The Decoder, Thinking Machines Lab, Hugging Face, Ollama, Artificial Analysis