A Thinking Machines Lab apresentou o Inkling 2 Mini, um transformer com loop projetado para instalações locais de IA. O modelo é um Mixture of Experts multimodal com aproximadamente 26 bilhões de parâmetros físicos no total e 3 bilhões de parâmetros ativos por token. A proposta é entregar capacidade alta em hardware local, com suporte a texto e imagens e contexto de 1M tokens.
Loop de camadas e capacidade efetiva
A arquitetura tem 24 camadas de decoder, mas as 12 camadas centrais são executadas três vezes em loop. Com isso, o modelo se comporta como se tivesse 48 camadas lógicas (6 + 3 x 12 + 6) usando apenas 24 camadas físicas. Cada token passa por 48 visitas de camada. A largura oculta é 2.304, e cada visita roteia o token para 8 especialistas entre 128 especialistas por camada. As três passagens pelas camadas 6 a 17 reutilizam os mesmos pesos.
Mensagens entre passagens
O diferencial está no mecanismo de mensagens entre passagens. Cada passagem pelo núcleo repetido começa com a mesma entrada, que é a saída das seis primeiras camadas. As informações circulam por mensagens entre passagens, e cada camada lida com uma mensagem da passagem anterior usando consultas aprendidas para query, key, value e entradas do MLP. Um controlador de gating analisa a entrada atual e a mensagem, decide quanto esquecer da entrada e quanto adicionar da mensagem. Assim, cada passagem refina o que a anterior calculou.
Variante de pesquisa com loop variável
Além do modelo principal, a Thinking Machines Lab liberou um artefato de pesquisa com a mesma arquitetura, mas treinado para aceitar um número variável de passagens pelo loop. Configurar 1 ou 2 passagens em vez de 3 acelera bastante a inferência, com possível queda leve na qualidade das gerações. A equipe testou essa variante e confirmou que ela funciona, embora ainda não tenha feito uma avaliação profunda.
Precisão mista e aceleração
O Inkling 2 Mini é distribuído em formato de precisão mista, com pesos de especialistas em NVFP4 e MXFP8. Também inclui um DSpark drafter para ganho extra de velocidade com pequeno custo de memória. A Thinking Machines Lab oferece suporte em transformers, Llama App (llama.cpp), MLX e SGLang, com inferência disponível desde o primeiro dia para implantações de produção em hardware de datacenter.
Desempenho e comparações
Nos testes de vibe da equipe, o modelo ficou ao menos comparável ao Qwen 3.8 27B, mas a própria empresa afirma que mais validação é necessária. O Inkling 2 Mini aparece como estado da arte em sua classe no Artificial Analysis Intelligence Index v5 (AAv5) e em vários benchmarks. Frente a Gemma 4 31B, Muse Glimmer, Qwen 3.8 27B e Nemotron 3.5 Super VL, ele lidera em 32 de 48 benchmarks, cobrindo programação, pesquisa autônoma, busca agêntica e uso de ferramentas, visão, raciocínio, conhecimento, segurança e alinhamento.
Nos testes de vibe, ele é ao menos comparável ao Qwen 3.8 27B. Mais validação é necessária, mas a equipe está empolgada com o lançamento.
Para programação local, o modelo lidera no FrontierCode v2.0, empata com o Qwen 3.8 27B no Terminal Bench 4.0 e fica atrás do Qwen no AutomationBench AA v1.0.6. A avaliação AA Briefcase usa classificação ELO, na qual números maiores indicam melhor desempenho. A lista completa de benchmarks e pontuações está no model card do Inkling 2 Mini.
Formatos de uso local
A