Thinking Machines estreia Inkling, um modelo aberto gigante que admite não ser o melhor

“Acreditamos em manter viva a estranheza.” Essa frase vem de um manifesto do laboratório de Mira Murati publicado na semana passada. É também o pensamento por trás do primeiro modelo do laboratório. O Thinking Machines Lab, fundado pelo ex-diretor de tecnologia da OpenAI, lançou o Inkling.

É aberto, então qualquer desenvolvedor ou empresa pode baixar o modelo e remodelá-lo. Isso por si só o diferencia dos carros-chefe vendidos pela OpenAI, Anthropic e Google. Inkling é grande.

É um sistema misto de especialistas com 975 mil milhões de parâmetros totais, embora utilize apenas cerca de 41 mil milhões para qualquer tarefa. Ele lida com uma janela de contexto de até 1 milhão de tokens e é treinado em 45 trilhões de tokens de texto, imagens, áudio e vídeo. Ele raciocina através de texto, imagens e áudio, mas por enquanto ele apenas grava texto, incluindo código e dados estruturados.

Aqui está a reviravolta. Thinking Machines não afirma que Inkling está no topo das paradas. Seus próprios materiais o chamam de “não é o modelo mais forte disponível hoje, fechado ou aberto”.

Os últimos rumores do cenário tecnológico da UE, uma história do nosso sábio e velho fundador Boris e alguma arte de IA questionável. É grátis, toda semana, na sua caixa de entrada. Cadastre-se agora!

O laboratório está buscando outra coisa: alcance e adaptabilidade. O Thinking Machines Inkling pretende ser uma base ampla e equilibrada que as organizações ajustam para seu próprio trabalho, e não um chatbot acabado. Os usuários podem aumentar ou diminuir seu “esforço de pensamento” para trocar precisão por velocidade.

Em um teste de codificação, diz a empresa, o Inkling corresponde ao Nemotron 3 Ultra da Nvidia usando um terço do número de tokens. O laboratório também apresentou um modelo mais leve, o Inkling-Small, com 12 bilhões de parâmetros ativos. É adequado para trabalhos onde o custo e a velocidade são mais importantes.

Toda a liberação depende de uma aposta. A IA treinada num local e depois congelada, argumenta o laboratório, perde para a IA que cada organização pode moldar em torno da sua própria experiência. Os clientes ajustam o Inkling por meio do Tinker, a plataforma de personalização da Thinking Machines, e são donos do resultado.

Eles também carregam o risco de segurança de tudo o que constroem. O laboratório aponta um projeto com o fundo de hedge Bridgewater como prova. Os dois treinaram um modelo aberto com base no know-how financeiro da Bridgewater, que obteve uma pontuação de 84,7% em testes de raciocínio financeiro, superando os principais modelos proprietários por uma fração do custo.

Esse número vem da avaliação das próprias duas empresas, e não de uma avaliação independente. A discussão está ganhando companhia. Satya Nadella, da Microsoft, alertou recentemente que as empresas que utilizam modelos fechados pagam duas vezes, uma vez em taxas e outra ao entregar o conhecimento incorporado nas suas instruções.

Modelos baratos de peso aberto, muitos deles da China, funcionam da mesma maneira. A Thinking Machines faz questão de enfatizar sua velocidade. O OpenAI levou cerca de cinco anos para ser lançado e lançado, e o Anthropic, cerca de três, observou o TechCrunch.

O laboratório de Murati diz que fez isso em cerca de nove meses. Foram necessários alguns atalhos para chegar lá. Para iniciar o treinamento do Inkling, o laboratório se apoiou em outros modelos abertos, incluindo o Kimi K2.5 da Moonshot, uma prática conhecida como destilação.

Seu próximo modelo, insiste, será totalmente treinado por conta própria. O Inkling funcionou em sistemas GB300 da Nvidia, parte de um acordo de março para um gigawatt de computação da Nvidia. O dinheiro e as pessoas têm sido mais turbulentos.

O laboratório levantou US$ 2 bilhões, com uma avaliação de US$ 12 bilhões no ano passado, e uma rodada de US$ 50 bilhões foi estagnada. Dois cofundadores saíram no início deste ano, embora o número de funcionários tenha voltado para cerca de 200. Por enquanto, a Thinking Machines não cobrará nada pelo Inkling.

Seu dinheiro vem de Tinker, e seu caso depende da estranheza que persiste. Receba as notícias de tecnologia mais importantes em sua caixa de entrada todas as semanas.