Modelos abertos, e de onde eles vêm
Em uma semana, a Reflection lançou um modelo aberto forte, a DeepSeek atualizou o seu e Washington proibiu a DeepSeek em seus órgãos. A qualidade já não é a questão. A origem é.
Para uma empresa que quer uma IA própria, a notícia mais importante da semana passada não foi um novo chatbot. Foram três coisas que aconteceram em poucos dias: um modelo aberto da Reflection AI que cabe em um único servidor, novos pesos para o modelo aberto da DeepSeek e uma ordem do governo dos Estados Unidos que remove a DeepSeek dos seus órgãos civis. Juntas, elas dizem algo simples. Os modelos abertos agora são bons o bastante para trabalho sério, e a questão passou da qualidade para a origem.
Beam: menos tokens, não tokens mais baratos
Em 16 de outubro, a Reflection AI lançou o Beam, seu primeiro modelo de pesos abertos, sob a licença Apache 2.0, que permite uso comercial e modificações. Ele tem 501 bilhões de parâmetros, dos quais 23 bilhões ficam ativos para cada token. Em versão de 8 ou 4 bits, cabe em um servidor com oito GPUs, como H100, H200 ou GB300. A versão completa precisa de “dezenas de GPUs”, noticiou o VentureBeat.
A proposta da Reflection não são tokens mais baratos, mas menos tokens. Durante o treinamento, ela penalizou o modelo por cada token de que ele não precisava e, na leitura que o VentureBeat fez do gráfico da empresa, o Beam usa cerca de 25'000 tokens por tentativa em um teste de programação em que o GLM-5.2 precisa de cerca de 80'000. Não é o modelo aberto mais forte. No Terminal-Bench 2.1, o VentureBeat relatou cerca de 80 por cento para o Beam, contra 90,6 por cento do DeepSeek V4.1 Flash e 85 por cento do Kimi K3. A Reflection diz que o Beam vai “vencer por mérito, e não por qualquer outra coisa.”
DeepSeek: mais forte, e com licença MIT
Nos mesmos dias, a DeepSeek publicou pesos atualizados do V4.1 Flash, com a data de 17 de outubro no nome. O model card o chama de “uma atualização menor”, com ganhos em raciocínio, programação, tarefas agênticas e visão, e recomenda um contexto de um milhão de tokens. A licença não poderia ser mais aberta: “Este repositório e os pesos do modelo estão licenciados sob a Licença MIT.”
A DeepSeek também vem consolidando sua oferta. Em setembro, transferiu todas as solicitações do seu modelo maior, o V4 Pro, para o V4.1 Flash, “pelos preços do V4.1-Flash”, e começou a descontinuar o V4 Pro. Pelo benchmark citado pelo VentureBeat, ele é o mais forte dos modelos abertos mencionados aqui.
Washington traça uma linha
Em 19 de outubro, o CyberScoop noticiou que o Departamento de Segurança Interna dos Estados Unidos está proibindo os órgãos federais civis de usar produtos da DeepSeek, com base em uma lei de 2018 sobre cadeias de suprimentos. Os órgãos precisam remover as versões que têm e não podem comprar novas. Os motivos dizem respeito a dados: a DeepSeek armazena dados em servidores na China, e seu processo de prompts e respostas “pode resultar na transferência de dados sensíveis” para o governo chinês. A ordem cita apenas a DeepSeek, embora outros modelos abertos chineses, como Kimi e Qwen, tenham despertado preocupações parecidas.
A reportagem não diz se a proibição também abrange os pesos da DeepSeek quando um órgão os roda nos próprios servidores, onde nenhum dado vai a lugar nenhum. Essa questão em aberto é a que toda empresa deveria anotar. Rodar um modelo em casa responde para onde vão os dados. Não responde de onde vem o modelo.
O que isso significa para um modelo próprio
Pesos abertos nos seus próprios servidores resolvem os problemas mais óbvios: os dados ficam em casa, e ninguém pode mudar ou retirar o modelo numa terça-feira qualquer. Não resolvem todos. Um modelo também é um produto com origem, licença, dados de treinamento e um comportamento que ninguém de fora do laboratório consegue inspecionar por completo. Para um banco, um órgão público ou um fornecedor da área de defesa, a questão já não é se um modelo aberto é bom o bastante. É se a origem dele vai passar na próxima auditoria, no próximo questionário de cliente ou na próxima ordem como esta.
Na prática, isso significa três coisas. Escolha o modelo base com o mesmo cuidado com que escolhe a licença: Apache 2.0 e MIT são ambas permissivas, mas nenhuma diz nada sobre procedência. Mantenha o modelo substituível, para que o conhecimento, as regras e os testes da empresa fiquem fora dele e um modelo melhor ou mais seguro possa tomar o seu lugar em semanas. E teste cada candidato no seu próprio trabalho antes de colocá-lo em produção, não só em benchmarks públicos.
Como o Eigna lida com isso
É assim que o Eigna é construído, a IA privada que implantamos para clientes como parceiros da Eigna Labs. Ele parte de um modelo aberto, adaptado ao domínio do cliente e treinado com o trabalho, as regras e a linguagem dele, rodando na nuvem do próprio cliente ou em seus próprios servidores. Uma nova versão só entra em produção quando se sai melhor nos testes do que a anterior, e pode ser revertida em um só passo. Qual modelo aberto fica por baixo é uma decisão que tomamos com cada cliente, origem incluída, e que pode mudar quando chegar um melhor.
