← Todas as notícias

Baseten lançou o joey-1, modelo de decisão de 2B que devolve probabilidades em vez de texto, com pesos abertos sob licença MIT

Segundo a MarkTechPost, em 29 de outubro de 2026, o Base Labs, da Baseten, lançou o joey-1, modelo de decisão de 2B que, em uma passagem direta, retorna probabilidades calibradas para cada opção, em vez de texto livre; os pesos são abertos sob MIT e a interface hospedada aceita até 16.384 tokens. A reportagem afirma que ele obteve 63,30 no split público do Jev e P50 de 20 milissegundos.

Publicado Atualizado

O que mudou

Segundo a MarkTechPost de 29 de outubro de 2026, a equipe de pesquisa Base Labs, da Baseten, lançou o joey-1: um modelo de decisão com 2 bilhões de parâmetros que não gera texto livre, mas recebe um estado em texto ou imagem e um conjunto de perguntas tipadas, retornando em uma passagem direta a probabilidade de cada opção de cada pergunta. A reportagem afirma que os pesos foram disponibilizados no Hugging Face sob licença MIT e também são oferecidos pela Baseten Model APIs, com caminho de chamada /v1/systemone, além de já estarem no OpenRouter; o artigo informa preço de API de US$ 0,01 por milhão de tokens de entrada, com saída e entrada em cache marcadas como US$ 0. Essa é a cotação da data da reportagem; a cobrança real deve ser conferida na página de preços do fornecedor. O joey-1 aceita três tipos de pergunta: choice escolhe uma entre opções dadas; yes/no, cujo campo na API se chama noul, retorna a probabilidade de "sim"; e score retorna uma graduação ordenada, com o menor primeiro. A reportagem diz que ele foi obtido por ajuste fino completo do Qwen3.5-2B e depois treinado, com o codificador visual congelado, camadas de atenção total usando máscara bidirecional em blocos e todas as perguntas compartilhando um único pré-preenchimento de prefixo, de modo que o custo marginal de adicionar perguntas é pequeno. No Model APIs, a sequência máxima é de 16.384 tokens; em implantação dedicada, ela chegaria a 262k, segundo a reportagem. A auto-hospedagem exige uma GPU CUDA e uma imagem PyTorch 2.8 / CUDA 12.8; a reportagem não divulga o requisito de memória de vídeo nem lista versões quantizadas oficiais. O cartão do modelo informa como detalhes de treinamento 6,21 milhões de amostras de decisão, entropia cruzada mais um termo de calibração Brier, e o treinamento de uma opção "não sei". O joey-1 é o terceiro membro da série; na semana anterior, a Baseten lançou o mammoth-1, de 27B, e o elephant-1, de 9B, que compartilham os dados de treinamento e o mesmo conjunto de interfaces, e a reportagem afirma que a troca exige mudar apenas uma linha. Nos benchmarks, todos os números são declarados pela própria Baseten: no split público do Jev Decision Index 0.4, o joey-1 obtém 63,30, ficando em 37º entre 230 modelos, e a Baseten o descreve como a maior pontuação entre modelos abaixo de 4B; o elephant-1, da mesma família, tem 72,24, o Clef, da Cloudflare, 61,71, e o Jev 1.14, 60,70. No Artificial Analysis Decision Index reproduzido pela Baseten, o joey-1 tem 62,9 e o mammoth-1, 65,9. Em latência, a Baseten relata P50 ponta a ponta de 20 milissegundos para requisições médias de 2.000 tokens, contra 49 milissegundos do elephant-1; o blog também afirma ser 5 vezes mais rápido que modelos de decisão semelhantes, mas não nomeia os comparados.

Impacto para desenvolvedores

Esta divulgação muda a forma do erro e a estrutura de custos, não a posição de mais um modelo genérico. Antes, para classificação de alta frequência, costumava-se pedir a um LLM genérico que produzisse JSON e depois a aplicação o analisava; os modos de falha eram erros de formato e rótulos alucinados. Modelos como o joey-1 restringem o espaço de saída às opções dadas, de modo que falhas de análise basicamente desaparecem; o risco restante passa a ser o julgamento probabilístico em si estar impreciso e o limiar estar mal definido. O custo também é claro: o conhecimento geral de um modelo de decisão de 2B é mais fraco que o dos modelos maiores da mesma família — a própria reportagem diz que ele fica atrás do elephant-1 em todos os domínios —, então ele serve para roteamento de primeira linha, não para substituir etapas que exigem conhecimento de mundo ou geração aberta. O uso real de probabilidades calibradas é a estratificação. Como cada opção traz uma probabilidade e há uma opção de abstenção treinada, é possível, em engenharia, encaminhar amostras de baixa confiança para o 9B, o 27B ou revisão humana, concentrando as chamadas caras nas amostras difíceis; os três modelos compartilharem a mesma interface significa que o custo de adaptação da cadeia de escalonamento recai principalmente sobre limiares e avaliação, não sobre reescrita de código. Mas isso também implica que o integrador precise acrescentar duas coisas que antes podia dispensar: um conjunto de validação rotulado e uma política de limiares baseada em custo. Sem esses dois itens, as vantagens de preço e latência não se convertem na qualidade de decisão do seu caso. Outra variável fácil de esquecer é o contexto. A interface hospedada é truncada em 16.384 tokens, e os 262k pertencem apenas à implantação dedicada; isso determina se entradas longas, como chamados e logs extensos, podem seguir pelo caminho hospedado. A auto-hospedagem exige apenas uma GPU CUDA, mas a memória de vídeo não é divulgada e não há versão quantizada oficial; o comprimento de sequência realmente suportado precisa ser verificado por você.

Integração e avaliação

O texto a seguir é análise condicional, não fato reportado. Se o ambiente atual usa "classificação por prompt mais análise de JSON", a recomendação é primeiro colocar um caminho paralelo em modo sombra, em vez de substituir diretamente. O pré-requisito é que o conjunto de rótulos seja enumerável e que existam dados históricos rotulados ou de revisão humana para formar o conjunto de validação. Comece pelo tipo de requisição de maior volume, com baixo custo por erro e rótulos fechados. O critério é calcular, no seu próprio conjunto de validação, F1 macro e acurácia com o limiar de confiança aceitável para o negócio, e observar ao mesmo tempo se a taxa de falha de análise cai a zero e se a proporção de abstenções cabe na capacidade de revisão humana; se a acurácia não superar a linha de base atual de prompts ou se a taxa de abstenção for alta demais, a conclusão deve ser não migrar. Se o custo de um erro for claramente maior que o de uma chamada de escalonamento, a recomendação é usar a probabilidade como chave de roteamento. A prática é definir um limiar, encaminhar amostras abaixo dele para o elephant-1, o mammoth-1 ou revisão humana, e impor um teto ao volume de escalonamentos. O critério é varrer diferentes limiares e buscar o ponto de custo total mínimo somando "custo da chamada de decisão + custo de escalonamento + custo do erro remanescente"; ao mesmo tempo, traçar uma curva de confiabilidade para verificar se as amostras em que o modelo dá 0,8 têm acerto real próximo de 0,8. O termo de calibração Brier da reportagem foi ajustado na distribuição de treinamento deles; se continua calibrado no seu domínio só você pode testar, e essa etapa não pode ser pulada. Se o comprimento da entrada frequentemente passa de 16k ou os dados não podem sair da rede, defina primeiro o formato de implantação e só depois discuta o desempenho do modelo. Os 16.384 tokens da interface hospedada, os 262k da implantação dedicada e a auto-hospedagem em uma única placa com imagem especificada são três caminhos diferentes. O critério é medir throughput e latência p99 no hardware alvo e comparar com a latência atual do seu próprio caminho; não cite diretamente os 20 milissegundos do lado da plataforma do fornecedor, pois esse número mede o ambiente ponta a ponta deles.

Limites e pontos a confirmar

Os números de benchmark e latência deste artigo são todos declarados pela Baseten e não têm reprodução independente. O Jev Decision Index é um ranking comunitário no Hugging Face, mas as pontuações das empresas nesse ranking também são citadas do cartão de modelo da Baseten; a comparação entre 20 e 49 milissegundos está limitada à medição dentro da mesma plataforma, e a afirmação do blog de "5 vezes mais rápido" não nomeia o objeto de comparação. MIT é a licença indicada na página dos pesos, o que não equivale a uma explicação completa sobre direitos derivados do modelo-base e origem dos dados de treinamento; antes do uso comercial, verifique por conta própria a licença e as notas de dados no repositório. O joey-1 não está atualmente no catálogo de modelos do KimiSeek; a disponibilidade de API e o preço mencionados na reportagem se referem à oferta da Baseten e do OpenRouter; para conferir modelos e cobrança disponíveis nesta plataforma, consulte a página de preços do site.

Três minutos até a primeira chamada

Crie uma conta e uma chave de API. O custo das chamadas é descontado do seu saldo. 30% de desconto na primeira recarga. Recarregue ¥500, pague ¥350, receba ¥500 de saldo. Recarregue ¥1000, pague ¥850, receba ¥1000 de saldo A recarga mínima continua sendo ¥10, adequada para testes.

Fontes e processo editorial

Baseten 发布 joey-1:2B 决策模型,每百万输入 token 收费 0.01 美元

A IA auxiliou a análise e a tradução das fontes citadas, seguidas de verificações automáticas. Recomendações não são resultados de testes. Consulte o catálogo atual para preços e disponibilidade.