stamatios
← Voltar ao feed
Guepardo aperta botão luminoso em painel de controle, velocidade do modelo Jev para decisões estruturadas de software
IA & Modelos

TypeSafe AI lança Jev, nova classe de modelos para decisões estruturadas rápidas

resumo de ~3 min

Uma nova classe de modelo para automação

A TypeSafe AI, fundada por Diogo Almeida - ex-pesquisador da OpenAI que trabalhou nos métodos por trás do ChatGPT - anunciou, após dois anos em modo furtivo, sua primeira família de "System One Models", uma nova classe de modelos de fronteira projetados para tomar decisões estruturadas e rápidas que o software pode usar diretamente. O primeiro modelo público é o Jev, disponível em acesso antecipado.

A tese central: modelos de linguagem são super-humanos em conversa há anos, mas isso não se converteu em automação em escala. Para Almeida, faltava uma interface que o software pudesse depender - em vez de texto livre que precisa ser interpretado e validado.

Como o Jev difere dos LLMs

O Jev abandona a geração de texto. Em vez de produzir strings token por token de forma sequencial (autoregressiva), ele gera todas as probabilidades de saída em paralelo, em uma única consulta. A entrada é estado não estruturado (por exemplo, um texto denso descrevendo uma situação), e a saída são valores estruturados type-safe, definidos previamente por esquema, acompanhados de probabilidades calibradas.

O treinamento usa um método próprio chamado Reinforcement Learning for Calibrated Decisions (RLCD), que otimiza para decisões com probabilidades honestas do ponto de vista epistêmico - em contraste com RLHF (preferência humana) e RLVR (recompensas verificáveis) usados em LLMs tradicionais.

A empresa afirma que o Jev alcança níveis de inteligência comparáveis a LLMs de fronteira em tarefas do tipo System One, sendo duas ordens de magnitude mais rápido e barato: latência de 70 ms a 500 ms (contra 3 a 329 segundos de modelos de fronteira) e custo de entrada de $0,042 por milhão de tokens, com saída gratuita. Por nunca gerar texto livre, o modelo, segundo a empresa, "não pode alucinar" e nunca comete erros de tipo - algo que, afirma a TypeSafe, seria matematicamente impossível de violar.

Evidências e ressalvas

A empresa reconhece o caráter extraordinário das afirmações e apresenta ressalvas próprias. A velocidade por chamada é verificável, mas os evals publicados foram rodados de laptops na costa oeste dos EUA, onde o serviço está hospedado. A empresa admite não poder provar que o preço não é subsidiado, esperando que o longo prazo confirme a sustentabilidade (com expectativa de queda, não alta).

Workflow evals

A TypeSafe criou um novo tipo de avaliação: em vez de medir classificação contra um gabarito, assume-se que existe um grafo de computação correto (um "workflow" em código) e usa-se como referência a média das probabilidades dos maiores e mais caros modelos externos - GPT-6 Astra e Fable 5.1. Segundo a empresa, o Jev domina a fronteira de Pareto por quase duas ordens de magnitude nesses evals.

Os números de 193,6x mais rápido e 444,6x mais barato da página inicial vêm desses workflows, e a própria empresa nota que são provavelmente o limite superior dos ganhos reais. Há vieses admitidos: os workflows foram criados pelo time de capacidades da empresa; a referência usa média de modelos da OpenAI e Anthropic, o que possivelmente subestima o Jev e modelos da DeepSeek; e os LLMs comparados usam um wrapper que os força a saídas estruturadas com probabilidades, mais lento e caro.

Demos e casos de uso

Entre as demonstrações: um bot para o jogo Doom que faz 10 consultas por segundo em tempo real (cerca de $7 por hora, operando sobre estado estruturado em texto, não imagens) e um wikiracing, em que o modelo escolhe entre centenas ou milhares de links por página - mostrando, segundo a empresa, os benefícios acumulados de não alucinar em escolhas de alta cardinalidade (o Jev suporta até 255 opções, com um sistema de duas etapas para as maiores).

Os casos de uso propostos incluem "if-statements inteligentes": classificar, rotear, pontuar, extrair ou desviar fluxos dentro de código comum; map-reduce sobre grandes volumes de dados; aplicações em tempo real onde a experiência do usuário exige baixa latência; e verificação em camada - pontuar, julgar e detectar jailbreaks em saídas de LLMs.

Nomes e próximos passos

"System One" vem da distinção de Daniel Kahneman em "Thinking, Fast and Slow", entre pensamento rápido e intuitivo (Sistema 1) e deliberado (Sistema 2). "Jev" homenageia William Stanley Jevons: a empresa espera que cada queda de ordem de magnitude no custo da inteligência desbloqueie muito mais casos de uso, como ocorreu com o carvão após a eficiência do motor a vapor.

A FAQ do anúncio deixa perguntas em aberto - se o Jev é apenas um LLM menor, como se sai em benchmarks públicos e de onde vêm os dados de treinamento - sem respostas publicadas no texto.