Salesforce e Nvidia lançam Koa, modelo de raciocínio treinado sem dados de clientes

O lançamento do Koa

Salesforce anunciou o Koa, seu primeiro modelo de raciocínio, durante a conferência Dreamforce. O modelo foi construído sobre o Nemotron, modelo de pesos abertos da Nvidia, e as duas empresas realizaram o post-training para destacar em tarefas de vendas, marketing e atendimento ao cliente. O Koa entra no catálogo do Agentforce, plataforma da Salesforce onde clientes constroem agentes para tarefas rotineiras como responder dúvidas de suporte ou agendar compromissos.

Por que a Salesforce treinou seu próprio modelo

Antes do Koa, tarefas de raciocínio longas ou em múltiplas etapas eram roteadas pelo gateway de IA do Agentforce (o sistema que decide qual modelo trata cada requisição) para modelos de fronteira como Claude ou ChatGPT. Jayesh Govindarajan, EVP de IA da Salesforce, disse à TechCrunch que a empresa sempre quis treinar um modelo próprio, mas faltava uma base pré-treinada adequada: "Até o Nemotron surgir, não havia um modelo pré-treinado americano soberano que fosse, um, disponível, dois, estado da arte e, três, com proveniência de dados clara. Não temos ideia do que o Qwen treina", referindo-se ao modelo de pesos abertos da Alibaba.

Treino com dados sintéticos

O post-training não usou dados reais de clientes da Salesforce. As empresas criaram dados sintéticos que imitavam padrões de clientes, simulando um ambiente de atendimento com personas - de clientes irritados ligando para o atendimento até vendedores tentando fechar negócios. Isso significa que o modelo não pode vazar dados de clientes para outros.

Vantagens oferecidas

Segundo a matéria, o Koa oferece aos clientes corporativos: uma alternativa de pesos abertos aos modelos de fronteira fechados; um modelo treinado para tarefas de trabalho específicas, em vez de problemas matemáticos difíceis; ausência de dados reais de clientes (logo, sem risco de vazamento); redução de gastos com IA por usar menos tokens para o mesmo trabalho; roteamento automático via gateway de IA conforme a necessidade; e conformidade com os requisitos de dados e segurança já embutidos na Salesforce.

Kari Ann Briski, VP de software de IA generativa corporativa da Nvidia, destacou a arquitetura de inferência do Nemotron, com eficiência de tokens: "É meio que a trinca de coisas que você precisa ter: IA soberana, tempo até o primeiro token, raciocínio eficiente, para a tokenomics".

Não é rompimento com os labs

A Salesforce não está abandonando Anthropic ou OpenAI. A empresa também anunciou uma parceria com a Anthropic chamada Claudeforce, que permite às empresas usar Claude como interface de IA mantendo os dados no sistema de registros da Salesforce, protegidos por sua infraestrutura. A tese da reportagem é que o Koa ilustra como as necessidades do mundo corporativo estão divergindo do que os labs de fronteira oferecem.