Experiential: gateway open source unificado para workflows de agentes

O que é

Experiential é um gateway e roteador de código aberto para fluxos de trabalho com agentes. O projeto oferece uma única API compatível com OpenAI para usar modelos hospedados, conectados por BYOK (uso das próprias chaves), locais e personalizados. Também disponibiliza uma API compatível com Anthropic Messages no serviço hospedado.

O gateway permite definir quais usuários e agentes podem acessar determinados modelos, em quais casos de uso e com qual limite de gasto. A proposta é centralizar essas regras e transformar o tráfego de produção em um roteador personalizado ou em um modelo otimizado para qualidade, velocidade e custo.

Uso local e hospedado

A instalação local começa com pip install experiential e o comando exp. Um assistente inicial seleciona provedor, modelo e esforço de raciocínio, persiste as conexões escolhidas e apresenta padrões para o alias público, a identidade e um orçamento de comando de US$ 50 antes de emitir uma chave de uso único. Depois, as aplicações podem fazer chamadas ao endpoint local compatível com OpenAI.

Quem preferir um serviço gerenciado pode usar a plataforma hospedada da Experiential Labs. O serviço oferece os mesmos formatos de API, permite enviar ou importar rastros de modelos de linguagem como telemetria e conectar chaves próprias de OpenAI, Anthropic, Gemini, Azure, Bedrock, Fireworks ou OpenRouter sem cobrança de passagem. Também permite redirecionar agentes de programação e outras ferramentas para o gateway, usando uma chave xpl_.

Roteamento a partir de tráfego real

O projeto orienta coletar rastros OpenTelemetry do agente atual ou usar um conjunto público de tarefas de terminal. O comando exp build cria um projeto a partir desses dados, conduzindo a configuração de provedores, modelos e orçamento. Com os rastros do roteador, o usuário pode ainda usar exp optimize model para ajustar um modelo de código aberto próprio por meio do Tinker.

A biblioteca também permite carregar um roteador ajustado como um cliente oficial da OpenAI, mantendo o projeto associado a um gateway privado. O plano é usar o comportamento observado nas execuções para selecionar ou otimizar combinações de modelos conforme os objetivos definidos.

Telemetria e distribuição

A telemetria agregada e anônima do produto, feita com PostHog, vem ativada por padrão. Segundo a documentação, ela não inclui prompts, rastros, ações, observações, caminhos, nomes de modelos, credenciais nem conteúdo bruto de clientes; o usuário pode consultar o status e desativá-la, e a preferência fica armazenada localmente.

O repositório é público, licenciado sob Apache-2.0 e oferece documentação para instalação, configuração e desenvolvimento. A proposta central é substituir integrações separadas com diferentes provedores por um plano de controle único, com governança de acesso, orçamento e roteamento para workflows de agentes.