Política algébrica tenta conter agentes de IA fora da regra
Problema: capacidade sem confiabilidade
Frameworks agentivos baseados em grandes modelos de linguagem otimizam primariamente a capacidade: raciocinar, recuperar informação, chamar ferramentas, delegar trabalho e completar objetivos. O artigo argumenta que, em contexto empresarial, um resultado bem-sucedido não é confiável se foi produzido por acesso não autorizado a dados, ampliação indevida de autoridade delegada, efeitos colaterais não aprovados, consumo irrecuperável de orçamento ou evidência incompleta.
Proposta: álgebra de políticas como envelope de confiabilidade
Os autores definem "capacidade confiável" como propriedade de caminho: um agente só é confiavelmente capaz quando completa uma tarefa por meio de eventos de ação que permanecem admissíveis sob restrições de identidade, perfil, ferramenta, dados, memória, orçamento, artefato, aprovação e auditoria. A álgebra de políticas proposta define o envelope de confiabilidade dentro do qual a capacidade do agente pode ser exercida.
Perfis de segurança e obrigações de tempo de execução se compõem por meio de junções, interseções, estreitamento de orçamento, herança de aprovações e acúmulo de evidências. A composição resultante preserva a confiança e representa o estado menos restritivo que satisfaz todas as entradas governantes. A álgebra também propaga restrições entre chamadas multiagente e introduz materialização de artefatos consciente de custo, que redireciona execuções abertas para resultados recuperáveis conforme a exposição ao orçamento cresce.
Avaliação: compromisso entre confiabilidade e capacidade
A avaliação é interpretada como um compromisso entre confiabilidade e capacidade, e não como benchmark de capacidade. O runtime da álgebra de políticas intervém em 94,8% dos eventos que violam políticas, mantendo taxa de conclusão de tarefas de 86,9%. O método elimina as violações observadas de monotonicidade de perfil e de exaustão de artefatos com custo zero, e eleva a completude de auditoria para 98,6%.
Contribuição declarada
O artigo fornece condições formais de correção, semântica de decisão executável e evidência de rastreio para construir agentes que sejam não apenas capazes, mas confiavelmente capazes.