stamatios
← Voltar ao feed
Plataforma em base de LEGO com robôs LLM encaixando peças, metáfora de software extensível na era dos LLMs
Dev & Engenharia · IA & Modelos

Software extensível na era dos LLMs vale o esforço

resumo de ~3 min

O problema da cauda longa

A maior parte do software web atual é estática: desenvolvedores priorizam funcionalidades que atendem ao maior grupo de usuários, deixando uma cauda longa de necessidades não atendidas. Mesmo que houvesse motivação para incluir tudo, interfaces têm limite de complexidade antes de se tornarem inutilizáveis. O surgimento da codificação assistida por LLMs tornou possível criar software sob medida para uma única pessoa, contornando a complexidade do software empresarial.

Software extensível como oportunidade

O autor argumenta que existe uma nova oportunidade para software extensível na web. LLMs reduzem radicalmente o custo de criar extensões, e primitivas modernas de sandbox reduzem o custo de implantação e fornecem limites de segurança. A proposta é construir aplicações com um núcleo sólido e responsável, permitindo que usuários as estendam com segurança por meio de LLMs. Exemplos citados incluem Pi, DeepSeek e opencode, que já experimentam com hooks estáveis para ferramentas, comandos e interface. Pete Koomen, da Y Combinator, chama esse fenômeno de "Small Software".

Áreas de aplicação

O texto identifica quatro cenários concretos: agentes de IA que podem ser personalizados por profissionais não técnicos (contadores, médicos, advogados); plataformas internas corporativas onde funcionários criam automações sem expor tokens ou violar conformidade; plataformas de suporte com extensões para investigar tickets e disparar ações; e ferramentas de observabilidade que permitam visualizações e lógica customizadas para sistemas não determinísticos.

Desafios de segurança

Extensibilidade na web é historicamente difícil. O modelo do Obsidian, que confia em revisão manual e automatizada de plugins, funciona para um aplicativo de notas com riscos baixos, mas não escala para software que lida com dados de terceiros. Executar código arbitrário exige proteção contra loops infinitos, vazamento de chaves, exfiltração de dados, ataques Spectre e mineração de criptomoedas.

Salesforce como precedente

Salesforce opera como plataforma programável multitenant desde 2007, executando lógica customizada de clientes com isolamento, dentro de transações e com controle de permissões. O autor usa esse exemplo para demonstrar que o problema já foi resolvido em escala, embora com uma linguagem proprietária (Apex) e alto custo de construção de infraestrutura.

Primitivas técnicas necessárias

O autor define requisitos para a primitiva ideal: custo próximo de zero quando ociosa, cold starts em milissegundos, limites enforceáveis de CPU/memória/rede, isolamento sólido contra falhas e ataques, e um modelo seguro de ações. Para este último ponto, defende o padrão de capabilities (referências estreitas a funções específicas) em vez de proxies com tokens opacos, argumentando que é mais fácil de raciocinar e mais seguro. Entre as tecnologias avaliadas estão interpretadores embutidos, V8 Isolates, MicroVMs (Firecracker, libkrun, AWS Lambda) e WASM/WASI.

Dynamic Workers da Cloudflare

O autor, que trabalha na Cloudflare, destaca os Dynamic Workers como a solução mais próxima de um framework pronto para aplicações web extensíveis em 2026. Eles oferecem observabilidade com OpenTelemetry, armazenamento multitenant (Durable Object facets, R2), execução durável (Dynamic Workflows), controle de versão embutido e LLMs hospedados (Workers AI). O texto reconhece que plataformas são difíceis de projetar, operar e depurar, mas conclui que o esforço vale a pena.