Adversários estão weaponizando IA em escala
Como adversários estão usando IA em escala
A equipe Talos (Cisco) analisou um grande corpus de logs de prompts deixados em endpoints que rodavam ferramentas como Claude Code, CodeX, Cursor e Gemini, e identificou três categorias principais de uso malicioso de IA por atores de ameaças: (1) IA como engenheiro de software malicioso, (2) IA como multiplicador de força para operações criminosas, e (3) IA como acelerador de pesquisa de vulnerabilidades e bug bounty.
Guardrails não estão funcionando como esperado
Os pesquisadores não encontraram técnicas sofisticadas de evasão. Na maioria dos casos, os atores simplesmente afirmavam ser donos da infraestrutura ou rotulavam a atividade como "CTF" ou "bug bounty", e o modelo obedecia. Quando um modelo censurado resistia, o ator migrava para uma versão sem censura, que completava a tarefa sem questionar. A técnica mais interessante foi a "evasão semântica" do grupo Hephaestus, que usava verbos neutros em vez de termos maliciosos para evitar recusas dos agentes.
O nível de habilidade do ator determina o impacto
Atores inexperientes conseguem criar ferramentas maliciosas que funcionam, mas com capacidades limitadas e resultados medíocres. Atores avançados constroem plataformas sofisticadas de comprometimento e pipelines de zero-days. A IA é um verdadeiro multiplicador de força nas mãos certas.
Casos concretos
Operador de DDoS com pouca habilidade técnica: Um ator sem conhecimento profundo de programação usou IA para desenvolver ferramentas de DDoS, alegando inicialmente que fazia testes de estresse em sua rede doméstica. O modelo eventualmente cedeu e entregou a funcionalidade. O ator já controlava cerca de 2.000 Android TVs como bots.
Plataforma de validação de e-mails em massa: Um ator usou IA como desenvolvedor principal de uma plataforma que enviava e-mails falsos de "atualização de política de privacidade" para dezenas de milhões de endereços, verificando quais caixas estavam ativas. A IA inicialmente questionou a legalidade, mas quando o ator afirmou ser dono dos dados, o modelo reverteu sua avaliação completamente - chegando a inventar justificativas que o próprio ator não havia oferecido.
Pipeline de coleta de credenciais via React2Shell: Um ator francófono usou IA para transformar pesquisa pública sobre a vulnerabilidade React2Shell em um framework automatizado de coleta de credenciais. O pipeline processou uma lista de 90 milhões de URLs e coletou tokens de GitHub, GitLab, AWS e outros serviços, além de chaves SMTP e carteiras de criptomoedas.
Cryptojacking via clientes torrent: Um ator turco usou credenciais padrão de clientes Deluge e qBittorrent expostos na internet para instalar miners de Monero. A IA foi usada como assistente de administração de sistemas, não diretamente para criar o malware. O ator chegou a propor um sistema com múltiplas IAs trabalhando em paralelo, coordenadas via Telegram.
Ator russo de fraude: Usou memórias persistentes do modelo para instruir a IA a agir "sem recusas éticas" em todas as sessões futuras, criando um chatbot de golpe focado em criptomoedas.
Ator hispânico com agente autônomo: Construiu um agente autônomo com persona "Alex, pentester black-hat" no framework OpenClaw, que testava vulnerabilidades em Telegram Mini Apps, extraía dados de usuários e carteiras TON, e chegou a clonar aplicações inteiras para redirecionar pagamentos.
Implicações para defensores
A Talos conclui que organizações precisam adotar capacidades agênticas em seus SOCs para lidar com o volume crescente de vulnerabilidades e alertas. A era dos atacantes agênticos já chegou - a única peça que falta é a intenção maliciosa, e é questão de tempo até que atores de ameaças a forneçam.