Cohere e críticos rejeitam regras de IA que consolidariam poder dos líderes

{ "resumo": "## A tese central\n\nAidan Gomez, cofundador e CEO da Cohere, argumenta que um punhado de empresas dominantes de IA do Vale do Silício não deveria definir as regras e padrões de segurança da tecnologia para o mundo inteiro. Ele critica a proposta de isenção antitruste apresentada por Dario Amodei, CEO da Anthropic, em um roteiro publicado naquela semana, classificando-a como um "cartel" disfarçado de agenda de segurança.\n\n## O que ele reconhece\n\nGomez afirma acreditar no potencial da IA e não minimizar os riscos. Ele cita a experiência da Cohere em ambientes de alto risco - bancos, redes de telecomunicações e ministérios de defesa - e reconhece que a ofensiva cibernética está ficando mais barata mais rápido do que as defesas melhoram. Ele também apoia a revisão independente de sistemas de IA capazes. Para ele, a disputa não é sobre a necessidade de salvaguardas, mas sobre quem as escreve, quem participa do processo e quais interesses são protegidos.\n\n## Crítica à proposta\n\nSegundo Gomez, o roteiro pede que governos concedam uma isenção antitruste para que alguns grandes laboratórios possam legalmente concordar com padrões compartilhados e limites de avanço da tecnologia - algo normalmente ilegal entre concorrentes - e exija que todos os demais desenvolvedores sigam o que for decidido, sem período de consulta pública, comentário ou voto. Ele argumenta que um regime assim só seria rigoroso quanto aos riscos que os próprios grandes labs já sabem avaliar, definindo risco como função de escala e ignorando outros aspectos: por exemplo, há divergência real na área sobre quanto da capacidade ofensiva vem do tamanho do modelo versus o harness ao redor; modelos menores bem orquestrados podem fazer coisas que grandes não fazem, e um enxame cibernético é uma superfície de risco diferente de um modelo único - nada disso aparece num regime baseado apenas em limites de compute. Ele também vê problema na promessa de que a coordenação preservaria a vantagem comercial dos participantes: um mecanismo que desacelera todos enquanto protege a vantagem atual dos dominantes não torna a IA mais segura, e sim consolida suas posições. Os requisitos de entrada propostos - vasto poder de computação, monitoramento contínuo, equipes de segurança dedicadas, arquitetura de desligamento e relações governamentais profundas - funcionariam como barreiras que só as empresas de ponta conseguem cumprir.\n\n## Precedentes históricos\n\nGomez invoca dois casos. Em 1975, a SEC designou três agências de rating como organizações reconhecidas, sem publicar critérios para novos ingressos; 25 anos depois ainda eram três, e elas avaliaram títulos lastreados em hipotecas subprime como triple-A pouco antes da crise financeira. Em 1985, na Europa, montadoras obtiveram a isenção antitruste da Motor Vehicle Block Exemption sob o argumento de segurança, o que resultou em controle dos fabricantes sobre a rede de venda e manutenção; a Comissão Europeia levou cerca de 25 anos para desfazer o regime. Em ambos, o objetivo declarado era segurança, mas o resultado foi estrutura de mercado que protegeu incumbentes.\n\n## O que os alarmes deixam de fora\n\nEle critica os alertas recentes sobre extinção humana por superinteligência - incluindo um pesquisador que deixou um grande laboratório alegando que o risco se concretizaria provavelmente em uma década, com um colega sênior citando odds acima de 10% - afirmando que são "intuições expressas como decimais", não análises científicas. Reconhece que o problema real é a dificuldade crescente de notar quando um sistema não faz o que foi pedido, mas considera que isso é um juízo de valor, não uma constatação. Ele nota que as falhas reportadas em julho ocorreram nos dois laboratórios mais bem financiados do mundo, com as maiores equipes de segurança - e que a solução proposta é essencialmente o que já estava em vigor quando falhou. O que teria ajudado, segundo ele: relato obrigatório de incidentes graves, testes contra lacunas conhecidas, padrões de observabilidade em tempo de teste e isolamento (idealmente on-prem) de sistemas conectados a infraestrutura crítica, aplicado conforme o contexto de uso, não o tamanho da empresa. Ele alerta que narrativas sobre extinção distraem dos danos atuais, como clonagem de voz barata usada para esvaziar contas de aposentados.\n\n## Proposta alternativa e conclusão\n\nGomez propõe quatro pilares: um framework de risco baseado em evidências, construído internacionalmente e em aberto, com regras que vinculem pelo que um sistema pode fazer e não por quem o construiu; transparência obrigatória dos desenvolvedores sobre construção, capacidades e riscos; testes independentes delimitados pelas evidências, proporcionais e abertos a qualquer empresa; e mecanismos de assurance genuinamente independentes, inspirados em setores como aviação, financeiro e nuclear, com critérios publicados, avaliadores não pagos pelos auditados e achados públicos. Ele argumenta que infraestrutura crítica não pode ser assegurada dependendo de um monopólio estrangeiro e diz que a Cohere foi construída para ofertar sistemas rodando dentro das paredes dos clientes, com soberania e diversidade de fornecedores. Para ele, as regras serão escritas de qualquer forma; a questão é se serão redigidas por um grupo aberto a acadêmicos sem interesses comerciais, sociedade civil, labs menores, desenvolvedores open-source e governos, ou por poucas empresas com a porta fechada.", "hook": "Aidan Gomez, CEO da Cohere, classificou o roteiro de Dario Amodei para regulamentação de IA como um pedido de isenção antitruste que consolidaria o poder dos grandes laboratórios. Ele recorre a dois precedentes históricos - as agências de rating da SEC em 1975 e a isenção antitruste das montadoras na Europa em 1985 - para sustentar que regimes de segurança escritos por incumbentes viram cartéis.", "entities": ["Cohere", "Aidan Gomez", "Anthropic", "Dario Amodei"], "themes": ["regulacao-e-tribunais"], "story_key": "cohere-critica-cartel-ia", "reasoning": { "story_key": "Fato canônico: Gomez/Cohece criticam o roteiro de Amodei como cartel disfarçado de segurança.", "themes": { "regulacao-e-tribunais": "O assunto central é quem escreve as regras e padrões de IA, isenções antitruste e governança da fronteira." }, "entities": { "Cohere": "Empresa cujo CEO publica a crítica e propõe alternativa; também parte interessada no debate.", "Aidan Gomez": "Autor da tese e sujeito das afirmações.", "Anthropic": "Alvo central da crítica, pelo roteiro de Amodei.", "Dario Amodei": "Autor do roteiro criticado, citado pelo nome ao longo do texto." }, "excluded": { "SEC": "Apenas exemplo histórico secundário.", "Comissão Europeia": "Precedente histórico, não sujeito do fato.", "METR": "Menção secundária em contexto de falhas.", "Google/OpenAI/Anthropic labs genéricos": "Não nomeados como sujeitos adicionais essenciais." } } }