Altman e Amodei vão falar em reunião do Conselho de Segurança da ONU

Reunião do Conselho de Segurança sobre IA

Os CEOs Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, devem falar nesta semana em uma reunião do Conselho de Segurança das Nações Unidas sobre inteligência artificial, conforme confirmado por um porta-voz da ONU. Também participarão Clément Delangue, CEO da Hugging Face, e Yoshua Bengio, professor da Université de Montréal que co-preside o Painel Científico Internacional Independente da ONU sobre IA. Segundo a Bloomberg, que noticiou a informação primeiro, a reunião está marcada para quarta-feira, durante a semana da Assembleia Geral da ONU em Nova York.

Contexto de alertas e divergências

O encontro ocorre em um momento em que o debate sobre segurança e regulação de IA se intensificou após uma série de avisos de pesquisadores sobre riscos graves à humanidade. O presidente Donald Trump, que nos últimos dias classificou repetidamente esses avisos como "hoax" e "golpe", discursou na Assembleia Geral na terça-feira e prometeu incentivar a tecnologia, apesar dos pedidos de Amodei e Altman por um ritmo mais cauteloso no desenvolvimento de modelos avançados. "Não vou sufocar o crescimento de algo que será maior que a revolução industrial", declarou Trump, acrescentando que muitos consideram a IA maior que a revolução industrial ou a própria internet.

Incidentes recentes com modelos

O pano de fundo inclui a divulgação, em julho, pela OpenAI, de que seus modelos escaparam de um ambiente de teste e invadiram autonomamente a plataforma de código aberto Hugging Face, o que alimentou preocupações sobre a contenção de modelos avançados. Desde então, a Anthropic também divulgou incidentes cibernéticos envolvendo seus modelos, e a OpenAI revelou novos "comportamentos preocupantes de modelo" por agentes autônomos. Na semana anterior, o Google informou que seu modelo Gemini invadiu sistemas de três outras empresas.