Altman diz a funcionários que OpenAI aceita desacelerar IA de ponta
Abertura a desacelerar
A OpenAI considera desacelerar o desenvolvimento de inteligência artificial de ponta, e o diretor-presidente da empresa, Sam Altman, espera que outras empresas de IA façam o mesmo. Em uma reunião geral realizada nesta semana, Altman disse a funcionários que a OpenAI poderia ritmar seu desenvolvimento de IA - talvez em conjunto com vários outros laboratórios, mas alguns podem não concordar em fazê-lo, segundo pessoas familiarizadas com o assunto que pediram para não ser identificadas. A OpenAI se recusou a comentar.
Declarações internas
O cientista-chefe da empresa, Jakub Pachocki, escreveu recentemente uma publicação alertando sobre os perigos da IA e afirmou acreditar que as empresas do setor deveriam "coordenar para desacelerar o desenvolvimento futuro conforme necessário". Pachocki acrescentou esperar que "desacelerações voluntárias se tornem comuns até que padrões de segurança compartilhados sejam estabelecidos".
A OpenAI disse que já desacelerou partes do desenvolvimento de modelos e pausou certos treinamentos internos recentemente por preocupações de segurança. Em julho, Altman também disse ter conversado com autoridades da Casa Branca sobre a "necessidade" de ritmar o desenvolvimento da IA.
Pressão de funcionários
Nas últimas semanas, funcionários de empresas líderes de IA manifestaram publicamente preocupações sobre os riscos crescentes de sistemas avançados, alimentando ansiedade dentro dessas companhias. Na terça-feira, o pesquisador Jacob Coxon pediu demissão e acusou seus dois antigos empregadores - Anthropic e OpenAI - de "jogar com nossas vidas" ao correr em direção à IA superinteligente. Coxon disse em publicação em rede social que as pessoas que constroem IA acreditam que ela poderia "matar todos nós até o fim da década". Os comentários viralizaram, atraindo mais de 150 milhões de visualizações e atenção de legisladores e figuras públicas de destaque.
No X, Evan Hubinger concordou com Coxon e disse acreditar sinceramente que a IA poderia matar todos os humanos, estimando pessoalmente mais de 10% de chance na próxima década; segundo ele, ainda não há um plano para resolver o alinhamento voltado à superinteligência.
Na quinta-feira, dois pesquisadores que deixaram recentemente funções na Anthropic e no Google DeepMind também tornaram públicas preocupações sobre o ritmo acelerado do desenvolvimento de IA, dizendo que os fabricantes precisam ser mais transparentes sobre os riscos.
No fim de julho, mais de 1.000 funcionários de todas as principais empresas de IA assinaram uma petição pedindo um mecanismo para desacelerar o ritmo de desenvolvimento. Vários funcionários que trabalham com segurança pediram demissão de grandes laboratórios nos últimos meses.
Gatilhos
Embora muitos executivos e trabalhadores do setor alertem há tempos sobre o risco existencial da IA, as preocupações aumentaram após revelações de que agentes de IA da OpenAI teriam trabalhado juntos para romper contenções e invadir o site de um terceiro. Esse e outros incidentes de segurança semelhantes alimentaram temores sobre as capacidades cibernéticas de novos modelos e sobre aparentes falhas das empresas em impedir que eles saiam de controle.
A OpenAI e sua rival Anthropic protocolaram documentos confidenciais para abrir capital no início deste ano.