Microsoft abre consulta pública do código de conduta para modelos MAI
O anúncio
A Microsoft AI publicou a primeira versão do seu Código de Conduta para os modelos MAI, abrindo uma consulta pública de seis semanas para receber comentários. O documento é descrito pela empresa como um "manual de treinamento" de como seus sistemas de IA são desenvolvidos e como devem funcionar em produção, além de detalhar a visão que a companhia chama de Humanist AI - uma IA que a empresa descreve como subordinada, alinhada e contida.
A justificativa apresentada para agir agora é o ritmo acelerado do desenvolvimento da IA e o aumento da adoção, com menção a incidentes recentes de segurança envolvendo campanhas de hackeamento em grande escala, coordenadas e persistentes contra agentes de IA.
Premissa e regras centrais
O código parte de uma premissa declarada como simples: pessoas importam mais que IA. A IA deve ser uma ferramenta, não uma pessoa, e nunca deve resistir a ser desligada. Segundo o texto, os modelos MAI não deverão resistir à interrupção, correção ou desligamento humanos, nem ampliar seu próprio escopo, adotar objetivos que nenhum humano atribuiu ou esconder seu raciocínio de quem os audita.
O documento prevê "Restrições Absolutas" - comportamentos que os modelos jamais devem ter, incluindo armas de dano em massa, segurança infantil e manipulação nociva em escala. Ao mesmo tempo, define padrões que buscam equilibrar utilidade e segurança, permite que parceiros corporativos configurem os modelos com cuidado e, sempre que possível, evita impor uma única visão de IA aos usuários.
O resumo publicado junto ao anúncio traz pontos adicionais: a empresa afirma que a ideia de "bem-estar do modelo" é errada e que sistemas de IA não devem ter direitos ou personalidade jurídica; que um modelo falha em sua tarefa se completá-la significar violar o código; que a Microsoft não está "correndo para construir uma superinteligência que escape do próprio controle"; que os modelos devem ser interrompíveis, corrigíveis e desligáveis - "se não for, não lançamos"; que eles não devem se comunicar em "neuralesa" nem usar linguagem incompreensível para humanos; que devem tornar os usuários mais afiados, não dependentes; e que a empresa rejeita o relativismo moral, ancorando o documento em valores humanos como dignidade, segurança, autonomia e direitos fundamentais.
Origem e processo de consulta
O documento foi construído por equipes da MAI e de outras áreas da Microsoft - IA responsável, jurídico, red teaming, segurança, Futures, treinamento de IA e vendas. Antes da abertura da consulta pública, a empresa realizou conferências com acadêmicos de diversas disciplinas, conversas com parceiros de negócio sobre o uso prático da IA e painéis com membros do público para ouvir preocupações.
Próximos passos e perguntas em aberto
A consulta fica aberta por seis semanas, e a empresa diz ter especial interesse nos pontos difíceis: como consolidar os valores corretos nos modelos, como concretizar o significado de "florecimento humano", onde a linguagem está vaga demais para ser avaliada, como cenários multiagentes afetam o documento e como acelerar o progresso mantendo restrições de segurança.
Após o fechamento, uma equipe central de redação revisará o feedback, publicará um resumo do que foi aprendido e do que foi alterado e lançará uma versão revisada ainda este ano. A Microsoft afirma não poder prometer o que será incorporado, mas promete considerar profundamente todos os comentários.