OpenAI lança ChatGPT mais seguro para adolescentes
Contexto e motivação
A OpenAI anunciou o lançamento do ChatGPT for Teens, produto com medidas adicionais de segurança voltadas a adolescentes. O anúncio ocorre após diversos processos judiciais relacionados à falta de salvaguardas em chatbots de IA, que resultaram em suicídios de adolescentes e outras preocupações de saúde mental. A empresa também busca enfrentar a crise educacional associada ao uso do ChatGPT para trapaça em escolas.
Modo de estudo e ferramentas educacionais
O ChatGPT for Teens introduz o recurso Study Mode, que oferece perguntas orientadoras e suporte passo a passo para ajudar adolescentes a compreender o material, em vez de fornecer respostas rápidas. Quando o sistema detecta que o usuário está tentando trapacear em vez de aprender, exibe lembretes de lição de casa e direciona o adolescente para o Study Mode. O aplicativo também suporta quizzes, visualizações de aprendizagem e controles que permitem a pais ou responsáveis decidir quando o Study Mode fica ativado por padrão.
A OpenAI anunciou ainda uma parceria com a CodeAI para ajudar adolescentes a aprender sobre IA - como funciona, como direcioná-la, como questioná-la e como usá-la. No ambiente escolar, a empresa já oferece o ChatGPT for Teachers, que fornece acesso gerenciado institucionalmente a IA e suporte para escolas.
Proteções de segurança e controles parentais
As proteções adequadas à idade ficam ativadas por padrão no ChatGPT for Teens e foram projetadas para reduzir a exposição a conteúdo prejudicial ou inadequado ao desenvolvimento. Essas medidas são baseadas nos Under-18 Principles do Model Spec da OpenAI, que a empresa afirma serem informados por ciência do desenvolvimento e orientação de especialistas. Pais também podem usar ferramentas familiares e controles parentais introduzidos anteriormente para gerenciar configurações, receber notificações de segurança e definir horários de silêncio.
Ressalvas e críticas
O artigo levanta a questão de quão difícil será para adolescentes contornar esses sistemas, dado que são conhecidos por burlar controles parentais. Até que o modo adolescente seja submetido a testes mais rigorosos, não está claro quão eficazes serão as medidas na prática. Há também o questionamento sobre por que essas proteções não faziam parte do ChatGPT desde o início - o chatbot foi lançado no final de 2022 e alcançou 900 milhões de usuários semanais antes que salvaguardas específicas para adolescentes fossem adicionadas.