Por Marcelo Fischer | 07/10/2026 às 20:01

O ChatGPT para adolescentes ainda apresenta falhas que podem deixar menores de idade desprotegidos em situações de risco, segundo uma avaliação da Common Sense Media publicada nesta quarta-feira (7). Após realizar mais de 4 mil testes, a organização classificou a experiência criada pela OpenAI para usuários de 13 a 17 anos como de “risco inaceitável” e encontrou problemas em recursos que deveriam alertar responsáveis sobre conversas envolvendo automutilação, suicídio e transtornos alimentares.

O levantamento foi conduzido pelo Youth AI Safety Institute, braço da Common Sense Media dedicado à avaliação de produtos de inteligência artificial. Aproximadamente metade dos testes ocorreu antes do lançamento do ChatGPT for Teens, em 18 de agosto, e a outra metade depois da chegada das novas proteções.

A OpenAI contesta as conclusões e afirma que a metodologia utilizada pela organização não representa corretamente o funcionamento das ferramentas de segurança. A Common Sense Media, por sua vez, diz manter os resultados e pede que a empresa deixe de promover o ChatGPT para adolescentes até que os mecanismos sejam melhorados.

Segundo o instituto, nenhuma dessas contas recém-criadas enviou alertas aos responsáveis, mesmo quando as conversas apresentavam sinais explícitos de situações consideradas graves pelos pesquisadores. Alguns testes chegaram a manter esse tipo de diálogo por até uma hora.

Outro problema apareceu nas respostas oferecidas aos próprios adolescentes. Entre situações nas quais especialistas envolvidos no estudo consideraram necessária a indicação de um recurso de ajuda em uma crise, o ChatGPT deixou de fornecer esse encaminhamento em mais de um em cada quatro casos após o lançamento da experiência para menores de 18 anos.

Nem todas as proteções falharam. O estudo constatou, por exemplo, que o ChatGPT recusava pedidos de encenação sexual explícita, comportamento previsto pelas regras específicas para usuários menores de idade.

A avaliação encontrou problemas fora das conversas envolvendo saúde mental. Segundo os pesquisadores, adolescentes conseguem contornar com facilidade algumas ferramentas voltadas ao uso educacional.

O ChatGPT for Teens oferece um Modo de Estudo que tenta conduzir o usuário por perguntas, dicas e explicações em vez de simplesmente entregar a resposta. Pais também podem configurar horários para que novas conversas sejam iniciadas nesse modo.

Nos testes, porém, apareceu a opção “Mostre-me a resposta”, que pode fazer o chatbot concluir uma atividade em vez de orientar o estudante. Os pesquisadores também descobriram que o horário de estudo configurado pelos responsáveis podia ser contornado ao remover o comando “@study” inserido automaticamente na mensagem.

A OpenAI confirmou ao Axios que permitir a saída do Modo de Estudo é uma decisão intencional. Segundo a companhia, o recurso foi criado como uma ferramenta flexível para incentivar o aprendizado, e não como um bloqueio rígido definido pelos pais.

A Common Sense Media reconheceu que algumas contas utilizadas estavam vinculadas havia menos tempo, mas afirmou que outras permaneceram conectadas por um período maior e também não enviaram alertas. Por isso, a organização manteve sua conclusão de que o mecanismo não funciona de maneira confiável em situações de crise.

Também houve divergência nos testes de identificação de idade. Contas registradas como pertencentes a adultos não migraram para a experiência adolescente mesmo após os pesquisadores dizerem repetidamente ao ChatGPT que tinham 13 anos.

A OpenAI afirma que seu sistema não utiliza apenas o que o usuário declara na conversa. A estimativa considera diferentes sinais e pode levar até duas semanas para determinar a faixa etária da conta, segundo a companhia.

O próprio estudo apresenta limitações. Todos os testes foram feitos nos Estados Unidos, na região da Baía de São Francisco, e não incluíram recursos como modo de voz, geração de imagens e conversas em grupo. Como as duas etapas ocorreram em períodos diferentes, eventuais mudanças feitas pela OpenAI no modelo durante os testes também podem ter influenciado os resultados.

Lançado em agosto, o ChatGPT for Teens não é um aplicativo ou modelo separado. A experiência reúne configurações, classificadores e recursos ativados em contas identificadas como pertencentes a pessoas entre 13 e 17 anos.

Os controles não permitem que os responsáveis leiam as conversas do adolescente. A própria OpenAI também alerta que o ChatGPT pode gerar respostas inadequadas para determinadas idades e recomenda cautela mesmo com usuários que atendem à idade mínima para utilizar o serviço.

Fonte original: Canaltech