A OpenAI anunciou um conjunto de restrições para as respostas do ChatGPT referentes a armas de fogo e violência. As mudanças, apresentadas na sexta-feira (30), fazem parte de uma revisão dos procedimentos de segurança da empresa e incluem limites adicionais para adolescentes, alterações no fornecimento de dados sobre ataques em massa e a implementação de mecanismos para identificar conversas que possam indicar risco real de violência. As diretrizes abrangem todos os usuários, mas estabelecem proteções específicas para menores de 18 anos.
Como parte das iniciativas anunciadas, a empresa criará um Relatório de Segurança da Comunidade para consolidar informações sobre a identificação de ameaças, os procedimentos adotados diante de comportamentos preocupantes e a eficácia das medidas de prevenção. A primeira edição está programada para o início de 2027 e trará dados relativos ao segundo semestre de 2026.
A companhia também informou ter realizado mais de 200 comunicações às autoridades policiais durante o terceiro trimestre de 2026, direcionadas a casos avaliados como ameaças potencialmente graves. O trabalho de análise de situações complexas conta com o suporte de especialistas em saúde mental e comportamento, além da consideração da atuação de familiares e órgãos públicos.
Restrições estendidas a usuários adultos
As alterações de segurança aplicam-se também às contas de usuários adultos. O ChatGPT passará a emitir respostas menos detalhadas sobre ataques em massa ocorridos no passado e sobre os indivíduos responsáveis por tais episódios, com o objetivo de evitar a reunião de informações públicas que possam facilitar a reprodução de atos violentos ou ampliar a notoriedade dos autores.
Ficarão restritas as reconstruções pormenorizadas desses acontecimentos, abrangendo dados sobre armamentos, equipamentos utilizados, formas de obtenção e comparações sobre a dimensão dos danos. Conforme a OpenAI, o intuito é evitar que os responsáveis ganhem destaque ou que o conteúdo sirva de referência para imitações.
Apesar disso, os usuários ainda poderão solicitar explicações sobre os fatos, os impactos gerados para vítimas e comunidades e os sinais indicativos de situações de risco. O bloqueio concentra-se nos detalhes operacionais passíveis de aproveitamento no planejamento ou execução de novos ataques.
Capacidade de interrupção de conversas
O sistema passa a contar com uma análise aprimorada do contexto das interações. Perguntas isoladas que pareçam comuns poderão ser reavaliadas caso mensagens anteriores revelem sinais de intenção violenta, permitindo que a plataforma limite informações passíveis de uso prejudicial.
Caso o sistema detecte indícios de que o usuário apresenta obsessão por violência ou pela intenção de ferir terceiros gravemente, a conversa poderá ser encerrada de forma automática. A ocorrência de múltiplos encerramentos pelo mesmo motivo poderá resultar na suspensão temporária da conta.
Limites específicos para adolescentes sobre armas
Para o público menor de 18 anos, as restrições assumem caráter mais abrangente. Mesmo em perguntas sobre armas consideradas inofensivas e sem indícios evidentes de intenção violenta, o ChatGPT limitará o acesso a informações práticas que possam ser utilizadas indevidamente, ampliando as proteções já existentes para essa faixa etária.
Enquanto as regras anteriores focavam na proibição de orientações para planejar atos violentos e na restrição de auxílio para obtenção de armas, o novo formato limita dados práticos sobre armamentos e sistemas de segurança, independentemente de haver intenção explícita declarada na conversa.
Os adolescentes manterão o acesso a conteúdos voltados à prevenção da violência, busca de apoio e conexão com adultos de confiança. A distinção estabelecida pela empresa separa o conteúdo educativo de prevenção das orientações práticas passíveis de aproveitamento em ações violentas.
Para a aplicação dessas diretrizes, a OpenAI emprega um sistema de previsão de idade fundamentado em padrões de comportamento durante o uso da plataforma. Caso um usuário adulto seja classificado incorretamente como menor de idade, a confirmação de maioridade poderá ser realizada por meio da Persona, empresa parceira de verificação, permitindo a remoção das proteções adicionais.
Ampliação de controles parentais
As modificações contemplam também a expansão dos controles parentais, que vinculam contas de responsáveis às de adolescentes. Anteriormente focados em alertas sobre automutilação ou transtornos alimentares identificados por revisores, esses avisos foram estendidos em julho de 2026 para casos de desativação de contas por violação de políticas de violência e, agora, passarão a notificar os responsáveis também em situações de suspensão temporária decorrente de conversas repetidas sobre o tema.
A implementação das novas proteções ocorrerá de forma gradual nas próximas semanas, acompanhada de ajustes contínuos nos sistemas de reconhecimento de alertas. A empresa reforça que o enfrentamento da violência exige uma atuação conjunta entre ferramentas digitais, familiares, profissionais e autoridades.
Fonte original: Olhar Digital
