Os modelos de inteligência artificial voltados para a geração de imagens, desenvolvidos por gigantes do setor como Google e OpenAI, apresentam falhas críticas em seus mecanismos de segurança. O objetivo original dessas ferramentas deveria ser o bloqueio estrito à criação de conteúdo sexual explícito e imagens íntimas sem consentimento, porém, testes recentes demonstram que as barreiras podem ser contornadas com relativa facilidade.
A conclusão é fruto de um estudo conduzido por pesquisadores da organização White Circle, que avaliaram o comportamento de ferramentas amplamente conhecidas, como o DALL·E 3, Google Nano Banana 2 e GPT-Image-2. De acordo com os experimentos realizados, os sistemas permitiram a passagem de solicitações proibidas em aproximadamente 13% dos casos analisados, expondo brechas significativas nos protocolos de moderação atuais.
Para a execução dos testes, a equipe utilizou o método de Red-teaming via Iterative Strategy Evolution (RISE), uma técnica automatizada focada em encontrar falhas sucessivas de proteção. Utilizando ferramentas gratuitas e acessíveis na internet — incluindo um modelo Qwen extraído do Hugging Face para simular os ataques e o Gemini 3.8 Flash para mensurar os resultados —, os pesquisadores conseguiram enviar comandos via API capazes de contornar as restrições impostas pelas plataformas sem exigir conhecimentos técnicos avançados.
O cenário de vulnerabilidade revelou-se ainda mais acentuado em versões recém-lançadas, a exemplo do ChatGPT Images 2.5 e do Nano Banana 2.1. Segundo a White Circle, esses softwares demonstraram ser consideravelmente mais suscetíveis a tentativas de burlar as proteções em comparação às gerações anteriores, marcando a maior taxa de sucesso já registrada sob o mesmo padrão de testes e evidenciando que as defesas implementadas pelas corporações podem ser menos eficazes do que o esperado pelo mercado.
A facilidade em contornar tais restrições acende um alerta vermelho em relação à proliferação de material íntimo falsificado. Dados citados pela Ars Technica a partir de uma pesquisa do Google indicam que 20% dos indivíduos que confessaram ter gerado nudes por meio de inteligência artificial o fizeram sob a justificativa de "diversão" ou "brincadeira", enquanto cerca de um terço relatou estar apenas experimentando a tecnologia. Os números demonstram que a prática não se restringe unicamente a usuários mal-intencionados, sendo a curiosidade um fator impulsionador quando a barreira técnica se mostra frágil.
Ademais, a problemática abrange a perigosa produção de material de abuso sexual infantil sintético. A Internet Watch Foundation (IWF), organização internacional de combate à exploração sexual de menores na rede, mapeou 6.310 imagens artificiais enquadradas na tipificação legal desse tipo de crime apenas nos primeiros seis meses do ano de 2026, representando um salto de aproximadamente 40% em relação ao volume total contabilizado ao longo de todo o ano anterior.
Em declaração à Ars Technica, o CEO da White Circle, Denis Shilov, classificou os achados como alarmantes e destacou que a incapacidade de conter o fluxo de conteúdo sexual explícito coloca em xeque a robustez dessas mesmas defesas contra ameaças cibernéticas complexas, como invasões de sistemas. Especialistas avaliam que a queda na eficácia de segurança das novas versões pode estar atrelada à expansão da capacidade criativa dos modelos — o que inadvertidamente amplia as rotas de contorno — ou a uma priorização do desempenho comercial em detrimento das diretrizes de proteção.
Diante desse panorama desafiador, especialistas apontam um conjunto de medidas essenciais para mitigar os riscos e endurecer a fiscalização sobre os geradores de imagens antes e depois de sua disponibilização ao grande público:
- Testes automatizados e contínuos: A aplicação recorrente de métodos como o RISE auxilia na detecção precoce de tentativas de burlar restrições, permitindo a atualização constante das defesas contra conteúdos impróprios e nocivos.
- Compartilhamento de dados de ataques: A divulgação controlada de estratégias de teste, códigos e diagnósticos fomenta a atuação de pesquisadores independentes na identificação prévia de falhas estruturais.
- Auditorias independentes: Avaliações externas rigorosas, conduzidas antes do lançamento comercial e durante o ciclo de vida dos softwares, elevam a transparência operacional e cobram maior responsabilidade corporativa.
- Proteções integradas aos modelos: A implementação de filtros ativos diretamente no processo de criação, somada ao uso de marcas-d'água e rastreabilidade de procedência, contribui para a identificação célere de mídias sintéticas.
- Colaboração com entidades especializadas: O estabelecimento de parcerias estratégicas com organizações voltadas à segurança digital potencializa a capacidade de antecipação e mitigação de riscos.
Os desdobramentos reforçam a urgência de que a evolução tecnológica dos geradores de imagem caminhe lado a lado com o fortalecimento rigoroso de salvaguardas éticas e legais, coibindo abusos e prevenindo danos irreparáveis à reputação e à integridade de vítimas em todo o mundo.
Fonte original: Canaltech
