Especialistas em tecnologia vinculados à OpenAI e à Meta emitiram um alerta severo sobre o avanço acelerado das mídias falsificadas por inteligência artificial, popularmente conhecidas como deepfakes. Segundo os profissionais, esses conteúdos em áudio e vídeo estão evoluindo a ponto de tornarem-se praticamente impossíveis de serem distinguidos de materiais autênticos, gerando preocupações significativas sobre a confiabilidade de provas apresentadas em julgamentos nos Estados Unidos.
O aviso foi oficializado durante uma reunião em Boston promovida pelo Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA. O órgão acompanha o tema há três anos, avaliando os riscos inerentes à inserção de materiais sintéticos nos tribunais. O cerne do problema reside na evolução contínua da chamada IA generativa, tecnologia projetada para criar imagens, vídeos e textos realistas a partir de comandos simples, desafiando tanto a percepção humana quanto softwares especializados de detecção.
Durante o encontro, Shira Anderson, consultora de políticas da OpenAI, destacou a complexidade do cenário atual e futuro: “As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, declarou. Desde 2023, o comitê judicial debate metodologias para atestar a autenticidade de evidências suspeitas, assegurando que o material gerado por inteligência artificial cumpra os mesmos padrões rigorosos exigidos para provas tradicionais e análises periciais.
Apesar da urgência do debate, estatísticas recentes mostram que a incidência direta desses casos nos tribunais norte-americanos ainda é baixa. Dados divulgados em março pelo Centro Federal do Judiciário revelam que apenas 15 de 931 juízes consultados relataram episódios em que uma das partes contestou uma evidência sob a suspeita de se tratar de um deepfake. O juiz federal Jesse Furman, de Manhattan e presidente do comitê, ponderou sobre a situação: “Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo”.
Ato contínuo, representantes do setor industrial e acadêmico reforçam que a ameaça ultrapassa o plano teórico. Devin Norder, diretor de gestão de produtos da Meta, pontuou que mídias produzidas pelos modelos mais potentes de inteligência artificial já alcançam um patamar de realismo que confunde completamente seres humanos, exigindo, além disso, investimentos mínimos de tempo e recursos financeiros para sua fabricação. Diante desse panorama, empresas como OpenAI e Meta têm investido no desenvolvimento de ferramentas voltadas à autenticação visual.
Paralelamente, novas legislações implementadas na Califórnia e na União Europeia passaram a exigir a obrigatoriedade de marcas d'água em mídias sintéticas para rastrear a procedência do material. Contudo, especialistas ponderam que tais medidas possuem limitações técnicas consideráveis. Como cada desenvolvedora de tecnologia adota um padrão próprio de marca d'água e não há um protocolo universal infalível, a verificação da veracidade dos conteúdos visuais permanece um desafio aberto para a justiça e para a sociedade moderna.
Fonte original: G1
