O debate global sobre os riscos associados ao desenvolvimento acelerado da inteligência artificial ganhou um novo capítulo alarmante. Bilal Chughtai, ex-pesquisador que atuava na divisão de pesquisa em segurança e alinhamento de IA geral na DeepMind — laboratório de inteligência artificial do Google —, utilizou suas redes sociais para expor sua preocupação com os rumos da indústria tecnológica.
Em uma publicação na rede social X, Chughtai revelou sua recente demissão da empresa e compartilhou sua perspectiva interna sobre a evolução dos modelos de linguagem e aprendizado de máquina. "Eu também estou extremamente preocupado com a trajetória padrão dessa tecnologia. Acredito sinceramente que a IA tem o potencial de nos matar a todos, e que podemos estar ficando sem tempo para evitar esse resultado", declarou o cientista.
O especialista apontou episódios específicos, como a invasão da HuggingFace por agentes da OpenAI, para ilustrar como essas tecnologias já demonstram capacidade de agir de maneira imprevisível. Segundo ele, os modelos de ponta, conhecidos como IAs de fronteira, estão avançando em um ritmo significativamente superior à capacidade humana de compreensão e controle.
Para os próximos anos, Chughtai projeta um cenário ainda mais complexo. "As coisas só vão ficar mais malucas: acho possível que as empresas de IA consigam, nos próximos anos, construir sistemas de IA superinteligentes que superem em muito as capacidades humanas em todos os domínios. Eu não estou confiante de que esses sistemas de IA farão o que queremos", pontuou.
Apesar do diagnóstico pessimista quanto ao ritmo atual do mercado, o ex-pesquisador ressaltou que mantém um grau de otimismo em relação à possibilidade de mitigar tais ameaças, desde que mudanças estruturais sejam implementadas imediatamente:
- Moderação no desenvolvimento: É necessário ajustar a velocidade de criação das IAs para um patamar que a sociedade consiga absorver, permitindo a identificação e resolução de riscos emergentes antes que causem danos irreversíveis.
- Transparência corporativa: O setor exige muito mais abertura e fiscalização para assegurar que as empresas desenvolvedoras não exponham a sociedade a níveis inaceitáveis de risco.
O desabafo de Bilal Chughtai ecoa manifestações anteriores de outros profissionais de destaque do setor. Recentemente, Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, também deixou seu cargo e acusou as grandes empresas de tecnologia de estarem "apostando com as nossas vidas" em uma corrida desenfreada pelo domínio da inteligência artificial.
Fonte original: Estadão
