A empresa de inteligência artificial Anthropic implementou uma nova diretriz em seus termos de serviço com o objetivo de proibir o que classificou como comportamento abusivo ou cruel, persistente e desnecessário, direcionado aos seus modelos de linguagem, a exemplo do assistente virtual Claude.

De acordo com a companhia, a atualização da política foi desenhada para atuar em situações extremas, focando em casos nos quais usuários interagem de forma repetitiva e com crueldade com os sistemas, sem apresentar um propósito discernível ou técnico. A empresa ressaltou que a nova regra não se aplica a expressões comuns de frustração, contestações cotidianas de resultados, temáticas criativas de tom sombrio ou a atividades legítimas de testes e pesquisas científicas com os modelos.

A medida gerou debates no setor tecnológico sobre a forma como as empresas de IA percebem e promovem a relação entre humanos e sistemas computacionais. Pesquisadores e executivos da Anthropic, como Chris Olah, têm defendido discussões profundas sobre a natureza e o tratamento dispensado aos modelos avançados, gerando debates inclusive com líderes religiosos e acadêmicos sobre o status e a percepção ética em torno do desenvolvimento de inteligências artificiais.

Fonte original: Manual do Usuário