O xAI de Elon Musk processa o usuário Grok por supostamente criar deepfakes sexualmente explícitos de adultos e menores

Veja mais de nossa cobertura em seus resultados de pesquisa. A xAI, startup de inteligência artificial de Elon Musk, processou um homem da Carolina do Sul preso no início deste ano sob a acusação de exploração sexual de menores, alegando que ele usou indevidamente o sistema de IA da empresa, Grok, para criar material de abuso sexual infantil. A xAI alegou na ação, movida no tribunal federal do Texas na terça-feira, que Terry Harwood violou os termos de serviço da empresa.

O caso é um dos primeiros movidos por uma empresa de IA contra um de seus usuários por supostamente usar um sistema de IA para gerar material explícito. As informações de contato de Harwood, que foi preso em fevereiro, não estavam disponíveis imediatamente. Porta-vozes da xAI não responderam imediatamente a um pedido de comentário na quarta-feira.

O processo da empresa contra Harwood segue intenso escrutínio global da xAI sobre alegações de que Grok permitiu que usuários gerassem deepfakes sexualizados não consensuais ou vídeos de aparência realista fabricados por IA. A reclamação da xAI dizia que a empresa “aplica suas regras contra os infratores por meio de suspensões e encerramentos de contas e denunciando material suspeito de abuso sexual infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas”. “Na verdade, o Requerente suspendeu 52.222 contas e fez 73.604 relatórios ao NCMEC em 2026, resultando em (pelo menos) 244 prisões”, disse o processo.

xAI alegou que Harwood carregou imagens não sexuais de adultos e menores para Grok e tentou usar o sistema para gerar deepfakes sexualmente explícitos com base nelas. A denúncia também alegou que ele criou imagens sexuais não consensuais de adultos. A empresa pediu ao tribunal uma quantia não especificada de indenização monetária e uma ordem judicial bloqueando permanentemente Harwood de usar Grok.

“As ações do Réu foram um esquema calculado para transformar a ferramenta do Requerente em uma arma para fins criminais, expondo vítimas reais a danos profundos e duradouros, ao mesmo tempo em que expôs o Requerente a riscos legais significativos e danos à reputação”, disse xAI no processo.