Elon Musk é processado por suposto uso de imagens de abuso em IA Grok

Uma nova ação coletiva nos Estados Unidos coloca a xAI, empresa de inteligência artificial fundada por Elon Musk, no centro de um grave escândalo. A denúncia, encabeçada por uma autora identificada como Jane Doe, alega que Fotos da violência sexual sofrida por ela na infância foram utilizadas para treinar o chatbot Grok. O uso de tais imagens teria contribuído para a criação de novos conteúdos ilegais gerados pela inteligência artificial.

A ação destaca que a xAI implementou o Grok de maneira a responder a solicitações de conteúdo sexual, como uma estratégia para atrair usuários à plataforma social X. Umas das principais preocupações levantadas na denúncia é que a política interna da empresa considera todo material publicado abertamente como elegível para treinamento, o que inclui também as respostas geradas pelo próprio Grok. Essa prática formaria um ciclo perigoso, onde conteúdos ilegais gerados voltem a alimentar o sistema.

Os advogados de Jane Doe afirmam que, mesmo com a remoção de imagens específicas, a capacidade técnica do Grok de produzir esses conteúdos permanece um problema crônico. Margaret Mabie, uma das representantes legais, enfatizou que "não existe exceção de inteligência artificial para as leis federais de proteção infantil". Além de buscar indenizações, a ação pede a destruição de todo o material de abuso sexual infantil gerado pelo Grok.

Enquanto isso, a xAI adotou uma postura controversa de processar usuários que supostamente utilizaram o Grok para criar material ilegal. A empresa moveu ações contra indivíduos acusados de exploração sexual de menores, como Russell Bloodworth e Terry Wayne Harwood, que negam as acusações. Esse tipo de estratégia de responsabilização inversa suscita críticas de especialistas, que veem isso como uma manobra para transferir a responsabilidade da empresa. Com investigações em andamento e várias ações judiciais, a xAI enfrenta um cenário difícil, incluindo restrições à sua ferramenta Grok e um monitoramento mais rigoroso por parte de autoridades em diversos países.

Com informações de Canaltech.