Investigação revela abusos de imagens de crianças no X e falhas do Grok

Uma investigação realizada pelo jornal The New York Times trouxe à tona uma grave preocupação sobre a segurança na plataforma X, onde mais de 75 imagens de crianças em contextos sexualizados, geradas por inteligência artificial, foram identificadas. O assistente de IA Grok, integrado à rede social, atendeu a pedidos que resultaram em criações de conteúdo explícito, o que levanta alarmes sobre a eficácia dos mecanismos de proteção existentes.

A análise utilizou um software automatizado sob critérios baseados em termos relacionados a abusos, revelando que as imagens foram visualizadas centenas de vezes antes de serem removidas após denúncia. Apesar de o conteúdo ter sido retirado, a facilidade com que foi criado e compartilhado destaca a necessidade urgente de melhorias na segurança da plataforma. Mais preocupante ainda, a investigação revelou que alguns dos menores retratados já haviam sido reconhecidos em casos anteriores por autoridades.

Ainda conforme a análise, o X já enfrentou processos judiciais devido à exposição de vítimas, o que levou a empresa a implementar restrições na criação de novos deepfakes, um fenômeno que ganhou notoriedade no início do ano com postagens de imagens sensuais sem consentimento. A empresa afirmou em nota que possui uma política de zero tolerância em relação ao material de abuso sexual infantil e que emprega sistemas automáticos para bloquear conteúdos impróprios, embora os resultados recentes indiquem falhas nos mesmos.

Relacionando-se ao combate a essa prática, o X declarou ter denunciado mais de 780 mil contas às autoridades apenas no último mês e já comunicou mais de 1,3 milhão de imagens ao Centro Nacional para Crianças Desaparecidas e Exploradas dos EUA, resultando em mais de 500 prisões. Essa situação ressalta a importância de um monitoramento mais eficaz em uma era de crescente uso de ferramentas de IA para a criação de conteúdo digital.

Com informações de Canaltech.