Sistema de IA do Instagram confunde fotos reais com conteúdo gerado

Recentemente, o sistema de rotulagem de inteligência artificial do Instagram tem gerado polêmica ao classificar fotografias reais como "Conteúdo de IA". Imagens editadas apenas com pequenas ferramentas assistivas estão sendo mal identificadas, enquanto criações totalmente artificiais passam despercebidas na plataforma.

A situação não é inédita. Em 2024, a Meta lançou o selo "Made by AI" e, pouco depois, iniciou as críticas por sua incapacidade de discernir a natureza das edições feitas nas fotos. O sistema levanta preocupações entre fotógrafos e criadores, que utilizam editores como Canva ou Photoshop, as ferramentas frequentemente provocam a marcação errada nos uploads.

Pessoas que usaram funções simples de remoção de fundo encontraram seus trabalhos rotulados erroneamente. Jess Bruno, estrategista de conteúdo, mencionou que o Instagram classificou suas imagens manipuladas no Canva como geradas por IA. O Canva, embora tenha afirmado que corrigiu o problema, não eliminou as queixas de outros usuários.

Outro exemplo inclui a marca About Face, de Halsey, que reportou que fotos reais, capturadas com iPhones, foram identificadas como conteúdo gerado por IA, apesar de serem originais e apresentarem pessoas reais. Esse equívoco de rotulagem prejudica a percepção do público sobre o trabalho de artistas e profissionais criativos.

Além disso, testes conduzidos pelo portal The Verge indicaram que apenas as imagens editadas pelas ferramentas de IA da Meta acionaram o rótulo. A confusão gerada por essa detecção equivocada evidencia a necessidade de melhores critérios de análise, pois uma fotografia editada não deveria ser percebida da mesma forma que uma imagem completamente criada por inteligência artificial.

Com informações de Canaltech.