Autorregulação da IA: um risco à saúde pública e à democracia, alerta especialista

A recente decisão do governo dos Estados Unidos, em conjunto com grandes empresas de tecnologia, de implementar uma autorregulação voluntária no setor de Inteligência Artificial (IA) tem causado inquietação entre especialistas. Para Sérgio Amadeu, sociólogo e professor da Universidade Federal do ABC, essa medida representa uma “carta branca” para as corporações, o que pode gerar sérios riscos à saúde pública e ao funcionamento democrático em diversos países.

Amadeu critica a abordagem adotada, afirmando que a entrega do controle sobre o desenvolvimento da IA às próprias empresas que a desenvolvem é extremamente irresponsável. “O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco,” enfatiza o especialista.

Entre as diretrizes estabelecidas na assinatura do acordo na Casa Branca, realizada no dia 29, estão os chamados “controles internos”, que visam monitorar os modelos de IA e garantir que não ocorram acessos não intencionais a sistemas. Contudo, Amadeu considera essas exigências redundantes, afirmando que o monitoramento interno já é uma prática comum e não contribui para a criação de uma regulamentação efetiva. Além disso, questiona a possibilidade de auditorias externas ser realizadas por empresas com interesses comerciais, levantando a preocupação de que essas auditorias sejam meramente superficiais e complacentes.

As preocupações sobre os efeitos da IA não se limitam apenas ao controle corporativo. Étore Arpini, especialista em governança de IA, menciona que, apesar de o acordo ter potencial para gerar benefícios, a informalidade do mesmo pode resultar em sua desconsideração no futuro. O especialista traça um paralelo com a Moratória da Soja na Amazônia, que foi efetiva por duas décadas, mas falhou quando as condições políticas mudaram: “O que acontece se uma empresa reprovar numa auditoria ou abandonar o pacto?”, questiona.

Além disso, Amadeu alerta que a implementação descontrolada da IA pode trazer sérios riscos à saúde pública. Com a crescente colaboração entre a indústria farmacêutica e big techs, ele aponta a possibilidade de abusos que podem levar indivíduos a automedicação inadequada e diagnósticos errôneos. “Quando nós estamos tratando de fenômenos ligados à chamada saúde pública e que incluam a parceria de grandes big techs com indústrias químicas e de fármacos, é um risco muito grande e, portanto, precisa de uma regulamentação estatal democrática,” conclui o professor.

A opinião pública também reflete uma percepção crítica em relação à regulamentação da IA. Pesquisas indicam que uma parcela significativa da população americana acredita que as empresas do setor não estão tomando precauções suficientes para evitar danos sociais, enquanto 39% dos entrevistados percebem impactos negativos diretos da tecnologia na sociedade. Em um contexto onde a IA pode ser utilizada para manipular informações e influenciar a opinião pública, o alerta de especialistas se torna ainda mais pertinente: o uso irresponsável dessa tecnologia pode impactar negativamente diversas esferas da vida social e política.

Com informações de Agência Brasil.