Professor critica acordo de autorregulação de IA nos EUA como “carta branca” para big techs
O recente anúncio de um acordo de autorregulação voluntária para o desenvolvimento da Inteligência Artificial (IA), firmado entre o governo dos Estados Unidos e grandes empresas de tecnologia, está sob forte escrutínio. Especialistas alertam que essa iniciativa, longe de garantir segurança, pode representar uma “carta branca” para a indústria, abrindo precedentes perigosos para a saúde pública e a própria democracia.
A avaliação parte de Sérgio Amadeu, sociólogo e professor da Universidade Federal do ABC, conhecido por suas análises sobre o impacto das tecnologias digitais na sociedade. Segundo ele, a decisão de delegar o controle do desenvolvimento da IA para as próprias corporações que a criam é uma atitude irresponsável e de “risco gigantesco”.
O acordo, anunciado na Casa Branca com a participação de nomes como OpenAI, Meta, Google e X (antigo Twitter), prevê a implementação de “controles internos” para monitorar os modelos de IA e evitar acessos não intencionais a sistemas. No entanto, Amadeu contesta a eficácia dessas medidas, afirmando que tais controles já são inerentes ao processo de treinamento de IA e não agregam valor significativo para a regulamentação de usos indevidos.
Auditorias externas pagas pelas próprias empresas levantam dúvidas sobre imparcialidade
A proposta de auditorias externas independentes também é vista com ceticismo por Amadeu. Ele questiona a real autonomia desses auditores, uma vez que serão pagos pelas próprias empresas de IA. “Até que ponto esse auditor externo pago pela própria empresa vai fazer críticas e sugestões que vão criar descontentamento do conselho de acionistas das empresas?”, indaga o professor, evidenciando a preocupação com a possível falta de isenção.
Benefícios comerciais podem sobrepor proteções em acordos voluntários
Ettore Arpini, especialista em governança de IA e fundador da organização Plures, reconhece que o acordo voluntário pode trazer benefícios. Contudo, ele alerta para a fragilidade de tais compromissos, que podem ser abandonados caso as proteções se tornem comercialmente prejudiciais. Arpini cita o exemplo da Moratória da Soja na Amazônia, um acordo voluntário que funcionou por duas décadas, mas que foi desfeito quando o contexto político e econômico mudou.
“O que acontece se uma empresa reprovar numa auditoria ou abandonar o pacto?”, questiona Arpini, ilustrando a incerteza sobre a durabilidade e o cumprimento das promessas feitas no âmbito da autorregulação da IA. A dependência de acordos voluntários, sem um arcabouço legal robusto, pode deixar a sociedade vulnerável a futuras mudanças de interesse das corporações.
Riscos ambientais, de privacidade e para a democracia são destacados
Sérgio Amadeu ressalta os múltiplos riscos associados ao desenvolvimento desenfreado da IA. Entre eles, estão os impactos ambientais devido ao alto consumo de energia e água, a violação de privacidade através da vigilância em massa e ameaças diretas à democracia e à saúde pública. A capacidade da IA de influenciar a opinião pública através da manipulação de informações nas redes sociais é uma preocupação crescente, com estudos já demonstrando mudanças mensuráveis nas crenças das pessoas após interações com sistemas de IA.
Além disso, o professor aponta para os perigos da IA no setor farmacêutico. Pesquisas em parceria com big techs podem gerar riscos à saúde da população, especialmente quando o controle está nas mãos de investidores. “Quando nós estamos tratando de fenômenos ligados à chamada saúde pública e que incluam a parceria de grandes big techs com indústrias químicas e de fármacos, é um risco muito grande e, portanto, precisa de uma regulamentação estatal democrática”, defende Amadeu.
Temor social e potencial de uso malicioso da IA
Apesar dos apelos por limites no desenvolvimento da IA, o governo Trump tem relutado em impor restrições. Dados de uma pesquisa da Ipsos e Reuters revelam que 73% da população dos EUA acredita que as empresas de IA não tomam medidas suficientes para impedir danos sociais, e 39% percebem um impacto negativo da tecnologia. Riscos como a banalização de ataques cibernéticos, impactos no mercado de trabalho e o uso malicioso por criminosos para aplicar golpes são exemplos do temor social.
O relatório International IA Safety Report 2026 também alerta para o potencial de desenvolvimento de armas químicas e biológicas por meio de sistemas de IA de uso geral, que podem fornecer informações detalhadas sobre patógenos e instruções de laboratório de nível especializado. Esses apontamentos reforçam a urgência de uma regulamentação estatal democrática e eficaz para o avanço da Inteligência Artificial.
