A crescente sofisticação das imagens geradas por inteligência artificial (IA) está tornando cada vez mais difícil a detecção de conteúdos falsos, especialmente em um ano com cerca de 50 eleições globais, incluindo no Brasil. Especialistas como Mike Speirs, da Faculty AI, e Carlos Affonso Souza, do Instituto de Tecnologia do Rio de Janeiro (ITS Rio), alertam que a análise humana já não é suficiente para identificar essas imagens, devido ao constante refinamento dos modelos de IA.

Oren Etzioni, da Universidade de Washington, destaca que a detecção de conteúdos sintéticos tornou-se uma “corrida de armas”, onde modelos de IA adversários evoluem continuamente. No Brasil, o Tribunal Superior Eleitoral (TSE) atualizou as regras de propaganda eleitoral para incluir a sinalização obrigatória de conteúdos gerados por IA e a proibição de deep fakes, delegando às plataformas a responsabilidade de remoção imediata desses conteúdos.

A falta de ferramentas acessíveis para detecção de IA e a necessidade de constante atualização tecnológica e educacional são desafios adicionais. Etzioni desenvolveu a True Media, uma ferramenta de detecção de deep fakes oferecida gratuitamente a jornalistas, sublinhando a importância da imprensa na luta contra a desinformação. A discussão sobre a responsabilidade das plataformas e a potencial politização das remoções de conteúdo sintético continua a gerar debate entre especialistas de direito digital. de conteúdo sintético continua a gerar debate entre especialistas de direito digital.

Saiba mais: Clique AQUI