Um estudo da Ecole Polytechnique Fédérale de Lausanne (EPFL) concluiu que, embora o conteúdo criado por inteligência artificial (IA) tenha se mostrado uma arma de desinformação em massa nas campanhas eleitorais, seu impacto sobre os resultados é, até o momento, “marginal” e “limitado”.
Para chegar a essa conclusão, os pesquisadores analisaram o uso de material criado por IA em várias eleições deste ano, como deepfakes (vídeos que parecem mostrar pessoas reais) na eleição presidencial dos EUA ou avatares falsos de figuras políticas falecidas nas eleições legislativas indianas.
Os resultados mostraram que esse conteúdo teve um impacto “marginal” sobre as campanhas, sem nenhuma novidade ou mudança nos resultados da campanha.
No entanto, o estudo constatou que o uso desse tipo de conteúdo degradou o ambiente de informações nesses países, aumentando os sentimentos de polarização e desconfiança em relação aos partidos políticos, às autoridades e à mídia.
De acordo com a declaração da instituição educacional, os especialistas acreditam que isso se deve principalmente à ausência de estruturas que regulamentem o setor de IA nesses países, o que permitiu que esse conteúdo circulasse livremente pelas redes sociais.
Eles também concluem que muitas campanhas políticas aproveitam esse vácuo regulatório para usar a técnica de “microtargeting” que, com base em dados de perfil, IA e chatbots, transmite mensagens personalizadas e emocionais sem fornecer informações que comprovem que elas vêm de fontes confiáveis.
Esse tipo de “microtargeting”, alertam, precisa ser melhor analisado e monitorado, especialmente quando é usado para atingir populações “particularmente vulneráveis”, como os jovens eleitores.
“Precisamos conscientizá-los dos riscos associados às notícias falsas e dar-lhes os recursos para verificar as fontes das informações que recebem”, disse Touradj Ebrahimi, chefe do grupo de processamento de sinais multimídia da EPFL e responsável pelo estudo.
Outro estudo publicado recentemente pela mesma universidade mostra que uma das IAs mais usadas atualmente, os grandes modelos de linguagem, como o Chat-GPT, têm falhas que permitem que aqueles que desejam usá-los para fins de propaganda maliciosa produzam conteúdo tóxico, espalhem desinformação ou apoiem atividades prejudiciais.
Para coibir essas práticas, o grupo liderado por Ebrahimi está desenvolvendo vários sistemas para detectar e rastrear conteúdo falso.
Um deles consiste, por exemplo, na implementação de um formato de foto padrão na mídia chamado JPEG Trust, que permite verificar a autenticidade das imagens desde o momento em que são criadas até serem publicadas.
