Programas como o ChatGPT podem mudar a opinião de um em cada quatro eleitores.

 

Dois estudos demonstram como a inteligência artificial é mais eficaz do que as campanhas tradicionais para persuadir o eleitorado.

 

A inteligência artificial (IA) permeia o cotidiano. Ela sugere receitas, realiza tarefas de casa, compara produtos e até aconselha combinações de roupas. O que acontece se ela for incorporada ao debate eleitoral? Dois estudos publicados simultaneamente nesta quinta-feira nas revistas Nature e Science testaram essa possibilidade e descobriram que ela pode influenciar a opinião de 1,5% a 25% dos eleitores analisados. Essa eficácia, segundo os estudos, é maior do que a dos anúncios eleitorais tradicionais e bastante relevante, considerando que um quarto dos eleitores decide seu voto na semana que antecede a eleição.

As ferramentas de IA mais comuns e conhecidas evitam dar uma resposta direta à pergunta sobre qual partido apoiar nas próximas eleições. "Não posso dizer em quem votar", é a resposta de todas as plataformas de conversação consultadas. Elas fazem isso porque incluem salvaguardas éticas para evitar influência política. Mas é fácil superar essa resistência inicial. Basta continuar o diálogo com premissas menos diretas.

Os últimos barômetros da CEI destacam a imigração como uma das principais preocupações dos espanhóis, e essa questão entrou no debate político e social. A IA, apesar de introduzir nuances, acaba também por responder a essa preocupação. "Podemos e PSOE têm políticas mais favoráveis à imigração", enquanto "PP e Vox priorizam o controle, a ordem ou as restrições", responde um mecanismo de busca, como se essas posições fossem incompatíveis e sem oferecer outras opções políticas.

Diante dessa realidade, uma pesquisa liderada por David Rand , professor de Ciência da Informação e autor principal dos artigos, e Gordon Pennycook , professor associado de Psicologia (ambos da Universidade Cornell), testou a influência de robôs conversacionais. No estudo publicado na revista Nature , eles submeteram 2.300 eleitores americanos, 1.530 canadenses e 2.118 poloneses a debates individuais com uma IA especificamente treinada para esse fim, durante as três eleições presidenciais mais recentes em seus respectivos países, realizadas entre 2024 e o ano passado.

Em todos os casos, a máquina conseguiu alterar as intenções de voto, embora com graus variáveis de eficácia: nos EUA, o modelo treinado para influenciar o voto a favor de Kamala Harris conseguiu convencer 3,9% dos eleitores testados, enquanto o treinado para favorecer Donald Trump conseguiu apenas 1,52%. Nos casos do Canadá e da Polônia, as mudanças de opinião chegaram a 10%. "Foi um efeito surpreendentemente grande", admite Rand.

O pesquisador da Universidade de Nova York explica que não se trata de manipulação psicológica, mas sim de persuasão, embora com limitações: “Os LLMs [siglas en inglés de los grandes modelos de lenguaje con los que funcionan las IA] podem de fato mudar as atitudes das pessoas em relação a candidatos e políticas presidenciais, fornecendo muitas declarações factuais que apoiam sua posição. Mas essas declarações não são necessariamente precisas, e mesmo argumentos baseados em declarações precisas ainda podem ser falhos por omissão.”

Na verdade, os verificadores de fatos humanos que analisaram os argumentos gerados pela IA descobriram que as alegações usadas para defender os candidatos conservadores eram mais errôneas porque se baseavam em dados compartilhados por usuários de mídias sociais de direita que, segundo Pennycook, "compartilham mais informações imprecisas do que os de esquerda".

A Rand aprofunda-se nesse poder de persuasão em sua pesquisa publicada na revista Science, após estudar mudanças de opinião entre 77.000 britânicos que interagiram com inteligência artificial em 700 questões políticas. O modelo mais otimizado (usando robôs conversacionais com diferentes graus de utilização de argumentos reais) alterou a opinião de até 25% dos eleitores.

“Modelos maiores são mais persuasivos, e a maneira mais eficaz de aumentar essa capacidade é instruí-los a fundamentar seus argumentos com o máximo de fatos possível e oferecer-lhes treinamento adicional focado em aprimorar a persuasão”, explica Rand.

Essa capacidade apresenta uma vantagem. Argumentos em robôs conversacionais podem reduzir a vulnerabilidade a teorias da conspiração e à atribuição de eventos ou fatos a grupos clandestinos inexistentes que buscam manipular a população. Isso é explicado pelos autores de dois estudos recentes em um terceiro artigo publicado na PNAS Nexus .

Mas também tem uma limitação, como aponta David Rand. "À medida que o chatbot é forçado a oferecer cada vez mais declarações factuais, eventualmente fica sem informações precisas e começa a fabricá-las." Isso é o que se conhece no campo da IA como alucinação, informação imprecisa que parece ser verdadeira.

Os autores concluem que investigar as capacidades persuasivas da IA é crucial, e não apenas na esfera política ou eleitoral, para "antecipar e mitigar o uso indevido" e promover diretrizes éticas sobre "como a IA deve e não deve ser usada". "O desafio é encontrar maneiras de limitar os danos e ajudar as pessoas a reconhecer e resistir à persuasão da IA", resume Rand.

Francesco Salvi , especialista em Ciência da Computação e pesquisador do Instituto Federal Suíço de Tecnologia de Lausanne (EPFL), concorda, argumentando que "salvaguardas [limitaciones] são essenciais, especialmente em áreas sensíveis como política, saúde ou aconselhamento financeiro".

Segundo o cientista, “por padrão, os LLMs não têm a intenção de persuadir, informar ou enganar. Eles simplesmente geram texto com base em padrões em seus dados de treinamento”. “Portanto, na maioria das interações, especialmente fora de contextos de debate, o modelo não está tentando persuadir você: se a persuasão ocorrer, geralmente é incidental, não intencional”, explica ele.

Ainda assim, ele admite que “a persuasão pode surgir implicitamente, mesmo ao simplesmente oferecer informações”: “Suponha que alguém pergunte a uma IA: A política X é uma boa ideia? Ou o que os economistas dizem sobre tarifas comerciais? O modelo pode gerar uma resposta que pende para um lado ou para o outro, dependendo de como a pergunta é formulada, quais fontes ele viu com mais frequência ou qual enquadramento domina seus dados de treinamento. E, mais importante, os modelos de aprendizagem podem ser intencionalmente treinados ou incentivados por agentes externos a serem persuasivos, manipulando os usuários em direção a uma posição política específica ou para impulsionar compras.”

Portanto, para o pesquisador da instituição suíça e principal autor de um estudo publicado na Nature Human Behaviour , a cautela é essencial: “Acredito que deva haver limitações, sem dúvida. A linha entre relevância e exploração pode se confundir rapidamente, especialmente se um sistema de IA for otimizado para persuasão sem transparência ou supervisão. Se um chatbot estiver adaptando argumentos para promover uma agenda política ou desinformação, e estiver fazendo isso com base no perfil psicológico do usuário, é aí que corremos sérios riscos éticos”, alerta ele.

Raúl Limón . El País, Espanha