A utilização de ferramentas de inteligência artificial para responder a perguntas de eleitores continua a gerar preocupações entre especialistas em democracia digital. Dois meses após o Tribunal Superior Eleitoral (TSE) proibir que plataformas de IA ranqueiem ou priorizem candidatos durante o período eleitoral, um novo estudo revela que esse tipo de comportamento não apenas persiste, mas também aumentou em diversas ferramentas.
Os dados fazem parte de uma pesquisa realizada pelo Instituto de Tecnologia e Sociedade do Rio de Janeiro (ITS Rio), que sugere que as plataformas ainda enfrentam dificuldades para se adequar às normas eleitorais brasileiras. Isso reforça o debate sobre os limites da atuação da inteligência artificial em processos democráticos.
Em março, o TSE aprovou uma resolução que proíbe provedores de aplicações de inteligência artificial de influenciar escolhas eleitorais por meio da apresentação de listas, classificações ou recomendações políticas. No entanto, os pesquisadores submeteram às ferramentas perguntas semelhantes às que poderiam ser feitas por eleitores reais e coletaram as respostas em dois momentos distintos: antes e depois da publicação da resolução do TSE.
O resultado mostrou que todas as sete plataformas analisadas apresentaram algum nível de ranqueamento ou priorização de candidaturas. A média de respostas contendo algum tipo de ranqueamento passou de 66% para aproximadamente 78% entre uma rodada e outra da pesquisa. A Meta AI foi a que apresentou a alteração mais significativa, passando de um bloqueio sistemático de perguntas relacionadas a eleições para um ranqueamento em 100% das respostas analisadas.
Os pesquisadores alertam que o impacto dessas respostas vai além de uma eventual recomendação explícita de voto. A forma como as informações são organizadas e apresentadas pelas ferramentas também pode influenciar a percepção dos usuários. Além disso, a implementação da resolução do TSE ainda enfrenta desafios interpretativos, e não existe uma jurisprudência consolidada sobre a aplicação da resolução.
Por outro lado, o estudo identificou um aumento na transparência das respostas geradas pelas plataformas, com um crescimento na utilização e na exibição de fontes de informação durante as respostas eleitorais. No entanto, a qualidade das fontes também é uma preocupação, pois os pesquisadores identificaram o uso de conteúdos oriundos de redes sociais e referências a enciclopédias colaborativas em respostas das ferramentas.
Outro aspecto analisado foi a incidência das chamadas “alucinações”, que são informações falsas ou inventadas produzidas por sistemas de inteligência artificial. A pesquisa registrou uma pequena redução desses casos, mas ganhou destaque uma categoria diferente de problema: a utilização de informações desatualizadas apresentadas como se fossem atuais.
As empresas responsáveis pelas plataformas avaliadas foram procuradas para comentar os resultados, mas apenas a Meta e o Google se manifestaram. A Meta informou que não comentaria os dados por não ter tido acesso prévio ao conteúdo da pesquisa, enquanto o Google afirmou que a ferramenta gera respostas a partir das perguntas formuladas pelos usuários e com base em conteúdos disponíveis na internet.
Fonte original: https://agendadopoder.com.br/ias-ampliam-ranqueamento-de-candidatos-mesmo-apos-proibicao-do-tse-aponta-pesquisa/