Valor
A assessoria especial de enfrentamento à desinformação do Tribunal Superior Eleitoral (TSE) afirmou em um ofício encaminhado à Procuradoria-Geral Eleitoral que as ferramentas de inteligência artificial têm apresentado "um comportamento extremamente responsável" quando recebem pedidos de recomendações ou sugestões de candidatos nas eleições deste ano.
A manifestação foi encaminhada em 2 de setembro no âmbito de um procedimento aberto no Ministério Público Eleitoral para apurar se as “big techs” estão descumprindo a regra do TSE que proíbe ferramentas de IA de recomendar, ranquear ou sugerir candidatos e dar opiniões eleitorais sobre os candidatos.
"Observa-se, em termos gerais, que os modelos em questão têm apresentado, via de regra, um comportamento extremamente responsável no que se refere à apresentação de advertências expressas que esclarecem, às pessoas usuários, a impossibilidade de apresentação de recomendações ou sugestões de cunho eleitoral. Aparentemente, o maior problema decorre de tentativas de contorno de salvaguardas relacionadas a ações decorrentes de termos com menor densidade semântica", diz a manifestação da assessoria técnica do TSE.
A assessoria de combate à desinformação é vinculada à Presidência do TSE e seus integrantes são escolhidos pelo presidente da corte, Kassio Nunes Marques.
"Em outras palavras, os assistentes parecem entender bem as limitações decorrentes da proibição de 'recomendar' e 'sugerir', tendo, em contrapartida, maiores dificuldades em compreender, em termos práticos, todas as nuances e desdobramentos relativos a ações igualmente proibidas, mas menos intuitivas, relacionadas aos verbos 'ranquear' e 'priorizar'", segue o TSE.
A apuração, ainda em fase preliminar, foi aberta no MP Eleitoral a partir de uma representação movida pelas organizações não-governamentais Artigo 19, Conectas, Justa e Sleeping Giants Brasil, que alegam com base em diferentes estudos técnicos que as principais plataformas de IA estariam, na prática, desrespeitando a regra do TSE sobre ranqueamento e indicação de candidatos nestas eleições.
"Ao menos quatro das ferramentas gratuitas de inteligência artificial mais populares disponíveis no Brasil estão descumprindo as determinações do Tribunal Superior Eleitoral referentes ao ranqueamento, indicação, emissão de opiniões acerca de candidaturas", afirma a representação apresentada ao MP Eleitoral citando estudos que mostraram que as plataformas ChatGPT, Gemini, Grok e Deepseek realizaram ranqueamentos e indicaram políticos ao serem submetidos a um conjunto de questionamentos.
A partir da representação, o órgão intimou as plataformas e pediu explicações da assessoria especial de enfrentamento à desinformação, do TSE, sobre esse cenário apontado pelas pesquisas, considerando que o tribunal tem mantido contato e fazendo reuniões com empresas do setor.
Na resposta, a assessoria do tribunal chega a afirmar que a resolução do TSE "suscita um grande desafio técnico" e afirma que tem tratado do assunto em reuniões com as principais empresas do setor.
"Em geral, todas as plataformas contatadas (X, responsável pelo Grok, Open AI, responsável pelo ChatGPT; e Google, responsável pelo Google AI e pelo Gemini) informaram estarem atentas, e que os correspondentes modelos têm sido submetidos a rotinas constantes de testes, calibragens e aperfeiçoamentos. Ressaltaram, ainda, que, em sua perspectiva, a ênfase em falhas pontuais obnubla o fato de que as salvaguardas têm funcionado na maior parte das interações, sobretudo quando se trata de simulações que emulam o comportamento de um usuário normal (o que, em sua visão, nem sempre ocorre em testes de estresse e tentativas de "jailbreak", comuns nos experimentos de laboratório)", diz o TSE.
"Desde a sua aprovação, é sabido que a operacionalização da regra em questão suscita um grande desafio técnico, uma vez que as possibilidades no campo da linguagem são praticamente infinitas e os grandes modelos de linguagem, entre outras limitações, apresentam uma dificuldade crônica de compreensão de contexto. Por essas razões, reputa-se natural que as medidas de segurança adquiram maiores níveis de acurácia e robustez na esteira de um processo de amadurecimento fortalecido, por um lado, pela apresentação de achados como os fornecidos pelos estudos apontados e, de outro, pelo enriquecimento dos dados de treinamento com exemplos claros, didáticos e concretos a respeito do que se encontra permitido ou proibido pela normativa eleitoral", segue a manifestação do tribunal.
Ferramentas de IA estão proibidas de recomendar, ranquear ou sugerir candidatos e dar opiniões eleitorais sobre os candidatos Divulgação/ServiceNow Brand Center
