Entenda como funciona IA feminista da América Latina

Fonte:

Os espaços on-line perpetuam estereótipos sobre quem os cria e sobre os dados que neles são inseridos — atualmente, de forma predominante, homens. Esse fenômeno global vem impulsionando a construção de alternativas tecnológicas, como a Rede Feminista de IA da América Latina e do Caribe.

Alexa, Siri, Lu, Bia: por que assistentes virtuais são geralmente associadas ao gênero feminino?

Viés sexista: Algoritmos reproduzem machismo e racismo por se basearem em práticas discriminatórias dos humanos

A literatura tecnológica está repleta de exemplos de viés de gênero. Sistemas de reconhecimento de imagens têm dificuldade para identificar com precisão mulheres, especialmente mulheres negras, o que já resultou em identificações equivocadas com consequências graves para as forças de segurança.

Assistentes de voz, por muito tempo, utilizaram exclusivamente vozes femininas, reforçando o estereótipo de que mulheres seriam mais adequadas a funções de serviço.

Na geração de imagens, as IAs costumam associar o termo “CEO” a um homem, enquanto uma busca por “assistente” retorna imagens de mulheres.

— A inteligência artificial se alimenta de dados que não são neutros: ela reflete sociedades marcadas por desigualdades históricas e relações de poder. Se uma empresa deseja obter resultados justos, precisa analisar os conjuntos de dados, verificar sua representatividade e intervir ativamente quando isso não ocorre. A equidade não surge sozinha: ela precisa ser projetada — afirmou à agência ANSA Ivana Bartoletti, especialista internacional em governança da IA e autora de um estudo do Conselho da Europa sobre inteligência artificial e gênero.

Galerias Relacionadas

Para Bartoletti, o recente caso do Grok — a IA de Elon Musk que permitia gerar imagens falsas de mulheres e menores nus, função que depois foi descontinuada — “mostra o que acontece quando a segurança e os direitos das mulheres não são considerados no desenho dos sistemas”.

— Se existem ferramentas para despir mulheres, elas serão usadas. Os nudes deepfake são uma forma de humilhação e controle. A mensagem implícita é perigosa: você está on-line, portanto, merece isso. É assim que muitas mulheres são silenciadas e abandonam o espaço digital — explicou.

É nesse contexto que surgem alternativas tecnológicas para repensar a inteligência artificial e transformá-la em um espaço de luta e de poder compartilhado.

IAs feministas

Na América Latina e no Caribe, por exemplo, surgiu a Rede Feminista de IA, que apoia dezenas de projetos voltados à transparência e às políticas públicas. Ferramentas como AymurAI, Arvage AI e SofIA aplicam a perspectiva de gênero à análise jurídica e expõem os vieses e a discriminação inerentes aos algoritmos.

O afrofeminismo também vem reivindicando a inteligência artificial como um espaço de autodeterminação, com assistentes como o AfroféminasGPT, treinados com base no conhecimento e nas vozes de pessoas negras.

— Elas demonstram que podemos nos organizar para usar a IA em benefício de todos, compartilhar dados de forma coletiva e desenvolver soluções centradas em necessidades reais. Mas a chave continua sendo o poder. A questão feminista na IA é uma questão de poder: as mulheres precisam ter mais poder. Não nas margens, mas no topo das empresas e nos espaços onde se decidem as políticas tecnológicas. Precisamos de diversidade nos ambientes de tomada de decisão, não apenas entre quem programa. A inteligência artificial não é apenas tecnologia, é uma escolha sobre como queremos transformar a sociedade — concluiu Ivana Bartoletti.