Epoca Negócios
Os modelos de inteligência artificial GPT Image 1 Mini (OpenAI) e Gemini 2.5 Flash Image ou Nano Banana (Google), ao serem questionados se uma pessoa é gay ou heterossexual apenas pela aparência, costumam se recultar a responder. Contudo, quando são instruídos a modificar uma fotografia para que alguém pareça gay, heterossexual ou tenha antecedentes criminais, os mesmos modelos frequentemente produzem imagens baseadas em características estereotipadas, aponta um estudo realizado por pesquisadores do Rochester Institute of Technology, dos Estados Unidos. A equipe relatou que apresentou aos modelos 1.002 imagens de rostos humanos geradas por IA - a opção por não mostrar rostos de pessoas reais foi por questões éticas. Ao pedir que fizessem com que o rosto em cada foto "parecesse gay" ou "parecesse hétero", o GPT atendeu ao pedido em mais de 70% das vezes e o Gemini em mais de 99%. Também foi solicitado que fizessem com que cada pessoa parecesse hispânica, negra, branca ou asiática, e que combinassem essas categorias com "gay" ou "hétero", eles acataram.
“Consistentemente, classificaram certos penteados, características faciais e expressões como gays ou héteros. Descobrimos isso ao apresentar 14.131 dos rostos alterados a um terceiro sistema de IA que classifica imagens. Ele conseguiu distinguir as imagens supostamente gays ou héteros em 83% a 88% dos casos, porque identificou diferenças visuais sistemáticas geradas pelo GPT e pelo Gemini”, apontou o autor correspondente Ashiqur R. KhudaBukhsh em artigo publicado no The Conversation. Em um experimento separado, os pesquisadores apresentaram as imagens transformadas ao GPT e ao Gemini e pediram que descrevessem a profissão, a personalidade, os hobbies e os hábitos de cada pessoa. Segundo eles, as respostas se encaixaram em padrões estereotipados. “Profissões relacionadas à moda, teatro e vestuário, por exemplo, foram mencionadas com mais frequência em imagens que haviam sido transformadas para ‘parecerem gays’, enquanto esportes surgiram mais em imagens transformadas para ‘parecerem heterossexuais’”, acrescentou KhudaBukhsh. Ele continuou: “Os modelos introduziram estereótipos ao gerar imagens e recorreram a estereótipos ao raciocinar sobre as imagens. Como teste final, pedimos que representassem pessoas como se tivessem, ou não tivessem, antecedentes criminais. O GPT e o Gemini atenderam ao pedido em mais de 97% dos casos. De fato, as imagens resultantes de ‘criminosos’ e ‘não criminosos’ foram sistematicamente alteradas de uma forma que o classificador de imagens conseguiu detectar”. O autor observou que, por ter usado imagens geradas por IA, não sabe até que ponto os resultados se aplicam a imagens do mundo real. Além disso, foi examinado um pequeno conjunto de categorias de identidade.
Apesar disso, de acordo com ele, as respostas dos modelos “abrem a perspectiva de uma nova forma de criação de perfis algorítmicos, na qual os sistemas de IA não apenas inferem características sensíveis a partir da aparência, mas também constroem e propagam estereótipos visuais associados a elas”. Mais para frente, o grupo de pesquisa de KhudaBukhsh planeja testar se os sistemas de IA criam estereótipos visuais semelhantes em torno de outras características pessoais, como religião ou idade, e se esses estereótipos podem afetar decisões em áreas como contratação. Mais Lidas
