Vieses em inteligências artificiais são tema de pesquisa de pós-doutorado

Estudo realizado em parceria com o Instituto Kunumi e a PUCRS irá investigar como sistemas de IA interpretam características como gênero, idade e tonalidade de pele em humanos virtuais realistas

Quando uma inteligência artificial analisa o rosto de uma pessoa, ela realmente faz isso de maneira neutra? Ou fatores como gênero, idade, cor da pele e aparência acabam influenciando as respostas produzidas por essas tecnologias? Em um cenário em que chatbots, assistentes virtuais e imagens ultrarrealistas estão cada vez mais presentes no cotidiano, questões desse tipo passaram a ocupar espaço central nos debates sobre os impactos éticos e sociais da Inteligência Artificial.

É a partir dessa reflexão que nasce a pesquisa de pós-doutorado do professor Victor Flavio Araujo, dos cursos de Tecnologia da Informação (TI) da Universidade Tiradentes (Unit). 

O trabalho será desenvolvido em parceria com o Instituto Kunumi e a Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS), com o objetivo de investigar vieses presentes tanto em seres humanos quanto em sistemas de Inteligência Artificial durante interações com humanos digitais realistas.

O projeto busca analisar se ferramentas de IA, como chatbots e sistemas de reconhecimento de imagem, acabam reproduzindo padrões sociais existentes na internet e na própria sociedade. “A proposta é investigar vieses relacionados a gênero, tonalidade de pele, idade e outras características em Inteligências Artificiais voltadas para imagens de humanos virtuais realistas. 

Por exemplo, um Claude, um ChatGPT ou qualquer outro chatbot consegue identificar corretamente o gênero de uma pessoa em processo de transição de gênero? Ou essas IAs acabam sendo influenciadas por padrões sociais ligados a determinadas características visuais?”, explica Victor Flavio.

Etapas e parceria

De acordo com o pesquisador, a etapa inicial do estudo será identificar a existência desses vieses e compreender de que forma eles aparecem nas respostas das inteligências artificiais. A partir disso, o grupo pretende desenvolver soluções computacionais que ajudem a minimizar essas distorções e favoreçam sistemas mais inclusivos.

A parceria que originou o projeto surgiu por meio da professora Soraia Raupp Musse, orientadora de mestrado e doutorado de Victor Flavio na área de Ciência da Computação da PUCRS. “Ela me convidou para realizar um pós-doutorado nessa linha de pesquisa no Instituto 

Então aceitei o convite e também trouxe para o projeto os alunos da graduação em Ciência da Computação da Unit, Ana Carolina Andrade Passos, Erick Marck De Barros Menezes e Rafael José Mecenas Silva”, relata.

O Instituto Kunumi, parceiro da iniciativa, atua como coletivo de pesquisa e laboratório de Inteligência Artificial do Sul Global, desenvolvendo estudos voltados para aprendizado de máquina, inovação científica e tecnologias com abordagem humana e colaborativa. 

A aproximação entre o instituto e os pesquisadores ocorreu após a apresentação de trabalhos anteriores conduzidos por Victor Flavio e seus estudantes sobre percepção de humanos virtuais e representação de tonalidades de pele.

Esses estudos apontaram, por exemplo, que homens e mulheres demonstram preferências distintas em relação a personagens virtuais dependendo do gênero apresentado. As pesquisas também identificaram que algoritmos utilizados na criação de tonalidades de pele apresentam maior precisão em peles claras quando comparados a tons mais escuros. 

“Também mostramos que algoritmos voltados para criação de cor de pele apresentam mais vieses em tonalidades claras quando relacionados à interação com iluminação de ambientes. Todos esses resultados foram apresentados ao Instituto Kunumi, que aprovou um projeto ligado a essa temática”, afirma.

Na prática, a pesquisa utilizará humanos virtuais produzidos digitalmente e modificados com diferentes características físicas e visuais. A partir dessas representações, os pesquisadores irão analisar como as inteligências artificiais respondem a cada alteração. 

“Podemos utilizar uma foto minha, transformá-la em um humano virtual 3D, alterar a tonalidade da pele, o cabelo, a idade ou inserir características femininas e depois enviar essas imagens para uma IA analisar. Cada modificação gera uma nova imagem e também uma nova resposta da inteligência artificial, permitindo identificar padrões de comportamento e possíveis vieses”, detalha o professor.

Sinergia entre diversas áreas

A pesquisa também estabelece conexões com áreas como psicologia, cinema, jogos digitais e redes sociais. Isso porque os humanos virtuais já estão presentes em campanhas publicitárias, produções audiovisuais e até em interações comerciais. 

Victor Flavio cita como exemplo o software Metahuman Creator, utilizado pelo grupo para criar personagens digitais realistas e também empregado em grandes produções da indústria do entretenimento.

“Esses humanos virtuais estão presentes em filmes, jogos, séries e até em perfis de influenciadores digitais. Por isso, tanto na indústria quanto nas Inteligências Artificiais, esses produtos precisam representar de maneira fiel a diversidade da população em aspectos como cor da pele, raça, gênero, peso e idade”, ressalta.

O pesquisador também explica que os vieses observados nas inteligências artificiais geralmente refletem padrões históricos e sociais presentes nos dados utilizados no treinamento dessas ferramentas. “As IAs generativas aprendem a partir das informações disponíveis na internet. 

Se esses conteúdos reproduzem determinados padrões sociais, essas características acabam aparecendo também nas respostas geradas pelas inteligências artificiais”, pontua.

Com duração inicial prevista de dois anos, o pós-doutorado envolverá a criação de humanos virtuais diversos, a análise das respostas produzidas por IAs generativas e o desenvolvimento de técnicas voltadas à redução de vieses computacionais. 

Ao longo do projeto, a expectativa é publicar artigos científicos e apresentar os resultados em eventos nacionais e internacionais da área. Inclusive, dois trabalhos já foram submetidos para importantes conferências de computação: o SEMISH 2026, em Gramado, e o SIBGRAPI 2026, previsto para acontecer em Goiânia.

Para Victor Flavio, discutir diversidade e representatividade no desenvolvimento tecnológico é uma demanda urgente diante do avanço das inteligências artificiais generativas e da crescente presença de humanos digitais no cotidiano. 

“Nós, da área de TI, criamos softwares e produtos para pessoas. Por isso, precisamos compreender as pessoas, suas características e diferenças, para desenvolver tecnologias em que todos se sintam representados e confortáveis. A tecnologia também precisa debater questões sociais”, conclui.