VIESES NAS INTELIGÊNCIAS ARTIFICIAIS: UM ESTUDO SOBRE A GERAÇÃO DE IMAGENS A PARTIR DE COMANDOS DE RAÇA/ETNIA E GÊNERO

Resumen

Esta pesquisa investiga a presença de vieses na geração de imagens por inteligências artificiais (IA) com base em comandos específicos, focando nos aspectos de gênero e raça. Ela se fundamenta na seguinte questão norteadora: Existem vieses na geração de imagens por IA, assim como nos processos de identificação de imagens? A metodologia adotada inclui uma abordagem bibliográfica-documental e análise descritiva das imagens geradas em testes realizados na ferramenta BlueWillow. Os testes foram conduzidos em duas etapas: inicialmente, utilizou-se comandos sem atribuição de gênero, como [white], [black], [a man], [a woman], [a firefighter], [a nurse], [a doctor], [an inmate]; em seguida, os resultados foram avaliados com a atribuição automática pela plataforma de gênero e raça. Os resultados apontam a presença de vieses nessas imagens geradas por IA. Embora esses vieses sejam identificados, sua origem requer investigações mais aprofundadas, abrangendo as bases de treinamento, práticas científicas e outras possíveis causas. O estudo destaca a importância de políticas e diretrizes que promovam a equidade e justiça informacional no desenvolvimento dessas tecnologias.

Palavras-chave: inteligência artificial; redes neurais generativas; algoritmos racistas.