A rápida expansão da inteligência artificial generativa está transformando a produção audiovisual em escala global, da criação de imagens e vídeos à escrita de roteiros e narrativas. No entanto, junto com as inovações tecnológicas, persistem velhos problemas: estereótipos de gênero, desigualdades na representação e vieses estruturais nos dados.
Esse foi o ponto de partida da pesquisa apresentada pelo professor e pesquisador Itaassu Ribas Melo durante o 2º Seminário do Observatório Sul-Sudeste do INCT Caleidoscópio, em 26 de junho de 2025. A apresentação é baseada na sua dissertação, intitulada “Criatividade e inovação: o rápido desenvolvimento das tecnologias culturais dos meios digitais em Manaus“, defendida no Programa de Pós-graduação em Sociedade e Cultura na Amazônia da Universidade Federal do Amazonas (UFAM).
Ao discutir os desafios e oportunidades da relação entre inteligência artificial, gênero e audiovisual, a pesquisa analisa como sistemas de IA generativa participam da produção de conhecimento e influenciam diretamente quem aparece, como aparece e quem narra no campo audiovisual.
Veja a gravação completa da apresentação no canal do Youtube do INCT Caleidoscópio.
Estereótipos que se repetem em código
Segundo Itaassu, diferentes estudos internacionais demonstram que os modelos de linguagem e imagem reproduzem padrões históricos de desigualdade. Mulheres são descritas até quatro vezes mais em papéis domésticos do que homens, enquanto imagens associadas a cargos de liderança, profissões técnicas ou de prestígio seguem majoritariamente masculinas.
O professor apresenta exemplos concretos que reforçam esse diagnóstico. Em sistemas de geração de imagens, o termo “cirurgião” resulta em imagens de homens em cerca de 85% dos casos, mesmo em países onde mulheres já são maioria na medicina. Da mesma forma, prompts relacionados a empresas ou liderança tendem a apresentar figuras masculinas como protagonistas.
No audiovisual gerado por IA, esses vieses também aparecem na construção de corpos, profissões e narrativas, reforçando padrões estéticos e sociais já naturalizados pela publicidade e pela mídia tradicional.
De onde vêm os vieses?
Segundo o pesquisador, são múltiplas as camadas que explicam por que a inteligência artificial está longe de ser neutra. As bases de dados históricas, por exemplo, são marcadas pela predominância masculina em bancos de imagens, roteiros e registros audiovisuais. Além disso, ainda é perceptível a desigualdade de gênero nas equipes de desenvolvimento, com uma lacuna significativa na participação de mulheres na pesquisa e desenvolvimento em IA.
Outros aspectos são a ausência de auditorias contínuas, capazes de identificar e corrigir vieses nos resultados, e os próprios objetivos comerciais, que priorizam o engajamento e repetem aquilo que já é considerado “normal” ou “aceito” socialmente.
Para Itaassu, os sistemas acabam funcionando como tradutores automáticos de estereótipos já existentes, amplificando desigualdades ao invés de questioná-las.
Em torno desse debate, também está a discussão sobre os marcos éticos e a regulação da inteligência artificial. O pesquisador cita, por exemplo, as recomendações da UNESCO sobre ética em IA, as diretrizes da União Europeia para avaliação de impacto de gênero em sistemas de alto risco e o debate legislativo brasileiro sobre responsabilização em casos de discriminação algorítmica.
Para além da regulação, ele defende a necessidade de governança participativa, com a inclusão de mulheres, pessoas indígenas, pessoas trans e profissionais do audiovisual nos comitês e processos decisórios relacionados à IA. Defende, também, o desenvolvimento de produtos em código aberto, que permite adaptações às realidades culturais locais e correções feitas pelas próprias comunidades afetadas.
Entre riscos e possibilidades
Ao reconhecer que a inteligência artificial não é neutra, e que ela pode, portanto, reforçar estereótipos e desigualdades, Itaassu aponta que o caminho passa por pesquisa aplicada, auditorias interseccionais, regulação pública e design centrado na justiça de gênero.
Em um cenário de rápida transformação tecnológica, a questão central deixa de ser apenas o que a IA é capaz de fazer, e passa a ser quem participa da sua construção e para quais mundos essas tecnologias estão sendo treinadas.
Nesse sentido, o pesquisador também aponta para a possibilidade de ela se tornar uma a ferramenta poderosa de inovação inclusiva.
Com relação ao audiovisual, abrem-se oportunidades para a construção de um audiovisual mais diverso, com a personalização de conteúdos educacionais sensíveis a gênero e contexto cultural. Ferramentas de checagem podem analisar a paridade e inclusividade nos processos criativos. Com as autorias assistidas, pode-se ampliar a presença de roteiristas mulheres e pessoas não binárias.
Além disso, pode-se investir no enriquecimento de datasets com narrativas de populações sub-representadas, como povos indígenas e comunidades tradicionais, e em tecnologias de clonagem de voz capazes de preservar sotaques, línguas e identidades culturais.
No contexto amazônico, destacado pelo pesquisador, essas tecnologias podem contribuir para pluralizar os datasets globais e influenciar a agenda ética internacional, desde que desenvolvidas com participação direta das comunidades envolvidas.
Sobre o pesquisador
Itaassu Ribas Melo, manauara, é mestre em Sociedade e Cultura Amazônica pela Universidade Federal do Amazonas (2025), especialista em Urbanismo Social Gestão Urbana, Políticas Públicas e Sociedade pelo INSPER/SP (2021) e detentor de Master Diploma em Music Production Sound Engineering pela Point Blank Music College, Londres (2007).
É fundador e sócio da Marubá Estúdio Produções e Eventos Ltda./Expresso 24h, desde 2008. Produziu mais de 36 álbuns, incluindo as primeiras gravações eruditas do Amazonas (Pulcinella e Operas Bass), e lançou cinco discos autorais.
Sua trajetória articula prática artística, gestão cultural e pesquisa acadêmica, integrando arte, tecnologia e políticas públicas no contexto amazônico. Durante o mestrado na UFAM, sob orientação da Profª. Drª. Iraildes Caldas Torres, analisou o impacto das plataformas digitais sobre os setores de música, artes visuais e audiovisual da capital amazonense.
