Análise| Combate ao viés de gênero na IA: Desafios e soluções

O artigo “Inteligência Artificial e Igualdade de Gênero“, publicado pela ONU Mulheres, apresenta uma análise crítica do viés de gênero embutido na inteligência artificial (IA). O texto destaca como as desigualdades sociais se refletem no desenvolvimento e uso dessa tecnologia.

Um ponto crucial é a falta de representatividade feminina na criação e treinamento de sistemas de IA. Pesquisa citada no artigo aponta que apenas 30% dos profissionais da área são mulheres. Essa carência reflete no viés de gênero observado em diversos sistemas, como o relatado pela artista Beyza Doğuç, que ao utilizar uma IA para gerar conteúdo, percebeu a associação automática de médicos com o gênero masculino e enfermeiras com o feminino.

Outro fator preocupante é a qualidade dos dados utilizados para treinar a IA. A predominância de dados masculinos e a falta de diversidade racial reforçam estereótipos e limitam a capacidade da IA de lidar com diferentes realidades. O caso citado de diagnósticos médicos imprecisos para mulheres exemplifica como o viés de gênero pode ter consequências negativas.

O artigo aponta caminhos para mitigar o problema. Investir em educação STEM para meninas e mulheres é fundamental para aumentar a participação feminina no desenvolvimento de IA. Da mesma forma, é necessário priorizar a inclusão de dados representativos de diferentes gêneros e etnias no treinamento dos sistemas.

Por fim, o texto defende a criação de mecanismos globais de governança para a IA. O objetivo seria mitigar riscos, coibir o viés discriminatório e garantir que a tecnologia contribua para a igualdade de gênero. A negociação do Pacto Digital Global (GDC) em 2024 é apontada como uma oportunidade para estabelecer um marco regulatório que incorpore a perspectiva de gênero.

Em resumo, o artigo da ONU Mulheres alerta para os riscos do viés de gênero na IA e propõe soluções para promover o desenvolvimento e uso equitativo dessa tecnologia. A participação feminina na criação e o uso de dados representativos são fundamentais para garantir que a IA seja uma ferramenta para a igualdade e não para a perpetuação de desigualdades existentes.

Leia também: