Algoritmo do Facebook reforça estereótipos de gênero, diz órgão europeu

Um órgão europeu de direitos humanos determinou que o algoritmo de anúncios do Facebook permite discriminação de gênero, segundo matéria da CNN.

A decisão, considerada por especialistas como um marco, reforça a necessidade de responsabilizar empresas de tecnologia pelo impacto de seus sistemas automáticos sobre os usuários.

Como o algoritmo reforça estereótipos

O Instituto Holandês para os Direitos Humanos concluiu que o algoritmo do Facebook reforçava estereótipos de gênero na Holanda. Profissões tradicionalmente femininas eram promovidas a mulheres, enquanto ocupações consideradas masculinas, como vagas para mecânicos, eram direcionadas principalmente a homens.

PUBLICIDADE

A decisão surge após investigação da Global Witness, que analisou anúncios de emprego em seis países — Holanda, França, Índia, Irlanda, Reino Unido e África do Sul — e encontrou padrões de viés semelhantes globalmente. Quatro queixas foram apresentadas pelo Bureau Clara Wichmann (Holanda) e pela Fondation des Femmes (França).

Meta se posiciona, mas mantém restrições

A empresa destacou que já aplica restrições de segmentação em anúncios de emprego, imóveis e crédito em mais de 40 países, incluindo França e Holanda.

“Não permitimos que os anunciantes segmentem esses anúncios com base no gênero”, explica Ashley Settle, porta-voz da Meta, em comunicado de 2023.

Além disso, a plataforma afirma trabalhar com acadêmicos e grupos de direitos humanos para estudar e melhorar a equidade algorítmica, mas não detalhou como o algoritmo de anúncios é treinado.

Qual o impacto da decisão?

Especialistas afirmam que, embora a medida do Instituto não seja juridicamente vinculativa, tribunais podem usá-la como referência em futuras ações legais.

O advogado holandês Anton Ekker, especialista em IA e direitos digitais, explica que a decisão pode levar a multas ou ordens para modificar algoritmos que reforcem desigualdades de gênero, raça, etnia ou religião.

Hoje é um grande dia para os usuários holandeses do Facebook, que agora têm um mecanismo acessível para responsabilizar empresas multinacionais de tecnologia.

Berty Bannor, representante do Bureau Clara Wichmann, à CNN.

Para Rosie Sharpe, da Global Witness, a medida representa um passo importante para responsabilizar empresas pelo impacto discriminatório de seus algoritmos.

Mudanças polêmicas nas políticas da Meta

A decisão acontece após a plataforma anunciar a descontinuação de programas de diversidade, equidade e inclusão, alterações em suas políticas de conduta de ódio e o fim dos programas de verificação de fatos por terceiros nos EUA.

Leia mais:

• IA responsável: o desafio de equilibrar inovação, ética e controle
• Algoritmos com propósito: quando a tecnologia aprende a respeitar
• Seu corpo, sua voz e seu rosto ainda são seus? A IA pode fazer você duvidar

Algumas mudanças incluem a remoção de restrições que proibiam comentários depreciativos sobre mulheres ou pessoas trans, permitindo agora determinadas expressões com base em “discurso político e religioso”.

Por exemplo, usuários podem se referir a “mulheres como objetos domésticos ou propriedade” ou chamar pessoas transgênero ou binárias de “isso”, sem serem punidos.

O post Algoritmo do Facebook reforça estereótipos de gênero, diz órgão europeu apareceu primeiro em Olhar Digital.