A ‘inteligência artificial’ e o racismo

Diretrizes éticas criadas para regular conteúdos de modelos de linguagem têm se revelado ineficazes

Usar o que se convencionou chamar de “inteligência artificial” (pois não é inteligente) para realizar tarefas diárias é cada vez mais comum. Existem ferramentas que, em geral, facilitam a vida. Contudo, se utilizadas para fomentar estereótipos que impactam negativamente milhões de pessoas, um problema grave está instalado.

Há muito se supunha que a “IA” poderia servir para reproduzir o racismo. Tratei do tema na coluna “Códigos de preconceito”, em 2021. O que era hipótese ganhou ares de certeza com a publicação, pela Universidade Cornell, de um estudo de pesquisadores do Instituto Allen de Inteligência Artificial. O documento revela que “à medida que as ferramentas de ‘IA’ ficam ‘mais inteligentes’, se tornam mais racistas”.

Modelos de linguagem como ChatGPT (da OpenAI) e Gemini (do Google) mantêm estereótipos racistas sobre falantes do inglês vernacular afro-americano (criado por negros) e tendem a descrevê-los como “estúpidos e preguiçosos”. Além disso, a “IA” se mostrou mais propensa a recomendar a pena de morte a réus que usam esse dialeto e a indicar salários e empregos piores aos falantes da linguagem.

Práticas racistas são multifacetadas. Vão de agressões disfarçadas de elogios (negra bonita!) até insultos verbais (macaco!) e violência física. Frente à sofisticação da camuflagem do racismo, diretrizes éticas criadas para regular conteúdos de modelos de linguagem têm se revelado ineficazes.
“Inteligência artificial” não é mágica. São humanos que decidem o que as máquinas fazem. Assim, elas reproduzem crenças sociais e têm servido de instrumento de discriminação, violando princípios, como a igualdade.

É equivocado atribuir a uma ferramenta a responsabilidade por problemas criados por pessoas. Mas
também é evidente que, ao ser desenvolvida com dados analisados por uma perspectiva racista, a “IA” multiplica e até aprofunda desigualdades e injustiças que ameaçam grupos sociais predeterminados.

+ sobre o tema

Branco no preto

A Madame funga suas lamúrias, diz que quer voltar...

Grife Louis Vuitton é acusada de racismo por ex-funcionária

As grifes sempre estão envolvidas em polêmicas, como por...

Turismo em São Paulo não reflete a marcante presença negra na cidade

Para um turista que venha pela primeira vez à...

Mapa da violência 2010 – Anatomia de Homicídios no Brasil

Criada no início do processo preparatório da III...

para lembrar

África do Sul: Cartaz Estudantil Contra Racismo Causa Celeuma

Recentemente, a Organização Estudantil Aliança Democrática (DASO, na...

Lula começa civilizando o governo

Discretamente após a vitória nas urnas, intensamente após a...

Projeto insere sistema de cotas em universidades públicas de São Paulo

Apesar de determinação do STF, Fatecs, Unicamp e...
spot_imgspot_img

Futuro da gestão escolar

A educação pública precisa de muitos parceiros para funcionar. É dever do Estado e da família, com colaboração da sociedade, promover a educação de todas as...

Educação para além dos muros da escola

Você pode fornecer escolas de qualidade para os mais pobres e, mesmo assim, talvez não veja a mudança na realidade do país que se...

Criança não é mãe

Não há como escrever isto de forma branda: nesta quarta-feira (12), a Câmara dos Deputados considerou urgente discutir se a lei deve obrigar crianças vítimas de estupro à...
-+=