Racismo em I.A. leva universidade a desistir de reconhecimento facial no campus

Denúncia da ONG Fight for the Future mostrou à UCLA problemas no uso de uma inteligência artificial disponível no mercado

No Época Negócios

Mais de 50 universidades nos EUA já se comprometeram a não usar reconhecimento facial nos campi (Foto: Scharfsinn86 // Getty Images)

A Universidade da Califórnia (UCLA) desistiu, no dia 18/2, de usar reconhecimento facial em seu campus. A tecnologia vinha sendo avaliada como ferramenta e segurança, para identificar os frequentadores da universidade. A desistência ocorreu após a ONG Fight for the Future fazer um teste: usou um software disponível no mercado para comparar as faces de 400 integrantes da comunidade universitária (alunos, professores e funcionários) aos rostos de criminosos e contraventores fichados. A análise retornou nada menos que 58 falsos positivos. A maior parte dessas respostas erradas ocorreu na avaliação de rostos de pessoas não-brancas.

Na experiência, a ONG usou um software da Amazon chamado Rekognition. Em um dos casos, a ferramenta afirmou que havia 100% de chance de os rostos comparados serem da mesma pessoa, mas eram apenas dois homens negros de barba, bem diferentes um do outro.

A desistência foi comunicada à ONG pelo vice-reitor administrativo, Michael Beck. Assim, a UCLA se une a um grupo de mais de 50 universidades nos EUA que se compromete a não usar reconhecimento facial, incluindo MIT, Harvard, Brown e Columbia.

Preconceitos raciais são um problema recorrente nos software de reconhecimento facial e nas inteligências artificiais que se propõem a reconhecer pessoas. O reconhecimento de homens de pele clara é muito mais preciso do que os de outros grupos. Isso ficou demonstrado em diversos experimentos, incluindo os do projeto Gender Shades, conduzido desde 2018 pelo MIT Media Lab.

 

Leia também:

Inteligência artificial: Por que as tecnologias de reconhecimento facial são tão contestadas

+ sobre o tema

Brizola e os avanços que o Brasil jogou fora

A efeméride das seis décadas do golpe que impôs...

Milton Nascimento será homenageado pela Portela no carnaval de 2025

A Portela, uma das mais tradicionais escolas de samba...

Saiba os horários das provas do Concurso Nacional Unificado

Os mais de 2,5 milhões de candidatos inscritos no...

Aluno africano denuncia racismo em mensagem com suásticas nazistas na UFRGS; polícia investiga

Um estudante africano da Universidade Federal do Rio Grande do Sul...

para lembrar

Quando Brooks e Hooks encontram Balduíno, por Eliana Alves Cruz

O titulo deste texto pode parecer uma loucura, pois...

Jamais os brancos pensariam situações que emergem das percepções dos negros

Não terceirizamos as vozes negras!   “Ninguém pode me ensinar quem...

Racismo no sistema de Justiça

Apreciar o funcionamento do sistema judiciário e do sistema...
spot_imgspot_img

“Dispositivo de Racialidade”: O trabalho imensurável de Sueli Carneiro

Sueli Carneiro é um nome que deveria dispensar apresentações. Filósofa e ativista do movimento negro — tendo cofundado o Geledés – Instituto da Mulher Negra,...

Militares viram no movimento negro afronta à ideologia racial da ditadura

Documento confidencial, 20 de setembro de 1978. O assunto no cabeçalho: "Núcleo Negro Socialista - Atividades de Carlos Alberto de Medeiros." A tal organização,...

Filme de Viviane Ferreira mescla humor e questões sociais com família negra

Num conjunto habitacional barulhento em São Paulo vive uma família que se ancora na matriarca. Ela é o sustento financeiro, cuida das filhas, do...
-+=