Racismo em I.A. leva universidade a desistir de reconhecimento facial no campus

Denúncia da ONG Fight for the Future mostrou à UCLA problemas no uso de uma inteligência artificial disponível no mercado

No Época Negócios

Mais de 50 universidades nos EUA já se comprometeram a não usar reconhecimento facial nos campi (Foto: Scharfsinn86 // Getty Images)

A Universidade da Califórnia (UCLA) desistiu, no dia 18/2, de usar reconhecimento facial em seu campus. A tecnologia vinha sendo avaliada como ferramenta e segurança, para identificar os frequentadores da universidade. A desistência ocorreu após a ONG Fight for the Future fazer um teste: usou um software disponível no mercado para comparar as faces de 400 integrantes da comunidade universitária (alunos, professores e funcionários) aos rostos de criminosos e contraventores fichados. A análise retornou nada menos que 58 falsos positivos. A maior parte dessas respostas erradas ocorreu na avaliação de rostos de pessoas não-brancas.

Na experiência, a ONG usou um software da Amazon chamado Rekognition. Em um dos casos, a ferramenta afirmou que havia 100% de chance de os rostos comparados serem da mesma pessoa, mas eram apenas dois homens negros de barba, bem diferentes um do outro.

A desistência foi comunicada à ONG pelo vice-reitor administrativo, Michael Beck. Assim, a UCLA se une a um grupo de mais de 50 universidades nos EUA que se compromete a não usar reconhecimento facial, incluindo MIT, Harvard, Brown e Columbia.

Preconceitos raciais são um problema recorrente nos software de reconhecimento facial e nas inteligências artificiais que se propõem a reconhecer pessoas. O reconhecimento de homens de pele clara é muito mais preciso do que os de outros grupos. Isso ficou demonstrado em diversos experimentos, incluindo os do projeto Gender Shades, conduzido desde 2018 pelo MIT Media Lab.

 

Leia também:

Inteligência artificial: Por que as tecnologias de reconhecimento facial são tão contestadas

+ sobre o tema

O pardo e o mal-estar do racismo brasileiro

Toda e qualquer tentativa de simplificar o racismo é um tiro...

Quem ganha ao separar pessoas pretas e pardas?

Na África do Sul, o regime do apartheid criou a...

Justiça manda soltar PM que matou marceneiro negro com tiro na cabeça na Zona Sul de SP

O Tribunal de Justiça de São Paulo (TJ-SP) concedeu nesta quarta-feira...

Promotor é investigado por falar em júri que réu negro merecia “chibatadas”

Um promotor de Justiça do Rio Grande do Sul é...

para lembrar

O pardo e o mal-estar do racismo brasileiro

Toda e qualquer tentativa de simplificar o racismo é um tiro...

Quem ganha ao separar pessoas pretas e pardas?

Na África do Sul, o regime do apartheid criou a...

Justiça manda soltar PM que matou marceneiro negro com tiro na cabeça na Zona Sul de SP

O Tribunal de Justiça de São Paulo (TJ-SP) concedeu nesta quarta-feira...

Promotor é investigado por falar em júri que réu negro merecia “chibatadas”

Um promotor de Justiça do Rio Grande do Sul é...
spot_imgspot_img

O pardo e o mal-estar do racismo brasileiro

Toda e qualquer tentativa de simplificar o racismo é um tiro no pé. Ou melhor: é uma carga redobrada de combustível para fazer a máquina do racismo funcionar....

Quem ganha ao separar pessoas pretas e pardas?

Na África do Sul, o regime do apartheid criou a categoria racial coloured, mestiços que não eram nem brancos nem negros. Na prática, não tinham...

Justiça manda soltar PM que matou marceneiro negro com tiro na cabeça na Zona Sul de SP

O Tribunal de Justiça de São Paulo (TJ-SP) concedeu nesta quarta-feira (27) habeas corpus ao policial militar Fábio Anderson Pereira de Almeida, réu por assassinato de Guilherme Dias...