A Primeira Década Internacional de Afrodescendentes foi proclamada pela Assembleia Geral da Organização das Nações Unidas (ONU) para o período de 2015 a 2024. O ano de 2020 marca cinco anos desse esforço de cooperação nacional, regional e internacional para a promoção dos direitos humanos das pessoas afrodescendentes pelo mundo, no espírito do reconhecimento, justiça e desenvolvimento1.
A ONU Direitos Humanos tem dedicado diversas atividades ao eixo de justiça, incluindo a temática de perfilamento racial. Além da publicação “Prevenindo e Combatendo o Perfilamento Racial de Pessoas Afrodescendentes: Boas Práticas e Desafios” (ONU, 2020), o alto comissariado também está elaborando um relatório sobre violência contra afrodescendentes perpetradas por agentes de segurança, a pedido do Conselho de Direitos Humanos da ONU (Resolução 43/1).
Informações sobre a “Agenda para mudanças transformadoras para justiça e igualdade racial” obtidas no sítio eletrônico da ONU2, ressaltam que em setembro de 2023, o alto comissariado da ONU divulgou um novo relatório sobre justiça racial e igualdade para africanos e afrodescendentes, após um relatório inovador sobre justiça racial e igualdade em 2021 e um relatório de acompanhamento em 2022.
O relatório de 2021 do alto comissariado da ONU introduziu uma agenda de quatro pontos contendo 20 recomendações acionáveis para acabar com o racismo sistêmico e as violações dos direitos humanos por parte das forças de segurança contra africanos e afrodescendentes. O alto comissariado insta os Estados a:
- Step Up: Reverter culturas de negação, desmantelar o racismo sistêmico e acelerar o ritmo de ação;
- Buscar justiça: Acabar com a impunidade das violações de direitos humanos por violações da aplicação da lei e estreitar os déficits de confiança;
- Escuta: Garantir que as vozes das pessoas de ascendência africana e daqueles que se levantam contra o racismo sejam ouvidas e que suas preocupações sejam atendidas;
- Reparação: Confrontar legados, inclusive por meio de responsabilização e reparação.
O último relatório — apresentado de acordo com a resolução 47/21 do Conselho de Direitos Humanos — coloca um holofote no direito de participar de assuntos públicos para pessoas afrodescendentes, reconhecendo que sua implementação efetiva é fundamental para garantir que a tomada de decisões seja informada por suas experiências vividas e conhecimentos, e um pré-requisito para uma mudança transformadora para a justiça e igualdade racial.
Desafios dos afrodescendentes
Numa nota de orientação anexa ao relatório, o alto comissariado dá visibilidade aos desafios específicos enfrentados pelos afrodescendentes no que diz respeito à participação em contextos não eleitorais e dá impulso à ação do Estado para desenvolver respostas adaptadas para garantir o seu direito de participação, integrando uma abordagem interseccional.
Além disso, o alto comissariado fornece uma visão geral dos desenvolvimentos mais amplos e das ações tomadas pelos Estados e outros desde julho de 2022. Trinta e oito contribuições recebidas de Estados e outras partes interessadas informaram o relatório, juntamente com consultas presenciais e virtuais com mais de 110 indivíduos, a maioria afrodescendentes, em 23 países em diferentes regiões.
Estes fatos são importantes para este trabalho que tem por objetivo discutir as relações existentes entre perfilamento racial e racismo algorítmico, tendo em vista o papel desempenhado por técnicas de inteligência artificial (IA) no processo de reprodução de estereótipos raciais relacionados à população negra no Brasil.
Estereótipos raciais
Historicamente, desde uma perspectiva crítica decolonial através do recurso à revisão bibliográfica, afirmamos que os estereótipos foram muito discutidos pelos movimentos negros no Brasil, notadamente, a partir do final da década de 1970, com a organização do Movimento Negro Unificado (MNU). A luta contra os estereótipos raciais foi um dos principais motivadores da elaboração de uma agenda política centrada na mudança das representações negativas sobre o negro na história do Brasil, seja em livros didáticos, seja nas diferentes expressões artísticas, tais como, teatro, cinema e televisão, e, ainda no mercado de trabalho e no campo da segurança pública e obtém relevância política nos debates realizados no âmbito da Assembleia Nacional Constituinte de 1987-8.
Mais recentemente, a partir do incremento das novas tecnologias de informação e comunicação (TIC´s), a luta contra estereótipos raciais enfatiza o papel desempenhado pelos algoritmos na manutenção do racismo estrutural e institucional (Silvério, 2000; Werneck, 2016) no Brasil, não obstante a criminalização do racismo prevista no atual texto constitucional promulgado em 05 de outubro de 1988 e na legislação infraconstitucional.
Segundo Costa e Kremer (2022), a inteligência artificial (IA) consiste em:
A inteligência artificial como conhecemos hoje é baseada majoritariamente em machine learning (aprendizado de máquinas). Isso significa que essas aplicações baseadas em IA são desenvolvidas de modo que as máquinas possam aprender a traçar modelos e resultados sobre problemas que desejamos resolver.
Assim considerada, a IA seria mais um dos ganhos obtidos pela inovação tecnológica e científica. Mas o fato é que o uso de IA em uma sociedade que ao longo de sua história utiliza diferentes técnicas para o estabelecimento de disciplinas e controle dos corpos dos grupos considerados historicamente marginalizados e vulneráveis (Costa, Kremer, 2022) vem causando mobilizações sobre os limites do papel a ser desempenhado pelo Estado através de seus agentes na utilização de IA.
Perfilamento racial
Assim, o papel desempenhado pelo perfilamento racial no Brasil ganha novos contornos com o uso da IA. Neste sentido, a ONU destacou o país como um dos principais Estados a utilizar a técnica discriminatória do perfilamento racial no exercício do poder de polícia no que se refere à segurança pública. Nos termos da ONU, perfilamento racial significa:
“perfilamento racial” se refere ao processo pelo qual as forças policiais fazem uso de generalizações fundadas na raça, cor, descendência, nacionalidade ou etnicidade ao invés de evidências objetivas ou o comportamento de um indivíduo, para sujeitar pessoas a batidas policiais, revistas minuciosas, verificações e reverificações de identidade e investigações, ou para proferir um julgamento sobre o envolvimento de um indivíduo em uma atividade criminosa. O perfilamento racial resulta diretamente na tomada de decisões discriminatórias. Há exemplos de agências de aplicação da lei que visam as pessoas afrodescendentes são frequentes em diferentes países.
O perfilamento racial aliado ao uso de IA pode ser entendido como aquilo que Silva (2022) denomina de racismo algorítmico. Para o pesquisador, o racismo algorítmico é uma espécie de atualização do racismo estrutural (Silva, 2023) desde bases de TIC’s que mobilizam IA, que vão desde microagressões, tais como, microinsultos, microinvalidações, deseducação e desinformação a processos de encarceramento em massa da população negra e genocídio da juventude negra.
Dessa forma, este breve texto aborda o papel da IA considerada elemento fundamental para a compreensão dos debates jurídicos sobre perfilamento racial no contexto do racismo algorítmico. Pois, consideramos que esta discussão é relevante para se alcançar o letramento digital de operadoras e operadores do sistema de justiça brasileiro, na medida em que consideramos que os processos de ensino-aprendizagem não devem apenas utilizar metodologias ativas, mas também articular o estudo dos problemas que constituem novos cenários de conflitos sociais na contemporaneidade.
Dessa forma, as metodologias ativas, desde meu ponto de vista, devem ser aplicadas de maneira articulada à compreensão das questões que historicamente delineiam cenários de desigualdade. E, no caso do Brasil, o racismo enquanto fenômeno que estrutura nossa sociedade deve ser entendido como fato que informou o processo de estruturação de nossas instituições jurídicas.
Racismo algorítmico
Esperamos, dessa maneira, contribuir para a compreensão da relação existente entre perfilhamento racial e racismo algorítmico no Brasil, a fim de que possamos contribuir para o enfrentamento ao racismo no nosso país e, tendo em vista a decretação da Segunda Década Internacional de Afrodescendentes foi proclamada pela Assembleia Geral da Organização das Nações Unidas (ONU) iniciada neste ano de 20253.
Segundo o Alto Comissariado para os Direitos Humanos, o coordenador da Década Internacional, Volker Türk, informou que “um objetivo importante é a elaboração e adoção de uma declaração da ONU sobre o respeito, proteção e cumprimento dos direitos humanos das pessoas afrodescendentes”. Para ele:
“A justiça racial exige ação coletiva. Para garantir os plenos direitos e liberdades das pessoas afrodescendentes, os Estados e todos nós devemos confrontar efetivamente os legados da escravidão e colonialismo, desmantelar o racismo sistêmico e entregar justiça reparatória. São necessárias ações ousadas para promover mudanças reais”, declarou o Alto Comissário (ONU, 2024).
Assim, torna-se fundamental conhecer as formas contemporâneas de expressão do racismo, notadamente, em um contexto de uso crescente de TIC´s, tais como a IA, no sistema de justiça, de forma que possamos detectar e enfrentar violações de direitos humanos de parcelas da população brasileira historicamente marginalizadas, como é o caso da população negra brasileira.
Referências
COSTA, Ramón; KREMER, Bianca. Inteligência artificial e discriminação: desafios e perspectivas para a proteção de grupos vulneráveis frente às tecnologias de reconhecimento facial. Revista Brasileira de Direitos Fundamentais & Justiça 16(1):145-167, 2022.
ORGANIZAÇÃO DAS NAÇÕES UNIDAS. ONU lança Segunda Década Internacional para Afrodescendentes. 19/12/2024. Disponível em: ONU lança Segunda Década Internacional para Afrodescendentes | As Nações Unidas no Brasil. Acesso em : 12/03/2025.
ORGANIZAÇÃO DAS NAÇÕES UNIDAS. Prevenindo e combatendo o perfilamento racial de pessoas afrodescendentes: boas práticas e desafios. Genebra: ONU, 2020.
ORGANIZAÇÃO DAS NAÇÕES UNIDAS. Recomendação geral nº 36. Prevenção e combate ao perfilamento racial por agentes policiais. Genebra: ONU, 2020. Disponível em: https://acnudh.org/wp-content/uploads/2020/12/CERD_C_GC_36_PORT_REV.pdf. Acesso em : 28/03/2024.
SILVA, Tarcizio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022.
SILVA, Tarcizio. “O racismo algorítmico é uma espécie de atualização do racismo estrutural”. Publicado em 04/04/2023. Disponível em: https://ihu.unisinos.br/categorias/627643-o-racismo-algoritmico-e-uma-especie-de-atualizacao-do-racismo-estrutural-entrevista-com-tarcizio-silva. Acesso em: 28/03/2024.
SILVÉRIO, V. R.. Ação afirmativa e o combate ao racismo institucional no Brasil. Cadernos de Pesquisa, n. 117, 2002, p. 219–246.
WERNECK, Jurema. Racismo institucional e saúde da população negra. Saúde Soc. São Paulo, v.25, n.3, 2016, p.535-549.
- Neste sentido, é sintomático o assassinato do afro-americano George Floyd em 25 de maio de 2020, acontecimento que obteve repercussão internacional e que foi um dos principais gatilhos do movimento Black Lives Matter. ↩︎
- Informações obtidas em: https://www.ohchr.org/en/racism/agenda-towards-transformative-change-racial-justice-and-equality ↩︎
- Segundo noticiado no sítio eletrônico do escritório das Nações Unidas no Brasil, a “Assembleia Geral da ONU adotou no dia 17 de dezembro de 2024, a resolução A/79/L.25, que proclama a Segunda Década Internacional de Afrodescendentes, com início em 1º de janeiro de 2025 e término em 31 de dezembro de 2034, com o tema Pessoas Afrodescendentes: Reconhecimento, Justiça e Desenvolvimento. A resolução foi proposta pelo Brasil, em parceria com Antígua e Barbuda, Bahamas, Bolívia, Burundi, Colômbia, Costa Rica, Jamaica, Santa Lúcia e Estados Unidos. Por meio da Primeira Década (2015-2024), as Nações Unidas forneceram um plano de ação para que Estados e sociedade civil se unissem para efetivar e promover os direitos das pessoas afrodescendentes em todo o mundo. Em seu discurso para marcar o encerramento da Primeira Década, em novembro deste ano, o Alto Comissário para os Direitos Humanos, Volker Türk, reconheceu que, apesar dos avanços, uma década apenas foi incapaz de resolver o legado de séculos de escravidão e colonialismo. ↩︎
Vanessa Santos do Canto é doutora em teoria do Estado e Direito Constitucional pela PUC-Rio, pós-doutoranda em Direito pela FDUSP e bolsista Prip USP.
