“Algoritmos podem induzir à discriminação, intencionalmente ou não”, apontam pesquisadores
Do Instituto Net Claro Embratel
À medida em que a popularidade de aplicativos de namoro e amizades cresce, menos relacionamentos começam em lugares como bares, danceterias e locais de trabalho. O problema, contudo, é que os algoritmos dos aplicativos podem apresentar padrões discriminatórios, principalmente em relação ao preconceito racial. Essa foi uma das conclusões de um levantamento da Universidade Cornell, no Estados Unidos, que apontou a necessidade de redesenhar essas ferramentas evitando filtros de raça e etnia.
“As plataformas de encontros têm a oportunidade de romper estruturas sociais, mas você perde esses benefícios quando há recursos de design que permitem remover pessoas diferentes de você”, sugere o estudo. “A ação do acaso é perdida quando as pessoas são capazes de filtrar outras pessoas”, complementa.
Embora as preferências dos parceiros sejam extremamente pessoais, os autores argumentam que a cultura molda nossas preferências e que os aplicativos de namoro influenciam nossas decisões.
A pesquisa revelou que homens e mulheres negros são 10 vezes mais propensos a enviar mensagens para brancos do que o inverso. “Permitir que os usuários pesquisem, classifiquem e filtrem parceiros em potencial por raça não apenas faz com que as pessoas discriminem, como também impede que elas se conectem a parceiros que talvez não tenham percebido que poderiam gostar”, destaca.
“Decisões de design simples podem diminuir o preconceito contra pessoas de todos os grupos marginalizados, incluindo as com deficiência e transgêneros”, defende.
Mensagens inclusivas
Em 2016, um repórter do Buzzfeed descobriu que o aplicativo de namoro CoffeeMeetsBagel mostrava aos usuários apenas parceiros em potencial de sua mesma raça, mesmo quando esses diziam não ter preferência racial.
Além disso, os aplicativos também podem criar preconceitos. O artigo cita pesquisas nas quais homens que usavam as plataformas encaravam o multiculturalismo menos favoravelmente e o racismo sexual como mais aceitável.
Para desencorajar a discriminação, é sugerido que os apps ofereçam aos usuários outras categorias além de raça e etnia para descreverem a si mesmos.
O aplicativo asiático 9Monsters, por exemplo, agrupa os usuários em nove categorias de monstros fictícios. “Isso pode ajudar os usuários a enxergar além de outras formas de diferença, como raça, etnia e habilidade”, sugere o artigo. Outros aplicativos usam filtros baseados em características como visões políticas, histórico de relacionamento e educação, em vez de raça.
Uma segunda ação para impedir o preconceito seria incluir mensagens e campanhas inclusivas. “Mudanças como essas poderiam ter um grande impacto na sociedade”, finalizam os pesquisadores
