Nesta semana, vi que viralizaram fotos passadas por um aplicativo que promete nos mostrar versões mais bonitas de nossos retratos. Coloquei algumas fotos e achei os resultados legais, porém, algo me chamou atenção: os meus traços foram afinados. Em algumas fotos, fiquei com nariz bem fino, quase que arrebitado. Quando comecei a olhar com mais calma, vi que em outras fotos minha pele foi clareada e meu cabelo, alisado. 

Isso porque quem projetou o aplicativo, o fez na lógica que, quanto mais os traços negros forem eliminados, mas bonita fica a foto. Isso tem nome: racismo de algoritmo. Apesar de parecer um nome difícil, esse tipo de racismo é quando a máquina segue padrões de beleza ou reconhecimento que ignoram ou prejudicam pessoas de uma etnia específica. Na verdade, a máquina não tem opinião, ela faz o que é programada ou ensinada a fazer. 

Leia mais colunas de Manoel Soares 

Quando digo ensinada é fazendo cálculos, sabe quando você busca no Google sofá e no Facebook aparece anúncio de sofá? Então, é porque ela mapeou seu comportamento, neste momento você está ensinando a máquina sobre si mesmo e ela vai oferecer o que acredita que você gosta para ficar no aplicativo. 

Quando esse cálculo muda meu nariz e a minha cor em um app específico, é porque ele fez o cálculo e chegou à conclusão de que beleza não é um nariz bonito nem a pele escura. São pequenos detalhes que podem não fazer diferença para quem está no padrão da beleza, mas, para quem está fora, faz muita. Vamos ficar ligados, galera.