O que é racismo algoritmo?

O que é o algoritmo? De uma forma bem simples, são instruções (receitas) para desempenhar uma tarefa. Tarcízio Silva (2020, p. 123) explica que "Apesar de não ser um conceito novo, remontando à história da matemática e computação, algoritmos poderiam ser definidos a princípio como 'uma sequência finita de instruções precisas que são implementáveis em sistemas de computação (Osoba & Welser IV, 2017, p. 5)'".

Você já ouviu falar em racismo algoritmo? Nina da Hora, cientista em computação, criou um canal no Youtube "Computação sem Caô" para discutir tecnologia e em um dos vídeos ela explica sobre o que é viés algoritmo.

O quebradev fez um podecast para falar sobre o algoritmo e a sua influência na nossa vida. Vale a pena escusar.

O Facebook é grátis. O Twitter é gratuito. Não paga para ter um perfil no Intagram ou LinkedIn, correto? Da mesma forma, que você pode pesquisar qualquer termo no Google sem desembolsar um centavo? Então, como os donos do Facebook, do Twitter, do Instagram e do LinkedIn ganham dinheiro?

Google, Facebook, Instagram, Twitter, LinkedIn são empresas RIQUÍSSIMAS que lucram (e muito) vendendo seus dados e comportamentos. Quando você cria um perfil nas redes sociais você "troca" a utilização da mídia social pelos seus dados, ou seja, nenhuma destas mídias sociais é gratuita. Em outras palavras, você paga o uso cedendo seus dados e comportamentos para as redes sociais.

Já assistiu Coded Bias, dirigido por Shalini Kantayya? O documentário está disponível na Netflix e, de forma simples, explica como os seus dados se tornaram commodites (mercadoria) na era Digital e a importância da criação de leis que protejam seus dados e suas ações na internet. Nesse sentido, leis como a LGPD são extremamente necessárias e urgentes para proteger as (os) usuárias (os), porém as grandes corporações encontram brechas para burlá-las.

Qualquer atividade sua na internet está sendo "coletada", analisada pelas grande empresas do setor (Google, Facebook, Microsoft, Apple, Amazon, entre outras) e vendidas para outros setores econômicos, políticos e governos.

O documentário "Coded Bias" investiga os vieses dos algoritmos após a pesquisadora Joy Buolamwini, do Massachusetts Institute of Technology (MIT), principal universidade de tecnologia dos Estados Unidos, descobrir falhas nas tecnologias de reconhecimento facial. Os sistemas não reconheciam as faces de pessoas negras e mulheres. Em outras palavras, Joy percebeu que os algoritmos eram/são racistas e sexistas. As plataformas reconheciam muito bem apenas homens brancos.

A Inteligência Artificial (IA) é matemática. No entanto, não é neutro, bem pelo contrário. As IAs são desenvolvidas por um grupo pequeno de pessoas: HOMENS BRANCOS, que transmitem às máquinas seus vieses: suas ideias e crenças de mundo a partir dos dados. Os dados são marcados pelo passado e são utilizados para prever o futuro.

Autora do livro Algoritmos de destruição em massa, Cathy O´Neil, que também aparece no documentário, falou sobre a Inteligência Artificial no TED "A era da fé cega no Big Data tem que acabar".

Assim sendo, os algoritmos são tidos como verdade objetiva, o que não é verdade. Não é possível separar o social da técnica. Por quê? Porque as máquinas são criadas a partir das crenças e dos preconceitos de um grupo de pessoas (homens brancos), sendo ensinadas a identificar os diferentes padrões a partir dos dados que são marcados por vieses sociais e históricos .

Para quem quer ler a mais a respeito Tarcizio Silva, doutorando em Ciências Humanas e Sociais Universidade Federal do ABC, é o organizador do livro Comunidades, Algoritmos e Ativismos Digitais: olhares afrodiaspóricos, que está disponível gratuitamente para download.

Por fim, a Lei de Proteção de Dados (LGPD) é extremamente importante. Saiba mais.