O dilema das redes pode ser solucionado pelas mulheres pretas

uando o mundo engatinhava, e pessoas e animais corriam por savanas e florestas sem saber o que era “privado”, alguém botou uma cerca em um pedacinho de terra e disse “isso é bom e civilizado”, o resto é mato. Aconteceu há milhões de anos, aconteceu de novo quando os portugueses invadiram o Brasil e aconteceu, recentemente, quando a internet deixou de ser um sonho anarquista de conteúdo livre e gratuito para tornar-se o cercadinho de Mark Zuckerberg.Em março de 2012, quando Larissa Santiago, 33, lançou o Blogueiras Negras, ela não imaginava muito bem o poder que a internet começava a exercer sobre a sociedade. Reunir textos de mulheres negras que estavam em diálogo na web era o que ela e outras idealizadoras do site desejavam. ‘‘Desde o início dos anos 2000, já existia uma esfera pública de mulheres negras conectadas. Passamos a nos organizar nos blogs e nos fóruns, que começaram a ser um grande espaço de trocas de ideias’’, explica a publicitária. Mas, no mesmo ano em que elas colocaram o projeto na rua, uma rede social despontou no Brasil e modificou o cenário da internet. 

‘‘No meio disso tudo surgiu o Facebook, como a primeira plataforma que retira a audiência dos blogs. Ele vai sistematicamente fazendo com que você fique cada vez mais fechado dentro dele’’. Foi aí que não só elas, mas diversos produtores migraram os seus conteúdos para a rede social. O problema, para Larissa, é que as pessoas foram perdendo a autonomia que tinham nos blogs e nos fóruns, ”caímos na cilada do Facebook e de outras empresas de que tudo que é opinião, que é notícia e que é muito relevante está neste lugar. É mentira, o Facebook não é a internet, a internet é muito mais que as redes sociais’’.

–

“Caímos na cilada do Facebook e de outras empresas de que tudo que é opinião, que é notícia e que é muito relevante está neste lugar. É mentira, o Facebook não é a internet. A internet é muito mais que as redes sociais’’

Larissa Santiago

O Dilema das Redes, documentário lançado recentemente pela Netflix, evidencia a lógica desse sistema. As mídias são projetadas para aumentar o tempo que gastamos interagindo com elas. Isso para ficarmos mais expostos a anúncios que são personalizados com os dados que nós mesmos geramos e disponibilizamos. É por isso que é melhor para o modelo negócios dessas redes que os usuários acreditem que tudo que é importante está nelas, assim eles ficam mais tempo por lá. Foi assim que os espaços de discussão presentes nos blogs e nos fóruns foram enfraquecidos e deram lugar a um ambiente social cuja lógica é ‘‘engajar pela polêmica’’, como explica Larissa. 

‘‘O modelo de negócios dessas redes é o engajamento, a prioridade não é desencadear ideias e discuti-las. A internet começou a migrar para esse modelo e, a partir daí, teve essa pressão para ter todas as informações no mesmo lugar, tudo no seu nome e sobrenome. A necessidade de responsabilização criminal veio muito depois da necessidade clara dessas empresas saberem quem é você para juntar todas as informações e dados sobre você em um lugar’’, diz Lucas Teixeira, especialista em segurança e cuidados digitais, integrante da equipe técnica do Instituto Nupef e da Criptofunk. 

A incrível arte de ouvir muitas vozes… brancas 

Os ex-funcionários das redes sociais entrevistados para O Dilema das Redes concordam que as mídias que eles ajudaram a criar são prejudiciais e podem ser devastadoras. ‘‘Todos nos preocupamos com o momento em que a tecnologia será melhor do que nossas habilidades e inteligência. (…) Mas existe um momento anterior, em que a tecnologia supera as fraquezas humanas. Ao cruzar essa linha, temos a raiz do vício, da polarização, da radicalização, das revoltas, da vaidade, de tudo. Ela está dominando a natureza humana, e isso será o xeque-mate para a humanidade.’’, diz Tristan Harris, que trabalhou como especialista em ética de design no Google e, hoje, é presidente e co-fundador do Center for Humane Technology, para o documentário da Netflix. 

A princípio, até parece que esses ex-funcionários arrependidos, homens brancos estadunidenses, do Google, Facebook, Pinterest, Twitter e outras redes que aparecem no filme abriram a caixa-preta das plataformas que inventaram. Mas pesquisadoras que estão denunciando há tempos os perigos das redes não acharam o documentário tão revolucionário quanto meus amigos viciados em Instagram, principalmente quando olhamos para o impacto destas mídias sociais nos grupos historicamente vulneráveis. Conversei com especialistas brasileiras que acham que o documentário, dirigido por Jeff Orlowski, perdeu a oportunidade de abordar os danos mais significativos das redes que recaem principalmente sobre pessoas não brancas, mulheres, pessoas trans e LGBTQ+.  

‘‘Essas coisas não são problematizadas porque eles esqueceram, é simplesmente porque eles não querem incluí-las’’, afirma Silvana Bahia, 35, co-diretora do Olabi, organização que trabalha pela democratização da tecnologia, e coordenadora do PretaLab, projeto do Olabi que procura mapear a produção, em tecnologia, de mulheres negras e indígenas.

‘‘O MIT [Massachusetts Institute of Technology] Media Lab tem a Joy Buolamwini, que mostrou que o software de reconhecimento facial é menos preciso ao identificar os rostos de mulheres de pele escura. A Safiya Noble, que pesquisa como a publicidade e os motores de busca alimentam o preconceito contra pessoas negras e mulheres, também não está. Tem um apagamento geral das vozes que estão discutindo isso. O filme traz uma múltipla visão de um mesmo padrão e sempre do lado das empresas. Cadê as organizações sociais que estão trabalhando pelos direitos humanos na internet?’’, questiona.

“O filme traz uma múltipla visão de um mesmo padrão e sempre do lado das empresas. Cadê as organizações sociais que estão trabalhando pelos direitos humanos na internet?’’

Silvana Bahia

Ana Carolina da Hora, 25, estudante de ciência da computação da PUC-Rio e idealizadora do Computação da Hora, acredita que os criadores dessas redes poderiam estar menos surpresos com o rumo da internet se as empresas onde trabalharam fossem realmente diversas em raça e gênero. ‘‘Não tem como você aprofundar nos problemas da sociedade sem trazer diversas pessoas que são impactadas por eles.”

Para a educadora e hacker antirracista, o documentário acaba reproduzindo a mesma lógica das empresas de tecnologia. ‘‘O filme continua propagando um pensamento branco, uma única perspectiva. Isso é preocupante porque invisibiliza todo um trabalho de pesquisadores que fazem o debate a partir de um olhar do continente africano, a partir do olhar de uma pessoa negra. As pessoas que enfrentam as piores dificuldades desses sistemas são as que precisam ser ouvidas para desenvolver as soluções’’.

‘‘O filme continua propagando um pensamento branco, uma única perspectiva. Isso é preocupante porque invisibiliza todo um trabalho de pesquisadores que fazem o debate a partir de um olhar do continente africano”

Ana Carolina da Hora

Como as redes afetam as mulheres negras?

Mariana Gomes, 22, pesquisadora de governança da internet e ciberativismo, começou a ler o Blogueiras Negras quando tinha 14 anos. ‘‘É um ambiente que me ajudou a nomear as opressões. Eu já sabia quem eu era, a minha identidade estava sendo fortalecida dentro de casa, mas eu não entendia o que o mundo esperava de mim como jovem negra até começar a acessar o Blogueiras Negras’’. 

Ela acredita que um lado positivo da internet foi que não só ela, mas uma série de pessoas foram formadas racial e politicamente de maneira direta ou indireta por ciber-ativistas negras. Mas, o lado negativo para quem está do outro lado, expondo as informações e opiniões, não é simples de lidar. Larissa Santiago conta que, nos primeiros anos de experiência do site, as fundadoras experimentaram todo o tipo de violência. ‘‘Começamos a ser muito atacadas porque o tema era muito polêmico. Falar de solidão da mulher negra, de mulher trans, de saúde reprodutiva era polêmico em 2012, 2013 então começamos a receber comentários ameaçando as mulheres, xingando as mulheres trans’’, lembra Larissa.

Em 2019, Mariana Gomes e a pesquisadora Glenda Dantas criaram a Conexão Malunga para fomentar a discussão do uso das tecnologias da informação e comunicação para emancipação, a partir dos saberes afro-brasileiros. ‘‘A diáspora tem o saber da conexão. As respostas para os desafios da tecnologia estão conosco’’, diz a chamada no site da plataforma.

Marina explica que com o aumento do acesso à internet nos últimos anos, diversos ativistas negros se utilizaram das redes para articulação política, ‘‘com isso, nós, mulheres negras, ficamos mais vulneráveis, não só aos ataques externos, mas também aos ataques internos’’. Como explica Larissa Santiago, as consequências dos ataques são  imediatas: ‘‘as mulheres param de escrever, ficamos desmotivadas, pensamos em desistir e atinge diretamente a nossa autoestima’’. 

No Brasil, mulheres negras em ascensão têm sido o alvo preferido de discursos racistas no Facebook. Um estudo do pesquisador brasileiro e PhD em Sociologia Luiz Valério Trindade mostra que 81% das vítimas de discursos racistas na rede social são mulheres negras de classe média, com ensino superior completo e na faixa etária de 20 a 35 anos. A pesquisa destaca ainda que postagens depreciativas no Facebook podem, potencialmente, engajar novos usuários por até três anos após sua publicação original. ‘‘Isto amplifica o impacto do dano moral causado à pessoa que foi objeto do ato de intolerância e contribui para reforçar e reverberar a intolerância racial por um longo período’’, diz o relatório.

Recentemente, o Twitter também foi acusado de racismo depois do algoritmo privilegiar pessoas brancas com mais frequência do que negras. A rede social corta automaticamente as imagens para evitar que ocupem espaço no feed principal. Usando ferramentas algorítmicas para tentar focar na parte mais importante da imagem, o Twitter tenta garantir que a parte seja visualizada sem a necessidade de clicar na imagem inteira. O problema é que usuários começaram a detectar falhas no recurso. Como o usuário do Twitter Tony Arcieri, que descobriu que o algoritmo privilegia a parte da imagem que aparece o senador americano Mitch McConnell do que a parte que aparece o ex-presidente Barack Obama. Outros usuários fizeram testes usando imagens de uma pessoa branca e outra pessoa negra e o mesmo resultado apareceu em todos os casos, o algoritmo destacou a pessoa branca. O mesmo ocorreu para personagens dos Simpsons, Lenny e Carl, e para cachorros labradores dourados e labradores pretos.

Em nota para o jornal The Guardian, um porta-voz do Twitter pediu desculpas e admitiu que a empresa tem muito trabalho a fazer. “Nossa equipe fez testes de preconceito antes de enviar o modelo e não encontrou evidências de preconceito racial ou de gênero em nossos testes. Mas fica claro, a partir desses exemplos, que temos mais análises a fazer. Continuaremos a compartilhar o que aprendemos, quais ações tomamos e abriremos o código de nossa análise para que outros possam revisar e replicar. ”

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

Não é a primeira vez que algoritmos treinados em inteligência artificial mostram viéses racistas e preconceituodos em relação aos grupos negros e outros sub-representados. Os algoritmos do Google, do Facebook e do Instagram, do Zoom e de outras empresas já foram apontados como racistas por pesquisadores. Para Carla Vieira, 22, engenheira de software, mestranda em inteligência artificial na USP, ‘‘isso acontece até hoje justamente por conta da perspectiva colonial que ainda permanece e faz a manutenção de poderes’’. Ou seja, os algoritmos não são neutros, eles são influenciados com perspectivas e ideologias das pessoas que os criam. ‘‘Alguns pesquisadores analisaram como várias tecnologias que usamos vem dos Estados Unidos, a internet foi criada nos Estados Unidos e os nossos dados são utilizados por eles’’. 

‘‘O Facebook nasce como uma rede social não para conectar pessoas como eles dizem hoje, mas para expor mulheres. A ideia era privilegiar a busca de mulheres, colocar as mulheres em rankings e tornar os homens mais populares a partir da sua conexão com mulheres. É uma plataforma de origem misógina’’, lembra Larissa Santiago. Mark Zuckerberg criou em 2003, quando era estudante em Harvard, um site chamado Facemash , o antecessor do Facebook, e compartilhou o link pelo campus da universidade. Para criar, Zuckerberg invadiu o banco de dados de alunos de Harvard e preencheu o site com fotos. O site era um jogo “hot or not” (gostosa ou não), no qual os usuários comparavam fotos dos estudantes. 

“O Facebook nasce como uma rede social não para conectar pessoas, mas para expor mulheres. A ideia era colocá-las em rankings e tornar os homens mais populares a partir da sua conexão com elas. É uma plataforma de origem misógina”

Larissa Santiago

As soluções para o dilema

Problemas criados por homens brancos só poderão ser solucionados por homens brancos? Com todo este histórico, escutar apenas a voz dos homens brancos que criaram as redes sociais e deixar outras pessoas, problemas e propostas de fora do debate não é a solução para o dilema das redes.

‘‘No filme, os caras falam que ninguém tem ideia de como resolver esse dilema. Realmente, é uma pergunta de uma resposta de um bilhão de dólares, mas acho que tem que ter mais gente produzindo. Se existe uma pluralidade de consumo, não dá para ter um padrão de produção, tem que ser mais diverso. Precisa incluir as leituras de mundo que são plurais na construção, a negritude, gênero, de questões territoriais e outras’’, diz Silvana Bahia. 

Integrante do PerifaCode, uma iniciativa para incluir pessoas periféricas na tecnologia em São Paulo, Carla Vieira acredita que no Brasil  a falta de um letramento digital dificulta ainda mais o entendimento das pessoas sobre o impacto das redes sociais. ‘‘Falta acesso para as pessoas entenderem porque o assunto é importante, não estamos nesse ponto que as pessoas questionem coleta de dados. Por isso, nós pesquisadores temos um papel muito importante de conversar com pessoas onde a gente mora, com a população negra e com a sociedade em geral. Até o próprio documentário causando essa polêmica, acabou despertando esses debates e a possibilidade da gente falar ‘olha, não é bem assim, tem mais coisas que a gente tem que descobrir, essa é só a pontinha do iceberg’’’.

Colaborou nesta reportagem: Fred Di Giacomo (edição), do data_labe