|
Somando-se aos números sobre hip-hop, Covid-19, afrofuturismo e explicabilidade o disparo #44 de nossa newsletter é novamente especial e temático! Tainá Turella C. dos Santos, pesquisadora em ciência da computação, é a autora deste número focado em sistemas de recomendação de conteúdo. Confira suas dicas:
|
|
|
ALGORITMOS DE SISTEMAS DE RECOMENDAÇÃO:
|
|
|
|
Canal Programação Dinâmica
No vídeo “Você é REFÉM do ALGORITMO? ARMADILHA do ALGORITMO de RECOMENDAÇÃO e porque HUMANOS são a RESPOSTA?”, Hallison Paz traz uma discussão sobre a ideia por trás de algoritmos de recomendação.
O que é descrito para o caso do aplicativo da rede Telecine pode ser encontrado nas mais diversas plataformas digitais, inclusive nas redes sociais. Nestas também existem inteligências artificiais (IAs) analisando e tentando aprender os padrões de seus usuários para oferecer experiências cada vez mais personalizadas, entretanto, por serem treinadas a partir de dados de uma sociedade racista e misógina, muitas vezes as recomendações refletem tais vieses.
Os algoritmos de recomendação por trás das redes sociais acabam por escolher o “como”, “quem” e "o que” vai ser divulgado e isso geralmente impacta negativamente influencers e pessoas negras na área de produção e divulgação de conteúdo.
Entender um algoritmo de recomendação não é poder afirmar verdades absolutas sobre todos os outros, mas perceber que vieses podem ser encontrados em um deles pode ser um indício que nas demais plataformas este viés também pode ser percebido.
Neste curto, porém explicativo, vídeo Hallison Paz faz algumas reflexões que são importantes para compreender quais os impactos destes algoritmos.
|
|
|
O trabalho de pesquisadoras por reconhecimento
No texto escrito por Manuella Caputo, pesquisadora do MediaLab -UFRJ, as dificuldades de reconhecimento encontradas por pessoas negras que geram pesquisas na área de racismo algorítmico são levantadas.
A invisibilidade destas pesquisas faz com que novas pesquisas, que tenham como base demais produções negras, se tornem um jogo de perseverança. Tendo em mente que a área de computação é majoritariamente ocupada por homens brancos, grande parte do conteúdo que fica facilmente disponível é baseado no olhar dessa parcela da sociedade.
Pensando em algoritmos de recomendação em redes sociais, um outro desafio a ser superado é o próprio acesso ao código fonte e aos dados por trás dessas aplicações. Uma pesquisa quantitativa dos dados, sem ferir a privacidade dos usuários, torna-se um trabalho de convencimento e uma pesquisa qualitativa sobre o código é simplesmente impossível.
|
|
Sá Ollebar e o alcance de postagens no Instagram
Em formato de fio é possível conhecer um pouco mais sobre o experimento feito pela influencer Sá Ollebar no Instagram.
Em seu perfil, a produtora de conteúdo fez postagens com a foto de uma pessoa branca e obteve um aumento de 6000% de engajamento.
No fio aqui recomendado ela explica o porquê e o como realizou tal experimento, assim como todos os cuidados que tomou para não “cutucar” os resultados obtidos.
Tal experimento é um indício de que existe uma diferenciação entre o conteúdo estrelado e produzido por pessoas negras ou pessoas brancas.
|
|
|
Portal de Notícias Mundo Negro
O portal de notícias Mundo Negro é uma ótima fonte de material voltado para a comunidade negra brasileira e demais interessados.
Racismo algorítmico tem sido um tema em alta ao redor do mundo e por sua relevância acabou virando uma das matérias publicadas no portal.
Durante o texto, o autor Levi Kaique Ferreira, traz a discussão de que o racismo algorítmico não é apenas sobre o engajamento de posts e perfis em redes sociais, mas sim sobre muitas esferas da vida de pessoas negras dentro e fora do Brasil.
Um texto de leitura simples, mas que cita alguns casos de racismo identificados dentro das redes sociais, mas também no mundo real na forma de reconhecimento facial aplicado em investigações policiais no estado de São Paulo.
|
|
Como os algoritmos espalham o racismo e a desigualdade de gênero
No vídeo disponível no canal MOV.doc no YouTube são apresentados em um nível mais inicial como as inteligências artificiais, durante seu processo de aprendizado são condicionadas a definir certos estereótipos.
O fato que em buscas por imagens pessoas negras são vinculadas a imagens de pobreza e brancas a riqueza ou que filtros de foto do Instagram e FaceApp de embelezamento tentam apagar os traços de um fenótipo negro mostram que o racismo algorítmico em redes sociais é sobre o engajamento, mas não só sobre ele.
|
|
|
Batalhas Digitais: Racismo Algorítmico
O episódio 10 do podcast Batalhas Digitais, organizado pela Coalizão Direitos na Rede traz exemplos diversos de como o racismo algorítmico está presente na sociedade, mas também traz a vivência de Sil Bahia e Pablo Nunes, duas personalidades super ativas e que fazem uso da tecnologia com objetivo de mitigar essas discrepâncias que existem em um ambiente digital.
Com críticas a ideia da neutralidade de tecnologias e ao uso destas em setores públicos, como por exemplo segurança pública, a discussão trazida nos faz repensar questões de raça e tecnologia.
|
|
Construindo uma distopia em prol de anúncios
No TED Talk estrelado por Zeynep Tufecki é levantada a questão sobre o uso de Big Data para a criação de anúncios e recomendações de conteúdo na internet.
A palestrante expõe de forma simples alguns exemplos de como algoritmos podem ser utilizados para predizer informações sobre novos usuários baseado apenas nas informações coletadas até o momento sobre o comportamento de demais usuários.
Tufecki possui estudos na área de como os filtros em redes sociais podem ser utilizados para abafar movimentos e atos populares, mas também afirma que as redes sociais se tornaram uma “extensão do mundo real” e que estas são extremamente importantes na organização de muitos movimentos.
|
|
|
Twitter e algoritmos racistas
Em um relatório publicado em Maio de 2021 Rumman Chowdhury, diretora do projeto ML Ethics, Transparency, and Accountability (META) dentro do Twitter, compartilha os achados da empresa durante testes sobre o algoritmo de corte de imagem.
Tal relatório explica como seria o funcionamento do algoritmo de corte, que seria uma forma de algoritmo de recomendação a nível do que seria visto dentro do próprio post, e de certa forma demonstra que por parte do Twitter houve a percepção de que o algoritmo reproduzia um olhar não só machista como também racista.
|
|
Coded Bias
O documentário Coded Bias, disponível no catálogo da Netflix desde Novembro de 2020, trata sobre o tema racismo algorítmico acompanhando as descobertas de Joy Buolamwini sobre sistemas de reconhecimento facial.
Com diversas evidências de que tais algoritmos performam pior em pessoas negras, Joy explica quais seriam as possíveis razões para tais resultados e com comentários de Cathy O’Neil também são apresentadas as razões pelas quais a presença destes vieses são preocupantes.
|
|
|
PARA (RE)DESCOBRIR E CITAR REFERÊNCIAS:
|
|
|
Denise Carvalho
Pós-doutoranda no Programa de Pós-graduação em Estudos da Mídia (PPgEM/UFRN). Doutora em Sociologia pela Universidade de São Paulo (FFLCH/USP) e Mestre em Direito pela USP.
Possui pesquisas na área de racismo algorítmico, com um grande foco em representações midiáticas. Neste link é possível encontrar alguns de seus artigos sobre o assunto.
Por mais que o tema direto de pesquisa de Denise não seja na área de racismo em algoritmos de recomendação em redes sociais, ela ganha este momento de destaque pois seus trabalhos mostram que algoritmos que são treinados sobre datasets discriminatórios irão reproduzir este comportamento em seus resultados.
|
|
|
|
AUTORA DESTE NÚMERO ESPECIAL:
|
|
|
Tainá Turella
Mestranda em Ciência da Computação pela UNICAMP e atuante no mercado de trabalho como Analista de Qualidade de Software, possui pesquisa na área de Racismo algorítmico em redes sociais.
Sua pesquisa é muito embasada em artigos diversos na área de racismo algorítmico de forma a criar um conteúdo que esteja sempre olhando para as demais características desse grande problema na sociedade atual.
Em 2020 realizou uma breve pesquisa sobre o impacto de redes sociais e serviços de mensageiros nas eleições de 2018.
|
|
|
Escreva um número da newsletter
Você é graduanda/o, mestranda/o ou doutoranda/o e quer escrever um número temático da newsletter da Desvelar? Clica acima e conta pra gente.
|
|
|
Livros da Desvelar
A Desvelar desenvolve publicações como Comunidades, Algoritmos e Ativismos Digitais: olhares afrodiaspóricos. Disponível para compra ou download, a obra reúne 14 capítulos sobre tecnologia e internet com autoras de Brasil, EUA, Gana, Nigéria, Etiópia e mais. A próxima coletânea já está no forno, apoie para que se tornem em muitas! :)
|
|
|
|
|
|
