RACISMO ALGORÍTMICO: Do que se trata? | Se Liga!

e [Música] nos últimos anos usuários de redes sociais e aplicativos de mensagens tem denunciado práticas que estão sendo chamadas de racismo algorítmico entre as reclamações está uso de cortes automáticos em imagens que estariam privilegiando rostos de pessoas brancas e nos Estados Unidos um professor negro não conseguia aparecer na tela a utilizar um plano de fundo de um aplicativo de videoconferência este assunto o racismo algorítmico ainda é pouco conhecido mas já vem sendo estudado e para a gente entender do que se trata e seus desdobramentos nós vamos conversar com pesquisador e mestre em comunicação Tarcísio Silva

autor do livro racismo algorítmico Inteligência Artificial e discriminação nas redes digitais Olá Tarcísio Muito obrigado pela sua participação o Rafael muito obrigado pelo espaço vai ser uma conversar bem bacana aí urgente com a gente iniciar bem do básico mesmo é o que que é o racismo algorítmico E como que ele é explorado nesse seu livro Tá bom é só uma questão muito relevante porque é um termo que começou aparecer né nos últimos anos em trabalhos científicos Salvo engano ou faz cinco anos que esse termo exatamente assim é utilizado mas a Rigor ou ao racismo algorítmico

do modo que os plano é o nervo não é um desdobramento do racismo estrutural na medida em que explica como algumas tecnologias digitais contemporâneas como plataformas de mídias sociais aplicativos de transporte reconhecimento facial algoritmos de medição de times que é uma bobagem que não existe e outros aplicativos de Inteligência Artificial sistemas automatizados podem aumentar o impacto discriminatório da sociedade e aí no livro eu apresento uma introdução essa temática sobretudo uma ideia dos ano em comunicação né nas redes digitais mas também outros impactos e relacionados a Neca política ou seja questões relacionadas à morte ou deixar

morrer quando a gente fala de sistemas de saúde Então já fez um algoritmo tá resumir é o modo pelo qual tecnologias digitais hoje infelizmente podem intensificar e ocultar o combate ao racismo estrutural E esses facistas E racistas eles seriam um reflexo da sociedade que perpetua o racismo estrutural ou ele tá mais ligado às grandes empresas de tecnologia que comandam tudo isso é ótima questão eu gosto muito do termo racismo algoritmo em contraposição a algoritmo racista apesar de muitas as pesquisadoras e pesquisadores também utilizaram esse termo algoritmo racista Mas eu prefiro o inverno um para explicar

um pouco sobre como Na verdade algorítmico é um qualificador do racismo E como que isso acontece não é a questão de identificarmos um sistema x um sistema Y tem vontade própria ou tem perspectivas discriminatórias de forma independente mas na verdade é construído implementado ou treinado de modo a aumentar discriminações sociais incluindo raça do gênero seja por leniência seja por objetivos intencionais e 12 módulos que isso acontece de forma é mais intensa é a ideia de um do atentado de máquina baseado em dados históricos da sociedade um exemplo são os mecanismos de busca como o Google

que é mais famoso no Brasil se mecanismos de busca ordena os resultados de acordo com que já existe na cultura o que já existe de publicado de forma visível na sociedade né e reproduz buscas de informática a tendência é que ele reproduza discriminações que já são hegemônicas na sociedade que ainda não superamos como disseminações de raça de gênero capacitismo e outras E aí A grande questão é a gente quer reproduzir e aumentar o histórico da sociedade seus problemas ou a gente quer observar as tecnologias de um modo mais construtivo e Tico Eu acredito que a

segunda opção e tá isso a gente precisa promover mais transparência nas tecnologias e o áudio quem a desenvolve então a mistura dos dois é um reflexo da sociedade mas as minhas empresas de tecnologia têm suas margens de lucros enormes porque não estão comprometidas com o bem-estar social sim não dá para inventar as responsabilidades também né Inclusive tem um trecho da sinopse do seu livro que está escrito o seguinte quando algoritmos recebem o poder de decidir a partir dos critérios de seus criadores O que é risco que é Belo que é tóxico ou que é mérito

os potenciais discriminatório se multiplicam Tarcísio pela sua visão nós podemos chegar a um ponto é com o avanço da tecnologia onde esses algoritmos não consigam mais ser controlados um excelente que estão também pelo por diversas controvérsias que estão ligadas à isso por exemplo a ideia de que temos robôs completamente autômatos e autônomos O que teremos no futuro é uma ideia equivocada da Inteligência Artificial Não teremos os robôs da ficção científica e tem personalidade própria o que tem uma personalidade própria e são independentes do seu contexto independente dos estivadores e muito menos os sistemas super limitados

em domínios específicos que temos hoje então Não chegaremos a um ponto onde os algoritmos não podem ser controlados Mas apesar disso a um discurso de que os sistemas não podem ser controlados por que eles favorecem quem hoje tem capacidade de implementar e disseminar em diversas sociedades e de forma global e sistemas digitais então controle é possível e isso é um controle social com a tecnologia e olharmos não estou algoritmo enquanto sinônimo somente de linhas de código ou sinônimo de apenas um software é mas sim pensar racismo algorítmico e pensar controle social dos algoritmos pensando a

tudo que é em volta do sistema e o que é em volta de sistema é são as decisões que são feitas de como no sistema vai ser treinado Que tipos de dados vão entrar lá e quais são os tipos de resultados desejáveis por exemplo um sistema de reconhecimento facial implementado em Salvador por exemplo ou em São Paulo como existe já em algumas regiões é um sistema que pode identificar pessoas que erra com frequência isso é um grande problema por si só mas num contexto como o Brasil onde a violência policial é Norma e o encarceramento

em massa é gigantesco é um tipo de tecnologia que não desejavam porque ela vai intensificar um problema da sociedade que já é existe há muito tempo então e o ritmo aqui não é só aquele sistema Aquele modelo que vai identificar o rosto da pessoa mas sim as decisões em volta e as visões sociedade que eles permitem ou que eles impedem E no caso do reconhecimento facial é uma visão de sociedade do vigilantismo da violência estatal e da de impedir pessoas de terem realmente a liberdade na cidade É sim tem um a muitas a questão quando

a gente fala de algoritmo a gente pensa sempre em rede social Instagram Facebook Twitter mas o racismo algoritmo ele não está ligado somente à essas mídias certo como você falou do reconhecimento facial agora certo é o teu próprio termo algoritmo que você ficou muito popular graças a um dos principais sistemas que na verdade é composto de centenas de modelos e de algoritmos que o sistema de recomendação de conteúdo customizado do Facebook né que a principal plataforma de mídia social na maior parte dos países do mundo apesar disso a construção né de sistemas algorítmicos Nem sendo

implementada em vários a Ambientes diferentes por exemplo até aplicativo de paquera recentemente a fundação Mozilla juntar outros parceiros inclusive parcelas brasileiros como o idec lança uma pesquisa mostrando que a princípio um dos planos profissionais né os produtos premium do aplicativo Tinder da paquera é a precificação discriminatória que na tora em termos de de idade por exemplo ou de histórico de conexões daquela pessoa ou seja pode aumentar é desconforto social digamos assim em determinados tipos de pessoa e é uma infração de Direito do Consumidor Pelo menos é esse tipo de algorítimo rege as relações sociais afetivas

nesse caso mas está também é implementado outros tipos de modelos em várias interfaces que usamos no nosso dia-a-dia como por exemplo aplicativos de transporte que decidem de forma supostamente automatizada mas sempre a favor do da empresa é qual é o preço das corridas quais corridas são priorizadas as que tipos de Barros recebe mas ou menos motoristas por exemplo Então os algoritmos estão implementados em várias esferas em muitos casos para fins positivos mas é necessário controle social da tecnologia para dirimir diminuir e combater os impactos negativos como por exemplo a questão da da saúde preditiva que

hoje relacionado na estação de privacidade de dados vemos até redes de farmácia rede de farmácias coletando dados das pessoas para o construir modelos preditivos de saúde para negar o acesso à saúde privada por exemplo então a um debate que envolve não só a comunicação mas hoje em dia qualquer disciplina que envolvem seres humanos É sim é como a tecnologia hoje em dia está inserida em praticamente todas as esferas da sociedade os algoritmos estão junto com ela então parece que os algoritmos movem o mundo né e o racismo algoritmo é a gente precisa falar sobre isso

quais seriam as principais consequências desse racismo algorítmico de certa forma os sistemas baseados na em Inteligência Artificial ou algum tipo de automatização para sobre dados na rede de pessoas pertence ao de ordenação é só da inação de seres humanos é sempre arriscada porque é uma ordenação que se relaciona com acesso algum recurso ou com a cobrança de alguns tipos de deveres ou alguns tipos de recursos eu utilizei o exemplo anteriormente a estação diferencial em aplicativo de papel que é um problema do Conde vista dos direitos dos consumidores a um problema do ponto de vista da

psicologia social e assim por diante Então as consequências do algoritmo e que podem ser de diversos modos e tão variados quanto os tipos de alguém Nações possíveis a um debate né nos nas roda e jurídicas por assim dizer sobre a eficiência de sistemas de apoio a decisões ou até a previsão de reincidência criminal de Réus nesse tipo de impacto dentro do racismo algoritmo com outros tipos de discriminações temos a própria Liberdade dos cidadãos posta em jogo Então os impactos do racismo algoritmo Infelizmente são tão variados Quanto são variadas as experiências com isso as possibilidades negativas

então em termos de habitação em termos de acesso a empregos ou acesso a processos seletivos ou até é direitos que fundamentais como o direito à comunicação e à liberdade de expressão E aí eu queria enfatizar que a é importante observar impactos individuais em pactos coletivos hoje No Brasil temos uma lei geral da proteção de dados por exemplo que está em vigor né e a só me engano a há três anos e ela vai completar nós seis anos e ela tem algumas prerrogativas e proteção né da privacidade de dados dos brasileiros que inclusive recebeu o status

né constitucional recentemente e a lei geral de proteção de dados é uma perspectiva que leva em consideração por exemplo o consentimento de dados então seu são cidadão que é dou o meu consentimento relativamente informado a uma empresa de utilizar meus dados ela pode utilizar esses dados para fazer algum modelo sou de mim por exemplo modelo já me oferecer um plano de saúde mais ou menos customizado mais ou menos caro o que é algo desafiador mas mesmo é a legislações bem estruturadas né Como lgpd pega uma certa forma em observar os aspectos coletivos Porque não basta

que cada pessoa individual e saiba sobre seus próprios nada existe uma perspectiva individualista que é prejudica o tecido social O que é o grande valor dos sistemas baseados na em Big Data em processamento de inteligência artificial é o volume de dados e o cruzamento desse então hoje temos a privatização de serviços públicos que coletam dados de milhões de pessoas e constrói modelos que não vão ser maléficos para apenas um indivíduo específico mas vão criar vantagem injustas para o setor privado ou para empresas específicas do setor privado que vão fazer modelos sobre a sociedade e a

seu bel-prazer Então temos de proteger os dados dos cidadãos né de modo geral e no nosso caso é dos cidadãos brasileiros pensando nesses Impacto os coletivos no caso da saúde é são vantagens desproporcionais do setor privado utilizando bom para saúde pública mas para promoção de look para o Zap É sim é tem uma questão que eu queria tratar também que é o seguinte em diversos estudos a gente vê o racismo sendo dividido em categorias é o extrativismo estrutural como a gente comentou algumas vezes aqui o Recreativo o institucional é Tarcísio qual que seria a importância

em dividir essas formas de racismo eu acho que a feliz que a preferir paradoxalmente né a feliz popularização desses conceitos né que vão sou da esfera pública graças ao esforço né de alguns intelectuais editoras por exemplo no caso do racismo Recreativo né o o exposto de intelectuais que uma de Almeida Ribeiro que construiu coleções acessíveis ao público Conar é a capacidade de jogar lentes sobre esferas específicas da sociedade e como é o sempre Fim de Século de racismo exploração se manifestam naquela camada específica em relação a outras então quando a gente fala do racismo e

criativo que foi explorado na bibliografia recente de uma forma muito ou elaborada né Por autores como Adilson Moreira Luiz Valério Trindade e outras é a observação de que no caso do Brasil em outros países isso acontece também mas no Brasil de alguma forma particular é o racismo se tornou tão banal que algumas práticas da cultura do entretenimento são pintadas na no aspecto relativo então é uma opção que se torna quase uma cultura de parte da população isso tem ligações com outros tipos de manifestações a da cultura ou da tecnologia quando a gente pensa por exemplo

buscadores ou milhas o que permitem que você acesse conteúdos já publicados e o significa que por exemplo representações imagéticas de povos negros de povos indígenas por exemplo no Brasil vão estar mediadas por essas táticas que já existem na sociedade e elas podem ser produzidas por exemplo na visão computacional que vai construir de forma automática um diferente enviesado contra determinados grupos então assumir lá em alguns momentos na esses estudos nas sobre manifestações do racismo tem essa vantagem de avançar o conhecimento mas não e termos de construir Silos mas na verdade conexões possíveis não por acaso o

meu livro então Líder todo tório sou cassista algoritmo dialoga com esses conceitos Então eu acho que é uma manifestação de alguma maturidade no debate eu abrir o racismo que trazem reações que vão de reações é estruturais de da grande política até reações de autodefesa que estão mais no aspecto micro por assim dizer sim são conceitos que estão todos interligados né De certa forma e após o seu trabalho todo de pesquisa em cima do racismo algorítmico é quais pela sua visão quais seriam os caminhos possíveis para uma mudança e o racismo de modo geral né tá

completamente vinculado a exploração EA desigualdade de Nadir exploração do trabalho Olha aí alheio a exploração colonial e Imperial onde se países e outros tipos de explorações interseccionais nesse sentido não há solução isolada para a questão do racismo algoritmo mas a reações e remediar ações em diferentes níveis do problema Por exemplo quando a gente pensa na representação negativa de pessoas negras em filtros no Instagram já tem sido o parecer algo simplesmente técnica EA pesquisadora e eu posso mencionar a Joice Soares por exemplo que fizeram estudos para entender como fazer filtros melhores e remediar um problema do

Instagram então uma é pesquisadora individual tentando melhorar algo que uma empresa bilionária é feito esse tipo de iniciativa acontece aos borbotões e não letra eu trago alguns exemplos desses mas há também é iniciativa isso que leva em consideração aspectos menos ou macros do racismo que estão ligados por exemplo a questões que aparentemente são mais amplas como por exemplo a própria ideologia de que o segredo de negócio ou que a livre iniciativa Empresarial é um tipo de Pilar mais importante do que o bem-estar social então quando a gente pensa adianta empresa de Big Tech Como as

empresas do grupo comércio ou residências do grupo alfabética a empresa do Google é temos uma absoluta falta de Transparência dos processos internos e descobrimos horrores que acontecem nessas empresas em termos de discriminação quanto vazão a partir de funcionários ou de jornalismo investigativo Então temos que mudar a chave e para priorizar o bem-estar social EA soberania né dos países para a defesa dos interesses a dos cidadãos das pessoas comuns Então temos de virar a chave de modo político e de moto legislativo que a entender que o instagram ou Facebook ou Google na medida em que mediam

a própria esfera pública EA democracia não podem ser completamente fechados e opacos condição hoje e esse é um processo longo mas que ativistas em torno do mundo legisladores alguns políticos estão tentando mudar Esse é um caminho que a gente ainda está no começo mas ainda Deus quiser a gente vai chegar muito longe para vocês Muito obrigado pela sua participação foram pontuações muito necessárias é para gente finalizar você pode ficar à vontade para fazer aquele sábado seu novo livro divulgar suas redes curso fica à vontade é muito obrigado pelo espaço queria agradecer novamente né a possibilidade

o diálogo então convidas a todas e todos né a ler o livro né que tá disponível nas principais plataformas digitais é uma coleção apenas digital né E ela que eu tive como então quem baixa após compartilhar com os colegas eu próprio voo compartilharem uma plataforma completamente aberta aí eu tô entendendo deve e gostaria de convidar também a um curso de sobre racismo algorítmico e reações possíveis que está sendo organizado pela ação educativa EA organização de defesa de direitos humanos sobretudo na área da educação né aqui de São Paulo eu tô te envolvendo esse curso a

partir dos meus conhecimentos da comunicação com em parceria com Gustavo Souza que um especialista do direito EA Carla Vieira com especialistas da Computação Então a gente vai juntar essas três áreas diferentes para falar sobre racismo algoritmo e sobre Rei a possíveis que qualquer Cidadão pode conhecer então fazer um curso bastante é acessível e gratuito então eu vou pedir para colocar o link aí embaixo né para quem assistindo nos canais e já Um formulário de pré-inscrição então Convida os outros para aumentar esse diálogo aí e desdobrar em outras coisas muito obrigado sim o nosso canal do

YouTube a gente coloca o link na descrição é muito obrigado você também que nos acompanhou o se liga termina aqui e você pode rever o programa completo no nosso canal do YouTube e acessar o link do curso não se esqueça de acompanhar a TV Univap também pelas redes sociais porque nós estamos no Facebook e também no Instagram@TV Univap até a próxima a E aí E aí