COMO OS ALGORITMOS ESPALHAM RACISMO E DESIGUALDADE DE GÊNERO

se você não vê mas ela está lá por trás da comida vi aep da carona do banco online das nossas redes sociais a inteligência artificial pode ser muito útil mas às vezes também é racista e machista os códigos são alimentados por nossas escolhas se somos racistas e machistas contaminamos os algoritmos mesmo que involuntariamente e eles são um espelho da nossa sociedade desigual são eles que ajudam a decidir por exemplo Qual o paciente terá prioridade no atendimento quem merece uma vaga de emprego numa seleção automatizada de currículos que merecem crédito do banco e em geral são

homens e brancos a tecnologia ela não é neutra o algoritmo né quando ele é criado né pensado ele vai seguindo um padrão social principalmente na jeito sensuais a gente ver que a imagem do padrão estabelecido o padrão branco sua noite de homens tá ligado já posições de polia a população negra para sempre retratada através de algoritmos e posições e Servidão né de subalternidade e a inteligência artificial foi criada lá na década de 50 evolui o tanto que chegamos um ponto em que ela faz coisas muito complexas e aprendi sozinho sabe quando o Google fotos identifica

automaticamente fotos de comida ou agrupa várias imagens de cachorro ou do rosto dos seus amigos é isso o algoritmo levar as fotos de comida de animais e aprende a reconhecer o padrão em cada tipo de imagem filha Alexa Google assistente usam toda essa capacidade para responder como se fossem pessoas reais alguns dizem que vem da cegonha mas a verdade é que os bebês vem da barriga das Mães sem dúvida a tecnologia facilita muito nossa vida e pode fazer coisas bem legais mas algumas também são capazes de aprender comportamentos tóxicos essa discriminação aparece até nos filtros

do Instagram ou no recurso de embelezamento da câmera do celular ele estarei um rosto afina o nariz diminui e dizendo que vão deixar a pessoa mais bonita Oi pele escura e nariz grande são feios o rosto precisa ser firme magro os olhos devem ser grandes quem é que determina o que é bonito e aí a gente ganha uma disseminação de alguns elementos muito ligados a essas categorias imagéticas de estética não é que são são muito muito largamente disseminada né nos dias de hoje do ideal estético de beleza né e que por vezes também acabam de

ser minando discriminando pessoas e disseminando o estereótipos também né de beleza ou de feiura de tecnologia que associam às vezes né a nossa imagem imagem da pessoa negra né como de pessoas esteticamente feias realmente muitas vezes se uma mulher é um usa uma trança vai por vezes ela passa uma imagem de sujeira para algum de uma visual desleixado e agora algumas imagens mostra o mesmo rede somente a sociais mostram pessoas brancas com o mesmo visual e que aí elas se tornam as óticas estilosas visuais mais escuro é mais legal até bem pouco tempo se você

buscasse tranças bonitas no Google era isso que apareci mas se buscasse tranças feias era isso se você procurasse por cabelo bonito aparecer assim mas se você pesquisar se cabelo feio a foto de Luana que aparece no Google o meio de uma entrevista que ela deu um portal do Rio Grande do Sul e por meses apareceu entre os primeiros resultados Associados a cabelo feio e não acreditei no primeiro momento assim eles não não pode ser e quando eu busquei né Por cabelo ruim no Google aparecer realmente minha foto e foi aí que eu percebi que ela

estava relacionada só matéria e naquela época eu não prometi que muito triste chateada e automaticamente Já Fiz alguns tweets chama mesmo assim o Google branco na isso podia tá acontecendo e se tu olhares né as imagens daquelas mulheres eram mulheres que apresentavam o mesmo fenótipo assim eu eram mulheres de cabelo crespo cabelo cacheado não via outro tipo né aí igual a partir delas eram mulheres negras então como isso está acontecendo né ainda né vendo esse tipo de situação e por isso que a gente vê que falando sobre um algoritmo que na verdade ele está condicionando

o reforçando racismo o algoritmo do Google acabou mudando com o tempo mas ainda hoje se você pesquisar mulheres bonitas provavelmente vai aparecer fotos de mulheres brancas com cabelo liso o buscador funciona como uma grande biblioteca Com tudo o que existe na internet cada usuário público que quer então cabe o Google rankear entregar esses resultados se nós somos racistas os resultados também vão ser ou coisa parecida aconteceu com o Twitter a rede social priorizava rostos de pessoas brancas em tweets e vários testes foram feitos para provar numa imagem do ex-presidente dos Estados Unidos Barack Obama com

Senador MIT meteoros o corte feito automaticamente escolher o rosto Branco Depois dessa o Twitter e revisou o sistema no campo do reconhecimento facial e da Segurança Pública o problema é ainda mais grave porque os algoritmos falam muito Especialmente quando estão diante de um rosto negro e aí o erro pode prejudicar a vida de uma pessoa e foi o que aconteceu com o homem negro nos Estados Unidos ele ficou quase três dias preso porque é um software o classificou como suspeito de um furto o algoritmo não foi capaz de perceber que o inocente tinha uma tatuagem

no rosto e pele mais clara do que o verdadeiro culpado pelo crime um estudo de 2019 mostrou que no sistema de saúde dos Estados Unidos a triagem automatizado escolha mais pacientes brancos para entrar em processo personalizado de tratamento de alto custo outro estudo testou o sistema de reconhecimento facial para analisar emoções humanas e fotos de jogadores da NBA foram usados atletas negros foram marcados como mais bravos ainda que estivessem sorrindo a tecnologia associou a expressão facial de negros a comportamentos ameaçadores o reconhecimento facial ainda mais falho na hora de diferenciar mulheres negras elas foram identificadas

como homens em quase trinta e cinco porcento das fotos de um estudo que analisou o programa E essas como Microsoft IBM dados enviesadas que tem padrões machistas racistas também provocam coisas assustadoras como pessoas serem rotulados de macaco gorila ou animal Já rolou isso no Google fotos e não fica tão sim tecnologia é um dos meios pelo qual as desigualdades sociais e raciais E de gênero são atualizadas na estrutura da sociedade porque eles atacam os direitos fundamentais das pessoas como direito à privacidade o direito à liberdade de expressão EA livre circulação entre outras coisas não é

que todos os programadores ensino em que o algoritmo deve excluir pessoas por cor raça religião ou local onde moro mas as tecnologias mostram cada vez mais que elas não são neutras e Meios digitais muito recentes Mas Vó vem um problema que que é antigo no sentido de que a sociedade o contexto histórico foi consolidada sobre as bases do racismo do patriarcado e do classicismo não podemos deixar isso de lá e aí nesse cenário Se nós formos pensar as pessoas que estão em posições de decisão muitas vezes não tem contato com essa realidade né achei cronologias

elas podem causar muito racismo e muito machismo quando são mal utilizados Anderson utilizadas de forma positiva ela geram Progresso de era o dentro da Ásia diário negócio de ar um relacionamento geram adversidade A então a tecnologia quando ela é bem aplicada ela é muito burro mas quando ela não é muito aplicada ela é um instrumento descrição baita dever de casa para fazer que passa muito pela escuta ativa né e passa muito pela transformação Educacional e Tecnologia o João