Como um algoritmo pode ser racista?

você já ouviu falar em machine learning e aprendizado de máquina certo afinal é uma das que o ônibus no momento de bancos a escolas todo mundo tenta arrumar o seu lugar ao sol e usam esse termo inteligência artificial esse termo à china e dani como sinônimo de um produto que promete revolucionar sua área se você não está familiarizado com esse tema xinane não se desespere eu gravei um podcast algumas semanas atrás sobre insight sobre inteligência artificial essa é uma boa oportunidade uma boa introdução pra quem já ouviu falar do tempo mas que não sabe de

fato que é então se você tá a fim de descobrir que ela aquilani primeiro acessibilidade segundo ouvir o podcast [Música] agora pra quem nunca ouviu falar de aprendizado de máquina resumidamente a idéia é a seguinte imagine uma base de dados podem ser imagens de pessoas e de objectos uma coleção de músicas como a coleção de livros agora a partir desta base de dados um algoritmo ou seja um programa de computador começa a aprender a identificar padrões por exemplo se sua base de dados são pinturas do século 20 o seu algoritmo vai aprender a identificar padrões

identificar semelhanças entre uma pintura e outro e com isso formar gêneros e categorias da mesma forma se uma pintura é totalmente diferente da outra ou apresenta poucas semelhanças a outra pintura ela vai ser descartada ou melhor vai ser categorizada de uma outra fome depois de fazer isso em vezes identificar ele padrões diferentes quando você entrar por um input novo ou seja quando você pedir que o algoritmo analisar uma nova pintura ele ter aprendido que aquela imagem possui certas características que já foram identificadas pelo algoritmo e vai categorizar ela dentro de um g o que ele

já faz ficou doida demais né só que existe um problema nisso quando o sábado de dados está contaminada com viés por exemplo 10 racista onde pessoas de pele escura são menos identificados corretamente do que as pessoas brancas aí nós temos um problema pensando nisso a cientista americano ghanense joy lamy criou um vídeo manifesto ea área em que há é uma tradição seria inteligência artificial eu não sou né que destacava parte de seus cobertas no doutorado no emitir mídia elétrica ela investigou identificação de cor e de gênero a partir de plataformas de gigantes da tecnologia como

a curva a ibm e microsoft as taxas de erro por altíssimos para mulheres negras cerca de 35% enquanto que homens brancos na família cerca de 1% nem mesmo posto de mulheres negras econômicas famosíssimas como o michelle obama a outra ou a serena williams foi identificado como seres humanos um outro erro grave do sistema aconteceu em 2015 quando o dispositivo de reconhecimento facial do flicker e do google reconheceu homens negros como chimpanzés e gorilas agora pensa na falta de inclusão com outras pessoas de comunidades minoritárias como pessoa sttrans ou migrantes em contextos adversos o reconhecimento facial

já é uma realidade em muitos contextos em muitos lugares você não precisa na china pra você ver o reconhecimento facial sendo misturado a uma dinâmica de controle social o uso de reconhecimento facial a justificativa da segurança já foi utilizado esse ano nesse carnaval 2009 em salvador e no rio de janeiro carnaval que atrai milhares de pessoas e você sabe que a segurança é fundamental para o sucesso da festa todos os anos a gente tem visto a tecnologia sendo utilizada como aliada e agora em 2019 pela primeira vez a gente vai ter o uso de câmeras

com reconhecimento facial no carnaval sem o recurso tecnológico que deve ajudar o trabalho da polícia nesses dias de folia anderson nascimento vai conhecer-se esther em são paulo já tem um projeto de implementar e três linhas do metrô câmeras de reconhecimento facial então gente para treinar esses algoritmos para pegar as máquinas é importante a gente batalha pela inclusão de dados mais representativos na forma e isso demanda engajamento demanda engajamento dos líderes da indústria de tecnologia demanda engajamento de pesquisadores de políticos do governo e nós da sociedade civil daí a importância de aprimorar esses algoritmos de forma

que ao invés deles reforçar estereótipos eles nos ajudem a combatê-los essa ação passa pelo debate dos temas que o que está fazendo aqui mas passa também por uma maior representatividade na indústria tecnológica e pra isso a gente precisa sim poderá a gente precisa estudar e aprender e passar o conhecimento adiante com todo esse contexto em mente eu quem pensa em fazer um projeto que vocês ferimentos vai ser a primeira vez que vou fazer isso espero que vocês me ajudem eu acho que vai ser muito massa vamos testar um desses algoritmos a minha ideia é fazer

isso junto com vocês então a partir de um próximo vídeo eu vou começar esse projeto do zero com vocês a aprender introduzir vocês ao mundo na programação para quem não conhece apresentar a vocês ao beach hang que essa plataforma de comunicação esse repositório maravilhoso que é tá cheio de projetos open source projeto aberto pronto para ser baixado testado nos ensinar vocês também a baixar uma linguagem de programação a instalar é começar o programa de fato ea baixar essas aplicações e conseguir testar elas de forma que a gente consiga aprender um pouco na prática botar um

pouco a mão na massa esse tipo de conhecimento que explode a cabeça depois que você conhece tem muita gente que acha que computação é uma coisa muito complexa e tecnologia não é uma coisa pra ela tem muita gente que ainda está preso nessa parada de ser de humanas ser de exatas e biológicas ou sei lá o quê nossa e gente quando quebrar essa esse estereótipo a gente tá aqui pra quebrar essas barreiras que nossas fronteiras eu quero mostrar pra vocês que mexer com a tecnologia de forma avançada não é um bicho de sete cabeças então

que precisar ser só para começar esse projeto comigo se tem uma coisa que a gente tem aprendido que ele injustamente é que conhecimento e tecnologia é poder fique atento às notificações de inscreva no canal e atinge o cilinho que você assista esse vídeo na época do lançamento sigo digitalmente instagram porque é lá onde eu comunico melhor de como lico com mais freqüência com vocês lá onde eu compartilho mais idéias compartilho reportagens é projetos que o beijo e bacana que tem tudo a ver com a gente além de produzir conteúdo exclusivo para a rede social e

compartilhar sempre o podcast pular podcast que está disponível no esporte fae e vários vereadores e aplicativos de busquets por aí também mais espero que vocês tenham gostado desse vídeo no link góes eu fico por aqui abraço