Inteligência Artificial e Direito - parte 3 - algoritmos são neutros?

o olá olá pessoal eu sou o de brito machado segundo e esse é mais um vídeo da série dedicada a inteligência artificial e aos reflexos dela sobre o direito e vice-versa as relações da inteligência artificial com o direito os dois vídeos anteriores tratamos de aspectos introdutórios conceituais fundamentais necessárias à compreensão das questões que serão lançadas nos vídeos seguintes no vídeo de hoje já vamos começar a tratar das relações da inteligência artificial com o direito no curto prazo o os assuntos serão tratados de forma cronológica a divisão é feita no curto prazo no médio prazo do

longo prazo como explicado nos vídeos anteriores então primeiro nós terminaremos os reflexos da inteligência artificial sobre o direito e vice-versa hoje já no curto prazo que acontece nos e para depois falar do que está no horizonte para daqui a pouco tempo no médio prazo depois para um futuro e não se sabendo muito quando chegar a mas que será um pouco mais distante tão curto médio e longo prazo no vídeo de hoje começaremos já vai atrás de um aspecto ligar o curto prazo ligado o que acontece hoje mas ainda tratando de aspectos conceituais importantes era um

vídeo e transição de uma etapa para outra etapa desse entre aspas curso a respeito desse assunto eu fiz os astros porque eu não sou professor de inteligência artificial e nem desse assunto em torno do qual só apenas como dizia em um debate com professor paulo caliendo alguns dias só apenas um curioso e interessado no assunto mas compartilha que algumas reflexões para que outros curiosos e outros interessados possam também compartilhar suas inclusive usando a caixa de comentários então quê que nós vamos tratar no vídeo de hoje quem são os algoritmos e já estando esses algoritmos em

uso se eles são neutros e caso eles não sejam neutros do que nós podemos fazer para evitar que eles creem o que eles incrementem preconceitos tão primeiro definido algoritmo que foi um conceito já mencionado em vidas anteriores mas não se preocupou ainda ainda uma definição algoritmos basicamente são fórmulas ou receitas de uma forma muito simplificada mas poderíamos definir qualquer receita qualquer passo a passo como um algoritmo então exemplificando uma receita de um bolo de banana como fazer um bolo de banana e aí nós temos aqui aparecendo uma receita para elaboração de um bolo de banana

e isso é o algoritmo no sentido muito amplo que se pode dar a palavra porque nós temos aí no fórmula diante da qual nós podemos ter um input que são os ingredientes que é o calor do forno que é a mexida que se vai dar na massa então tudo isso ao into esse input esses ingredientes vão passar por transformações por processamento que serão feitos pelo cozinheiro que executará o algoritmo e o áudio putz será o bolo de banana então uma forma muito ampla e isso é um algoritmo mas os algoritmos são coisas bem mais sofisticadas

do que isso essa definição mais simples era só para que se entenda melhor do que que nós estamos falando mas os algoritmos são assim receitas fórmulas só que muito mais complexas que envolvem fórmulas matemáticas muito mais complexas e que são feitos para serem executados por com o que vamos fazer esses cálculos matemáticos rapidamente para chegar a resultados que se que vão seguir objetivos que vão visar atingir objetivos que foram pensados por quem fez os algoritmos então isso já nos conduz à ideia de algoritmo inclusive queria que já deixar também a indicação de outro livro além

dos fim de que nos vídeos passados que é o livro de margaret boden inteligência artificial a sua natureza e o seu futuro esse livro é particularmente interessante porque a autora é professora de ciências cognitivas da universidade de sussex no reino unido e ela dizia ela conseguiu montar nessa universidade o primeiro programa acadêmico em ciência cognitiva e ela tem graduação ela tem grau em medicina e filosofia e psicologia e integra esses três saberes no estudo da inteligência artificial que como mencionei em vídeos anteriores é um ramo que se beneficia tal como a neurociência da interdisciplinariedade nós

estamos estudando como a mente funciona e como replicá-la então isso dialoga com a hermenêutica dialoga com a neurologia para ajudar como a estrutura física do cérebro no diálogo com a psicologia que trata do self do software do nosso cérebro enfim todos esses ramos do saber dialogam e como diz eric kandel que foi prêmio nobel de medicina por suas pesquisas sobre a memória webcam dell disse que a neurociência tem progredido muito exatamente por conta dessa interdisciplinariedade esses vários saberes estavam chegando à exaustão dentro do fechados dentro dos seus olhos dos seus campos e quando eles começaram

a dialogar os pontos cegos que havia entre eles começaram a ser esclarecidos e profissi é bastante expressivo para todos eles com esse diálogo então esse livro é relevante por isso e ele tem muito boa a parte conceitual a parte histórica da inteligência artificial inclusive refere com riqueza de detalhes que a primeira programadora da história foi uma mulher a inclusive um belo vídeo feito pelo google em trata disso vai aparecer aqui no card um belíssimo vídeo feito pelo trato desse desse assunto do papel das mulheres na ciência mas o aspecto pitoresco do livro é essa parte

histórica e relata também como ada lovelace foi ainda no século 19 em si mesmo já existe o computador se se quer chorar você se projetavam computador a época e o computador que já se falava que poderia ser feito ela está se encarregou de fazer as formas que esse computador executaria e foi portanto a primeira programadora da história e isso refiro apenas para mencionar algo relacionado aos sim mas qual seria a relação dos algoritmos com a prática para já ser tratada no vídeo de hoje que esses algoritmos essas fórmulas matemáticas que os computadores executam e aplicam

para atingir objetivos que eles são indicados pelos programadores pelos autores dos algoritmos eles não são neutros existe um mito da neutralidade algorítmica como é uma máquina que não tem preconceito computador ele não tem preconceito de acordo com a nacionalidade do sujeito ou consultar que dele ou com a cor da pele ou com orientação sexual então o computador vai fazer julgamentos neutros imparciais e portanto assim nessa condição mais justos essa ideia talvez seja um mito os algoritmos não são neutros e aqui e já aproveite para fazer outra indicação que é um curso que existe na internet

no youtube chamado collins do check-in date é feita é um curso com tráfico que mescla aspectos de ciência da computação de oftalmologia de metodologia científica de lógica uma série de conhecimentos são explorados de maneira interdisciplinar inclusive o curso é dado no contexto de uma de uma faculdade de biologia mas e um dos autores é autor de ciência da computação um dos professores e o outro é biólogo e nesse nesse curso a um momento a um dos episódios do curso ele fracionaram as aulas em vários pequenos vídeos cada vídeo é um episódio do curso e modela

se chama gabba gabba in garbage out significa numa tradução literal se entra lixo sai lixo e essa aqui é a ideia do de dentro e do processamento feito por algoritmos seus dados dos quais o algoritmo parte são enviesadas o resultado será enviesado também e os algoritmos eles partem primeiro de um modelo do mundo que é feito pelo programador a gente voltar para o exemplo da receita do oi mana quem fez a receita do bolo de banana tem uma imagem do mundo e de o que seria um bolo adequado quando a pessoa indica a quantidade de

açúcar que deve ser usada a quantidade de farinha quantidade de fermento a quantidade de banana a pessoa tem uma imagem do mundo de qual seria o bolo de banana ideal como ficar um pouco de banana mais agradável ao paladar para as pessoas que vão comer esse bolo de banana depois da mesma coisa com quem faz qualquer outro tipo de algorítimo a pessoa tem uma ideia de mundo tem uma imagem do mundo e tem um objetivo também que ela pretende alcançar e os dados que vão ser colocados os dados que vão ser usados para alimentar o

algoritmo também vão definir a qualidade do resultado então por melhor que seja a sua receita de bolo de banana se você for usar uma uma farinha estragada velha se usar uma ínfima banana que já não estava bom banana muito verde ainda eu vou para de banana vai ficar o meu adstringente então é claro que a qualidade dos ingredientes vai definir a qualidade do resultado lote pude vai ser contaminado por um produto de má qualidade a mesma coisa vai valer o algoritmo também então apenas como exemplo eu queria trazer aqui algumas impressões é e que revelam

já um enviesamento de um algoritmo que todos nós usamos o nosso dia a dia que é o google translator todos usam o google translator mesmo quem não quer admitir o mesmo quem é muito fluente no inglês mas se tem um texto em alemão se tem um texto italianos quer mandar uma mensagem para um amigo francês e que ter certeza da grafia ou da pronúncia ou da escrita de uma palavra todos os anos o google translate o tempo todo é uma ferramenta excelente e ele passa por um teste nós podemos fazer um teste de neutralidade se

ele é ou se ele não é enviesado esse teste ele é feito pelos autores esse curso que eu mencionei o colo embu check in the end of cake e eles fazem uma experiência com o turco porque o turco é uma língua neutra e eles colocam uma frase que se faz alusão por exemplo a um médico ou a uma média que eles usam a palavra top top e verificam como aquela palavra vai ser traduzida e sempre que se fala de médico traduz como sendo o homem quando se fala de enfermeiro traduz pelo sendo mulher como sendo

a enfermeira e eles usou isso como exemplo de enviesamento do algoritmo mas o professor jorge mallmann está em lima que além de professor de direitos fundamentais e de pesquisar superaprendizagem pesquisar uma série de outros aspectos ele também tem feito pesquisa sobre esse assunto sobre a neutralidade dos algoritmos e a possibilidade de eles servirão de ferramenta para discriminações ele adaptou a experiência e falou sobre isso numa live que fiz com ele algum tempo sobre esse assunto sobre a inteligência artificial e o direito e ele disse que fez adaptação para o português e usou como exemplo the

doctor o que seria a médica e o seu marido mas o google traduz por o médico e o marido então sempre que algumas palavras por exemplo doctor em inglês pode ser uma médica pode ser um médico mas existe uma construção social um enviesamento de que os do autor são homens são médicos agora quando aparece a palavra nos pode ser o enfermeiro pode ser uma enfermeira mas o google sempre estados por a enfermeira e é aproveitei esse exemplo no professor jorge e fiz algumas experiências com o google tradutor que vão aparecer aqui na tela e que

indicam esse enviesamento algoritmo em outros contextos temos por exemplo a palavra juiz se nós colocarmos no google mediante and rowan vai aparecer o juiz e o marido aí você pode dizer ah mas o que significa o enviesamento pelo se nós descrevemos escrevermos ai meu humano é um sub george em vez de ser traduzido como eu sou uma mulher eu quero ser juíza o computador travou expor sua mulher e quero ser juiz por que que a youtube adiante tem que ser traduzido por eu quero ser juiz por que que a irmã tragédias não pode ser traduzido

por eu quero ser juíza aí você pode dizer não mas o computador traduziu enfim mas e quando você coloca então a ema human ela é um sub adiante ele traduz sua mulher e quero ser juiz ainda sim continua no erro então isso mostra que existe um enviesamento do algoritmo machista de achar que os juízes tem que ser homens e não tô querendo que fazer nenhum juízo de valor quanto a ser a melhor ser juízo ou não você é melhor ser médico ou não você vem das enfermeiras isso era um enfermeiro ou enfermeira é melhor do

que ser uma médico o médico mas o fato é que o algoritmo entende que médicos são homens juízes são homens já em a enfermeira sá cursos são geralmente mulheres e isso se reflete na tradução que eles fazem que os algoritmos fazem então isso aqui aqui nós temos um exemplo de enviesamento algoritmo de um preconceito que aparece no uso de algoritmos porque garrafas em cavas alto os dados dos quais sobre os quais o a partir dos quais o algoritmo parte são as são dados que estão enviesadas e esse problema inclusive não é um problema recente o

aurélio ao dicionário aurélio teve um problema há alguns anos com o que seriam verbetes definições palavras nele definidos de maneira politicamente incorreta o aurélio teria palavras definidos de maneira politicamente incorreta isso é objeto de crítica ea defesa que os responsáveis pelo dicionário tiveram foi de que não o cenário que é preconceituoso é a sociedade que é preconceituosa e usa as palavras com aquele sentido o dicionário não é um legislador ele é um repórter ele tá dando umas pessoas usam a palavra é negro malandro enfim palavras que estavam paraíba palavras que estavam definidos no dicionário de

maneira preconceituosa adicionar visível preconceito não é meu preconceito de quem usa as palavras que eu estou reportando como são usados então talvez a mesma coisa pode ser dita inclusive o google translator não deixa de ser um dicionário ou de partir de um mecanismo que tem a mesma coisa espírito de um dicionário e isso reflete o que acabava de dizer e aí nós entramos em uma consideração epistemológica da maior importância as máquinas também vão partir de uma imagem do mundo elas precisam conhecer o mundo para processar o e chegar a conclusões diante desses dados e o

acesso que elas terão a esse mundo será sempre precário no caso dos seres humanos nós fizemos e obrigado pelos sentidos pela linguagem pela nossa cognição um que são todas elas intermediários imperfeitos a mesma coisa acontece com as máquinas que ainda contam com o fato de que os dados que são alimentados dos quais elas são com os quais eles são alimentadas são dados que estão dados são fornecidos por seres humanos então haverá aí necessariamente um enviesamento e aí você pode então perguntar o que fazer abolir o uso de algoritmos deixar de usá-los deixar de fazer de

recorrer a eles vamos agora dar uma de né o nudista e vamos queimar os computadores e apagar os algoritmos e vamos voltar a fazer tudo na máquina de escrever com caneta tinteiro não mas nós precisamos ter atenção para isso para que eles são falíveis esse é um aspecto ao qual nós voltaremos em vídeos posteriores vídeos posteriores nós trataremos de vários outros assim oi sasá falhas de algoritmos que já existem já existe inclusive um precedente que gabi eu versus armstrong no qual o judiciário americano declarou inválido um algoritmo ou uso de um algoritmo pela administração pública

estadunidense trataremos desse de outros aspectos os próximos vídeos se tiver interesse acompanhados não se esqueça de se inscrever no canal e curtir esse vídeo e de usar a caixa de comentários para dizer o que pensa a respeito dessa e de outras questões até os próximos vídeos um e aí