Inteligência Artificial, a ponte para uma sociedade mais (des)igual? | Pedro Saleiro | TEDxPorto

[Música] [Música] artificial é uma área da ciência de computadores que tem como objetivo criar sistemas software que sejam capazes de realizar tarefas que geralmente precisam de inteligência humana tal como uma percepção visual o reconhecimento da fala o processamento da linguagem ou a tomada decisões nos últimos anos temos vindo a assistir ao lançamento de ferramentas e inovadoras como dale que até é considerado uma nova forma de arte ou recente sucesso mundial o sistema de pergunta e resposta que até poesia original é capaz de criar mas não interagimos apenas com estes ferramentas que geram texto ou imagem

a inteligência artificial está praticamente presente em todos os aspectos da nossa vida na educação emprego da Saúde da Justiça os serviços financeiros ou até mesmo no amor sou capaz de arriscar que são centenas Às vezes quem interagimos com este tipo tecnologia todos os dias basta pensarmos quantas vezes pegamos de smartphones a câmara fotográfica reconhece a nossa Face tira fotografias com qualidade profissional o e-mail os mapas sistemas navegação as redes sociais todos as nossas transações bancárias são processadas por sistemas de extensão de feral para nos proteger da criminalidade financeira Inteligência Artificial a ser utilizada para desenvolver

novos formatos e vá assinas e tratamentos personalizados os benefícios atuais e Futuros são imensos no entanto ainda há muitos receios sobre o impacto da inteligência artificial no futuro da humanidade se esta não for desenvolvida para alinhar com os nossos objetivos com os valores éticos e com os direitos humanos Então os riscos poderão separados benefícios a inteligência artificial aprende com base em dados que refletem os nossos hábitos E então existe o risco de aprender os nossos maus hábitos e diz perpetuar através da automatização Imaginem que vocês trabalham numa empresa onde os homens são muito mais rapidamente

promovidos que as mulheres Espero que esteja apenas imaginação a utilizar inteligência artificial para selecionar em candidatos a vagas de emprego e definirem como sucesso que os bons candidatos são aqueles que foram selecionados no passado e foram promovidos rapidamente já estão a ver que vai acontecer acabaram de automatizar a discriminação de gênero no trabalho é um risco real automatização da discriminação e como em vez de serem pessoas estamos a usar este sistemas que atingem muita mais gente há o risco de amplificar a discriminação que existe e isto não é apenas um exemplo hipotético os Estados Unidos

algoritmos são utilizados em 60% dos tribunais para decidir quem fica em prisão preventiva ou o valor da ciência estudos mostraram que um desses algoritmos um dia duas vezes mais erros contra pessoas negras de que contra pessoas brancas queria te dizer que o algoritmo é racista ou sexista os novos não o algoritmo Não é nada disso por si só logo aprende as tripa padrões dos dados que nós humanos de passamos e apenas otimizar as métricas que nós humanos definimos como objetivo É por isso a nossa responsabilidade dos humanos o impacto da Inteligência Artificial na sociedade de

todos nós e não apenas das multinacionais de tecnologia ou dos governos parece mais fácil falar do que fazer mas vamos ver como é que podemos contribuir para a ponto certo o primeiro passo e fundamental é a educação e até antes de sabermos o que é que é a inteligência artificial devemos saber o que não é não é o Exterminador Implacável não está cá para destruir não tem sentimentos por mais que está tipo possa ser humano eu sei que o próprio termo em si E causa muito mas não deve ser um tópico apenas para cientistas ou

gix ou Engenheiros eu não preciso ser engenheiro mecânico para saber conduzir um automóvel de forma segura Há muitos recursos online há livros até toques após vedações e para os mais novos aqui na Universidade do Porto existe uma licenciatura em inteligência artificial desenvolva um curiosidade experimentem o chat repetir novas ferramentas que vão surgir segundo passo elas envolvemente sentir sem Inteligência Artificial ainda não chega aos vossos organizações vai chegar mais cedo ou mais tarde sejam capazes de questionar perceber como foi treinado avaliar o impacto automatização de processos evitem o viés de automação O fenómeno cognitivo em que

nós humanos acabamos de confiar muito mais na máquinas do que nos parecer outros elementos quanto mais pessoas perceberem como funciona como foi treinado e desenvolvida e avaliar em seu impacto mas garantias temos que está desenvolvida de forma que nos o terceiro passo é mais coletivo é preciso mais regulação e mais Transparência se não Consegues medir não Consegues melhorar em Portugal não há cultura da partilha de dados por grupos demográficos raciais enquanto não formos capazes de avaliar e divulgar esses dados não conseguimos medir estamos a caminhar na direção certa a regulação e a legislação por livre

a discriminação um acesso à crédito emprego com base no género na etnia na região unidade no entanto existem tantos dados sobre nós e nós comportamento que acaba por ser possível discriminar de forma indireta por exemplo um exemplo que eu dei das candidatura da vaga de emprego informações como os esportes que nós praticamos as escolas onde estudamos o sítio onde moramos podem estar relacionados com o nosso estatuto socioeconômico com o nosso gênero e até com a nossa enquanto não nos preocupamos em medir o impacto da automatização dos processos O problema vai substituir por fim o último

passo é mais investimento no desenvolvimento de Inteligência Artificial responsável uma nova área de investigação que tem como objetivo desenvolver algoritmos que não otimizem apenas a utilidade ou performance mas também a equidade a segurança a transparência a privacidade à medida que nada as ferramentas surgem novos desafios também vão surgir é porque é necessário continuar a investir neste tipo de Tecnologia eu sou homem sexual nasci em Portugal Tem passaporte português tem uma fisionomia e um tom de pele perfeitamente normal em Portugal mas já foi Imigrante Já percebi que nos sentimos muito mais vulneráveis quando os outros a

percebem que nós somos ligeiramente diferentes nosso sotaque que afinal não é assim tão branco agora pensem em todos os grupos que já hoje em dia são vítimas são as origens africana Imigrantes brasileiros indo-os muçulmanos pessoas mais velhas pessoas que não sabem falar inglês mesmo se vocês se sintam parte da maioria confortável mas chega ou mais tarde em algum momento da vossa vida vocês poderão vir a ser vítimas do conceito e da automatização das discriminação estamos no momento crucial de viragem ou utilizamos a inteligência artificial completamente sem controle sem regulação e automatizarmos muitos aspectos da nossa

vida acabaremos para amplificar a discriminação aumentando ainda mais desigualdades ou então ainda vamos a tempo de aproveitar esta oportunidade para derrubar barreiras e para criar uma ponte para uma sociedade mais Próspera mas também mais inclusiva e mais equitativa muito obrigado [Aplausos] [Música] [Música]