Implicações éticas e sociais da inteligência artificial - Marcelo Finger - USP Talks #48

[Música] bom muito obrigado é um prazer enorme está aqui com vocês falando sobre inteligência artificial na verdade eu já faço isso há 30 anos eu sou uma pessoa que está de dentro da área e eu preciso dizer se vocês estão surpresos com o desenvolvimento da tecnologia nós que vivemos todo esse processo estamos mais surpresos ainda estamos chocados e alguns de nós estão horrorizados tá a gente começou a trabalhar na área numa época em que falar de tecnologia era basicamente discutir os aspectos técnicos e hoje em dia os aspectos éticos gritam tanto que é impossível a

gente deixa-los de lado então quando a gente apresenta um curso introdutório de Inteligência Artificial o processamento de linguagem ou que quer que seja que está envolvido na área na primeira aula a gente tem que falar de ética tem que falar de ética ao longo do curso inteiro e quando termina Fala aí não esquece da ética tá é o tempo todo isso aqui então a coisa impressiona Mas então o meu ponto de vista é do ponto de vista de quem tá dentro da área produzindo e assistindo participando dessa evolução Então eu queria pegar o gancho aqui

da da Dora ela começou a falar das coisas que diferenciam a inteligência artificial porque que é uma coisa completamente diferente eu querendo ver como é que eu lido com as coisas da Inteligência Artificial eu começo com gancho de o que que ela é semelhante a tudo que como é que nós podemos interagir baseado naquilo que nós já sabemos lidar com a tecnologia então uma das questões que a gente pergunta é como é que eu posso usar essa tecnologia ao meu favor e como é que eu posso me defender do Mau uso dela toda a tecnologia

tem um bom uso e um mau uso ela não é nem boa nem má por si são os usos da tecnologia que bom é afetando a gente de um de um jeito ou de outro Então como é que a gente faz um bom uso da tecnologia ah da Inteligência Artificial bom todas as tecnologias que apareceram até hoje e as as violentamente revolucionárias por exemplo a escrita são tecnologias que vieram para suprir algum defeito alguma limitação da cognição humana então toda vez que a gente usa a tecnologia para complementar as nossas habilidades essa é uma tendência

de um bom uso da tecnologia e faz com que a tecnologia permaneça Então se a gente vai no caso da Inteligência Artificial já existem experimentos mostrando que as pessoas trabalhando com inteligência artificial elas podem aumentar a sua produtividade Então em vez de eu chegar sei lá numa repartição pública abrir o diário oficial começar a sublinhar aqueles que que no Diário Oficial as partes que podem ser de relevância ninguém pode estar pronto de manhã cedo todo dia pela Inteligência Artificial E aí eu começo a ser mais produtivo trabalhando em cima daquilo que já foi pré selecionado

como importante obviamente tirou o trabalho da pessoa que pegava a caneta amarela e riscava essa parte é importante não é tirou mas essa pessoa agora ela vai ter que ser trabalhar em cima da análise nós vamos ter que produzir muito mais uma boa parte do trabalho já vem pronto e empacotado pra gente fazer tá então existem outras experimentos que mostram por exemplo que o uso da tecnologia ele é melhor do que só a tecnologia ou só as pessoas o caso clássica do xadrez fizeram um campeonato de xadrez aberto livre pra todo mundo pode vir o

super master clássico de xadrez pode vir um programa treinado para xadrez ou pode vir aquele cara que joga xadrez muito bem mas ele joga acompanhado da máquina tá ele além de conhecer bastante o xadrez ele conhece como é que usa uma máquina a favor dele e nessas categorias híbridas quem ganha quem tem ganhado Ultimamente é o homem com a máquina Então a gente tem uma forma um caminho aí de vamos usar a tecnologia para complementar as nossas limitações obviamente isso passa por um processo de Treinamento ou até de Formação a questão da educação ela é

inescapável se a gente não investir em educação não tem como usar uma tecnologia para o bem ou só para o bem aí vem o problema do da da questão da tecnologia para o mal como é que a gente por onde a gente começa tá tem uma série de discussões ah ocorrendo mas eu gostaria de primeiro entender o que é que tá acontecendo muitas das tecnologias elas podem ser usadas da forma pessoal chama inadequada eu eu queria apresentar aqui ponto de vista de inteligências nós lidamos com as inteligências das pessoas o tempo inteiro tá as pessoas

são inteligentes a gente não tá discutindo isso mas elas nem sempre são competentes existem pessoas que são competentes e algumas áreas e são incompetentes em outras e com essas inteligências artificiais estão aparecendo a gente também precisa aprender a distinguir esse tipo de coisa se você pega um chat GPT e utilizar essa tecnologia pra geração de texto ah eu tenho uns memorando aqui tá aqui uns bullets preenche para mim ele preenche ser sua complementa dar uma olhada vê se tá bom isso aqui você foi muito produtivo agora se eu usar o chat GPT como um oráculo

achar tia PT me me fala aqui quem é o professor Marcelo ele pode falar professor Marcelo é não sei o quê Pode falar uma coisa completamente absurda porque ele não tem nenhum compromisso com a verdade fala ah o professor Marcelo é um grande bailarino ele dá as piruetas triplo mortal de costas são coisas para as quais eu não tenho nenhuma competência Mas não é isso é uma questão é que o chat dele não tem a competência de ser um oráculo ele não foi treinado para isso ele foi treinado para gerar texto tá inclusive um estudo

bastante recente ah Quando surge essas essas novas tecnologias tipo chat GPT de geração automática de texto surgem ao mesmo tempo gente querendo detectar fazendo Tecnologias para detecção de Será que o o texto foi gerado por humano e por ou por pela máquina e essa essa tecnologia eu vi um estudo recente de é sete detectores diferentes eles são completamente incompetentes porque eles não sabem detectar o texto gerado diferenciar O que é um texto gerado pelo uma máquina do que um texto gerado por um não nativo da língua no caso a língua no caso foi o inglês

então se você treinar esses esses programas para falar foi foi máquina ou foi gente você dava um texto gerado por alguém que é que não era nativo da língua ele muitas vezes é gerava dava a resposta errada considerava um texto gerado por uma pessoa só porque ela não é Nativa como uma um texto gerado pela máquina tá então ele é incompetente para fazer aquilo que o a pessoa diz que ele sabe fazer que ele diferenciar texto gerado por pessoas e máquinas ele é ele está fazendo outra coisa ele tá verificando se o a riqueza vocabulário

tá fazendo uma coisa mais fácil ele tá aprendendo a verificar na verdade se o texto foi gerado por um nativo do Inglês ou por um não nativo do inglês no caso chat GPT é um não nativo do Inglês então ele foi distorcido influenciado pelos vieses que estão envolvidos na na no treinamento na geração do de um detector então ele não é competente e em geral também a gente não quer ser lidado por inteligências não competentes se você vai fazer um exame de sangue você quer que a pessoa tenha sido treinada está está bem habilitado para

chegar lá pra pulsar sua vez tirar o sangue não alguém que lá fica cutucando te deixa quando toma no braço você não aceita tá você não aceita esse tipo de ah de inteligência lidando com uma coisa que elas não que ela não tem competência para fazer então eu acabei de criar um novo uma nova profissão do Futuro que é a de verificador se determina mais inteligências tenham ou não a competência para realizar uma determinada função da mesma forma como as Universidades formam pessoas e você vai alguém para ser enfermeiro por exemplo precisa passar por um

um curso de técnica de enfermagem ou para uma faculdade de enfermagem alguma outra coisa parecida com isso você não vai aceitar um programa só porque ele disse que sabe diferenciar gente de máquina sem passar por alguma forma de teste alguma forma de validação para garantir que aquilo que ele diz que faz é realmente o que ele faz e não ele tá indo por caminhos tortos por causa dos vieses que ele não percebeu ele não tomou conta então a gente não deve aceitar qualquer inteligência como competente só porque ela diz que sim nós precisamos nos defender

então é aprender da mesma forma que a gente vem lidando com inteligência já há bastante tempo a gente vai ter que dar um jeito de lidar com as inteligências que estão aparecendo também com precauções porque só porque é inteligente não é competente tá E então então já falei que nós temos que usar a tecnologia para nos complementarem isso é um bom uso a gente tem que se defender tão uma proposta aqui de defender nem tudo que é inteligente é competente e as inteligências que aparecem aí não são nem oráculos e nem incompetentes para todos que

ela fazem E aí eu pergunto bom E essas inteligências artificiais a gente tá na mão das grandes empresas que é um grande medo agora a Google a Microsoft vai me dominar e Uma das uma das coisas que que a gente ficar com a impressão é que a inteligência artificial é uma coisa só dessas Big tags dá cinco grandes sei lá Apple Google Microsoft Facebook meta e Amazon mas na verdade tem um monte de dados por aí em que a gente pode usar usá-los para o bem primeiro precisa conseguir dados bons e de qualidade é uma

coisa muito difícil de conseguir então só porque o mundo tá cheio de dados não quer dizer que os dados são bons são de qualidade eu dou para fazer qualquer coisa então o a a conquistar os dados que estão por aí e conseguir programas que talvez não usem a última tecnologia Pode usar a penúltima tá e consigam lidar com dados de menor quantidade mais de boa qualidade este pode ser um uma forma de produtores de dados de menor qualidade também utilizarem a inteligência artificial E essas técnicas que estão por aí não ficarem só nas mãos das

Big tags Então hoje em dia sei lá processos industriais qualquer Industrial sei lá a indústria de calçado indústria Madeireira indústria cimentícia Sei lá uma série de indústrias que nós temos por aí essas indústrias produzem dados o processo Industrial dessas dessas indústrias tomar conta que os dados agora tem grande valor e eles precisam eh explorar para fazer predições e melhorias de produtividade etc no seu na sua utilização então deixar de de falar a indústria a inteligência artificial é só uma coisa dessas Big tags ela pode ser criada e instanciada em menores tamanhos principalmente pra indução da

saúde tá tanto para saber quantos e quais e onde estão os doentes previsão de demandas e e detecção de oh surtos de determinadas tipos de problemas isso tudo pode ser feito usando com sabedoria os dados que estão sendo gerados o tempo todo em determinados processos e que muitos deles não estão em Domínio Público tá um dos dados de saúde são muitas muitas deles é gerados localmente Essa é proibido até de de divulgar uma série desses dados outras coisas estão em domínio público e outras coisas combinam dados é de gerardomínios pequenos com dados públicos dados do

IBGE dados de determinados órgãos do governo e aí a gente pode fazer utilizar estes dados de forma positivamente então aqui então nós temos uma forma de escapar das Big tags é usar pequenos dados tá para fazer tarefas específicas de cada uma das Indústrias Então o que eu queria dizer é bom é a gente não está vendido a gente precisa se defender do do uso pelos grandes fazendo uso nos pequenos fugir da se entregar tá falar ah não Todo mundo vai usar o chat gptm não sei se você sabem já existe um chat GPT similar em

domínio público para treinar tá chamado lama que foi disponibilizado publicamente acho que faz uma ou duas semanas só o pessoal que tava que é da área já já brincava com ele há algum tempo atrás então nós temos uma série de ferramentas sendo disponibilizadas tá e como eu falei o fato que a gente tem a ferramenta disponível não quer dizer que qualquer uso é isto que qualquer uso pode ser é aprovado só porque dá para fazer é muito importante e até as grandes empresas pelo menos estão declarando eu não sei com que sinceridade que elas estão

declarando que elas querem normas regras e Marcos Exatamente porque hã enquanto não houver uma uma regra externa tudo que elas fizerem pode ser criticável se houver uma regra externa elas falarem eu estou dentro da regra elas conseguem dentro desenvolver modelos ah dentro dessas dessas regras e para poder é ter uma agenda positiva de propositiva de inteligência artificial em vez de só ficar se defendendo das acusações e dos ataques que tem por aí não que essa acusações do ataques vão diminuir mas pelo menos tem uma uma defesa boa de eu estou agindo dentro da Lei existe

uma lei para isso então acho que a gente chegou teve uma evolução violenta entre não vamos regular ou temos que regular que até as grandes empresas já estão começando a aceitar estou começando a pedir regulação que aconteceu se eu não me engano na semana passada tem a coisa é muito rápida muito violenta a gente começa a violeta no sentido de ter muita informação o tempo inteiro ficar Correndo Atrás dela se manter bastante difícil para quem é da área imagina para quem é de fora tá Então essa é a o meu papel ou a inteligência artificial

ela pode ser usada para o bem a gente tem que se defender dela para o mal a gente pode se basear nos usos e nas relações com coisas inteligentes para ver como é que essas coisas fazem inteligência não quer dizer competência e a e a inteligência artificial não deve ser monopólio só de Big tags ela pode ser usada por todo mundo que tem ou que produz ou que tem acesso a dados de relevância para fazer muito obrigado [Aplausos]