Unknown

[Música] Boa noite a todas todos e todes bem bem vindos ao ouvindo vozes 2024 esse programa que procura ouvir as vozes que Ora voci feram ora murmuram na cidade dos discursos eu vou fazer minha autodescrição eu sou Ana Laura Prates Eu sou uma mulher de pele clara cabelos castanhos Claros encaracolados tô vestindo uma camisa azul Clara e uso óculos óculos redondos e atrás de mim tem uma parede de madeira pintada de branco com janelas de madeira eh hoje estreando aqui o ouvindo vozes de 2024 nós temos eh uma convidada muito especial para falar de um

tema mais especial ainda a gente vai conversar sobre a famosa e polêmica inteligência artificial como vocês sabem alguns eh idolatram outros end demonizam e o que a gente precisa na verdade é desmistificá-la e entender o que isso significa e eh participar desse debate a respeito das implicações éticas políticas econômicas e etc na nossa sociedade então para isso eu convidei eh a d Kaufman que é uma especialista em Inteligência Artificial Ela é professora do programa de tecnologias da inteligência e design digital da PUC de São Paulo é doutor em mídias digitais pela eca na USP com

estágio sanduí na universit Paris sorbon 4 eh possui também eh dois pós-doutorados um na COP UFRJ e também no ti da PUC de São Paulo é o de vários livros dentre eles a inteligência artificial irá suplantar a inteligência humana que é uma pergunta né recorrente aí e desmistificando a inteligência artificial esse aqui que eu tenho em mãos que eu recomendo muito a vocês que é uma coletânia de artigos ela é colunista também da época negócios e colaboradora do Globo e do valor econômico então Dora muito obrigada por ter aceito o nosso convite seja muito bem-vinda

ouvindo vozes eu vou pedir para você fazer sua autodescrição e a gente começa a papear bom Olá a todos super Obrigado pelo convite Eu acho assim para mim é sempre um desafio eh falar sobre inteligência artificial em folos distintos com outras eh outras abordagens né bom fazer minha descrição eu sou uma pessoa de pele clara eu tenho cabelo liso eh acho que eh eh eh marrom escuro não marrom não como se diz e e castanho escuro se diz exatamente eh eu uso óculos só para leitura ou então para interagir numa tela e meu óculos é

quadrado preto e eu tô vestindo uma camisa preta e é isso obrigada Dora a gente tá vermelho sim eh bem então Começando aqui né n e eu enfim li o seu livro com muita atenção muito cuidado tô muito interessada realmente nesse tema né e uma uma coisa que eu achei muito interessante assim que você comentou né num dos artigos é justamente uma afirmação que você fez que eu queria que a gente começasse por aí para um pouco para provocar e também para pras pessoas que né não são leigas e tal você diz assim que aí

a né a inteligência artificial não é nem inteligente nem artificial né eu achei muito interessante isso porque já de saída a gente toca nessa questão eh do de fato assim do que é eh a inteligência né da própria noção de inteligência né e também de que que negócio que é esse de artificial né que você diz né muito claramente ali no artigo que eh para desenvolvimento das dessas tecnologias a gente precisa de material natural né E aí a gente já entra também na discussão enfim que envolve várias questões né da ecologia da economia enfim da

exploração do trabalho e etc etc Então você podia acho que começar falando um pouco disso por que que a ia afinal de contas não é nem inteligente e nem artificial olha Eh te agradeço a pergunta eu acho que é uma boa introdução apesar de ser complexo e aborda uma infinidade de questões quer dizer primeiro Por que o campo da Inteligência Artificial como campo de conhecimento foi criado em 1956 com um evento específico e foi dado esse esse termo né para denominar o campo inteligência artificial tem várias estudiosos ao longo dos anos que do da da

época que questiona né o fato é que esse é o termo Universal eh como se se referencia o campo e ele traz confusões né porque exatamente a tendência das pessoas quando escuta a inteligência artificial uma máquina que é inteligência um sistema que é inteligência artificial é imediatamente também de comparar com as pessoas né você fala incia artificial e inteligência natural quando que assim ao longo da nossa conversa podemos voltar a esse assunto mas assim não tem nenhuma eh ponto de contato hoje ou de proximidade entre a o a capacidade cognitiva do ser humano né a

maneira como a gente funciona eh e e como que é esse sistema hoje que é apenas e eh Praticamente tudo que a gente tem hoje de implementação de inteligência artificial em todas as áreas se refere a uma única técnica não é assim o campo da Inteligência é uma técnica é uma técnica que chama Rede de negócios Profundas ou em inglês chama Deep learning ela chama reden Profundas Porque ela foi inspirada eh justamente no funcionamento do cérebro biológico né mas ela não reproduz a complexidade do cérebro biológico é só inspirada ela foi pensada na década de

80 e nos anos 2012 também num outro evento específico ela foi reconhecida e e a partir de 2016 17 ela começou a ser implementada em larga escala então é estamos muito dos primórdios Então essa técnica é isso é o modelo estatístico de probabilidade Então ela ela tem benefícios extraordinários que ela tá trazendo em várias áreas aliás em quase todas as áreas mas ela só isso né então o e eu acho é é mais interessante de a gente pensar assim eh o Célebro por razões óbvias é a parte do corpo humano mais estudado e é também

eu acho que também por razões óbvias é a que menos se sabe Então nós não Nós seres humanos não sabemos como exatamente funciona o cérebro humano Como é o processo exato de cognição o que que é a tal de consciência né onde é que ela fica como é que ela a gente não sabe como é que a gente toma a decisão Dizem os especialistas que só 20% das decisões a gente controla as razões né 80% É o tal do inconsciente as emoções Então se a gente a gente não sabe como exatamente a gente funciona do

ponto de vista de tomada de decisão de cognição como é que a gente pode ter a pretensão de nós criarmos uma máquina que se iguale a o ou o que tem equivalência de como a gente funciona se nós não sabemos como os seres humanos funcionam né então esse esse nome é confuso ele traz essa confusão aí se você pensar assim eh eh O que que é por que que não é inteligente aí também é uma enorme discussão o termo inteligência tem infinitas definições eu fiz para um capítulo de um livro recente eu fiz um levantamento

assim também a definição de inteligência são inúmeros tem milhares de definições né então tudo depende também o que como você tá conceituando a inteligência eh Então eu acho que essa discussão assim inteligente ela não é inteligente do ponto de vista da Inteligência humana o que que eu defino o que que eu defino não qual é a definição que eu me sinto confortável em relação à Inteligência é quando você define os seus objetivos e você age conforme os seus objetivos isso para mim é uma expressão de inteligência e essa máquina não tem isso esse sistema de

Inteligência Artificial os objetivos foram definidos pelos seres humanos ela ela não é neutra mas ela não tem autonomia né Então nesse sentido eh é esse questionamento e ela não é artificial ela é não é artificial pelo que você falou e muito mais hoje tem uma discussão por exemplo eu já escrevi algumas vezes sobre isso o o o tem um paradoxo em relação ao meio ambiente a questão da sustentabilidade para mim é a grande ameaça de fato que a humanidade tem hoje né Eh a mudança climática E qual é o paradoxo ao mesmo tempo que hoje

os estudiosos das mudanças climáticas tem o conhecimento que tem porque a inteligência artificial permite acessar um volume enorme de dados e e daí acan apanhar a evolução as mudanças climáticas e além disso permite otimizar uma série de de processos de de fabricação bom em suma inúmeros processos que reduz o impacto negativo mas qual é o paradoxo ao mesmo tempo ao fazer isso o sistema de inteligência artificial tem um impacto negativo no meio ambiente por quê Porque eles são sistemas intensivos e dados consequentemente usam muito processador de dados que usa muito energia que emite muito CO2

e também usa muita água para esfriar esses sistemas né então ele além da de todos os aparelhos né a gente pegar todos os aparelhos que a gente usa todas as a a o o hardware que a gente usa né o sistemas que a gente todos eles passam como você disse por uso de é o lítio bom uma série de de elementos naturais mas também tem o fato de que tem Impacto porque quando vai rodar o sistema ele não é do nada ele quando a gente fala assim um sistema virtual é um sistema maquínico não mas

ele se processa só o processamento de dados já tem uma um um link direto com a concretização com com o o físico né então eu acho que que é isso mas é eh hoje para mim o o tem tem vários eh eh especialistas que discutem essa questão se é inteligente ou não os sistemas de inteligência Aral para mim essa eu não acho que isso é muito importante essa discussão até mesmo porque eu disse que tem inúmeras definições de inteligência hoje se usa a palavra Smart né que é inteligência em inglês ou sbi para para configurar

assim eh para valorizar os objetos então Smart carros e Smart eh smartphone eh então você pode dizer qualquer coisa que é Smart virou uma espécie de adjetivo né assim para mostrar que tem uma tecnologia embutida Moderno agora eu acho que que é é é o debate importante no meu ponto de vista é entender a diferença entre o funcionamento o que que é um chat GPT por exemplo e e como nós funcionamos essa distância porque eh as grandes empresas de tecnologia elas estão numa as chamada bigtech Americanas né aqui no ocidente elas estão numa guerra eh

muito acirrada né é uma competição muito tóxica muito muito e e porque bom por razões também a gente volta aí se for o caso mas o que elas elas começam a elas vão ganhando terreno né elas tentam ganhar posição então alguns deles assim o altman da openi agora o Marx zberg da Meta Facebook eles começam a declarar que eles estão eh chegando perto de criar a tal da Inteligência Artificial geral que é essa que se guarda ao raciocínio do humano isso é falacioso é absolutamente f falacioso Isso é uma estratégia de marketing prejudicial eh além

de falaciosa é prejudicial confunde As pessoas faz um link com os filmes de ficção científica então parece que nós estamos perto disso e eu gosto de citar a da Melanie Griffin que é uma pesquisadora de Inteligência Artificial e ela ela faz uma comparação Ela diz que a mesma coisa dizer que a gente esses esses avanços recentes estão quase chegando à Inteligência Artificial geral é como dizer que alguém subiu numa árvore e já tá chegando num em Marte ela falou A distância é é é tão grande nesse sentido Ó alguém subiu na árvore Então já tá

quase chegando em Marte Então eu acho que a gente tem eh desde do Advento do chat GPT em 30 de de novembro de 2022 eh a inteligência um Hype então tem muita coisa sendo dita algumas contribui e outras eh só gera uma confusão mas mas não é simples separar né eu escrevi recentemente até no no valor econômico um artigo que eu falo isso eh não é simples para o leigo eh distinguir o que que contribui e o que que gera confusão mas em suma da sua sua questão é essa eh não é inteligente do ponto

de vista do que eu me alinho da definição de inteligência em relação à inteligência humana e não é artificial porque para ela existir ela conecta uma série de de e de físicos de de bens da natureza então ela não ela não é assim uma coisa etéria eh virtual assim só bits e bites como alguns querem fazer crer então um pouco isso Dora acho que tem dois aspectos que eu queria que talvez a gente desenvolvesse mais na na sua resposta que ficaram para mim assim como muito eh importantes né acho que um é o aspecto ético

que você levanta e o quanto às vezes como você disse assim as pessoas são ingênuas em relação a à ideia de de inteligência né que é interessante que em latim né Smart né em inglês mas em Latim intelig é ler nas Entrelinhas né etimologicamente então tem alguma coisa da Inteligência que não é exatamente a somatória do conjunto de Eh vamos dizer assim de informações disponíveis né como se fosse possível uma totalização eu acho que essa que é a ideia ingênua Talvez né de que se você consegue Eh vamos dizer assim e eh fazer todas as

conexões de do que se sabe Atualmente como se houvesse uma totalização do Saber possível né então é claro quer dizer isso que você tá dizendo ajuda né ajuda na medicina ajuda na informática ajuda na na biotecnologia ajuda em vários aspectos porque consegue vamos dizer assim eh fazer um conjunto de dados né que facilitam uma série de eh de coisas que demorariam muito mais tempo então tem essa questão da velocidade também né de você simultaneamente conseguir convergir uma série de informações Mas isso não significa que haja vamos dizer assim uma possibilidade de de de estabelecer uma

uma totalidade né de saber simplesmente pelo fato de que o Saber inclui o não saber né o não sabido ou seja eh a inteligência humana ela ela inclui a subjetividade ela inclui o desejo de saber inclusive né e o desejo de saber parte justamente do não saber então você coloca em jogo em cena me parece assim vários dos textos que eu li eh essa questão da ética né que tem a ver com com que você falou da tomada de decisão que implica toda a questão do ato né Toda a questão do ato humano né da

tomada de decisão implica numa questão ética ou seja em outras palavras implica na escolha né na eleição é é é essa ingenuidade que aparece né como se fosse possível você eh ter a escolha verdadeira né a gente tava falando um pouco nos Bastidores sobre essa noção de verdade ingênua que tá em jogo aí também né como se houvesse a verdade e com um conjunto de informações você conseguiria chegar no caminho ou na escolha certa né como se você pudesse tirar o que tem de subjetivo aí né Eu acho que esse aspecto é muito importante assim

é eu super importante vou vou voltar um pouquinho a traz até um pouco do que nós estamos falando antes do conversando antes do evento né O que é que eu acho assim fundamental entender a lógica da dessa técnica que hoje como eu disse permeia praticamente todas as aplicações éa o modelo estatístico de probabilidade Qual é a lógica dela o que que ela faz ela acessa grandes volumes de dados e ela busca padrões né então ela e ela ela busca assim ela é treinada né as palavras é difícil usar usar as palavras porque na verdade a

linguagem dos sistemas é a linguagem matemática e a linguagem a linguagem que nós temos é a linguagem do humano né E ela não se apli Exatamente porque não aprende como a gente aprende não é treinado como a gente é treinado nada disso se aplica exatamente mas o que que ela busca Então ela como eu tô dizendo ela busca padrões né então ela pega desse conjunto Extraordinário de dados que tem hoje numa sociedade hiperconectada que grande parte da nossa interação sociabilidade é feita ou por eh eh ambientes digitais como que a gente tá fazendo agora ou

através de dispositivo digitais a gente tá gerando dado todo o tempo então ela ela tem esse conjunto de dados e ela busca padrões então é como se fosse assim não é não é simples é muito mais complexo mas é como se ela fizesse um resumão do que já foi falado do que já foi escrito do que já foi dito do que já foi produzido deag ela faz um resumão Então ela tem eh nessa característica né Eh E por que também uma outra questão que eu queria comentar antes eh Por que que ela hoje a inteligência

artificial estratégica Por que que ela tá disseminando Por que que ela é a tecnologia da vez a chamada tecnologia de proposto Geral do Século XXI por quê voltando um pouco atrás como é que nós humanos organizações empresas instituições tomamos decisão Nós tomamos decisão evidentemente aqui é um espaço eh P análise de de pensar o ser humano né Mas claro que nós tomamos decisão grande parte por causa das emoções do tal do inconsciente tudo isso mas do ponto de vista racional quando a gente precisa tomar uma decisão O que que a gente faz a gente busca

informação sempre foi assim quanto mais importante a decisão mais informação a gente busca e assim funciona as empresas as organizações né quando você faz um planejamento com base de informações você faz previsão nos últimos 30 anos foi se desenvolvendo cada cada vez mais sofisticando cada vez mais modelos estatísticos para fazer previsões então isso sempre isso pelo menos eh eh muitos e muitas décadas é o modulos operante nosso das organizações o que que é o novo o novo é uma sociedade hiperconectado com número com volume Extraordinário de dados que é o Big Data Então essa técnica

que eu falei Rede de negócios profundos que é o modelo estatístico de probabilidade é única técnica estatística que é capaz de lidar com grandes volumes de dados né Então essa no na para minha Na minha percepção no meu ponto de vista é essa a razão de que ela é estratégica porque se eu sempre tomei decisão com base em informação e hoje eu tenho um conjunto Extraordinário de dados se eu tiver uma técnica que eu me permita extrair informação útil desse volume Extraordinário de dados tende não é certo mas tende a tomar eu tendo a tomar

decisões melhores né então todo esse funcionamento essa a implementação da Inteligência Artificial nas várias tarefas vários setores é nessa direção é extrair informações de grandes volumes de dados e fazer previsões eh dentro da tarefa do propósito de cada um então mas aí então é é isso é é isso é disso que se trata quando a gente tá falando hoje de Inteligência Artificial Então essa técnica como ela busca padrões ela ela ela tem duas tem duas eh eh tem tem quatro categorias que eu gostaria de comentar e ela a diferença imitação e inovação e a diferença

entre inédito e criativo né então ela ela imita porque ela busca padrões mas ela não é ela não inova né então ela em nenhum aspecto Ela traz alguma coisa inovadora né E ela Ela traz eh textos por exemplo se a gente pegar a categoria porque essa técnica ela tem duas categorias a i a preditiva e a i a generativa a a grande diferença é que na ia generativa que é o caso do chat GPT ele ele sintetiza como é o termo técnico imagem som e texto e código né então quando ele cria um novo por

exemplo chat GPT ele cria um texto é um texto inédito que nunca foi criado nunca existiu aquele texto mas ele não é criativo também é toda uma discussão o que que é se é criativo ou não mas na minha e percepção de criativo é quando você você eh gera alguma coisa que adiciona valor ao que já existia né então eu eh a imagem eh eu não sei se a imagem congelou Deixa eu perguntar para você tá me ouvindo agora eu voltei a ouvir mas você tava congelada então não sei se Oi Dora tá me ouvindo

agora tô Ah sim agora voltou é tinha desconectado Então mas eu tá dando para ouvir eu acho que eu coni Eu acho que só você que congelou eu acho Ah então tá então pode continuar então então um chat GPT quando ele eh eh como eu tava falando como ele gera um texto é um texto inédito porque nunca foi produzido aquele texto mas ele não é criativo se a gente pensar que criatividade é quando você adiciona algo novo ao que já existia né senão a gente ia dizer que todos os seres humanos são criativos e a

gente não trata assim a gente fala algo creativo quando é de fato inovador surpreendente né Eh então a uma invenção digamos é alguma coisa diferente que acrescenta eh ao que já existia né Então essa por exemplo já é uma limitação enorme você ele imita e não inova ele é inédito mas não é criativo né então isso se a gente for comparar com o funcionamento do ser humano já é só isso já tem uma diferença muito grande né Eh então eu acho que é isso eu acho que sempre é problemático quando a gente começa a comparar

né é um é um modelo estatístico deum prob abilidade essa técnica que permite el lidar com grandes volumes de dados quando ele aprende eh eu vou contar um pouquinho assim o sistema lógico por exemplo do chat PT o que quer dizer que ele aprende eh foi muito divulgado no lançamento que ele foi treinado em 175 bilhões de parâmetros que que são os parâmetros explicando assim de uma maneira eh bem eh bem mais mais simples né mais resumida do que de fato é mas mas a lógica é essa Eu por exemplo vamos supor que eu entrei

na no chat GPT E fiz uma pergunta sobre igreja né eu quero saá sobre alguma coisa sobre Igreja e ele vai me produzir um aí o que que acontece ele já foi treinado né anteriormente quando você tá interagindo com chat GPT ele já foi treinado não tem ali atrás dele todos os dados os dados já acabaram é ele aprendeu aí pouco parecido com a gente a gente aprende uma coisa pronto já aprendemos então o que que ele o que que ele aprende o que que são esses parâmetros 175 bilhões de parâmetros ele estabelece conexões ele

cria uma uma espécie de de hierarquia entre os textos e as palavras do que ele foi treinado nesse conjunto de Extraordinário de dado então por exemplo e quando você fala de igreja ele foi treinado de que a probabilidade de aparecer Padre ligado à igreja a o nome igreja nesse conjunto Extraordinário de dados é muito maior por exemplo do que aparecer mar o o né então ele o o parâmetro é o peso que ele dá então ele vai supor ele vai dizer que é 10 vale 10 Padre igreja porque frequentemente quando aparece a igreja aparece Padre

vela apece ligado à igreja mas não com tanta frequência como padre então ele dá um peso por exemplo cinco né então quando você mar nem aparece ligado à igreja então quando você faz uma uma pergunta em relação à igreja ele busca dentro desse conjunto de sentenças e frases que ele foi treinado qual a probabilidade de daquela palavra aquela sentença encaixar na sua na sua resposta e te dá a melhor resposta paraa sua pergunta né então é esse que é o sistema ele não entende o conceito o significado Ele só faz eh correlação ele não tem

causalidade não tem raciocínio contrafactual ele não tem intuição em suma ele não tem nada além das emoções e inconsciente do ser humano né então ele é um modelo estatístico de probabilidade e tem muitas limitações né Eu acho que aquela aquele deslumbramento de janeiro fevereiro março do ano passado eu acho que à medida que as pessoas foram usando o BS e o chpt lama da Meta eu acho que foi entendendo que que são que tem limites né Eh mas aí eu queria falar um pouquinho assim eh dessa questão da aplicação na o que se chama assistentes

terapêuticos ou agentes de conversação automatizada né Eh pelo isso É bem interessante né Porque só antes da gente entrar nisso Dora acho que é importante uma outra coisa que você fala também eu não queria só perder isso né que a gente daqui a pouco muda de assunto aí depois é difícil voltar mas que eu acho que é uma coisa muito importante que você fala em vários textos assim do quanto a subjetividade humana tá incluída na criação dos sistemas né quer dizer não é neutro né Tem um debate epistemológico de fundo vamos dizer assim né porque

os próprios conceitos algumas coisas você tem definições mais objetivas mas outras dependem um pouco de Visões de Mundo Existe também uma disputa epistemológica em várias áreas do conhecimento humano né a própria definição de inteligência não tem uma só né Tem visões de conceitos vamos dizer assim né Por exemplo do que é democracia do que é sociedade do que é a cultura do que a linguagem né do que é inconsciente do eh São conceitos que estão em disputa no campo da sua própria ciência no seu no interior do seu campo epistemológico então quem alimenta o sistema

acaba também quer dizer então tem um viés ideológico né Eu acho isso importante da gente também deixar claro antes da gente entrar nesse outro sistema tem um viés ideológico sobre exatamente quem vai alimentar esse banco de dados né ideológico cultural tudo cultural racial você até falou sobre isso também num dos textos né de gênero racial etc né o processo a cadeia de produção de um sistema de Inteligência Artificial ele é todo permeado pela subjetividade humana como você alertou porque são os humanos que tomam decisão né então começa assim bem qual é o ponto de partida

é você definir para que que você vai monar o sistema o objetivo dele né então quando você define qu objetivo é uma decisão humana depois você escolhe o que se chama as variáveis iniciais ou os hiperparâmetros quando você escolhe Quais são as variáveis fundamentais que vão que vão que você vai utilizar considerar no sistema isso são escolhas humanas quer dizer parte por exemplo eh 2021 2022 as discussões sobre o as decisões ou as o viés né os viés discriminatórios desses sistemas uhum se pegarem os três exemplos que eles foram mais citados citados em 10 vezes

em 10 dos painéis internacionais sobre esse assunto quando eles foram finalmente e feito o que se chama do Dig Eles foram investigados a principal variável que determinava o viés no resultado tinha a ver por exemplo com a decisão com a variável com o hiper parâmetro a variável de decisão Inicial né posso dar um exemplo se for o caso e se você quiser um exemplo bem Claro sobre isso depois você tem Eh aí então volto já depois disso então você tem depois eh todo um processo de montar a base de dados escolher depois você escolhe qual

base de dados tudo isso são decisões humanas Depois tem uma área muito importante que é a visualização do resultado isso também é uma especialização eh dentro da cadeia de produção do sistema como é que você visualiza o resultado né porque você tem que eh o a o sistema tem que mostrar o resultado de uma tal maneira que seja endido compreendido pelo ser humano que vai usar depois você tem que interpretar esse resultado depois você tem que implementar né então todas essas etapas eh elas são permeadas como eu disse pela subjetividade humana né então o sistema

não é nem eh neutro como nenhuma tecnologia neutra toda ela interfere e e ela também não é autônoma né eu reconheço que tem alguns especialistas até alguns que eu que eu admiro que usam a palavra autônomo sistema eu acho um equívoco né eu não tem o que a gente define também como autonomia o senso comum de autonomia eu acho que não existe nesses sistemas então é a subjetividade então tudo que é decisão humana você sabe muito melhor que eu porque é a sua área de de estudo mas tudo que é subjetividade humana tem viés né

não existe não existe nada no mundo mais enviesado do que o ser humano isso não é não é uma crítica ao ser humano é assim a gente funciona a gente toma decisão a gente sente tudo em função eh da dos nossos repertórios das nossas experiências então é sempre viesado nesse sentido não existe assim a decisão certa como você falou a verdade não existe isso é como Cada um sente quando a como interpreta então nós somos absolutamente vizados né então uma outra questão aproveitando tá falando sobre isso como eu disse esse esse essa técnica eh hoje

de Inteligência Artificial ela ela extrai informações de grandes volumes de dados o o que que são esses dados também eles são produzidos pelos seres humanos né E quando a gente tá falando de dados pessoais então eles estão embutido dentro desses dados todas as indios sincrasia dos seres humanos os vieses né os preconceitos né então isso já é o né então tem uma eh isso são partes das limitações desse sistema Então não é só o que a gente que tá sendo muito falado é porque o ch GPT eh deu alucinou deu informações que não tem nada

a ver a mesmo como tudo funciona ela tem essas limitações é apenas um modelo estatístico de probabilidade que funciona dessa maneira né então eu acho que por isso que eu eu insisto sempre que é muito importante eu agradeço a oportunidade de falar sobre esse assunto eh aqui e todos os lugares que eu eu brinco comigo mesmo que eu virei uma evangelizadora desse assunto mas eu acho que quanto mais as pessoas entenderem o funcionamento vai desmistificando não é à toa que é que é o título do meu último livro é desmistificar mesmo porque ao mesmo tempo

que a gente tem no nosso inconsciente mesmo as pessoas muito bem formadas eu vejo isso eh o que o que traz os livros os filmes de ficção científica né que é sempre aqueles robôs os humanoides que vão dominar os humanos isso fica uma um Imaginário eh coletivo em relação a inteligência artificial e que acaba sendo reforçado por essa batalha que eu falei essa petição acirrada entre as M entre as bigtechs Americanas que estão liderando esse processo no ocidente e que vão marcando posição e vão dizendo assim eh antecipando situações que estão longe de ocorrer né

e é um caso também né Dora como a gente vinha falando antes também de entrar ao vivo assim Claro da importância da gente cada vez mais produzir um conhecimento baseado na questão eh das várias áreas poderem conversar né quer dizer o quanto essa essa divisão que se estabeleceu entre ciências exatas ou as matemáticas né e as ciências humanas acaba criando uma dificuldade muito grande né nessa eh na compreensão na compreensão mesmo a inteligência artificial É multidisciplinar é né para você compreender eu tava te contando que como quando eu comecei há mais de 7 anos atrás

a me dedicar à Inteligência Artificial eu fiz uma opção desde o início de estudar como funciona a tecnologia e estudar os impactos éticos sociais e eu acho que isso é fundamental porque eh pra gente entender os impactos a gente tem que de fato entender pelo menos a lógica e a natureza dessa tecnologia eu não sei se é se só Ana Laura que que caiu Lud tá aí eu continuo lut Tá muda muda você continua Ana Laura a Ana Laura tá com probleminha de conexão eu vou te colocar aqui uma pergunta do Nildo Cabral se você

puder responder por favor o o léxico da ia pode ser imperialista patriarcal fascista homofóbico xenofóbico racista e misógino Olha sinceramente eu não sei responder essa pergunta né porque ela pode ser tudo ela pode ser ela reflete Como eu disse antes ela reflete a sociedade O que é a sociedade né Se ela se baseia Como eu disse extrair informações de grandes volumes de dados e esses dados são produzidos pela sociedade claro que todas as questões estão na sociedade né então o sistema você você tinha falado né Dora num dos textos que assim que foram identificados né

alguns padrões e que depois houve uma correção né Oi voltei Não essa essa o mitigar os vieses não é um não é fácil né né existe algumas técnicas para fazer isso mas nenhuma delas com precisão né claro é para você identificar e corrigir que são dois eh processos diferentes né mas eu acho mas quando eu caí antes de eu antes né quando eu caí eu tava falando né D hora da que eu acho que aí também é uma ponte pra gente entrar no que você na questão que você tava introduzindo das supostas né psicoterapias vamos

dizer assim né Eh via Inteligência Artificial eh mas o que a gente vinha falando eu tava comentando a respeito dessa questão da interdisciplinaridade né como falta essa comunicação porque por um lado fica em si endeusamento né daí há como se fosse realmente uma espécie de solução mágica né de todos os problemas vamos di assim da humanidade né e por outro lado eh eh a às vezes até por falta de conhecimento uma espécie de de fobia né assim Acho que por parte né da do do dos profissionais de ciências humanas uma espécie de eh fobia mesmo

né assim não sei não quero saber e tenho raiva de quem sabe né e por outro lado né Eh você tem toda a razão até quando você caiu eu tava explicando um pouco essa questão da multiparidade na Inteligência Artificial E e esse temor ou às vezes um temor e também interpretações equivocadas né O que que é que estão produzindo o que que às vezes eu tenho assim um pouco Principalmente quando eh Inteligência Artificial agora o ano passado que virou um Hype parece que às vezes ouvindo algumas pessoas parece que nós tínhamos uma sociedade justa que

funcionava super bem e de repente uma tal de Inteligência Artificial não é isso né a inteligência artificial ela é uma tecnologia eh que foi criada e tá sendo desenvolvida pelo ser humano e ela traz todas as indras da da sociedade assim como todas os os outros processos né é a a gente a gente não pode esquecer que o tipógrafo foi uma tecnologia né que o rádio foi uma tecnologia todas as tecnologias de comunicação que foram evoluindo e todas as outras tecnologias e tem uma característica bem interessante particular desse Campo da Inteligência Artificial que não tem

uma teoria né então isso é um dificulta interagir com outros Campos de conhecimento e dificulta entender porque por exemplo eu tô vou pegar aqui a caixa do meu óculos né Eh se eu deixar ela cair Se eu largar não tem um ser humano que não saiba que vai cair né todo mundo sabe que vai cair eu não preciso experimentar eu não preciso largar para saber usa o que que aconteceu caiu por que que eu sei e não precisa ter conhecimento nenhum Você anda na rua e pergunta ah se eu largar esse objeto que que cai

por quê Porque existe a teoria da relativ da da da gravidade tá então a gravidade ela já isso já foi constatado é uma teoria que você não precisa eh pôr em prática você já sabe antecipar O que vai acontecer no campo da inteligência interal at Hoje não tem uma teoria como é que ele avança ele avança através de modelos empíricos né então eu monto o sistema por uma determinada função eu coloco ele em prática e e o resultado é bom o que quer dizer que resultado é bom é melhor do que qualquer outra opção que

eu tenha para resolver aquela tarefa E é assim que ele vai avançando Então são sistemas que estão sempre em experimentação quando foi lançado o xado GPT uns 2 3 meses depois começaram algum as críticas né e eu me lembro que críticas porque todos os riscos que não estavam colocados eh explícitos né E a equipe lá eh desenvolvedores a inclusive o o altman também que dirige a opna eles declararam bom nós colocamos em experimentação É isso mesmo e na interação nós vamos ver mesmo quem desenvolve o sistema no caso chpt não sabe prever exatamente como ele

vai se comportar e o que vai acontecer isso é um perigo né Isso é é é o extraord inário desse Campo mas também é o perigo porque exatamente você não sabe o que vai acontecer você não pode você vai experimentando é o que se chama em tecnologia que tá sempre em Beta né só que quando você Experimenta uma nova tecnologia assim como você Experimenta um um novo sabor de um suco de um suco o que que o fabricante de um suco faz para experimentar ele faz uma experimentação no espaço controlado né monitorado e a nova

tecnologia também novo produto sei lá qualquer uma dessas plataformas lança uma nova produto uma nova funcionalidade ele também faz um teste nunca pelo menos que eu saiba na história da humanidade você colocou em teste em experimentação para milhões de pessoas sem nenhum não é um um né então isso é isso é uma questão a outra questão que diz respeito direto à Inteligência Artificial quando as pessoas discutem assim a questão da regulamentação eh parece também às vezes me dá a impressão que nós vivemos numa sociedade que não tem regulamentação e é pelo contrário tudo é regulamentado

né não é só no Brasil no mundo inteiro você não lança um brinquedo se você não passar por todo um processo de aprovação você não lança a gente viveu isso na na pandemia com a com as vacinas né era uma urgência Total absoluta mas tinha que passar por um processo de aprovação então qualquer coisa que você lança pro público passa por um processo de aprovação de a partir de regulamentações pré-estabelecidas Então hoje a única que que você lança eh eh qualquer solução para o grande público sem nenhum controle é a inteligência artificial né então nós

todas essas questões são muito importantes é toda a questão das redes sociais também né que daí tem a ver com a guerra híbrida que a gente até já discutiu aqui também no não ouvindo vozes né quer dizer como se fosse um é mas a a rede social é é uma plataforma né é diferente Isso aqui é uma tecnologia que você usa para definir procedimentos médicos que você usa para definir aprendizagem na educação que você usa para segurança pública eh eh eh eh Você usa direto e grande parte das assim das situações o as pessoas estão

pegando a a decisão né o a a previsão do sistema E tratando ela como se fosse a definitiva e Soberana e apando né o o as redes sociais é um ambiente é é uma outra discussão super importante não tem menor dúvida mas é uma outra é um ambiente eh é lá funciona Inclusive a inteligência artificial dentro a todos esses essas plataformas e aplicativos que a gente usa hoje no cotidiano todos eles o modelo de negócio é baseado em extrair informações de grandes volumes de dados então no modelo de negócio deles todos funciona por causa da

Inteligência Artificial da técnica São vários algoritmos várias técnicas distintas de Inteligência Artificial mas essa questão de não ter eh de não ter uma uma teoria é uma questão sensível nesse processo de a gente pensar assim eh Quais são os desafios Então como é que você vai regulamentar uma tecnologia complexa eh que é transversal ela é aplicada em todas as os setores que se modifica todo tempo que não tem uma teoria Que Avança por modelos empíricos então não é simples é e daí entrando na questão que você colocou né que você queria conversar um pouco acho

que tem tudo a ver aqui também com com a questão do né do nosso tema que é essa essa ideia né de que seria possível né você criar vamos dizer assim aplicativos né baseados na Inteligência Artificial de atendimento né Eh psicoterápico né você tava falando um pouco né das dos modelos e das experiências que já tem em relação a isso e dos a gente tava falando um pouco dos problemas também né dos limites vamos dizer né é essa não não é o meu campo é o seu campo de conhecimento mas essa questão do ser humano

na interação eh com com a tecnologia com esses eh assistentes virtuais tudo é um negócio assim eh que tá se Estudando muito eu sei mas ainda se sabe muito pouco né Eu já fiz artigos sobre só descrevendo situações onde pessoas apaixonadas pelo assistente virtual né mas absolutamente tem uma uma plataforma específica que ela cria um assistente virtual que você quiser usando Inteligência Artificial então compatível com você então eu não sei se você viu parecido com ela né com o filme né É então ele vai respondendo e vai mas eu eu vi declarações entrevistas de pessoas

eu me lembro uma moça que tava apaixonada pelo assistente virtual Mark e ela dizendo que depois de algumas relações amorosas que não foram legais ela ela encontrou e tava 3 anos namorando o Mark e ela se refere a ele assim então isso é é mais no Oriente essa essa relação Porque tem uma relação diferente com com alcoolismo com com mesmo com eh por causa da da religião tem toda uma história diferente do ocidente eles têm mais facilidade em lidar mas mas assim são inúmeros depoimentos inúmeras assim e chat chat Bot acho que tem um agora

aí a gente chega na na questão da principalmente na época da da pandemia eh surgiram muitas né eu também escrevi sobre isso vários eh várias alguns um especificamente eh O webbot que foi desenvolvido pelo Universitário de Stanford mas para dizer assim eh desenvolvido em ambientes assim respeitáveis né Eh eh então sugiro muito chamados chatbot assistentes terapêuticos Agent de conversação automatizada e a e até hoje eu eu eu não tenho eu não tenho uma opinião aliás sobre inteligência arcial não tenho opinião definitiva sobre nada porque vai mudando sempre né eu tenho compromisso no dia que eu

tô falando mas sobre ISO Eu até já fiz provocações e muitas assim para especialistas na área de psicoterapia de psicanálise para fazer estudos né Eu nunca vi assim pode ter que mas eu nunca vi um estudo que diga efetividade né E parte desses chatbots que foram criados eles eles têm mais o foco Pelo que eu entendi no que se chama terapia comportamental é então aí eu eu vou eu vou ler para você eh é como é interessante e que para mim choca com próprio propósito do que é eh um um um uma interação terapêutica né

então os que defendem dizem o seguinte que bom primeiro que esses aplicativos estão sempre disponíveis né então não não é o caso de você ter um terapeuta um psicanalista que não tá tá sempre disponível não tem preconceito não tem interferências pessoais né então isso me chama atenção porque as interferências pessoais são fundamentais num processo terapêutico psicanalista pouco que eu entendo porque eu fiz muitos anos psicanálise acesso a um conjunto grande de informações do paciente então ele já tem uma pré né ele já tem uma pré-disposição ele já conhece profundamente entre aspas o paciente ele foi

treinado com base enormes enormes variadas PR e permite que as essas ocorram no ritmo do indivíduo tempo ele dá tempo para a pro paciente refletir sobre as respostas que também conflita totalmente com o que é um processo né então quando eu leio essas esses defensores os argumentos defendendo a a validade a efetividade desses chatbots assistente terapêutico eu eu eu fico confusa porque para mim conflita exatamente com com o que que é o processo psicanalítico é interessante Dora tem a ver exatamente com o que a gente estava falando antes porque como você falou né os argumentos

em favor denunciam Qual é a concepção de saúde mental de subjetividade de objetivo do que seria um processo terapêutico que tá em jogo então é enviesado né é muito interessante quer dizer por exemplo de um ponto de vista eu eu gostaria de ouvir mas não é minha área né mas assim o que que um terapeuta comportamental né teria a dizer sobre isso mas desde a concepção de sujeito da psicanálise absolutamente o que tá em jogo né num processo analítico não tem nada a ver com com isso né porque Justamente a gente suspende o saber a

respeito do que é bom para nosso analisante né porque a questão é que a gente não sabe a priori O que é bom para ele quer dizer a questão tem a ver com o desejo né e a mobilização do desejo de de novo volta a questão ética né O que que cada um vai fazer diante daquela situação que tá em jogo que o que o Fulano x vai fazer pode absolutamente não ser o mesmo que o Fulano Y vai fazer diante de situações similares porque são sujeitos distintos né com histórias distintas etc né interação entre

paciente e e terapeuta é fundamental a questão da transferência exatamente quer dizer o fato de ter alguém desse lado né que exige uma formação e é interessante porque a nossa formação tem a ver exatamente com isso né a Por que que é tão eh difícil formar um analista né porque a gente precisa eh se despir justamente né dos nossos eh conceitos né e preconceitos e daquilo que a gente considera que é o bem do analisante pra gente poder deixar que ele seja o protagonista da sua própria história né é muito algum desses pontos assim me

causa eh o porque quando você tá interagindo com o aplicativo terapêutico ele te dá tempo para refletir sobre a resposta pelo amor de Deus isso numa sessão de ter psicanálise Você tem o tempo para você elaborar sua resposta isso é contra toda né você conhecer já você fazer um levantamento então eu acho essas essas essas esses argumentos de defesa eu acho que volta a um ponto que que você levantou anteriormente que é a questão da multidisciplinaridade eu acho Por exemplo que esses me parece que todos esses sistemas que foram que estão ofertados no mercado tem

vários né E esses argumentos e me parece mais feito por alguém que não entende do que que é a psicanálise do que que parece psicanálise Com certeza não tem nada a ver com isso terapia cognitivo comportamental precisaria ouvir alguém da área né para conversar jeito não pode ser isso assim não pode ser dar tempo para pensar eu acho que essas questões são mais quem desenvolve a tecnologia buscando defender né então eu acho que em suma eh tudo que a gente tá falando de Inteligência Artificial Como eu disse antes ela foi eh reconhecida pelo mercado e

pela academia essa técnica eh em 2012 2015 16 17 começou a ser usado em larga escala então é tudo e desenvolve através de modelos empíricos então é tudo muito novo e tudo muita experimentação então a gente precisa em todas as áreas precisa conhecer precisa experimentar precisa tudo a gente precisa experimentar e conhecer a lógica né eu faço uma analogia que não é não é nada boa mas é só uma analogia melhor que eu encontrei e com carro por exemplo né Você dirige Ana Laura uhum dirige então a a a maior parte das pessoas que dirigem

não sabem consertar um fazer um carro e não sabem consertar um carro né então não acho que todo Todos nós temos que ser desenvolvedores da tecnologia eu não sei desenvolver um sistema mas o que que a gente sabe do carro como é que ele funciona nós temos nós temos conhecimento básico da lógica e do funcionamento que faz com que a gente faça o quê tem um obstáculo a gente eh desvia e tem um sinal a gente freia e não acelera né esse conhecimento assim da lógica de funcionamento dessa tecnologia eu acho que todo cidadão do

século XX tem que ter e principalmente os profissionais que tem que a sua atividade tem um impacto na vida das pessoas numa comunidade em suma na sociedade né impacta mais a tem que conhecer exatamente para saber onde que como tem que fear quando tem que acelerar quando Tem que desviar o que que é a lógica né seão a gente tá usando agora pensando também por essa via da regulamentação que você tocou nesse ponto ten até uma pergunta aqui né que alguém colocou que é quais as profissões que vão serão eliminadas Claro que não tem como

a gente prever né assim exatamente né mas acho que esse ponto é um ponto que toca também nessa questão da talvez da regulamentação dos limites da aplicabilidade né da ética enfim eh uma boa pergunta do José Carlos Faria que tem uma foto de uma criança mas não deve ser ele ou é o filho ou ele quando era criança eh mas eu acho que o impacto no mercado de trabalho para é o impacto social mais importante da Inteligência Artificial eu não acho hoje né tudo eu falando hoje não sei o que que vai acontecer eh daqui

a anos ou ou futuro mas hoje eu não vejo nenhuma profissão sendo eliminada né O que tá sendo automatizado são tarefas em todas as profissões né Então na verdade a gente já vem desde o final do século passado meados do século passado um processo de automatização muito intenso né a gente pega assim tinha quatro setores no Brasil com maior taxa de empregabilidade um deles por exemplo é indústria automobilística se você entrar hoje no YouTube você vai ver como é que faz carro praticamente máquinas fazendo outra máquina né então a automação programada ela já vem eh

se desenvolvendo o que tá acontecendo hoje é o que se chama automação inteligente é automação habilitada por Inteligência Artificial que ela expans porque ela pega eh funções tarefas com cognição né então isso de fato tá acontecendo Então as as as organizações em geral elas estão adotando a primeiro estímulo para adotar Inteligência Artificial é reduzir custo e aumentar eficiência então isso significa eh você substituir por processos de aação grande parte das pessoas que faziam aquela função Então isso é é real Então não é sobre profissões e tem mais outros efeitos no mercado de trabalho mas esse

é real eu não vejo profissão sendo eliminadas são tarefas são funções e tem funções que estão eh são as mesmas funções só que elas estão mudando de conteúdo né continua sendo hoje pegar um exemplo que todo mundo tá acompanhando hoje são raras as cirurgias que são que você abre o corpo né el a grande parte é feita por aparelhos Então são funções Você tem o cirurgião a função lá o cirurgião determinada especialidade continua a mesma só que a forma como ele opera como ele faz a cirurgia é totalmente diferente porque tem é uma são as

inéditas relações entre homem e máquina né Isso muda isso tá mudando tudo em todas as áreas eh a maneira como a gente se relaciona com a máquina e é é isso ela tá em uma transformação Total então S funções que vão sendo modificadas é esse é um ponto fundamental mesmo do que você tá colocando a relação com a máquina em todos os aspectos né então a questão que entra a questão da economia entra a questão da ética entra a questão do conhecimento entra a questão do da regulamentação enfim porque é eh tem algo aí que

é Irreversível né em termos de de avanço tecnológico né Qual foi a grande eh eh qual foi a grande contribuição do chat GPT Por que que gerou esse au todo esse encantamento porque é foi a primeira vez na verdade essa categoria chamada dessa Tec chamada EAG generativa a primeira data de 2014 que é o que produz a chamada Deep fake né que agora na processo eleitoral T sempre aliás é o tema eh bom eh da minha coluna da semana mas mas é um tema que tá super colocado por causa das eleições Mas por que que

o chat chpt foi que gerou esse aue ele gerou porque exatamente pela interface Ele trouxe pela primeira vez as pessoas tiveram a oportunidade de interagir com a inteligência artificial né então eu tô lá conversando entre aspas né eh através da no início era só texto com chat CPT e eu tô e ela tá me respondendo então essa essa experiência de interagir com uma máquina de Inteligência Artificial eh foi inédito isso encantou as pessoas né em algum primeiro momento assim foi uma nossa parecia que que de fato eh tínhamos chegado perto eh do que que é

a cognição humana essa interface Então é isso que foi a grande inovação foram duas grandes inovações do chat foi essa a interface direta e acessível não precisa ter informação nada até criança consegue interagir e a outra é o fato de que a multidisciplinaridade desculpa a multitarefa né Então até então a categoria Que nós tínhamos aí a preditiva dessa técnica você tinha que montar e continua tendo você tem que montar um sistema para cada tarefa aí a generativa ela é multitarefa né eu eu eu acredito que praticamente todo todo mundo que vai est nos ouvindo Já

experimentou pelo menos alguma vez o chat GPT você pode acessar o chat GPT para inúmeras questões que você esteja interessado né algumas de sem risco outras com maior risco Então essa multitarefa também é inovação mas eu acho que o encantamento teve a ver com que de repente eu poder estar interagindo ele me respondendo né Então essas interfaces entre homem e máquina para mim é uma é um das grandes mudanças que a gente tá vivendo Uhum em todas as áreas olha eh pega um motorista de caminhão o o motorista de camião sabe dirigir super bem caminhão

de carga né transportadora eh 10 15 20 anos melhor motorista que existe Hoje os caminhões estão vindos com tecnologia embarcada inclusive eh Inteligência Artificial aquele motorista que sabia dirigir muito bem o carro ele não está conseguindo lidar com a tecnologia embarcada né que é uma nova relação homem máquina né então a gente em todas as áreas isso tá acontecendo e de uma velocidade muito grande que não dá tempo pra gente se adaptar hum é E aí a gente vai precisar apostar também informação Porque vão surgir novas né talvez novas até tarefas que também não estão

previstas Ainda graças a isso é interessante né porque abrem-se novas possibilidades também né Dora Estamos chegando ao fim aqui eu viando pass Rápido foi ótimo viu eu te agradeço muito acho que esclareceu vários pontos aqui claro que é só um início de conversa uma abertura né Espero que a gente possa est mais em contato eh a casa é sua volte sempre com novidades vê se você escreve aqui pra gente também alguma coisa né Lurdes de repente um artigo aí pro pro ggn porque realmente acho que é fundamental a gente abrir né Eh essa essa prosa

que acho que quanto mais informações a gente tiver menos a gente tem preconceito né E como você falou a gente vai desmistificando e podendo Aí sim cuidar do que é necessário né perdendo medo em geral sabe melhor que eu isso as pessoas têm medo do desconhecido ISO isso aí você cria uma barreira que você não você fica assustado essa barreira e se familiarizando porque é não é inexorável não tem como toda toda questão assim ah vamos parar vamos freiar a tecnologia isso não existe você não você não freia o avanço né avanço de nada então

o que a gente tem que fazer é correr atrás ex Exatamente é isso muito obrigada viu foi você foi ó Foi um prazer ter você aqui com a gente e bom desejo uma boa noite a a todo mundo que tá assistindo a gente e daqui a a 15 dias preciso ver aí qual que é a frequência por causa do carnaval mas fiquem atentos aí pro próximo ouvindo vozes e pros próximos do ano também e não esqueçam de nos seguir no Spotify também porque o nosso programa fica lá como podcast para quem não puder assistir não

pode assistir ao vivo Obrigada Dora Obrigada Lurdes aí na retaguarda sempre boa noite para todo mundo obrigada tchau tchau l