Impactos da I.A. no Constitucionalismo Contemporâneo - Painel 2 (Português)

dando continuidade ao seminário iniciamos neste momento o segundo painel com o tema potencialidades e risco da Inteligência Artificial ética e regulação na era digital compõe a mesa como moderadora a d Aline Osório secretária Geral do Supremo Tribunal Federal e com palestrantes a d Ana Frazão professora de direito da Universidade de Brasília e advogada o Dr Juan Davi Gutierres professor da escola de governo da Universidade de los anges los anges Colômbia e o Dr Caio César Vieira Machado doutorando pela Universidade de Oxford e pela Universidade de São Paulo e cofundador do Instituto vero neste momento tem

a palavra a dout Aline Osório Boa tarde a todas e todos é uma felicidade uma honra estar aqui com os nossos palestrantes com todos vocês e considerando que já estamos quase no horário do almoço eh o meu papel aqui é basicamente ceder a palavra para os palestrantes para que eh possam proferir suas palestras E então eu apresento a Dra Ana Frazão que é advogada e professora de Direito Civil comercial e econômico da UnB eh a professora Ana Frazão é Doutora em Direito Comercial pela PUC de São Paulo foi conselheira do CAD entre 2012 e 2015

e foi também diretora da Faculdade de Direito da UnB de 2009 a 2012 Ana a palavra é sua muito obrigada querina Line Boa tarde já a todos em nome da ministra Elene lobo e também da querida amiga Laura cherto eu cumprimento a todos que nos assistem faço um cumprimento também muito especial a querida Aline ao Juan ao Caio é um prazer estarmos juntos aqui nessa mesa e a minha ideia Já que o nosso painel apontava um pouco para a questão da necessidade de regulação e claro fazer todas as interlocuções também com as discussões éticas seria

numa primeira parte da minha fala retomar um pouco do que foi falado no excelente primeiro painel pra gente tentar entender um pouco Qual é o estado da arte sobre a utilização de inteligência artificial no momento depois falar um pouco sobre Como regular a inteligência artificial partindo da premissa de que hoje a discussão não é mais sobre si devemos mas sim como devemos e ao final trazer algumas considerações sobre a utilização de inteligência artificial no poder judiciário já que como estamos no Supremo Tribunal Federal e esse é um assunto absolutamente importante e urgente me pareceu que

seria também muito interessante tratarmos desse tipo de assunto então vejam eh indo então para a primeira parte da minha fala ficou muito claro aqui no painel anterior e quando a a gente Analisa as atuais aplicações de Inteligência Artificial a literatura específica sobre o tema o quanto a inteligência artificial hoje muito mais do que fazer parte da nossa vida ela vai desbravando novas esferas de vida e basicamente nós temos delegado a sistema de Inteligência Artificial uma série de processos decisórios que antes eram tomados por agentes privados e por agentes públicos daí não se exagero mencionarmos que

algoritmos são instrumentos de ação política porque estamos falando repito muitas vezes do arbitramento de valores seja na Esfera privada quem vai ser contratado quem vai ter acesso a uma determinada oportunidade quem vai ser promovido quem vai ser demitido vejam que na Esfera do consumo até a precificação que durante muito tempo foi considerada o cerne da livre iniciativa hoje é feita por sistemas algorítmicos e se esse processo já está muito avançado no setor privado ele também está muito avançado no setor público e isso vem gerando de fato uma série de problemas e desafios sociais políticos e

jurídicos no âmbito Empresarial esses desafios São enormes porque quando a gente conjuga isso a uma economia de plataforma as possibilidades de concorrência desleal de práticas predatórias são imensas mas quando a gente Analisa pela Ótica do Consumidor e do Cidadão aí de fato as consequências são Ainda mais preocupantes hoje sistema de Inteligência Artificial ao decidirem muitas vezes sobre nossas vidas tem impactos muito grandes também nos direitos fundamentais dos cidadãos Como o próprio Ministro Barroso já destacou na sua fala de abertura então diante de um contexto anterior em que muitas das garantias fundamentais eram pensadas diante do

Estado hoje muito do constitucionalismo digital tem sido criado a partir de redirecionar essas garantias para agentes privados que muitas vezes possuem poderes equivalentes ou às vezes até superiores ao dos estados foi até mencionada aqui a expressão Leviatã algorítmica e de fato isso traz muitas repercussões para o nosso debate e vejam que para além de todos os riscos o que temos visto é que esse temas e isso foi retratado também no primeiro painel eles não são propriamente tão objetivos quando se pensa eles podem de fato cometer uma série de erros alucinações muitas vezes sem que nem

mesmo entendamos porque eles estão errando há toda a discussão também sobre inversão de hierarquias informacionais o problema das Deep fakes o problema das discriminações até porque como o professor Flávio mencionou também aqui na sua palestra nem nem tudo que é provável em termos de cálculos probabilísticos e vero símio necessariamente é certo então embora esses sistemas consigam processar uma quantidade imensa de informações em muitos casos eles não nos darão a resposta correta e vejam que esses riscos se projetam em tantas e tantas dimensões elas vão desde o nível individual professora Patrícia trouxe aqui todas as preocupações

relacionadas aos neurodireito a a ideia de que hoje talvez a nossa maior luta seja para preservar a nossa privacidade cerebral o nosso livre arbítrio o que se projeta por exemplo no direito de não ser manipulado Mas isso também tem uma dimensão coletiva social e política muito importante quando a ministra Edilene e tantos outros trouxeram aqui as repercussões da utilização da inteligência artificial em processos eleitorais percebam que a Rigor falar hoje em regulação de inteligência artificial é falar daqu aquilo que é mais importante para nós é falar dos nossos direitos fundamentais é falar do livre desenvolvimento

da personalidade é falar da coesão da sociedade é falar de um fluxo informacional adequado é falar da Preservação das instituições democráticas então vejam que não estamos falando aqui de um assunto que é trivial falar de riscos de Inteligência Artificial não é realmente estar falando de teorias respiratórias ou de excessos ou exageros é falar realmente de algo real se Essas tecnologias trazem muitos benefícios elas também trazem riscos e a gente vai precisar encontrar uma forma de equilibrar os benefícios que elas trazem com a manutenção dos direitos fundamentais das constituições e dos processos Democráticos diante disso então

eu já passo paraa segunda parte da minha fala para fazer uma provocação Por que então regular e como vamos regular é claro que essa discussão sobre a ética na Inteligência Artificial ela é muito importante mas ao meu ver ela não vai adiantar sozinha e nós temos toda uma experiência prática nesse sentido recentemente tivemos oportunidade de ver todas as alucinações e bizarrices que a inteligência generativa adota pelo Google começou a produzir sugerindo que pessoas colocassem Cola em pizza corressem com tesouras e tantas outras coisas e é claro que esse tipo de resultado ele reflete uma série

de limitações desse sistemas não temos dúvidas sobre isso mas do ponto de vista político e jurídico há um ponto aqui como é que uma empresa tão importante uma bigtech tão poderosa disponibiliza uma tecnologia que muito rapidamente já se mostrou tão falha e uma das respostas possíveis é ele faz porque ele pode porque ele tem muito poder político e econômico e não tem nenhuma constrição do ponto de vista jurídico então a Rigor ele pode transformar sociedade sistemas políticos em um grande laboratório submeter todos nós a uma tecnologia para ver no que dá e eventualmente resolver se

é que vai resolver os danos no momento em que ele achar adequado Esse é um ponto que mostra que as iniciativas voluntárias dos agentes econômicos que estão envolvidos nesses processos elas simplesmente não estão resolvendo o problema Por mais que todos hoje discutam sobre programas de compliance sobre incorporação de parâmetros éticos na elaboração desse sistemas e na sua execução fato é que a prática tem nos mostrado um cenário muito de diferente e talvez por essa razão eu seja tão cética no sentido de achar que somente uma autorregulação ou iniciativa voluntária das empresas vai resolver concordo plenamente

com a professora Laura quando ela nos fala da importância da autorregulação mas como ela mesma destacou autorregulação não pode acontecer num vazio institucional E para isso a heter regulação é muito importante ao mostrar Quais são as obrigações cogentes que devem ser adotadas por vários desses agentes e é por essa razão que quando a gente vai observar essa discussão no âmbito mundial a gente vai ver seja pela iniciativa da União Europeia recentes resoluções de órgãos importantes como a ONU todas essas iniciativas convergentes no sentido de que precisamos avançar sim na regulação de uma inteligência artificial mas

Vejam uma primeira dificuldade para essa regulação é entendermos que falar de Inteligência Artificial não é falar de um bloco monolítico é falar de um conjunto consideravelmente diversificado de utilizações que exatamente por isso apresentam riscos diversos daí porque a tendência hoje como aliás consta do pl 2338 projeto que foi inclusive elaborado por uma comissão de juristas do qual eu tive a honra de fazer parte professora Laura foi a relatora Ministro cuevo ente dessa comissão ele já se baseou seguindo todas as tendências mundiais mais modernas no sentido de uma regulação por risco que exatamente por ser uma

regulação por risco é também uma regulação responsiva que Vai admitir e até mesmo demandar uma interação muito grande entre regulador e regulado mas vejam lidar com o risco não é algo tão simples assim É claro que vai envolver uma grande dimensão de regulação por evidências e daí a importância da Ciência da estatística e de uma série de outras áreas do saber que vão nos ajudar a entender que tipos de risc São mais altos e exatamente por isso vão exigir um nível de atenção de cuidado e de diligência maior por parte desses agentes a fim de

não sobrecarregar diversas utilizações de Inteligência Artificial que não sejam tão arriscadas com uma série de obrigações que como todos nós sabemos impõe sim um custo às empresas ainda que um custo justificável em várias searas mas percebam para além desse componente científico do risco a literatura mais contemporânea tem apontado também que existe uma dimensão social e cultural do Risco falar em risco não é falar apenas em uma questão científica é falar também sobre os valores culturalmente compartilhados por uma determinada comunidade é falar sobre simem que medida uma determinada comunidade está disposta a correr também determinado risco

e é por isso que esses modelos regulatórios também precisarão encontrar formas de participação Popular para Que unindo-se ciência e Participação Popular possamos encontrar aí caminhos para avaliação desse risco quando a comissão de juristas estava reunida para se pensar nisso logo se entendeu que haveria sim a necessidade de fazer uma classificação de riscos alguns riscos são riscos inadmissíveis são chamados riscos excessivos e aí não pode haver outra resposta senão a proibição os altos riscos precisam sim ser assumidos porém com uma série de contrapartidas e obrigações que possam minimamente mitigar e controlar esse risco inclusive tornando suscetível

de a accountability e de supervisão por autoridades competentes e pela sociedade civil como um todo e para aqueles riscos que não são nem excessivos nem altos então a ideia ia de que o modelo regulatório seja bem mais suave a fim de possibilitar a Inovação em uma escala mais avançada porém vejam classificar riscos não é algo simples mais do que isso como conciliar algo que é tão mutável e tão dinâmico com a segurança jurídica uma das soluções cogitadas no projeto foi portanto ao lado da classificação de riscos apresentar uma taxonomia desses riscos para adiantar desde já

o que é considerado um risco excessivo O que é considerado um alto risco e mais a admitir que exista uma autoridade competente que possa atualizar essa classificação porque aí essa solução tentaria dentro do possível compatibilizar a segurança jurídica que é tão importante mas ao mesmo tempo incorporar elementos de adaptabilidade e flexibilidade possibilitando então uma atualização constante desse rol e mais ainda é necessário e eu fico feliz que o PL 2338 tenha ido essa solução deixarmos um espaço para o princípio da precaução porque falarmos em risco é falarmos em algo que pelo menos Podemos minimamente prever

e consequentemente controlar e gerenciar mas o que temos visto é que em assuntos complexos como meio ambiente tecnologia e alguns outros correlatos estamos cercados do que alguns estudiosos chamam de incertezas radicais ou seja aquilo que nem sab que não sabemos e é exatamente por isso que em uma série de circunstâncias vamos precisar ir além da prevenção que é um princípio que como sabemos foi estruturado para o risco e tenhamos que seguir também com a precaução que é exatamente aquela atitude que de alguma maneira Visa a endereçar as preocupações com as incertezas me parece que esse

é um caminho bastante interessante eu espero que real ente o projeto com uma série de adaptações supervenientes possa de fato prosseguir porque me parece que ele apresenta sim uma solução muito adequada e compatível para todos esses desafios e esses desafios não são poucos e como eu disse eu gostaria de voltar ao problema do Poder Judiciário já que falar de inteligência artificial no poder público normalmente já é algo mais complicado ainda porque veja uma série de problemas dos sistemas de Inteligência Artificial que já existem no setor privado tornam-se ainda mais dramáticos no setor público uma coisa

é uma decisão ininteligível no setor privado e esse é um grande problema de decisões algorítmicas a falta de explicabilidade mas como fazer com esse problema do poder público que além de tudo está sujeito a uma série de princípios muito próprios como dever de motivação vejam então que trazer toda essa complexidade pro poder público criando muitas vezes até uma espécie de parceria entre poder público e poder privado porque quem programa o sistema de Inteligência Artificial pode ser um agente privado essa relação entre homem e máquina não é uma relação simples mais do que isso uma série

de conflitos poderão acontecer aqui Imaginem os senhores que é um grande agente privado que vai elaborar o sistema de Inteligência Artificial do Supremo Tribunal Federal ele terá acesso a todos os dados provavelmente do tribunal Qual é a segurança ele pode ser parte do processo ele muitas vezes é um grande demandante ou demandado como fazermos para que ele não utiliza as informações privilegiadas a que ele tem acesso em seu benefício próprio ele pode ofertar um sistema de inteligência artificial para um tribunal e ao mesmo tempo ofertar soluções de tecnologia para ES e para agentes privados que

TM interesse direto naquele tipo de situação percebam então que utilizar inteligência artificial no poder judiciário é algo muito delicado até porque ao meu ver há um grande risco para além da violação de uma série de garantias fundamentais há um grande risco de transformar a disputa judicial que em princípio deveria ser pela melhor tese em uma disputa por quem tem a melhor tecnologia Porque a partir do momento que os tribunais começam a ter sistemas tecnológicos é normal e compreensível que grandes agentes tentem entender esses sistemas se aproveitar eventualmente das suas falhas e obviamente que litigantes mais

poderosos terão muito mais condições de enfrentar esse novo mundo do que aqueles litigantes que são fracos diante de um país como o Brasil e como a ministra Lobo também ressaltou em que temos tantos problemas relacionados no não só a raça gênero mas também até mesmo a discriminação contra pobres como fazer para que essa incorporação de Tecnologia de fato possa se dar sem conflitos de interesse informações privilegiadas sem que possa subverter os próprios princípios do processo e mais do que isso sendo um instrumento que longe de perpetuar discriminações tente inclusive contornar essas discriminações Esse é um

problema bastante grande e Vejam a Rigor não adianta dizer ah mas estamos longe da figura do juiz robô mesmo a classificação de um processo pode ser algo extremamente importante pro destino daquele processo mesmo quando uma máquina funciona como assessora e simplesmente submete ao juiz um modelo de decisão percebam Pode ser que aquele juiz no seu contexto nem tenha como questionar eventualmente o resultado da máquina como Inclusive tem inúmeros incentivos para chancelar esse resultado ainda mais diante da quantidade imensa de processos que normalmente um juiz brasileiro detém então não são pontos banais e vejam quando a

gente imagina todos os problemas que decorrem desses sistemas que já foram citados aqui alucinações falta de objetividade possibilidade de resultados contraditórios esses problemas por si só Já não são banais mas fato é que a má tende a muitas vezes refletir no futuro o passado porque ela se alimenta de dados passados mas o direito não vive apenas do passado ele exige envolve alguns momentos transformadores por mais que as máquinas TM uma grande capacidade de processamento de dados a literatura atual tem demonstrado que elas não conseguem Ou pelo menos ainda não conseguem fazer uma série de juízos

que somente os seres humanos são capazes de fazer elas não são capazes de fazer o framing o enquadramento ao mudar o enquadramento do problema a solução pode ser diversa durante muito tempo no Brasil se entendeu que a união estável era uma prestação de serviço depois ela virou uma sociedade de fato para só então ela se tornar uma união familiar Mas o que eu mudo o enquadramento eu mudo por completo as consequências jurídicas daquele vínculo e foi em razão dessa mudança de enquadramento que foi possível uma adaptação do direito paraa realidade social mais do que isso

as máquinas trabalham com correlações mas não com causalidades causalidades são juízos humanos complexos mesmo nas Ciências Naturais porque os dados não costumam vir do céu e sempre vão exigir em alguma medida uma alta dose de interpretação máquinas não trabalham com contrafactuais máquinas não trabalham com constrições ou seja delegar julgamentos ou atividades da mente humana para máquinas envolve um grande risco e é por isso que temos que caminhar para alternativas que de fato conciliem o potencial das máquinas mas com uma supervisão humana que não só possa identificar as falhas das máquinas como essencialmente possa suprir as

deficiências do julgamento das máquinas sempre que isso for possível e eu gostaria de finalizar então a minha fala já vi que o meu tempo acabou fazendo referência a um excelente livro do acog e do Johnson que se chama Power and Progress Esse é um livro que os autores se dedicam a estudar inovação ao longo dos últimos 1 anos e uma das conclusões muito interessantes desses autores é de que ao contrário de que normalmente se pensa a Inovação não necessariamente vem para melhorar a vida da maior parte da população em vários momentos ela vem exatamente reforçando

desigualdade sendo apropriada por uma parcela muito pequena da população e reforçando ainda mais a exclusão tanto que eles dizem que se hoje a gente avançou em razão da tecnologia isso se deu muito em decorrência das lutas sociais e da própria ação do direito no sentido de tentar distribuir socialmente os benefícios daquela tecnologia me parece que essa é uma reflexão fundamental nesse momento pra gente entender que Como já foi dito aqui por vários antes de mim dificilmente se deixarmos as coisas correrem soltas esses benefícios serão alcançados dificilmente haverá esse equilíbrio entre inovação e respeito a direitos

fundamentais dificilmente haverá uma justa distribuição dos benefícios dessas tecnologias eu acho que com essas palavras querida line eu já concluo aqui a minha fala agradecendo muito pela atenção e claro me colocando à disposição de vocês muito obrigada agradecendo a instigante palestra da professora Ana Frazão eu passo desde logo sem perder nenhum segundo ao professor Juan Gutierres que é phd em políticas públicas pela Universidade de Oxford e professor associado da Escola de Governo da Universidade de Los Andes na Colômbia a palavra é sua obrigado boa tarde pug si Queen orgi para que portug Uno aga poruo

para paraar Supremo tribun feder direci am Latino e particularmente no setor farmacêutico em proteção de dados pessoais e estou muito feliz de poder contribuir e aqui tive a oportunidade de eh palestrar em muitos países América Latina e esse é um dos melhores do princípio ao fim que eu participei Eu agradeço muito a oportunidade de contar a vocês como na Colômbia também estamos contribuindo nessa S Global que o melhor a a maioria Global ter muito para contribuir eu vou dividir a minha palestra em Três Pontos ela é baseada nas pesquisas que eu fiz na universidade dos

Andes algumas delas também no trabalho que eu estou desenvolvendo para a Unesco Então vou compartilhar algumas eh alguns descobrimentos que fizemos como e como os juízes utilizam os sistemas de Inteligência Artificial alguns dos riscos Associados aos tipos de usos que achamos no dos juízes e no em geral no sistema judiciário e vou falar de iniciativas em todo mundo sobre regras e orientações para uso de Inteligência Artificial nos sistemas Judiciários Vamos começar com o primeiro ponto e e surge a partir de uma de uma pesquisa para a Unesco cujos resultados podem ser eh estão disponibilizados na

internet como eram usados os sistemas de inteligência artificial em todo o mundo achamos que existe ali uma alta familiaridade com o sistemas de Inteligência Artificial há uma adoção de sistemas relativamente baixa não mais de 25% dos operadores declararam que usavam algum tipo de Inteligência Artificial mas eu digo Baixa porque são poucas as organizações que entregam a ferramentas de Inteligência Artificial por uma parte por e por outro lado o sistemas de eh Inteligência Artificial generativa de acesso massivos recentes existe uma taxa de adoção rápida dessa tecnologia que com certeza vai crescer além de quantas pessoas no

sistema judiciário estão usando esses sistemas a outra pergunta é o que eles fazem com os sistemas de Inteligência Artificial generativa que são os que universalmente TM acesso todo podemos entrar jpt Pilot e na versão grat e Pag e a resposta mais comum é que 43% usam esses chatbot para procurar informação isso está falando dos riscos porque nós sabemos que os chatbots podem produzir informação incorreta ou falsa inclusive e no Brasil houve um juiz que copiou e colou parte de do Jat GPT e não controlou e na sentença aparece jurisprudência inexistente ele não verificou os dados

mas ocorreu em outros locais do mundo é um risco e depois eu vou comentar como as pessoas usam esse sistema as pessoas que passaram por algum tipo de treinamento formal e quais são as limitações uma segunda resposta é doent temos um pouco mais de granularidade quando falamos de redigir documentos não é deer a 100 a sentença e sim que os juízes e as juízas estão usando para resumir ou para que os textos sejam mais claros aumentar acesso à pesso para pessoas que não são advogadas e poderia seguir conversando sobre usos incluindo explorar explicar analisar dados

mas esses são um pouco mais marginais respeito dos usos que estamos vendo de busca de informação e de tentar de complementar o processo os riscos dos sistemas de Inteligência Artificial baseados em nesses descobrimentos eu não tenho que passar por essas slides recentemente a universidade publicou um repositório com mais de 600 riscos se vocês tem interesse de conhecer casos onde houve incidentes negativos de uso de Inteligência Artificial seja na na no nível privado ou público podem e acessar onde podemos ver milhares de E que nos últimos anos últimos dissidentes cresceu muito e seguramente eu avançou o

uso porque porque as ferramentas foram adotadas massivamente e Como dizia a colega an não é teórico o que acontece agora nós também perguntamos para os operadores judiciais que percepção tinha sobre existência de riscos em particular associadas ao uso de Inteligência Artificial degenerativa no trabalho como vem na a maioria diz que existem riscos 21% não sabem isso é grave porque demonstra que precisamos trabalhar em alfabetização e outra outra porcentagem dizem que não mas pode ser discutido e a seguinte pergunta aqui para quem respondeu que existem os riscos Quais são esses riscos 27 é ciente dos problemas

da qualidade da informação que aparece no conteúdo que que porcentagem das pessoas responderam é uma das principais eh fraquezas os mesmos usuários podemos eles manifestam relações com a priva cidade que foi mencionada hoje Se vocês eh introduzem um Prom no chat chpt gratuito ou outro chatbot qualquer coisa que vocês introduzam Será reutilizada pela empresa de acordo com os termos e condições se vocês introduzem informação confidencial pessoal e se vocês são Funcionários Públicos vocês estão fazendo uma muito grave porque perdem o controle de informação e quanto mais informação vocês introduzam no prompt melhor será a resposta

então não surpreenderia que muitos introduzem informações pessoais Então muitos estão preocupados e com o copyright e a integridade Como foi mencionado esses sistemas foram treinados com uma grande quantidade de dados sem o reconhecimento mas também porque quando o chatbot produz a resposta e o chatbot finalmente é ou depois de tudo é um grande detentor de eh padrões e dentro deles faz um colage de coisas que que reproduzem e que não tem nenhum tipo de reconhecimento hum de ou atribuição alguém em Colômbia diria Ah sim OK é a norma a jurisprudência por causa das fontes do

direito existem outras preocupações a opacidade os direitos de trabalho e as os viés o impacto ao meio ambiente existe uma preocupação entre as pessoas que usam e a outra pergunta é se existiam regras sobre o uso dessas tecnologias e se recebeu instruções Ou treinamento formal vem que a grande resposta é não não recebemos treinamento formal e também não existe eh orientação por parte disso vocês podem ver que Avança o uso dos sistemas estão satanizado os sistemas não eh não precisa saber como usar porque eu posso eh usar um um carro para ir no trabalho ou

para me matar ou atropelar alguém sen não eu senão eu não sei usar existe muito grande eh para orientar também perguntamos se teria que existir regras para a inteligência artificial generativa para juízes para advogados para não advogados vocês sabem que muitos processos as pessoas acud diretamente e como vem as grande respostas que grande eh porcentagem em si que tem regras isso pode ser contraintuitivo podemos imaginar que as pessoas não quer ser regulamentada mas sim as pessoas querem ser regulamentadas e nós estamos na hora de fazer isso de fato uma nota ou uma ação é que

dentro de uma parceria entre a Universidade dos de Los anges e justiça colombiana e nós fizemos entre Janeiro e e maio um curso para 1400 magistrados sobre fundamentos de inteligência artificial no no setor judiciário foi muito bom depois isso fora da conferência vou dar mais detalhes mas eu menciono isso primeiro pelo esforço de uma jurisdição Colombiana para educar massivamente ou treinar e falam 1400 vão ter que ser mais porque tem mais eh funcionários e eu aproveitar esse curso que organizei e ministrei para fazer uma pesquisa entre os 1400 funcionários e a respostas são muito parecidas

à pesquisa Global da Unesco que Eu mencionei não é muito diferente a imagem Global do que nós vemos em um país como a Colômbia e sobre Provavelmente o que aconteceu no Brasil uma pergunta que eu fiz para meus colegas colombianos eu não fiz essa pesquisa na Unesco porque eu quis fazer que que Barreiras achamos para usar na hora de usar aig icial e eu fui surpreso de que a resposta é que eh nós precisamos de treinamento e para mim foi uma surpresa porque eu pensei que iam falar precisamos computadores e internet não isso existe mas

e nós primeiros Precisamos ser treinados outros obstáculos é não ter regras não ter diretrizes e se essas ferramentas são um risco nós temos medo de usá-las e o segundo ponto o terceiro desculpem é que que precisamos ter acesso a ferramentas próprias porque sabemos que se usamos jpt ou CoPilot ou outros sistemas de Inteligência Artificial generativa disponível na internet não sabemos Quais são os eh as os níveis de qualidade de segurança para poder usar não sabemos que dados foram utilizados para treiná-lo não conhecemos o modelo não sabemos muitos muitas coisas e a opacidade vai contra o

trabalho que temos que fazer que não pode ser opaco e surpreendentemente os obstáculos que percebemos é não aqueles que nós imaginaríamos das máquinas senão Barreiras humanas de querer saber como funciona ter regras e equipamentos que possam responder aos objetivos porque Ana acho que ela mencionava que uma coisa é que uma empresa use tecnologias eh de fora onde não importa a transparência ou a parcialidade a autonomia Independência mas não podemos levar isso no setor público ou no sistema judiciário onde isso sim é importante e eu vou chegar no final da minha palestra e que que iniciativas

existem sobre as regras e ori e diretrizes no setor da Justiça Porque podemos falar de regulamentações em geral e eu vou fazer outro parêntese e outra publicidade e é que na Unesco Hum eu S fui contratado para escrever um Brief sobre as aproximações emergentes da regulamentação da inteligência artificial no mundo a discussão parece ser quando revisamos os caminhos da da revolução Global Qual é OK existe um modelo da União Europeia dos Estados Unidos da China e quando vem os projetos de lei ao redor do mundo a história é muito mais complexa precisamos ver visitar Brasil

para conhecer que o Brasil recolhe aspectos que estão na União Europeia mas outros que a União Europeia não tem capítulos sobre direitos sobre novos direitos e isso é muito interessante para contribuir com Sul global que outros não estão termin tratando de contribuir por razões geopolíticas entre outras esse documento essa semana será publicado eu convido vocês e não tenho eh tempo para explicá-lo e são nove aproximações regulatórias que eu achei em projeto de lei em todo o mundo porque e apenas na América Latina existem 11 países cujos congressos e assembleias nacionais discutem projetos de lei e

depois na África também na Ásia também e estamos vendo muito o efeito bruselas o efeito de ver que na União Europeia é aprovada uma lei e como depois isso se espalha em outras partes do mundo vemos isso mas também eh novidades e vale a pena acredito estudar a legislação e os projetos de lei de outros países voltando a minha palestra porque eu acredito que ten apenas uns minutos com respeito às regras eh do sistema de Justiça eu vou contar diferentes exemplos porque existem diferentes instrumentos regulatórios existem normas puras e duras obrigatórias o Pia act o

regulamento da União Europeia que estabelece que um risco alto de inteligência artificial é quando e são utilizados sistemas para a tomada de decisões no Marco de processos Judiciários E como tem um um alto risco implica e determinadas medidas para que quem para quem pretende implementá-lo ou usá-lo ou seja uma avaliação de impacto por exemplo ou ter um sistema de gestão de riscos eu acredito que seja muito importante e são e os sistemas judicial não deberíamos limitar ao sector público Nós tomamos muitos muitas decisões que afetam vida das pessoas e isso é importante para o sistema

judiciário mas existem outras áreas no sistema do setor público onde essas normas são importantes diversas entidades que governam o judiciário no mundo começaram a publicar diretrizes ano passado o Reino Unido Nova Zelândia Canadá publicaram diretrizes sobre o uso de inteligência artificial generativa no sistema judiciário no caso por exemplo da Nova Zelândia e temos três guias diferentes para magistrados e juízes para advogados e não advogados porque existem também obrigações diferentes e vou fazer outra publicidade associada a isso existem outro instrumento que é a jurisprudência a corte constitucional da Colômbia recentemente uma sentença muito detalhada umas 200

páginas com relação ao uso de japt para redigir uma sentença a inícios de 2023 um juiz em Cartagena resolveu fazer quatro perguntas legais e assuntos legais jurídicos para complementar a decisão e justificar a decisão Em um caso onde os direitos fundamentais de uma menor de idade estavam em jogo o juiz considerou também além do que da resposta do jpt legislação e jurisprudência mas eu fui uma das pessoas que criticou publicamente a forma que ele usou porque não demonstrou que exigisse que que tivesse contrastado a o chat PT com outras eh fontes e confiáveis porque considerou

o chip como como confiável mesmo que a resposta foi imprecisa isso chegou à mãos da corte constitucional porque terceiros interessados e quiseram eh fazer dizer que estava violando o direito à lei porque eh não sabíamos com que dados eh tinha sido é gerado o nível de precisão ou qual era a pertinência para usar no Marco do processo constitucional e por isso a corte constitucional abordou esse caso e uma sentença onde Por um lado admite que os juízes podem usar ferramentas de Inteligência Artificial mas tem que usar sob determinadas regras e a constitucional procede a propor

uma série de princípios aqui temos o lista do completo são 12 princípios para uso de inteligência artificial no setor da justiça e antes disse cuidado que existe uma regra e que as máquinas não podem substituir o ser humano se a máquina substitui o ser humano pelo menos no Marco constitucional colombiano seria inconstitucional não poderia por muitos motivos associadas à violação do processo e a opacidade desses sistemas não poderia ser feita a corte constitucional diz que podem ser usadas sobre determinados parâmetros nunca para substituir o próprio pensamento e e determinação do juiz e o tribunal na

sentença solicita o conselho da magistratura que primeiro publicar orientações para os juízes sobre como usar e como não usar e segundo pedir ao conselho da magistratura treinar os juízes Porque precisamos de mais treinamento aqui temos a outra parte da da Publicidade e é que para a Unesco eu preparei guias do uso de inteligência artificial em cortes e tribunais e essas diretrizes estão disponíveis na internet como consulta pública meço feedback e na Unesco disseram que precisava de uma maior discussão para que qualquer pessoa possa enviar feedback eu convido vocês a fazer isso se vocês são interessados

eh e depois disso vai produzir o melhor documento que não posso explicar porque acabou o meu tempo ele tem princípios recomendações pontuais para os juízes e os funcionários E com isso termino Esse é meu e-mail porque se vocês eh T interesse e gostaria de seguir conversando com vocês eu pelo menos saio daqui com um dever de casa enorme de ler todos esses documentos a decisão da corte Colombiana enfim vai ser um longo trabalho pela frente e passo agora desde logo ao professor Caio Machado que é advogado fellow na Escola de Engenharia e ciências aplicadas de

Harvard e doutorando pela Universidade de de Oxford e pela USP Muito obrigado eh eu tenho um PowerPoint vou precisar do da maquininha e enquanto coloco um PowerPoint eu vou agradecendo obrigado guerreiros que ficaram até até agora obrigado ao STF pelo convite É uma honra enorme estar aqui obrigado em particular Vittor e Aline eh e vamos lá vamos vamos eh pra fala final vocês vão ver que eu usei para caramba e a generativa e até outras ferramentas abertas Mas como é objeto da nossa conversa tá liberado eh pelo bem da ciência eh bom eu vou falar

sobre algoritmos como adjudicadores tá e o celular aí do lado vai fazer sentido muito em breve então não necessariamente É só uma questão do iá na justiça mas uma discussão um pouco mais Ampla e eu queria começar com uma Disc com um bom Como que vai ser o o o nosso percurso aqui né vai ser como esse meme eu vou começar muito detalhado aí meu tempo vai apertar e aí eu vou sair correndo mas eu quero trabalhar um caso hipotético que vai ser a base pra gente destrinchar do que que a gente tá falando quando

a gente tá falando de algoritmo que que esse conceito de algoritmo significa quando a gente implementa ele na sociedade a gente faz usos dessas tecnologias como eu tô fazendo com o chat GPT o Dali enfim e aí vou estudar vou vou discutir com vocês o caso da moderação de conteúdo que o professor Flávio até mencionou que foi um estudo que a gente fez em conjunto vou aproveitar a explicação dele e por fim alguns caminhos para onde Vamos tá então vamos começar com o problema vou vou descrever um caso hipotético tá eu vou chamar essa pessoa

de Caio tá Caio estava no aeroporto e recebeu o anúncio Ó seu voo foi cancelado Entre no site remarque seu voo tá completamente hipotético aí você entra no site abre sua conta lá não consegue mexer Segura as normas Ah tem que enfim você pode remarcar te dá todos seus direitos legal e isso te ajudou você não tem para onde ir você clica Não Te chamam no Zap vai pro Zap aí já começa né Aí você vai no Zap Olá eu sou a fulana Airlines e começa a conversar com a máquina né e vem a sopa

de letrinhas e vem letras e vem mais letras aí você começa a pedir pelo amor de Deus deixa falar com atendente deixa falar com humano e continua e vai o diálogo ping pong até que termina ó desculpa você conversou Obrigado pelo papo mas eu não consigo lidar com a sua demanda por favor vai ao site ou aplicativo né aí você vai pro aplicativo encontra um erro que te manda pro telefone e aí você encontra outra máquina que te fala Olha desculpe não consigo tratar da sua demanda e bom tenta o app né E você fica

nesse ciclo infinito pulando de uma máquina a outra mas e esse é o ponto dessa anedota a gente tem mais ou menos um Flux fluxograma aqui que eu tô chamando de fluxograma de cafca porque você se pede nessa burocracia que mistura gente né a empresa e a ferramenta isso aqui é mais uma brincadeira mas que vai servir que é assim você tá com problema você acessa o site ele te manda pro WhatsApp ou te manda pro call center que te manda pro WhatsApp e aí você volta a estaca zero você continua com problema esse é

um pavor que a gente tem mas o ponto é nós temos esses problemas no cotidiano né a gente tem esses conflitos que não são conflitos num primeiro momento passíveis de de judicialização óbvio que você pode mas assim você não vai judicializar a dor de cabeça ali que você tem de pular de call center Zap etc mas você tem um conflito que precisa ser resolvido e ele é resolvido pela através do intermédio de máquinas né Essas máquinas São que permitem que a empresa gigante atenda no mundo toda atenda milhões de pessoas e tudo mais guarda o

fluxograma por eu quero trabalhar o conceito de algoritmo com vocês eu acho que a gente precisa especificar que que a gente tá falando aqui nessa sala quando a gente fala de algoritmo um algoritmo estrit senso é algo que o professor Flávio mostrou é um passo a passo você dá uma entrada ele te dá uma saída aqui é um fluxograma de um algoritmo que te diz qual de três números é o é o maior tá então você coloca lá três números ele passa essa sequência e no final ele te dá um resultado mais ou menos como

o chatbot que a gente viu a importância da gente trabalhar um conceito de algoritmo porque algoritmo é o é o tijolinho da Inteligência Artificial inclusive algoritmos compõem algoritmos mais complexos e você pode juntar um monte e prestar um serviço como um chat GPT que usa esses algoritmos de aprendizagem e tudo mais então no primeiro momento a gente tem a impressão que a gente tá falando disso mas o professor tton gesp ele eu coloquei a fonte aí se vocês quiserem que às vezes tem uns nomes complicados e ele separa em quatro conceitos de algoritmo que a

gente mistura um É de fato a solução é a matemática mas ele fala também que a gente tem o talismã né Você tem um argumento comercial ali de Pô a gente tem um algoritmo o nosso aplicativo de encontro usa um algoritmo vai te achar o par perfeito a gente tem também a ideia de que é científico esse compromisso com o procedimento de alguma forma o que tá ali não é da esfera humana é a ciência te dando um resultado que são duas camadas interessantes mas não é o nosso enfoque agora o principal é o algoritmo

como a sinedo é uma metonímia você tá falando algoritmo mas na verdade você tá falando de um todo a gente tá falando de uma empresa com políticas com pessoas com regras com decisões que oferece produtos e serviços usando uma tecnologia complexa um algoritmo complexo mas um não se separa do outro tá então a título de exemplos né aqui eu eu até mencionei a matemática o e Haron era um aplicativo antigo que tinha esse argumento né a gente vai usar o algoritmo para achar o seu P perfeito ã o iFood ele fala assim ó a gente

não escolhe não é o meu primo que vai ser o entregador que vai pegar a sua entrega a gente põe ali no algoritmo ele vai determinar quem tá mais próximo quem vai fazer a entrega mais rápido Qual que é o caminho mais rápido isso gente eu tô tô dando exemplos enfim chat GPT o o o serviço que a gente usa reflete uma série de decisões por exemplo decisões eh de ajustar vieses né qual público que você quer chegar e por aí vai assim todas essas empresas quando a gente fala do algoritmo do Google a gente

tá falando na verdade de todo Google que tá controlando e ajustando o algoritmo que a gente usa na ponta tá E é esse o ponto principal porque a gente cai um pouco no erro que é parte verdade mas também e pode ser um um um um erro em muitos aspectos em achar que tem um robô ali manipulando toda a nossa experiência e adoro o chat GPT que ele traz esse elemento distópico assim pra nossa conversa né mas a gente tá tratando com um conjunto sociotécnico há pessoas por trás dessa máquina e a gente tá interagindo

com essa máquina quando ela produz algo quando ela oferece o serviço tem alguém ali que paga a conta de luz que paga o servidor entendeu que desenvolve que ajusta então guardem esse esse conceito vamos lá então algoritmos como adjudicadores Eh eu gostei que o ministro Barroso usou trouxe um dado até mais atual que o meu então a gente sabe que os tribunais o judiciário no Brasil tem 83,1 eh milhões de processos ativos eu já ouvir eh não sei se é fato e é pouco relevante se é real ou não eh que o judiciário brasileiro é

o maior do mundo eh vamos vamos presumir que sim tá Porque de fato é Colossal eu digo que é irrelevante Porque de fato é é um número Colossal mas eu queria trabalhar alguns outros números com vocês e aí não são só empresas de Inteligência Artificial estrito senso mas são o algoritmo que a gente trabalhou agora esses dados são de um artigo de dois dois professores ethan catch e rabinovich a um artigo de 2017 então assim ele tá eras geológicas desatualizado mas os números servem pro nosso debate 2015 a alibaba através do seu mecanismo de resolução

de disputas que usa inclusive algoritmos de incentivo de crédito para resolver as disputas alibaba é tipo Mercado Livre Amazon eles tinha produzido 150 milhões de voto em disputas entre clientes tá então só aí em termos de o alibaba é quase o maior Tribunal do mundo de certa forma né são são disputas que talvez não fossem pro Judiciário Mas enfim são disputas que o alibaba tá resolvendo a citação ao lado vem do do fundador do nbnb que ele fala explicitamente Olha a gente pode escrever uma linha de código que vai vai resolver problema de uma 10.000

ou 10 milhões de pessoas quer dizer dentro da lógica do da prestação do serviço está a resolução de disputa através do algoritmo tá então existe toda uma camada ali de disputas que não necessariamente sobem pro Judiciário porque elas são mundanas né são pequenas mas na verdade elas são pulverizadas o valor e o volume é gigantesco e quem tá controlando isso de forma às vezes deliberada como é esse caso né são as plataformas e a gente vai discutir o não não no segundo para dar uma uma ideia das dimensões alguns anos atrás O Grande Debate era

Smart contracts blockchain e tudo mais e dentro do Smart contracts existe esse conceito de fazer um contrato elaborado uma organização que se opera sozinho que é uma distributed autonomous organization uma organização distribuída autônoma basicamente um contrato que se opera sozinho e nesse espaço temos reg de transações resolvidas executadas por contratos inteligentes que somavam 3 bilhões de dólares um mercado específico em uma moeda E aí qual que é a relevância disso porque o contrato inteligente ele não é só um contrato Às vezes ele é menos que um contrato né mas ele é um mecanismo de execução

ele é um mecanismo de resolução de conflito ele recebe aquelas entradas do algoritmo e ele dá output executa não executa cancela dobra multa etc então de fato essas máquinas já estão operando soluções e agora não é solução que vem da cabeça da máquina eh eu vi uma citação muito boa esses dias que dizia o seguinte talvez talvez o robô leve o seu emprego mas ele não vai levar o seu salário é mais ou menos essa lógica entendeu ele tá executando a resolução de conflito Mas quem tá por trás e quem tá operando não é a

máquina né E aí o ponto principal disso daqui é que a gente traz para essa infraestrutura Nossa de transações algoritmos e a gente tem um deslocamento privado né um espaço privado a resolução de conflitos de novo às vezes explícita às vezes implícita tá E aí eu quero explorar um um desses casos implícitos que é muito comum e talvez vocês também já tenham passado como o nosso caso hipotético espero que vocês também sejam fam familiarizados com linhas aéreas enfim telefonia esses problemas do dia a dia que é o caso da moderação de conteúdo cada postagem que

a gente faz a gente tem filtros algoritmos de Inteligência Artificial que olham para aquela postagem e falam bom pode ficar no ar uma postagem normal não pode é pornografia é violência é terrorismo E por aí vai e aí Lógico eu peguei esse exemplo do Instagram mas todas as grandes redes sociais fazem isso a gente está fazendo isso cada vez mais até por questões jurídicas então Eh o na Europa resoluções do TSE que foram mencionadas aqui online Safety act na no Reino Unido há uma pressão e uma necessidade da gente controlar a informação e isso inclusive

participei muito e apoio essas essas normas Minha tese doutorado em Oxford é sobre desinformação de ciência na saúde no Brasil eh mas a gente precisa entender como que esse conflito né você publicou alguma coisa que pode ou que deve ou não deve estar no ar tem um conflito precisa ser resolvido isso tá sendo resolvido pela empresa que lembre-se tá moderando o a nossa liberdade de expressão então conceito de moderação conteúdo é muito simples você faz um post que pode ser o meme da Nazaré pode ser uma imagem sei lá do Estado islâmico isso passa por

um modelo e o modelo diz tira ou deixa no ar agora eu vou aproveitar a explicação que o professor Flávio fez a gente treinou 60 modelos Inclusive a gente usou modelos da Google quer dizer então o Estado da arte indústria e esses modelos eram igualmente bons mas eles discordavam em certos pontos mais ou menos É como essa imagem Você tem dois modelos igualmente bons que estão olhando pro mesmo objeto na realidade mas estão descrevendo de formas distintas tá realmente quem escreveu o número queria dizer nove ou seis mas a gente não sabe o que que

é e o o os modelos estão disputando isso e a gente não tem uma razão para escolher entre um ou outro e o que a gente descobre é que de fato os modelos estão agindo a partir de elementos aleatórios isso é o preocupante E aí o para não repetir tudo que o Flávio disse e acrescentar uma camada pro pro nosso debate a gente tem uma fuga não só eh uma fuga ou um risco ao direito não só quando a gente fala da da noção jurídica que você pode ter um erro e aí punir alguém eh

violar a liberdade de expressão de alguém a gente foge da lógica de processo né a professora Ana também mencionou tangen esse assunto a gente foge do procedimento a gente espera que um adjudicador que vá aplicar a lei vá olhar lá pra liberdade de expressão vê os critérios Olha a jurisprudência aplica mas o que a gente percebe é que é uma fuga disso para uma lógica de estatística E aí essa é uma lógica essencialmente comercial não quer dizer que há um desalinho o tempo todo e que a gente deve judicializar todas essas disputas até porque seria

Absolut seria impossível né não seria o melhor uso do tempo do ministro Barroso ou de qualquer outro magistrado né não seria o melhor uso do tempo mas a gente precisa ter consciência disso a gente precisa perceber que essa essa camada de resolução de disputa também é controlada por um privado e esse privado se beneficia disso se você tem um problema no Uber você reclama e quem apanha é o motorista ou a motorista eu eu ia falar nunca mas às vezes tem as exceções quase nunca a plataforma fala assim não pera aí Isso aqui foi um

erro no meu algoritmo eu vou indenizar os dois aqui sempre ou você ou o motorista perdem então sim a gente tem a estrutura tecnológica de resolução de conflito Mas você deter isso é um poder enorme que a gente precisa discutir é essencialmente e aqui vou voltar uns slides é é explícito é uma jurisdição delegada tá no alibaba você vê isso nos termos de uso ouva né Isso aqui é de 2015 tá a gente tá falando de meios alternativos de resolução de conflito literalmente em outros casos de uma forma mais velada então a gente precisa sentar

e pensar nesses problemas e aí também eh dado que foi tô tô me referindo a um estudo que o professor Flávio mencionou essa aleatoriedade incidia de forma aleat eh discriminatória Então dependendo de quem você é a quem você tá endereçando você tem uma chance maior ou menor de ter uma decisão que é mais baseada em fundamentos ou mais baseadas no giro da moeda tá opa opa opa E aí eu venho pro momento final para amarrar com o tema do nosso debate que é o constitucionalismo professora chila janov Sheila Dezan também de Harvard Ela diz que

a tecnologia traz um momento constitucional ela tem um poder constitucional não no seguinte que ela vai lá e Altera a lei Mas Ela traz mudanças à realidade que nos obrigam a discutir valores jurídicos constitucionais então a foto da lua e não tem referência porque essa aí fui eu que eu tirei tô muito orgulhoso não foi chato de FT Mas de repente a gente consegue ir pra lua vamos discutir o conceito de propriedade você consegue ter propriedade na lua célula tronco é vida não é vida saúde a gente tem o Daniel que tá especialista em Inteligência

Artificial e saúde inclusive lançando um livro hoje que que é saúde a gente vai ter um diagnóstico usando ia o papel do médico da médica é só produzir diagnóstico o bom cuidado é só você olhar pra pessoa falar dor de cabeça toma de pirona ou o papel da médica ou do médico é muito diferente quando a gente fala de Cuidado então a gente introduz essa tecnologia beleza ganha escala mas a gente tá mantendo esse conceito de saúde Qual que é o conceito de prestação de saúde que a gente tem por exemplo na na constituição que

a gente quer ver preservado através das tecnologias e aí o Para onde vamos é quais são as soluções que eu proponho em cima disso eu não acho que a gente tem que abrir mão da tecnologia eu não acho que eu não quero vilanizar as empresas não é não é esse caminho eu acho de fato que Essas tecnologias são muito muito úteis tá eh para mim Eh o chat GPT é quase que a calculadora do advogado entendeu Essa que é o nível de de de de revolução é um negócio que você sabe fazer mas você consegue

fazer mais rápido mas você não aponta calculadora ali para um campo aberto e ela te dá um prédio né você tem que o engenheiro tem que ir lá pensar fazer conta modelar Enfim então a gente precisa ser arquitetos do problema a gente precisa entender Quais são as perguntas que a gente deve fazer como formular essas perguntas e aí também quais são as salvaguardas a Open ai soltou um um artigo eh chamado EA constitutional ai EA Constitucional a Open ai sabendo do problema tá se adiantando e propondo soluções mas o que a openi tá chamando de

constitucional Nesse artigo e vocês podem consultar é uma grande enquete rebuscada que aí eles inserem dentro do programa do do chat GPT E aí de alguma forma tá constitucionalizado entendeu tá amparado por por por diretrizes constitucionais inclusive tive uma ocasião de perguntar para ele eles né e eu acho que isso não bate com o conceito jurídico de Constituição porque a Constituição não é uma grande enquete que a gente documentou e colocou né colocou no Altar ela muitas vezes é contramajoritária ela é um instrumento de interpretação e muitos casos ela vai ser usada para interpretar um

caso novo a estatística não necessariamente vai te dar uma solução nova ela vai muitas vezes apontar por mais que elas possa ser generativa ela vai vai apontar pro que tem maior incidência então a gente precisa se apropriar dessas salvaguardas a gente precisa propor isso a gente não necessariamente precisa se rebaixar ao nível pulverizado de mercado etc mas a gente precisa saber que isso tá acontecendo E aí a gente precisa regular pensando em todos os níveis desde a incorporação dessas tecnologias no judiciário né entendendo como elas são usadas porque é uma caixa preta né Eh e

também discutir esse nível de infraestrutura e é por isso enfim que eu faço pesquisa eu trabal com isso e é com esse ponto que eu encerro deixo meus contatos Tô com umas afiliações misturadas então pesquisa com professor Flávio em harv pesquisa em Oxford então fico fico livre aí para quem quiser continuar nossa discussão e agradeço muito vocês terem ficado até [Música] aqui Ager Professor todos os panelistas Caio a Ana Juan e todos os panelistas aliás do seminário inteiro pelas exposições de altíssimo nível e passo agora a palavra ao nosso mestre de cerimônias Desejando um bom

almoço a todos e agradecendo a presença e a paciência agradecemos as manifestações de todos os palestrantes que contribuíram para o sucesso deste evento agradecemos também o apoio na realização deste seminário do Instituto de ensino desenvolvimento e Pesquisa o idp e da Embaixada dos Estados Unidos que neste ano celebra 200 anos de relações diplomáticas com o Brasil com a devida autorização declaro encerrado o seminário impactos da inteligência artificial no constitucionalismo contemporâneo e Tenham todos uma excelente [Aplausos] tarde i