Unknown

senhoras e senhores Bom dia neste momento retomamos o o terceiro dia e último dia da audiência pública para debater a minuta de ato normativo que dispõe sobre a regulamentação do uso de sistemas de Inteligência Artificial generativa baseada em grandes modelos de linguagem no poder judiciário informamos que para os que participam virtualmente o registro de frequência deve ser feito por meio do link disponibilizado na descrição do vídeo para quem participa de forma presencial a frequência foi registrada durante o credenciamento as audiências públicas organizadas pelo Conselho Nacional de Justiça seguem formalidades para sua viabilização assim em respeito

às tradições desta casa e aos argumentos defendidos pelos senhores expositores não serão permitidas quaisquer formas de manifestações não previstas e pronunciamentos com temas estranhos à audiência solicitamos que atentem para a limitação de tempo oferecido a cada expositor e instituição credenciada não haverá tempo adicional para reprodução de vídeos ou slides informamos que o cronômetro será acionado ao início de cada exposição para evitar incorreções relacionadas à contagem do tempo para que todos tenham a mesma oportunidade pedimos aos participantes que se atenha o tempo determinado de fala que é 15 minutos para a condução dos trabalhos tem a

palavra o Desembargador Pedro Felipe de Oliveira Santos bom dia a todos e a todas é com muita alegria e entusiasmo que nós iniciamos o terceiro e último dia desta audiência pública que discute a minuta de resolução sobre a utilização da Inteligência Artificial pelo Poder Judiciário brasileiro já tivemos aqui inúmeras manifestações com inputs e sugestões e feedback importantíssimos sobre o trabalho realizado pelo grupo de trabalho instituído em dezembro do ano passado e hoje aqui cabe-me a condução do quarto painel de especialistas eh temos aqui a missão hoje de fazer uma trazer alguns inputs comparados a respeito

da utilização da Inteligência Artificial não apenas no judiciário brasileiro como também em outros poderes Judiciários eh do mundo é com muita satisfação que dando início iníci ao aos nossos trabalhos eu convido a falar o Dr Renato Ops blom que vai falar sobre a inteligência artificial aplicada ao judiciário ao redor do mundo o Dr Renato é advogado economista e mestre em direito pela Florida Christian University professor de direito digital proteção de dados Inteligência Artificial e segurança da informação é presidente da Comissão de estudos de novas tecnologias neurodireito Inteligência Artificial do IASP diretor do Departamento de Defesa

e segurança da Fiesp e membro da associação europeia de privacidade Dr Renato Muitíssimo obrigado por estar aqui conosco hoje e tenho a honra de passar a palavra ao senhor Bom dia a todos bom dia Desembargador é uma alegria uma honra tá participando aqui desse evento Fantástico tem acompanhado desde quarta-feira todos esses profundos os debates desafios e dúvidas envolvendo a inteligência artificial e procurando fazer aqui um eu não vou dizer um resumo mas uma uma interlocução um link vamos usar o termo técnico né um link de de todos os desafios junto com as questões internacionais e

algumas tendências envolvendo o poder judiciário dentro do meu tema que foi colocado com relação a essas iniciativas globais eu queria trazer o primeiro ponto que envolve a principal tendência que está diretamente conectada a Desembargador a dificuldade que nós temos e teremos cada vez mais de identificar a utilização da inteligência artificial em si por coincidência eu falo aqui da escola superior de propaganda e marketing que eu leciono acabei de de terminar uma aula em que pude pros alunos algumas discussões envolvendo um filme que eu quero recomendar aqui para todos chamado máquina machina em que em uma

Sese sem dar o spoiler existe uma interação do ser humano com a máquina no formato Android e o objetivo quei TR do fil faz com compreender se o sistema ou se a máquina ela vai se sobrepor à compreensão humana Então nesse primeiro ponto usando esse exemplo eu acabei de de lecionar aqui na SPM eu trago o a questão da Transparência e aqui dentro do meu tema envolvendo a regulação internacional nós temos exemplos globais hoje de iniciativas regulatórias obrigando exigindo a aplicação desse princípio seja através de marca d'água ou qualquer tipo de declaração Statement etc vamos

trazer aqui algumas alguns modelos então Tribunal do comércio do Texas tem essa premissa a Ordem dos Advogados do Texas também exige na atuação profissional essa eh ação de transparência da mesma forma a Ordem dos Advogados do Estado de ilinóis nos Estados Unidos a Flórida bar também a Ordem dos Advogados da Flórida nessa mesma linha temos iniciativas também de regulação e ao que tudo indica Isso vai acontecer também no estado da Califórnia nos Estados Unidos em Singapura na Jamaica na Colômbia no Canadá o Canadá Inclusive tem uma atuação jurisdicional interessante sobre o tema Inteligência Artificial a

justiça também do Marrocos quero destacar aqui na Alemanha da mesma forma e por útimo aqui no Brasil conforme nós discutimos aí nos últimos dois dias uma atribuição atribuição específica direta nesse momento do CNJ então primeiro ponto objetivo e prático princípio da Transparência deverá nortear o uso da ia nos tribunais no judiciário no âmbito internacional isso decorrerá de uma obrigação ao mesmo tempo que será uma obrigação imposta pelos tribunais ou pelos conceitos A exemplo do CJ também isso acontecerá a partir das orientações e normativas das Ordens dos Advogados E isso tem uma conexão direta quando a

gente fala no princípio da Transparência com a própria evolução da Inteligência Artificial E aí eu trago duas vertentes que justificam Esse princípio primeiro a segurança víde os exemplos que foram colocados aqui nesses dois últimos dias envolvendo a imperfeição da generativa ou seja das consequências que nós Recebemos a partir de uma provocação nos próprios sistemas e essas referências que que o sistema nos dá nem sempre são ou na maior parte das situações podem ser imprecisas eu digo paraos meus alunos Exatamente isso então procurem na melhor atuação do do nosso dia a dia profissional inverter o conceito

para errar menos então Tenham sempre a percepção de que o sistema ele erra juntando então o princípio da segurança vinculando a transparência Nós trazemos aqui também uma outra questão que é a dificuldade de percepção agora não tô falando mais do resultado seria verdadeiro ou não mas de percepção de que aquele conteúdo está relacionado à aquela causa por exemplo ou aquela aquela decisão aquele julgado etc então nesses primeiros 5 minutos o meu ponto está está diretamente ligado aqui ao princípio da Transparência que deve nortear as tendências regulatórias dos tribunais e conselhos enfim órgãos específicos com competência

para isso a segunda questão é a prudência então o uso como nós falamos aqui da própria EA responsible ai responsible artificial intelligence que seria o uso responsável da Inteligência Artificial confirmando e verificando todo aquele conteúdo que que nos dá e o terceiro a terceira vertente tá ligada no treinamento na educação na compreensão do uso de todos esses sistemas novamente nos últimos dois dias nós tivemos aqui vários exemplos de várias plataformas com vários resultados distintos inclusive com módulos específicos específicos que nós temos hoje inclusive muitos deles desenvolvidos aqui no Brasil que ajudam bastante na prática do

dia a dia há um ponto que eu não mencionei mas que eu acho que vale a pena que é com relação à atividade dos profissionais para a sociedade então falamos da nossa atividade dentro do Judiciário então advogados magistrados promotores até dentro da esfera policial Delegados de polícia Procuradores etc mas atividade Nossa perante a sociedade lei sociedade que não está letrada no campo jurídico e que tem acesso hoje a decisões a julgados a audiências a sessões de julgamento etc nesse ponto e aqui talvez fazendo um exercício um pouco mais aí futurístico e trazendo novamente o princípio

da Transparência fica a questão aqui eu não trago a solução mas fica uma dúvida e também uma tarefa para todos nós de como fazer com que a sociedade perceba a utilização da inteligência artifici dentro do sistema judiciário mas não no sentido de que haja a impressão de que os julgamentos as decisões as atuações sejam sistematizadas sejam automáticas sejam automatizadas e pelo contrário trazer a sensação e a percepção que deve ser real de que A gestão é humana e que o julgamento ele advém da essência da própria convicção e das ações humanas mas que traz aqui

pro direito todo esse diferencial inclusive no último relatório do do Morgan stellen com relação às atividades mais suscetíveis à substituição por Androides a atividade jurídica veio sen não em último lugar quase em último penúltimo anti penúltimo lugar invertendo uma tendência de estabilização no nível médio para cima exatamente em função da imprevisibilidade Claro que existem questões e que nós teremos aí mais automação Como já foi dito aqui no nos dois últimos dias e por fim eu trago a questão da governança quero usar aqui um termo bem técnico do do nosso dia a dia e vamos encaixar

essa governança nas atividades jurídicas como um todo governança de Inteligência Artificial que vai encampar algumas questões de altíssima relevância e que vem sendo discutidas nesses países que eu citei há pouco inclusive em algumas eh ordens de de Advogados primeiro princípio Vamos repetir um pouquinho para reforçar transparência segundo segurança terceiro conformidade com a legislação específica ou com as normas ou normativas específicas do caso quarto própria questão da sustentabilidade pouco se fala da sustentabilidade mas os modelos de consome muita energia e muita água sexto testes teste teste teste mais testes mais testes e mais testes em função

da imprevisibilidade desses modelos vamos avançar um pouquinho princípio da explicabilidade Então eu preciso minimamente compreender o funcionamento e os resultados que estão sendo oferecidos ofertados por determinada plataforma e essa explicabilidade também está intimamente ligada à transparência novamente falei transparência aqui já 11ª vez is que eu falo transparência para reforçar bastante temos a questão dos riscos que devem ser mapeados integram também aqui a parte da governança e de forma muito objetiva e aqui Perpétua a educação e esse ponto eu quero trazer uma referência mais específica e direta a educação que é o objetivo principal aqui desses

debates fantásticos debates e aqui eu agradeço ao Conselheiro Bandeira de Melo pelo convite também e faço todo dos meus elogios aqui a esses debates de altíssimo nível mas a educação que envolve a compreensão vamos explicar vamos discutir o que que tá acontecendo no mundo no âmbito da Inteligência Artificial essa parte ela deverá ser cada vez mais exigida eu não digo nem sugerida mas exigida em todas as esferas claro que aqui estamos falando do Judiciário como um todo e essa é uma tendência também regulatória dos países mais desenvolvidos e inclusive na própria China existe que é

mais liberal mas existe essa esse impulso Educacional também com bastante intensidade E o motivo é muito simples hoje nós discutimos plataformas em que nós interagimos perguntamos o chat PT pro lam pro cloue pro Gemini etc pro c pilots perguntamos e interagimos ainda com o teclado acabou de ser liberado a interação por vz mas ainda com teclado eh muito muito em breve e é o que tudo indica um ou dois meses a liberação do GPT Plus já já foi anunciada anteontem essa interação começará em tempo real por voz e por uma voz que é muito semelhante

não só ao Tom que nós estamos acostumados que os tons são variados mas a emoção da voz humana Então dentro do conselho da educação e dessa evolução nós estaremos muito em breve então conversando com esses sistemas ainda em nutela mas que podem ter um formato de Android em voz humana aqui nós podemos ter também eventualmente eventualmente não acho que isso vai acontecer a participação em Atos processuais em Atos jurídicos atos legais desses sistemas colocava inclusive outro dia esse debate em classe da possibilidade de uso da ia em uma audiência por exemplo Nativa de uma testemunha

em uma busca e apreensão uma questão técnica ao mesmo tempo ou mesmo eh chamar título de colaboração que indo um pouco mais à frente e trazendo o futuro mesmo no pro nosso dia a dia creio que isso é possível talvez no futuro nós tenhamos então o advogado o promotor o magistrado e talvez junto conosco nessa audiência um outro ente envolvendo aí a inteligência artificial como um todo e trazendo situações fáticas em tempo real por isso que eu tô fazendo referência direta à educação tentando trazer esse cenário que eu não vi aqui nesses últimos dois dias

ainda na prática eh e essa é uma tendência já para de alguns países então nós teremos nessa interação e uma audiência um exemplo mais objetivo por exemplo um acidente de carro eu posso est interagindo magistrado o advogado enfim interagindo com esses modelos e o modelo de a pode trazer em tempo real ou uma simulação ou uma imagem Real de uma câmera ou mesmo uma interpretação técnica objetiva fazendo a correlação com normas técnicas ISO etc e a partir daí naquele momento trazendo mais subsídios insumos fatos para esse para para para aquela decisão aquela ação jurídica legal

do advogado do promotor enfim Seja lá quem tiver ali participando Isso vai acontecer junto com esse com essa nova figura vamos chamar assim que vai est eh em interagindo Então como nós tínhamos os sistemas eh não ativos passivos Pode ser que nós tenhamos os sistemas ativos e isso exige a educação e é assim que eu caminho já pro final reforçando dentro do modelo de governança a importância da educação e de todos todas as outras Vertentes que eu citei aqui e nesse encerramento eu digo em cima do título que foi me dado o que que o

mundo tá fazendo com relação a isso e os tribunais de outros países e de ordens de de advogados como eu comecei eu termino qual qual são as principais dúvidas e ações então a dúvida principal Hoje é a transparência as ações envolvem a educação e a tendência é que cada vez mais esses modelos de ia de Inteligência Artificial sejam incorporados no dia a dia jurídico da atividade jurídica como um todo não acredito na na decisão ou no no juiz automatizado a não ser por algumas tarefas recursos repetitivos etc pelo contrário acredito que cada vez mais nós

humanos Estaremos interagindo com essas ferramentas e teremos como principal objetivo entender compreender e saber como gerir essas ferramentas Muito obrigado um ótimo evento a todos fiquei bem fiquei com Deus Muitíssimo obrigado Dr Renato pelas lúcidas palavras e e dois pontos que o senhor tratou em sua fala são de muitíssima relevante muitíssima relevância pro debate dentre todos eu destaco a questão da Transparência tônica da fala do Senhor e essa foi uma discussão muito intensa no grupo de trabalho a minuta atual no seu Artigo 8 d parágrafo 6to indica que o magistrado servidor deve indicar no ato

judicial quando a quando houver o auxílio de alguma solução que utilize eh técnica de inteligência artificial para a realização daquela tarefa e essa foi uma discussão grande Porque estávamos entre dois opostos de um lado essa questão da informação para o usuário externo é uma necessidade na visão do senhor é uma necessidade mas existem vozes que dizem que isso essa informação seria um excesso né de forma que poderia inclusive gerar a digamos assim um sentimento eh negativo em relação aos atos judiciais que se amparem de alguma forma com pela Inteligência Artificial ou seja nós tínhamos aqui

nós temos ainda uma discussão há realmente a necessidade dessa informação a minuto atual no estágio atual no estatus atual privilegia o entendimento trazido eh pelo senhor mas não podemos desconsiderar que existem vozes que entendem que seria um excesso ou que seria desnecessário justamente porque com a amplitude e o aumento da quantidade de ferramentas de Inteligência Artificial sendo utilizadas Talvez daqui a Médio prazo daqui a longo prazo essa presença seja tão holística né a a inteligência artificial seja tão onipresente em todos os instrumentos em todas as tarefas que já seria uma a utilização da Inteligência Artificial

seria uma tautologia não estamos nessa fase ainda no no poder judiciário entendo que estamos longe de atingirmos essa fase no poder judiciário e realmente eh eu tendo a concordar bastante com o senhor sobre a questão da Necessidade dessa informação é é é faz parte inclusive eh da da própria educação digital tanto do público interno do Poder Judiciário como do público externo um outro ponto também se me permite a questão do treinamento está contemplada no Artigo 8 d parágrafo 5º que coloca as escolas judiciais dos tribunais com a responsabilidade de fazer um treinamento um treinamento esse

a meu ver que não é apenas um treinamento para utilização das técnicas de Inteligência Artificial mais um treinamento também para conscientização do que é a inteligência artificial dos pontos que que precisam ser entendidos pelo usuário interno na utilização da dinâmica e claro dos riscos e da dos atos prudenciais que devem ser observados na utilização dessa as ferramentas portanto em em boa hora a a fala de a fala do Senhor Dr Renato e portanto eh trazendo pontos de extrema relevância e que tem sido a tônica das nossas discussões continuando o na nosso o nosso painel eu

tenho a honra agora de convidar o Dr Paulo Marcondes brincas da OAB de Santa Catarina para falar do desafio da implementação de a no poder judiciário transparência Então continua and no mesmo tópico que que estamos aqui abordando o Dr Paulo é mestre Bacharel em Direito pela Universidade Federal de Santa Catarina advogado em Florianópolis há 35 anos foi professor de direito de empresa da Universidade Federal de Santa Catarina e de diversas outras instituições de ensino superior em Santa Catarina e em outros estados autor de obras e diversos artigos publicados na Esfera do direito de empresa foi

presidente da OAB de Santa Catarina de 2016 a 2018 e é coorden de inovação e Tecnologia do Conselho Federal da Ordem dos Advogados do Brasil Dr Paulo estamos imensamente gratos pela participação de vossa excelência e concedo a palavra ao senhor pelo tempo regulamentar Desembargador Pedro Felipe eu primeiro questiono se estou sendo ouvido estamos ouvindo perfeitamente Dr Paulo Desembargador eu quero em primeiro lugar fazer um agradecimento a honra estou tendo de participar dessa iniciativa extraordinária do Conselho Nacional de Justiça eu tenho participado tenho assistido as apresentações nesses últimos dois dias e realmente eh é impressionante o

trabalho que tem sido desenvolvido e as informações estão sendo trazidas Eh quero cumprimentar meus colegas de painel eh Dra Fernanda Dr Renato que estão aqui pelo pelo pelo digital os colegas que devem estar no presencial e é a todos que estão nos dando a honra de nos ouvirem agora ou posteriormente pelo YouTube des vagador eu quero iniciar minha fala eh confessando a todos os colegas que estão aqui ouvindo a o meu entusiasmo diante deste dessa proposta eh eh nesses últimos 35 anos essa essa experiência de 35 anos de exercício ininterrupto da advocacia eu confesso que

e testemunhei muita coisa O Poder Judiciário hoje no Brasil é dramaticamente diferente do Poder Judiciário que eu conheci há 35 anos o que foi feito de investimento Neste período o que foi feito de investimento em Estrutura em Tecnologia de Informação em treinamento incapacitação do pessoal dos magistrados é verdadeiramente extraordinário da mesma forma a o avanço da legislação principalmente legislação processual eh e tentando de todas as formas eh fazer frente a esse volume enorme de processo que nós temos no país hoje O Poder Judiciário é outro poder judiciário é completamente diverso daquele que eu conheci há

35 anos mas o fato é que a despeito de todo o investimento de todo esse crescimento o que permanece comum Desde aquela época é é o congestionamento do Poder Judiciário é impressionante que com tanto esforço com tanta dedicação nós tenhamos ainda um poder judiciário extremamente Moroso E extremamente congestionado esse assunto é um assunto de extraordinário importância e tem que ser combatido eu trago um número bem rapidinho aqui só do de exemplo do Supremo Tribunal Federal Supremo Tribunal Federal brasileiro recebe hoje 90.000 processos por ano fazendo uma conta básica são 8200 processos por ano por magistrado

por por Ministro e cada um cada Ministro precisa julgar pela média 23 24 processos por dia 365 dias por ano feriados Domingos enfim isso é um um volume e esse volume não é apenas no Supremo Tribunal nós sabemos que se se espalha por todo por todo o país pois bem nós estamos diante agora da questão da vinda da inteligência artificial generativa e eu quero dividir com os colegas as minhas boas expectativas em relação a esse assunto E digo isso Desembargador Pedro Felipe porque o ganho de eficiência vindo com a com o uso de inteligência generativa

não é grande Ele é brutal ganho de eficiência É extraordinário capaz inclusive de permitir que um único servidor um único magistrado um único trabalhador tenha o desempenho isso no poder judiciário empresas etc o desempenho de 50 profissionais eh que não não estiverem utilizando essa ferramenta isso É extraordinário porque o ganho de eficiência não é o Dobo o triplo o quadro é 50 vezes maior é absurdamente maior e isso provoca isso faz com que nós tenhamos diante de nós pela talvez primeira vez a oportunidade de pmos fim a este problema de morosidade no processo judiciário no

no processo judicial brasileiro essa perspectiva que para mim nesses últimos 35 anos é inédita não não não imaginava que fosse viver para para testemunhar esse fato mas eu sou extremamente otimista em relação a essa possibilidade e essa questão de Inteligência Artificial Desembargador tem mais uma uma uma questão interessante que a inteligência generativa foi disponibilizada ao público há 1 ano e meio é muito jovem é muito nova e a grande vantagem de ter sido trazida um ano e meio atrás é o fato de de quê Tá todo mundo começando no mundo inteiro não tem ninguém na

frente É como se houvesse uma corrida de fórmula 1 que de repente a organização da prova parasse enfiler asse todo mundo na na na largada e refizesse a largada estamos largando todos juntos estamos começando juntos aqui na América do Norte Europa Ásia estamos todos começando ao mesmo tempo e no Brasil começando muito bem a já vist desse esforço extraordinário que tem sido feito pelo pelo Conselho Nacional de Justiça e essa iniciativa fantástica que é a realização deste eh seminário evidentemente que há riscos e desafios e e nós precisamos tratar disso especificamente aqui neste neste evento

eu gostaria rapidamente de traçar com com os colegas algumas preocupações que tem de que nós assuntos que nós deveríamos nos preocupar primeiro dele cada é é razoável que cada tribunal Desenvolva o seu próprio sistema de inteligência generativa ou seria melhor Que nós tivéssemos um sistema único Nacional um sistema talvez criado sob a supervisão do Conselho Nacional e justiça que eh abrangesse a todos e fosse utilizado por todos os tribunais do país quando nós falamos de sistemas de gestão de processos como o pje etc a tônica sempre foi tentar unificação por razões óbvias e infelizmente nós

não conseguimos essa unificação no Brasil mas sempre foi uma possibilidade uma tônica uma um algo a ser buscado e perseguido mas eu confesso aos colegas que quando se trata de Inteligência Artificial quer me parecer que a existência de mútiplos sistemas seja mais interessante do que de um sistema único isso porque a inteligência artificial esses largos modelos de linguagem como se diz traduzindo da língua inglesa ela se baseia na construção de algoritmos esses algoritmos são diferentes entre si e eles funcionam de acordo com os dados que são fornecidos base que lhe é fornecida isso significa que

diferentes algoritmos chegarão a conclusões diferentes principalmente recebendo eh dados eh expostos a bases diferentes como nós estamos tratando aqui de direito e a essência do direito é a pluralidade é a diversidade de opiniões é a divergência me parece que nós termos sistemas que que funcionem por algoritmos diferentes e usando bases diferentes enriquece toda a estrutura do poder judiciário então eu gostaria aqui Desembargador pedo Felipe de manifestar a minha opinião no sentido de que me parece interessante que em termos de Inteligência Artificial tenhamos sistemas diversos operando em diversos tribunais do país um outro assunto que me

parece importante é a questão do descomissionamento é a porta de saída Inteligência Artificial avança muito rapidamente e o uso de um sistema que é uma inovação hoje pode se tornar muito brevemente obsoleto e nós tenhamos que passar por um segundo sistema oferecido por uma outra empresa geralmente a gente pensa na porta de entrada mas não na porta de saída como é que se faz o o o o descomissionamento de um sistema desse é importante que isso seja previsto inicialmente para que não tenhamos essa dificuldade no momento futuro e temos que prever isso desde agora no

momento futuro de eh verificação dessa possibilidade terceiro ponto há uma pesquisa que foi apresentada agora no no no ato de abertura da deste dessa audiência pública na na mesa de abertura eh que deu conta de como está a utilização de de inteligência artificial no Brasil hoje é evidentemente é muito precoce tá apenas começando mas dos magistrados que responderam que já estão utilizando para finalidade profissional eh vários deles disseram que estão utilizando para pesquisa de jurisprudência e isso me preocupa Desembargador Pedro Felipe porque os modelos de Inteligência Artificial eh eles não foram a princípio criados para

serem izados para esta finalidade e inclusive é bastante perigoso o uso da Inteligência Artificial como mecanismo de pesquisa de jurisprudência a inteligência artificial generativa ela é generativa de textos ela é capaz de escrever um poema um roteiro de filme Um Livro uma obra ou uma decisão de um tribunal livremente eh e isso gera um risco muito grande como eu acredito que a possibilidade de pesquisa de jurisprudência através da ferramenta seja importante pro dia a dia dos profissionais pro dia a dia dos magistrados advogados seria talvez eh fundamental que as empresas que estão para desenvolver esses

sistemas tenham em mente que precisam criar mecanismos específicos de pesquisa de jurisprudência para que não haja grandes problemas de jurisprudências que que venham a ser citadas e que na realidade são só textos e que e que não existem Então me parece importante e me me chamou atenção Desembargador na na no início do do do na abertura dos trabalhos este ponto mas me parece que por outro lado eh nós teros como como eh e um ponto fundamental Tô vendo que meu meu tempo tá quase es brotando aqui governança Sem dúvida nenhuma é só a governança que

há de nos afastar do Risco de termos robôs julgando é só a governança e o estabelecimento de regras para que a magistratura continue no comando das decisões que se assegure a população que os magistrados as pessoas os seres humanos magistrados continuarão no comando das decisões a despeito do do da produção da Inteligência Artificial generativa como como ferramenta de apoio apenas como ferramenta de de apoio e por fim Desembargador eu queria fazer uma e aqui acredito que seja um posicionamento não meu particular mas da Ordem dos Advogados da OAB nós discutimos bastante essa questão na essas

questões na na na coordenação de inovação e Tecnologia do Conselho Federal e diz respeito à participação da sociedade em particular da Ordem dos Advogados na construção desses algoritmos esses algoritmos estão sendo preparados para propor decisões estão sendo preparados para entender o direito qual direito como de que forma é muito importante que haja uma participação da sociedade também na construção desses algoritmos e em particular se me permite da Ordem dos Advogados do Brasil que a Ordem dos Advogados tenha a possibilidade de acompanhar dentro dos tribunais a construção desses sistemas de Inteligência Artificial me parece que nós

estejamos aqui des vagador Pedro diante de uma histórica oportunidade oportunidade talvez de resolver o problema de morosidade do Poder Judiciário confesso a vossa excelência que em 35 anos é a primeira vez que eu acho que é possível que é viável que que temos a possibilidade e não apenas isso mas de construir O Poder Judiciário mais eficiente avançado do mundo aqui no Brasil estamos todos largando do mesmo ponto em qualquer outro país todo mundo tá largando do mesmo Ponto todo mundo tá começando a utilizar aprendendo e o esforço que tá sendo feito pelo Conselho Nacional de

Justiça e pelos tribunais brasileiros prova disso é essa audiência pública de hoje esse esforço há de resultar em grandes conquistas acredito que nós estamos diante de uma página histórica do Poder Judiciário no Brasil e gostaria demais de testemunhar ainda mais essa mudança Parabéns ao Conselho Nacional de Justiça muitíssimo obrigado pela oportunidade de est aqui eu realmente espero que de alguma forma tenha ajudado no debate Muito [Aplausos] obrigado Muitíssimo obrigado Dr Paulo pelas considerações e inclusive chama atenção a o olhar otimista pelo uso da Intel artificial pelo Poder Judiciário nós muitas vezes destacamos bastante os riscos

as Prudêncio senhor eh destaca eh um ponto também que não pode ser desprezado o ganho de celeridade de eficiência de gestão que o poder judiciário brasileiro e outros poderes Judiciários certamente terão com o uso da Inteligência Artificial eu eu estou aqui agora que tendo ao meu lado a honra da da presença do nosso Líder o conselheiro bandeira de também gostaria de destacar aqui a chegada também do do membro do Dr Alexandre zagala que vai eh também coordenar a próxima mesa e tenho a honra agora de convidar o professor Juan dav Gutierrez da Universidade dos Andes

na Colômbia que vai conversar conosco sobre as diretrizes da Unesco para o uso de inteligência artificial em Sistemas judiciais o professor Juan é associado da Escola de Governo da e Universidade de Los Andes onde ensina e investiga sobre políticas públicas gestão pública e inteligência artificial Doutor e mestre em política pública pela Universidade de Oxford mestre em direito e economia pela Universidade de bolonia e Universidade Erasmus de Rotterdam é membro do grupo de parceria Global sobre inteligência artificial foi coordenador acadêmico do curso inteligência artificial para administração da Justiça oferecido pelo conselho superior da magistratura da Colômbia

em Associação com a Universidade dos e é consult internacional sobre inteligência artificial no setor público para Unesco e aal seja bem-vindo professor juanco e sen palimas graas portugués estaba pensando si era mejor que presentar en inglés en espaol Creo queed buen para ha inl esp present comunicaron Yo soy consultor para Unesco en temas de inteligencia artificial particularmente he trabajado en la preparación de la primera el primer borrador de Las directrices Unesco para uso de sistemas de Intel artificial Enes Y tribunales doent abierto a comentarios y recibimos cientos de insumos de interesados todo el mundo Y

en estos 15 minutos que tengo les voy a cortar acerca de esa propuesta de guías que puede servir para Las que están preparando en este momento en Brasil precisamente porque Hay muchas oportunidades de uso de Los sistemas de Intel artificial acabamos de ver una exposi en la Que Hay much opisto sobre es Y compar el optimismo enant esales usos Pero también Creo que ese optimismo se va a ver efectivamente reflejado en beneficios siempre que usemos adecuadamente las herramientas verdad Son herramientas muy Poderosas pero que requieren un buen uso para que podamos obtener esos beneficios esperados

Entonces un poquito de contexto que seguramente edes escucharon en otras presentaciones Pero cada vez Hay má sistemas in ar continent caso de Brasil dec edes conocen que sistema justicia brasilero ha desarrollado SUS propios sistemas Y por supuesto también nuestros jueces magistrados Y las personas que los apoyan también pueden acceder a chatbots gratuitos o pagados comercialmente disponibles Y por lo tanto Hay una oportunidad muy grande de generar unas guías de Gener un orientaciones so USC sistem artif sistemas de inteligen artificial generativa Hay muchas otras cosas de contexto que se pueden decir peroo S que edes las

han cubierto Y por eso voy a saltar Un Poco más quiero contarles que estas guías se basan en entre otras cosas en una encuesta que hicimos a nivel Global en el que reimos respuestas de operadores judiciales en más de 90 países en donde preguntamos sobre Los usos que le Dan a los sistemas en el seor justicia Y sobre SUS percepciones los sistemas Y les quietar está publicado Y lo pueden descargar también está disponible públicamente rápidamente les cuento 40% las personas respond esta encuenta di uspg otro tipo de chatot para sus tareas legales lo cual unaa

bastante alta dado estas tecn Son relativamente nuevas un paréntesis edes pueden encontrar chatot cartina Hay casos de Brasil de Colombia de per de Bolivia de México de Argentina está disponible en internet hasta Ahí lo Voy dejar solo es un paréntesis porque tien esa curiosidad Pero volviendo al tema de la encuesta encontramos Que el 43% de Las personas Ena Us chatbot como chatot comerciales chpt como lug para bus inform tipo inform jurisprudenciais cono es hgy importante porque los chatbox comerciales no Son fiables como Fuente eh de información en el sentio de con alg digamos dependiendo del

sistema Y de la pregunta que se Haga con alguna frecuencia responden con respuestas imprecisas incorrectas o incluso con ficción eh por ejemplo algo una recomendación que Sale de Ahí es que nuestros jueces magistrados Y servidores judiciales tienen que ser conscientes de Las limitaciones de los chatbots para no depender excesivamente de Sus respuestas Y por el contrario siempre verificar el contenido de Las mismas en contraste con otras Fuentes que Sean confiables quizá las más tradicionales eso solo para darles un ejemplo de como la encuesta hicimos ilumina el tipo de recomendaciones que luego contienen las guías otro

porcentaje bastante alto respondió queutiliza para redactar parte de Sus documentos Son tareas de resumen de traducción de escribir el Tex en un lenguaje más accesible no son para escribir completamente la decisión sino para ayudarles a construir una una redacción eso pues nos parece razonable nos parece que es un uso que es adecuado Y que eso es un ejemplo de como En Cambio ese uso puede efectivamente reducir el tiempo del trabajo sin perjuicio de que incluso en ese aspecto por ejemplo para resumir un documento para traducir parcialmente un documento los chatbot no Son infalibles también Hay

que hacer una revisión del contenido final Bueno solo para darles algunos ejemplos voy a seguir con la siguiente Y es la pregunta sobre la percepción sobre existencia de riesgos les preguntamos que si perciban que había un riesgo usar estos chatbots comerciales en tareas legales Y Casi el 70% dijo que S que había riesgos Y Cuando les preguntamos 70% tipo RG encan laor preocup por la calidad del contenido está ligado a Lo Que les acabo de decir sobre la imprecisión que puede haber en las respuestas algunos están preocupados por temas de protección datos personales Y privacidad

Bueno por porque por ejemplo los chatbot comerciales que Son gratuitos la mayoría de Sus términos Y condiciones establecen que los proms las instrucciones que una Persona inclu en el chatbot serán reutilizadas por la empresa eso queere decir si juz o un servidor judicial cometia imprudencia de inclu información confidencial o información Personal en el promt va per control sobre quién accede esa información evidentemente es un problema eso Tod chat ASO en este momento los chat comerciales gratuitos los chatbot comerciales pagos y los especializados en asuntos legales pagos no tienen ese problema porque tien la promesa de

que no Van a reutilizar es informa copyright fue desarroll la herramienta sobre Qué pasa luego que yo use texto que genera la herramienta otros est preocupados por la opacidad de la herramienta Y pues evidentemente el principio de transparencia en el proceso judicial puede chocar con el uso algunos de estos sistemas Y también le preguntamos a los operadores judiciales que si habían recibido entrenamiento formal para el uso de sistemas de intelcia artificial Y si en sugan Person respondió que no tenía acceso a entrenamiento que nunca hab recibido entrenamiento formal sobre usar los chats Y que el

73% no tenía guías a la mano parte de la organiz sobre si usar o no usar estos sistemas intelcia artificial eso eso por ejemplo también ilumina recomendaciones de Las guías una primera recomenda la organización debe ofrecerle la posibilidad a los magistrados servidores judiciales de que desarrolle unas competencias digitales básicas de que se alfabeti en términos de inteligencia artificial precisamente para saber Cómo usar bien las herramientas Y evitar algunos tipos de usos es es una primera conclusi Pero la segunda conclusión es que también se necesitan un orientaciones Porque la mayoría de Las organizaciones todavía no lo

han Hecho Por supuesto que las guías Unesco las directrices de Unesco no pretenden reemplazar lo que debe ocurrir en cada país que cada jurisdicción produzca SUS propias guías como ha pasado por ejemplo en el Reino Unido en Canadá en Nueva zelanda Y como está pasando ahora en Colombia como yo sé que está pasando también en este momento en Brasil las guías Unesco lo único que hacen es ofrecer unas reglas básicas que las organizaciones que gobiernan la rama judicial consideren para construir su propi reglas que tienen que estar adaptadas por supuesto a la realidad local ya

entrando a las guías propiamente de Unesco que es una propuesta no está tarde para que ustedes enven SUS comentarios y los tengamos en cuenta para la versión definitiva me quedan solo 6 minutos Pero voy a poder contarles Cómo están estructuradas esas guías esas guías comienzan con una serie de principios como ustedes pueden ver Hay 13 principios esos 13 principios puedo usar una expresión coloquial no tuvimos que inventar la rueda para proponer estos principios porque Hoy en día Hay muchos instrumentos internacionales que nos ayudan a crear princi AD recomenda sobre ética intelcia artificial de la Unesco

muchas otras organizaci internacionales como la osd ha producido SUS propias recomendaciones o principios organizes de lucro incluso empresas también han propuesto algunos principios Entonces nosotros lo que hicimos fue coger digamos esos principios comúnmente propuestos para el uso de stif luego ADT parae proceso judicial estos principios aplican para organizaciones es dec para Las organizaciones que Gobi la rama judicial Pero también aplican para los individuos para magistrados jueces Y servidores judiciales No Voy a entrar en mucho detal porque no me queda tanto tiempo Pero ustedes Cuando vean Cuando ahora que está viendo esta lista de principi Creo

la mayoría deedes Son conscientes digamos alguna vez lo han escuchado y Yo eh destacara en todo caso si al menos dos Uno el de protección derechos fundamentales eso es algo que por ejemplo los los distinga ustedes como jueces respecto de otras personas del mundo de lo privado por supuesto no que Eno privado no tengan que respetar derechos humanos es que los jueces tienen un deber acentuado de protección promoción Y respeto de derechos humanos Entonces por eso hacemos un énfasis importante en el Punto Y también quiero hacer otro otro mensaje que quio decir es que principio

número 10 es el de supervisión humana Y es las herramientas pueden ser muy buenas ninguna será infalible Pero Para para un buen uso de estas herramientas siempre debe haber una supervisión humana sobre el resultado final o El contenido digamos de lo que produ dig esa respuesta si se esté conforme con los hechos con la realidad o con la evidencia Si Es que se necesita contrastar con la evidencia de tal manera que por lo menos para asuntos que impliquen la toma de decisiones entre más cercanos estemos usar un sistema artificial en la toma de decisiones con

Mayor razón tendr que haber un control humano Bueno me quedan solo minutos y voy cont ha recomendacion punes ael organiz Son recomendaciones que abordan cuatro grandes puntos una recomendaciones en términos de la adopción de sistemas de inteligencia artificial por ejemplo la recomendación de que los Cuando Sean adoptar sistemas de inteligencia artificial que vayan a influenciar materialmente la toma de decisiones judiciales que antes de que Sean desplegados est sistem se ha Anis impo almico para prg administrar riesgos eso es solo un ejemplo tipo de recomend que leamos a la organización sobre la adopción de herramientas también

damos recomendaciones en términos de protocolos internos sobre el uso de Las herramientas un ejemplo debe haber Unos protocol sobre sobre ciberseguridad Digamos que en la medida en que estos sistemas Van a estar conectados a internet ser necesario como con uso de losos electrónicos por ejemplo haya una regl sobre sobre proteger a partir deos protocolos la cers organiz de tal manera que no se abren brechas para potenciales incidentes de seguridad Una Tercer bloque de recomendaciones sobre uso de intelcia artificial generativa recomendamos que se le ofrezca a los servidores judiciales entrenamiento para sepan son casos de uso

un chatbot Sea o no comercial les va ayudar con tareas específicas yles Son las limitaciones cuáles Son los riesgos que deben evitar una de ellas que Simple lamente no Se deben confiar del sistema tienen que revisar todo lo que el sistema produzca Y si no Son expertos en lo que le están preguntando tienen que doblemente chequear con Fuentes que Sean idas Y finalmente Y esto conecta con lo anterior es que las organizaciones deben proer ACC A entren los funciar Y servidores judiciales Digamos que ha esa posibilidad que los funcionarios desarrollen competencias digitales Y por Timo

ojal las organizaciones tambén produzcan SUS propias guías Porque como decía las guías Unesco no buscan reemplazar sino simplemente iluminar inspirar el trabajo se Haga a niel local a nivel individ Y con útimo termino solo Me qued Un minuto tambén guías específicas para la Persona Que Va a ser la usuaria y la usaria podr ser Desde el magistrado hasta alguien de su equipo eh y hacemos una serie de de recomendaciones ustedes ven que Son bastantes Pero Yo Voy Lamar la atención sobre algunas no He mencionado antes el uso transparente la herramienta hacemos un recomendaciones sobre en

qué casos Cuando se usa una herramienta sistema intelcia artificial debería ha unaa AES Y A los terceros interesados se US la herramienta en términos muy básicos en términos de como la herramienta fue usada Y qu implicaciones tiene la herramienta para Las partes porque esa deber transparencia algorítmica Lo Que Va habilitar el uso otros derechos la efectiva realización de otros derechos por ejemplo si la parte queremos que tenga el derecho de apelar una decisión que fue influida por un sistema int artifici con es termin nep sistem artificial US Y implic Tiene o de lo contrario de

pronto estamos conando podemos estar afectando su derecho al debido proceso y dcho la defensa con esto termino agradezco muchísimo es un Honor pod presentar este documento yores gra importante deixar registrado aqui na audiência pública o quão importante foi o documento da Unesco as diretrizes trazidas nesse documento para os trabalhos e as discussões realizadas pelo nosso grupo de trabalho o documento foi lido foi discutido foi considerado e inspirou muitas das nossas eh das nossas controvérsias das nossas discussões eh da e muitas vezes quando discutíamos pontos específicos né da formulação dessa política pública nós nos questionável a

esse ponto então é é é essa contribuição que a Unesco faz não apenas para o poder judiciário brasileiro mas para todo o mundo é precisa ser registrada aqui nesta audiência pública e continuando neste mesmo assunto eu tenho a honra de convidar o Dr Guilherme canela que é da Unesco que vai falar também sobre os riscos e oportunidades da inteligência artificial para administração judicial o Dr Guilherme é bacharel em relações internacionais pela Universidade de Brasília e mestre em Ciência Política pela Universidade de São Paulo é chefe da sessão de liberdade de expressão e segurança de jornalistas

na sede da Unesco em Paris foi assessor Regional de comunicação e informação para a América Latina e o Caribe no escritório da Unesco em Mont Videl atuando como coordenador Regional da iniciativa para promoção da democracia e da liberdade de expressão em Sistemas judiciais na América Latina foi secretário do comitê regional do programa memória do mundo da Unesco para América Latina e o Caribe Dr Guilherme muitíssimo obrigado pela presença em nosso evento e tenho uma honra de lhe passar a palavra muito obrigado Desembargador Muito obrigado ao Conselheiro Bandeira de Melo por esseo convite felicidades ao Conselho

Nacional de Justiça por essa audiência pública esses três dias tão intensos de conversa eh que são absolutamente fundamentais eh pro momento que a gente tá vivendo hoje eh eu como sei vocês os senhores e as senhoras se deram conta Sou brasileiro mas há muitos anos que vivo fora do Brasil eh exercendo funções eh no sistema das Nações Unidas e na Unesco em particular então é sempre uma honra poder me dirigir a públicos eh do Brasil quando esses assuntos os que também estão debaixo da da minha alçada estão sendo discutidos eh particularmente útil que a apresentação

do Dr Juan Davi eh tenha sido eh tenha precedido a minha porque isso me dá a liberdade de fazer uma conversa com vocês que é num sentido Mais amplo das implicações dessa discussão para o estado democrático de direito para os poderes judiciais em geral eh como foi dito na apresentação sobre mim há mais de 10 anos eu coordeno uma iniciativa Global da Unesco de formação de operadores judiciais que já eh formou ou se engajou com mais de 36.000 magistrados e promotores de 160 países eh Então o que eu vou dizer aqui nos próximos minutos é

resultado dessa interação com colegas de vocês em mais de 60 160 países que tem preocupações com a com a proteção e promoção do Estado democrático de direito em distintas frentes mas claro mais recentemente o quanto que a inteligência artificial eh pode ter um impacto eh nessa discussão que é uma discussão eu diria inclusive anterior a pensar a tecnologia e aqui eu faço a minha o meu primeiro ponto eh infelizmente em várias partes do mundo Nós estamos vendo um ataque ao sistemas de accountability aos sistemas de freios e contrapesos das nossas democracias esse ataque tem sido

dirigido aos a independência dos poderes judiciais mas também T sido dirigidos a outras instituições por exemplo eh a liberdade de imprensa e de expressão em outras palavras governos autoritários não gostam nem de Juízes Independentes nem de jornalistas Independentes então a minha fala ela tem um sentido de eh dizer que qualquer discussão sobre essas novas tecnologias que são absolutamente fundamentais que essas discussões tenham tenham presença elas não podem perder de perspectiva os nossos desafios mais amplos para proteção e promoção do Estado democrático de direito e no caso específico da Inteligência Artificial eh ela pode oferecer enormes

oportunidades para para esse estado mas ela também pode oferecer enormes riscos portanto essa discussão precisa ser como já foi dito em vários várias das Mesas eh de desse dessa audiência pública ela precisa ser fortemente calcada em do duas questões fundamentais a promoção e proteção universal de direitos humanos e as questões éticas relacionadas à aplicação eh da Inteligência Artificial eh e nesse contexto a a gente Às vezes precisa começar com o mais básico por exemplo eh Eu lhes conto como como uma anedota que foi muito difícil para mim Eh me somar a essa a essa audiência

pública por razões absolutamente técnicas e eu estou aqui no centro de Paris olhando paraa torre fel com uma conexão altamente veloz Imaginem os usuários e usuárias de poderes judiciais no mundo todo eh que T os problemas mais mais básicos de estar basicamente conectados à rede então nós temos como primeira questão de direitos humanos de colocar muita atenção no fato de que eh qualquer quaisquer decisões que tomemos sobre a melhorar o acesso à justiça usando essas novas tecnologias o quanto isso pode afetar os mais vulneráveis que não estão conectados porque senão de novo nós podemos eh

criar enormes desigualdades se esse elemento não é em incluído na equação Então como já foi apresentado pelo pelo pelo Juan Davi e por outros há uma série de elementos relacionados à Inteligência Artificial eh em relação ao poder judicial que tem eh implicações Para administração da Justiça ou seja como fazer com que o acesso seja mais rápido eh que distintos problemas que existem na na administração da Justiça podem ser melhorados E vocês viram pelas indicações aí dessas linhas diretrizes da Unesco que há uma série de sugestões de como resolver isso eu vou voltar um pouco a

esse tema no final da minha apresentação mas eu queria falar do tema mais amplo que é o seguinte além da do tema da administração da Justiça da da operação judicial há uma questão fundamental que é mais e mais vocês os senhores e as senhoras magistrados e magistradas vão ser chamados a tomar decisões que incluem elementos de inteligência artificial parlamentos no mundo inteiro vão começar a regular este tema e a final de contas a garantia final dos direitos humanos e aqui para nós da Unesco em particular as implicações paraa liberdade de expressão eh e paraa privacidade

elas vão ser de de de alto de alta complexidade e dificuldade então a questão formativa que já foi colocada aqui em relação ao uso das Ferramentas ela precisa incluir um outro elemento fundamental que é como formar as novas gerações de magistrados e magistradas mas também as que já estão exercendo a magistratura a entender Quais são as implicações pros direitos de todos e todas eh de eh em relação a a este tema da Inteligência Artificial e aqui desnecessário dizer para para vocês eh que eh essa formação ela precisa ser específica nos distintos Ramos da Justiça a

inteligência artificial vai ter implicações enormes paraa Justiça do Trabalho com questões que vocês conhecem melhor do que eu eh o tema da Justiça Eleitoral e as implicações do ponto de vista da desinformação e etc Como como é o que estamos eh percebendo em vários dos processos eleitorais que estão tendo lugar nesse ano super Eleitoral de 2024 eh mesmo no direito de família várias jurisdições já estão enfrentando problemas com as chamadas eh com a com a chamada Deep fake eh relacionadas por exemplo a pornografia eh onde mulheres têm sido vítimas de violência doméstica através do uso

desse tipo de de expediente Então os juízes de família terão que saber tomar decisões em relação a isso e eu poderia seguir eh com uma série de outros exemplos então eh não não vai ser simples eh pensar que haverá um um um módulo único para a formação de magistrados e magistradas no que se refere à Inteligência Artificial porque isso terá implicações de distintas maneiras nos vários nos vários tribunais e diferentes tipos de tribunais e e é preciso entender essas implicações específicas sobretudo porque a governança do sistema vai cada vez olhar mais eh sobre estes processos

que estão relacionados a como essas essas grandes plataformas essas grandes empresas Eh implementam esses elementos relacionados à Inteligência Artificial então enfim eu poderia seguir toda o resto da minha fala nesse aspecto que é a toma de decisão no sistema judicial em casos Nos quais a inteligência artificial teve uma implicação nós podemos falar de questões de reconhecimento facial e implicações paraa privacidade enfim é um sem número de casos e aqui nossa recomendação como Unesco estamos produzindo uma série de materiais sobre isso para os poderes judiciais do mundo inteiro é que a formação de magistrados tenha um

forte componente nesta área também finalizo retomando um pouco das implicações Para administração da justiça e aqui de novo há uma série de elementos importantes eh eu vou retomar Quem sabe um elemento em particular que o Dr Renato blom já mencionou que é a questão da Transparência eu vou finalizar a minha fala com isso eh mas nós precisamos olhar para uma série de outros pontos vocês já mencionaram em outros momentos eh o autoconsumo energético eh que Essas tecnologias de Inteligência Artificial eh eh demandam com o qual a as as as políticas de uma de uma Justiça

Que também está preocupada por exemplo com as mudanças climáticas vai ter que incluir na equação O que significa a nova demanda energética de fazer um uso eh altamente pesado e constante dessas tecnologias eh de Inteligência Artificial por exemplo mas eu queria chamar a atenção para um aspecto em particular que que não que não quem sabe não foi tão discutido pelo menos nos alguns painéis que eu pude ver é algo que o o prêmio Nobel de Economia o Daniel kaneman eh fala nesse Fantástico livro que se vocês não leram eh eu recomendo fortemente acho que a

tradução pro português chama ruído e nesse livro ele ele diz ele Traz umas estatísticas impressionantes A análise de 1.5 milhão milhão de decisões judiciais na justiça juvenil mostram que os juízes eles tendem a ser mais duros com eh os Réus numa segunda-feira depois do time de futebol deles terem perdido no final de semana 6 milhões de decisões analisadas na França mostr que os juízes tendem a ser mais lenientes com o réu se a decisão foi tomada no dia do aniversário do réu 27.000 decisões de juízes de asilo nos Estados Unidos asilo político e asilo humanitário

mostram que os juízes tendem a conceder menos asilo se o dia em que a decisão foi tomada é um dia muito quente e vejam vocês que essa esses três exemplos que eu dou que estão no livro que Eu mencionei eles não TM a ver com um viés porque não é um viés contra este Ou aquele isso tem a ver com o que eles chamam de um ruído no sistema e esse ruído ele pode ser muito melhorado e minimizado com o uso de tecnologias como a inteligência artificial agora eh é importante entender que há uma oportunidade

desse lado mas como Essas tecnologias como o algoritmo da tecnologia é programado por seres humanos com certos interesses e com certos objetivos Aí sim o problema é que Essas tecnologias podem se não eh adequadamente supervisadas gerarem podem resolver o problema do ruído pode Mas podem gerar o problema do viés o viés contra uma determinada etnia o viés qu um determinado grupo enfim qualquer tipo de viés então o nosso trabalho aqui é como é que a gente potencializa as oportunidades mas mitigando os riscos ou eventualmente evitando totalmente o que em geral é impossível eh e essa

equação não é uma equação fácil ela é o que precisa est no centro das nossas preocupações E aí eh Como já disse o Dr Renato mas eu tomo a liberdade de repetir eh é fundamental que a gente eh resolva isso através de um processo onde a transparência e accountability do sistema tá no centro das nossas atenções e essa e essa relevância da Transparência em qualquer questão que questão que tem a ver com o desenvolvimento do do poder judicial ou do sistemas de Justiça não é uma questão nova eh é uma questão que sempre esteve presente

mas ela é nesse momento algo eh sinequanon para que a gente avance eh na direção correta E aí eu tomo a liberdade só para reforçar que não é algo novo de terminar a minha fala na verdade fazendo uma menção ao filósofo político britânico Jeremy benton que há mais de 200 anos escreveu a seguinte coisa abre aspas na escuridão do segredo os interesses sinistros e o mal em todas as formas T pleno apogeu somente na proporção em que a transparência tem lugar é que qualquer um dos controles aplicáveis a injustiça judicial pode operar onde não há

transparência não há justiça a transparência é a própria alma da Justiça é o estímulo mais agudo e o e o esforço mais seguro de todas as proteções contra a improbidade ela mantém o próprio juiz enquanto julga sob julgamento a garantia das garantias é a transparência Muito obrigado de volta paraa moderação Muito obrigado Dr Guilherme pela pelas iluminadas palavras e dois pontos da fala do Senhor chamaram muita atenção o primeiro a questão do acesso à justiça é é um ponto relevants simo e preciso dizer que tem sido uma preocupação do Conselho Nacional de Justiça que a

inovação tecnológica no poder judiciário não signifique a ampliação das já existentes e assoberbados a justiça é muito fácil como o senhor bem falou falar de Tecnologia de Inteligência Artificial quando estamos todos aqui numa internet de alta velocidade quando temos acesso à internet 4G e 5g mas nós precisamos pensar também nos juízes nos servidores nas partes nas testemunhas que estão nos rincões do Brasil né é que que tem também necessidades básicas que são concretizadas pelo Poder Judiciário muito mais necessidades do que nós inclusive e que não podem ser esquecidos nesse processo de inovação tecnológica e nesse

ponto é importante ressaltar diversas iniciativas do CNJ que caminham par e passo tecnologia e acesso à justiça os escritórios sociais eh que têm sido instalados em diversas comarcas do país trazendo acesso à internet de alta velocidade para que as partes as testemunhas possam participar virtualmente das audiências os pontos de inclusão digital que tem se multiplicado no Brasil uma iniciativa do do CNJ que faz com que eh e se colo em estruturas de acesso à internet estruturas de participação de audiências de realização inclusive de Perícias digitais em diversas comarcas dos rincões do país para que a

população mais vulnerável possa participar da justiça brasileira essas iniciativas são muito importantes mas não podem ser perdidas de vista inclusive quando estamos falando aqui do avanço da Inteligência Artificial um outro ponto se me permite também eh importantíssimo que o senhor traz a questão do ruído né eh e isso revela a dificuldade o desafio que é produzir política pública judiciária todos nós aqui partimos de uma premissa muito clara que é a inteligência artificial tem possibilidades de ganho de eficiência de gestão de de de eh de institucionalidade para o poder judiciário Mas nós vamos agora ter que

depurar isso estamos tentando fazer isso alguns meses estamos conseguindo felizmente eh o Como o modo né levando em consideração todos os pontos transparência segurança da informação proteção de dados sustentabilidade custos financeiros que são altíssimos riscos técnicos a independência judicial os direitos fundamentais o senhor traz mais um ponto que é que Diverge do viés não é o viés é o ruído também eh e e e quando nós colocamos todas essas essas variáveis e nós precisamos concretizar a partir de de guidelines que a Unesco traz por exemplo e outras instituições também E aí nós precisamos concluir o

juiz vai poder usar o chat GPT por meio de uma assinatura privada ele pode utilizar o chat GPT por meio de um acesso aberto ou ele precisa utilizar apenas no acesso local como os tribunais podem monitorar esse essa utilização da EA generativa é preciso informar na minuta a utilização de uma de uma ferramenta de Inteligência Artificial ou e a partir daí nós devemos classificar as os possíveis usos conforme categoria de riscos e criar as regras de governanças aplicáveis sem perder de vista que a resolução também precisa incentivar a Inovação né porque existem os riscos mas

existe também uma legião de juízes e servidores que estão sedentos pelas eh pelas possibilidades que a inteligência artificial traz a a resolução a meu ver no status atual e tem um responde muito bem a várias dessas perguntas exatamente Quando faz uma classe ficação de riscos em risco excessivo risco alto e risco baixo e coloca várias hipóteses eh eh dessas que chamam a atenção quando a tarefa se torna mais sofisticada avaliação de documentos avaliação de provas emissão de juízos conclusivos em situações de alto risco que demandam medidas de governança muito mais sofisticadas e isso vai permitir

por exemplo Dr Guilherme o controle o monitoramento a identificação de ruídos como o senhor bem colocou de vieses inclus in é de situações outras que comprometem a segurança da informação e que precisam ser muito bem tratadas com responsabilidade pelo Poder Judiciário e eu agradeço muitíssimo as suas considerações que nos iluminam muito aqui e e e ressalvo mais ressalto mais uma vez a importância do documento da Unesco para as discussões do grupo foi um documento essencial inclusive considerando que existem poucos documentos no mundo que realmente tratam eh eh com com com com essa com essa consistência

as as as vicissitudes da aplicação da Inteligência Artificial na Via judicial e para concluirmos eu tenho a honra de convidar a d Fernanda Rodrigues do Instituto de referência em internet e sociedade para tratar de questões éticas e antidiscriminatórias para o uso de a no poder judiciário a Dra Fernanda é coordenadora de pesquisa e pesquisadora no instituto de referência em internet e sociedade é doutoranda em Direito tecnociências interdisciplinaridade pela Universidade Federal de Minas Gerais mestre em direitos na sociedade em rede e graduada em direito pela Universidade Federal de Santa Maria e é felo do programa policy

shapers 2024 do elak Nick seja muito bem-vinda Dra Fernanda é uma honra tê-la aqui e tenho a honra de passar a palavra para a senhora eh Bom dia todo mundo me escuta confirmar também perfeito eh Obrigada pela palavra Desembargador eh bom dia a todos e todas primeiramente gostaria de agradecer pela oportunidade de participar das audiências públicas em especial ao Conselho Nacional de Justiça na pessoa do Conselheiro Luiz Fernando Bandeira de Melo Filho e na pessoa do desembargador Pedro Felipe de Oliveira Santos que Preside a audiência nessa manhã CNJ dá um passo importante a promover um

debate como esse ouvindo especialistas de diferentes áreas de conhecimento de modo a enfrentar os desafios que a ia nos apresenta aproveito para agradecer também a querida tain ar junquilho que faz parte do GT deia e é uma profissional incrível que eu tenho a honra de acompanhar de perto e aproveito para cumprimentar também aos demais colegas de painel e aos especialistas e especialistas e que me antecederam neste debate nos outros dias da semana para mim é uma honra est aqui ainda mais representando o Iris que é o Instituto de referência internet sociedade onde estou coordenadora de

pesquisa e pesquisadora eh para quem não conhece o Iris é um centro de pesquisa independente interdisciplinar fundado em 2015 que tem como missão fortalecimento dos direitos humanos no contexto digital por meio da pesquisa comunicação e incidência política nós desenvolvemos projetos de pesquisa que envolve desde a publicação de livros estudos artigos até notas técnicas e relatórios no campo da governança da internet não só sobre regulação de ia mas também sobre regulação de plataformas inclusão digital criptografia e Segurança Pública dentre outros especificamente no debate em torno da regulação de ia nós temos acompanhado eh essa questão pelo

menos desde a estratégia Brasileira de Inteligência Artificial lá em 2019 ainda participamos de audiências públicas relacionadas ao projeto de lei 21/2020 na câmara dos deputados e sobre o projeto de lei 2338 no senado federal portanto nos Felicita muito estarmos aqui também auxiliando o poder judiciário na regulamentação do uso dessa tecnologia eh estar um painel no último dia lança um desafio especial né de trazer questões novas depois depois de tudo de relevante que já foi dito mas a minha fala vai justamente nesses esforço eh ficar pro último dia também tem as suas vantagens dos debates anteriores

dentre asos quais destaco a fala do Ministro Luiz Roberto Barroso ainda lá no primeiro dia já ficou demonstrada a importância de mecanismos de ia pro desenvolvimento de trabalho do Poder Judiciário a sobrecarga da instituição mencionada hoje né que recebe centenas senão milhares de novos processos diariamente é de conhecimento público e notório de modo que a adoção dessas tecnologias né de novas tecnologias que venham a colaborar para sua maior eficiência são mais do que bem-vindas no entanto também nos debates anteriores foi possível ressaltar a importância de que essa tecnológica não seja tida como um fim em

si mesma e que ela venha também acompanhada de importantes salvaguardas a fim de que a gente possa evitar possíveis resultados negativos através da sua utilização nesse sentido eu gostaria de centrar minha fala em alguns pontos específicos que acredito serem relevantes para minuta de resolução voltada a regulamentar o uso da i no judiciário de início já parabenizo né o grupo de trabalho em a pela redação da resolução que parece se inspirar na redação do pl 2338 ao justamente prever uma regulamentação da ia por meio de gradação de riscos e estabelecimento de uma série de medidas de

governança e transparência esses parâmetros são fundamentais para promovermos um accountability mais justo em torno desses sistemas no entanto assim como a ministra Edilene Lobo também no primeiro dia destacou né nas audiências nós estamos lidando na verdade com o caso paradoxal de um lado nós temos uma tecnologia que é vista como inovadora e de outro também nós temos o fato de que ela é normalmente muito baseada no passado de acordo com a pesquisa uso de I no poder judiciário de 2023 foi conduzida pelo CNJ a maior parte dos dados utilizados pelos sistemas adotados em tribunais é

atualmente proveniente dos próprios tribunais ou fornecidos por órgão do Poder Judiciário não se desconhece Claro a importância de saber quais dados compõem as bases de treinamento da tecnologia Entretanto a possível utilização de decisões anteriores como base para modelos de aprendizado de máquina ou generativos até focados em auxiliar na redação de minutas de sentença por exemplo significa falar de uma ferramenta que poderá também reproduzir toda sorte de eventuais discriminações estruturais que possam estar presentes em decisões passadas até já foi uma preocupação também externalizada hoje se é fato porém que os próprios magistrados e magistradas podem ter

algum tipo de preconceito sua esfera privada como também o ministro Barroso mencionou no primeiro dia fato é que a quebra desse ciclo de reprodução de desigualdades estruturais é uma característica eminentemente humana de poder de revisão destes mesmos magistrados e magistradas assim é importante que observemos a máquina dentro das suas limitações o próprio termo Inteligência Artificial ou adoção de nome de pessoas para sistemas algorítmicos pode querer nos indicar com contrário através de um movimento de antropomorfização da máquina no entanto ela continua sendo na maioria das vezes uma ferramenta que tenta fazer previsões futuras olhando pro passado

mais como reprodutor e não tanto como questionadora nos Estados Unidos eh gostaria de mencionar o caso emblemático do sistema compas que apesar de ser um caso antigo e notoriamente divulgado ele ainda segue significativamente atual Na minha opinião para quem não conhece um breve resumo ele trata-se de um sistema utilizado para atribuir pontuação a Réus e detentos a fim de tentar prever as suas chances de voltar a com crime cometer crime e a partir disso eh auxiliar a decisão judicial para FS de dasometria e outros benefícios penais ou seja não eram um sistema voltado a proferir

uma decisão judicial mas que servia Como peça fundamental para parecer final do magistrado ou magistrada pesquisas Independentes apontaram porém que esse mesmo sistema estava penalizando de maneira desproporcional pessoas negras que possuíam histórico similar ou mais Brando do que pessoas brancas que recebiam pontuações mais baixas enfim Tod esse cenário introdutório me leva três conclusões que eu espero que possam contribuir pro debate de hoje e para as discussões em torno da resolução 332 a primeira delas é sobre a importância de curadoria e avaliações rigorosas sobre as bases de dados utilizadas para treinamento de as no judiciário especialmente

aquelas de aprendizado de máquina e generativas que venham justamente auxílio iar no poder decisório de magistrados e magistradas a resolução 332 já é muito Fortuna já é muito oportuna ao trazer em seu Capítulo 3B medidas de governança específicas para sistemas de a de alto risco Desembargador mencionou né o ponto positivo dessa gradação agora eh e principalmente a previsão de uma necessidade de utilização de dados de Treinamento validação e teste que sejam adequados representativos contendo propriedades estatísticas apropriadas em relação às pessoas afetadas e levando em conta características e elementos específicos do contexto geográfico comportamental ou funcional

no qual o sistema de a de alto risco será utilizado da mesma forma quando a resolução aborda sobre a necessidade de adoção de medidas para mitigar e prevenir vieses discriminatórios no entanto eu considero essencial também que a previsão expressa eh que haja uma previsão Expressa de curadoria e avaliações rigorosas e periódicas sobre as bases de dados dos projetos de ia a fim de que a gente possa identificar a repetição de padrões decisórios eventualmente eados de vieses e que como Tais não desejamos que sejam repetidos em novas decisões judiciais isso vale tanto para quando os dados

forem as próprias decisões históricas como também no caso de modelos de iad e desenvolvedores externos e treinados em bases de dados externas ao tribunal No primeiro caso isso é ainda mais importante até mesmo para que os os próprios tribunais né possam rever decisões anteriores que apresentam algum tipo de viés indevido é preciso compreender nesse ponto que base de dados representativas adequadas apropriadas elas não são somente aquelas que possuem centenas ou milhares de dados a ideia de que quanto mais dados apenas melhor a performance do sistema é uma falácia nós tivemos um estudo de uma pesquisadora

a beba birhan que é uma referência no tema que junto com outros colegas apontou que somente aumentar bases de dados eh de sistemas vis linguísticos de ativos não significa necessariamente um sistema melhor podendo significar justamente o contrário mais conteúdo odioso e desumanizante sobre populações minoritárias ainda como mencionei anteriormente né em que Pese a uniformidade da jurisprudência seja importante paraa manutenção da segurança jurídica gostaria de destacar que o uso de as PR sumarização e análise de jurisprudência atualmente classificadas caracterizadas né como de baixo risco deve ser feito com parcimônia a ificação de padrões decisórios nesse ponto

não pode servir eh como um caminho né para o engessamento da Justiça ou pior ainda o engessamento de injustiças de modo que a utilização desse tipo de ferramenta precisa sempre ser acompanhada de uma atuação que se preocupe também em promover as atualizações necessárias ao direito com o passar do tempo e com o passar dos Desafios Assim como nós estamos fazendo hoje nesse momento com avanço da Inteligência Artificial e ainda mais em casos que perpetuem possam perpetuar né terminações estruturais futuramente é importante até mesmo a revisão da classificação desses sistemas a fim de identificar se os

seus efeitos não justificam a sua reclassificação na verdade como um sistema de alto risco nessa mesma direção Eh o meu segundo ponto é para falar sobre o papel de pesquisadores e instituições Independentes na identificação de vieses em Sistemas algorítmicos como no caso do já mencionado compas um outro estudo internacionalmente conhecido e que gerou impactos significativos a partir de suas conclusões foi o gender Shades conduzido pelas pesquisadoras Joy blumine e timet gebu sobre o nível de falibilidade de sistemas de reconhecimento facial considerando variáveis de raça e gênero a pesquisa apontou de forma inédita maior índice de

falha desse tipo desse tipo de tecnologia sobre o rosto de mulheres negras se comparado ao rosto de homens brancos assim é de extrema importância que sistemas de adotados pelo Poder Judiciário permitam o acesso ao seu funcionamento e bases de dados para fins de escrutínio público por instituições pesquisadores e acadêmicos Independentes isso não deve ser encarado como um freio à inovação da instituição mas sim como um motor e catalizador do avanço ético e responsável do uso da tecnologia que com certeza ganha muito com pesquisas que ajudem a localizar e mitigar vieses e as chamadas alucinações né

Ou até eu prefiro chamar de evidentes falhas ali da máquina segunda pesquisa uso de a no poder judiciário de 2023 atualmente 54 projetos de ia ainda não disponibilizam seu código fonte p icamente paraa reutilização Esse é um número que pode ser melhorado e quando o código fonte em si não puder ser compartilhado como por questões de segredo Industrial comercial que sejam disponibilizados acesso a informações mínimas sobre seu funcionamento e base de dados que permitam esse auditoria independente outros expositores e expositoras inclusive hoje né Eh com o Renato já abordaram eh de modo brilhante a necessidade

de transparência e parâmetros de interpretabilidade sobre esses sistemas em se tratando de um campo de extremo interesse público Como é o campo do Poder Judiciário não podem ser aceitas tecnologias que não permitam accountability profundo e apurado no seu funcionamento a preferência por modelos de a de código aberto prevista no Capítulo 8 da resolução 332 caminha exatamente nesse sentido ao passo que o Capítulo 9 que já traz a previsão de auditorias pode trazer de forma expressa a disponibilização dos modelos de ia para fins de auditorias Independentes por fim meu terceiro ponto vai ente no sentido de

fazer couro aos demais painelistas que já abordaram sobre a necessidade de participação e envolvimento da sociedade civil no plano de uso de I no judiciário isso pode ocorrer em diferentes momentos Mas eu acredito que a criação de um comitê de especialistas como também mencionado em outras falas dentre as quais é do colega Bruno bioni ontem pela manhã é um ótimo exemplo é uma ideia que pode envolver tanto pesquisadores e acadêmicos quanto membros do terceiro setor engajados na pauta especialistas e que podem trazer as perspectivas da sociedade pro debate eh da mesma forma a participação social

na avaliação do impacto algorítmico fazse fundamental ainda mais para auxiliar na identificação de vieses de discriminação indireta como bem ressaltado pela brilhante fala do Especialista Tarcísio Silva também na manhã de ontem em um país estruturalmente racista né como nós sabemos que é o caso do Brasil Apenas ignorar a variável de raça em modelos de I provavelmente não será suficiente para evitar esse tipo de discriminação na medida em que ela pode ocorrer né aparecer indiretamente a partir de outras variáveis assim são necessários mecanismos proativos para sua identificação de modo que a participação social na avaliação de

impacto algorítmico pode ser um deles eh bom Essas são as minhas contribuições Considerando o tempo né gostaria de trazer mais pontos mas tanto quanto pesquisadora do Iris como também enquanto doutoranda dedicada ao tema da regulação de ia no meu projeto de tese eh esse é assunto que muito me interessa mas de todo modo Fico à disposição do CNJ para debates futuros em especial ao GT sobre ia e desejo um excelente trabalho a todos e todas muito obrigada Muitíssimo obrigado D Fernanda pela fala importantíssima e com isso encerramos a o painel de especialistas quatro desta audiência

pública antes de encerrar esta mesa eu tenho a honra também de passar a palavra para o nosso Líder o conselheiro luí Fernando Bandeira de Melo que fará algumas considerações bom muito bom dia muito bom dia a todas e todos agradeço a presença de todos que aqui estão ladeado aqui pelo Desembargador Pedro Alexandre Z vagg também membro do GT que tá nos acompanhando vai presidir a próxima mesa e a todos os participantes desse desse painel riquíssimo Ah me permiti dirigir-me a vocês para dar algumas notícias e alguns comentários que poderiam ser relevantes ah primeiro deles é

que nós já estamos neste momento com mais de 8.000 visualizações no no YouTube já configura essa audiência pública como o quarto evento mais assistido da história do CNJ né O que mostra a relevância do tema a a riqueza da das diferentes abordagens né e vários tem dito inclusive que poderia ser não só uma audiência pública uma verdadeira conferência né sobre o tema aliás agora nesse último painel tivemos duas participações internacionais né além dos dos amigos e colegas a Dra Fernanda Dr Renato Ops blund Dr Paulo falaram aqui do Brasil aliás vejo na conexão também o

presidente do nosso Tribunal de Justiça do Espírito Santo Samuel Brasil que acho que fala na sequência né Na próxima na no próximo painel Ah isso D me enche de alegria Porque sem dúvida mostra que o trabalho de trazer esse conteúdo esse debate de Inteligência Artificial né no judiciário tem sido ter atingido seus seus objetivos né mas também tem provocado muitas reações não não contrárias Pedro mas reações de de preocupações manifestações de interesse né então eu fui procurado ontem eh pela pela juf pela MB pelos presidentes do Tribunal de Justiça né o conpre desejosos de de

participar de mandar asas contribuições e nesse queria aproveitar esse momento para deixar claro né que nós estamos abertos a receber contribuições se eventualmente não ficarem prontas até o dia de hoje né quando termina a audiência pública não será um problema recebê-las na semana que vem né A ideia é justamente poder receber as contribuições todas tentar sistematizá-las para que o GT volte a reunir-se sobre elas né E se Deus quiser ainda em outubro né nós consigamos né ter um documento com né Eh completo com um apreciação de todas essas essas sugestões para que aí sim passe

a tramitar na como proposta de resolução no CNJ eu esclareço isso porque Recebi várias perguntas também de amigos magistrados querendo saber se é uma determinada audiência pública ia ser né promulgada a resolução não n Na verdade o o GT nem tem competência para promulgar a resolução que é competência do plenário né Nós estamos elaborando um documento estamos ouvindo agora a sociedade com essas essa essa oitiva faremos uma reflexão para Aí sim tem um texto definitivo de autoria do GT né que aí sim vai a plenária no CNJ vai ser rel atado por algum colega né

e e votado Aí sim teremos uma nova resolução um aspecto que já me parece eh se se evidencia dos debates é de um ponto de vista de técnica Legislativa Ao qual eu tenho algum apreço meu caro Z vag já que passei 20 anos no senado né talvez estejamos diante de uma situação que mereça uma nova resolução Inteira Do que propriamente ah ajustes na resolução vigente né 332 isso porque eh em virtude de um texto maior na na na minuta atual estamos trabalhando com artigo séo a b c d e e oitavo a b c d

e f até o g eu acho né então talvez seja mais fácil faça mais sentido já que estamos mexendo na resolução quase inteira né fazer uma resolução do começo ao fim isso é o tipo de debate que vai ser travado no âmbito do GT né a partir das diferentes sugestões e provocações que recebemos Por enquanto só queria agradecer mais uma vez eh Dra Fernanda Dr Guilherme canela Dr Paulo Renato tops blom Samuel eh o professor Juan Davi não sei se ainda está conectado mas também agradeço a ele sua participação e lamentar que este painel acabou

sendo por vicissitudes de transporte de disponibilidade tou sendo integralmente virtual nós tentamos fazer em geral balanços né entre presencial e virtual dessa vez não deu n mas me parece que já já no próximo Já teremos participações também presenciais aqui em Bras Brasília né e assim prestigiamos também aqueles que nos acompanham aqui no plenário do CNJ agradeço imensamente Pedro devolvo a palavra agradecendo por esse minutinhos que que me concedeu Muitíssimo obrigado Conselheiro e sem mais delongas eu encerro esta mesa este painel para que possamos já dar início em seguida a ao próximo é então eu devolvo

a palavra a cerimonial para recebermos as as instruções senhoras e senhores agradecemos os pronunciamentos realizados e neste momento faremos um breve intervalo retomamos com a programação em 15 minutos neste momento para a condução das manifestações dos especialistas tem a palavra o Dr Alexandre zavaglia Coelho Olá a todos e a todos grande satisfação participar da coordenação do painel de especialistas número C ao lado do Conselheiro Bandeira de Melo que tem de forma brilhante conduzido esses trabalhos em conjunto com o Ministro Ricardo Vilas Boas Cueva que não só tem permitido a participação de diversos especialistas na construção

dessa minuta mas também principalmente todo esse cuidado para que seja viável a participação de toda a comunidade nessa discussão porque a gente tem participado de um momento histórico não só aqui no judiciário Bras brasileiro mas o mundo todo discutindo essa questão e eu Conselheiro tenho o privilégio de acompanhar nos últimos 20 anos como um observador privilegiado também pesquisador da história da transformação digital do nosso judiciário e e a gente olhando agora né Inteligência Artificial e todas essas discussões eh nós não podemos esquecer desses 20 anos de trajetória obviamente que mais do que isso para começar

esses 20 anos mas desde a criação dos primeiros sistemas eh do processo eletrônico depois a todo o trabalho de digitalização dos processos a criação nos últimos anos da pdpj saindo de sistemas isolados de bancos de dados isolados para um conceito eh próximo do que existe de mais moderno no mundo que é justamente permitir e trabalhar essa interoperabilidade essa ligação entre sistemas Porque no final das contas a inteligência artificial como nós estamos vendo ela se baseia em dados Então se a gente tem dados em em sistema sistemas isolados em Silos isso não tem como funcionar não

tem como fazer a gestão do conhecimento necessária para toda a qualidade e os resultados que a gente espera e eh o avanço desde do datajud principalmente do codex que é o novo banco de dados já eh plugado em Mais de 96 tribunais e com mais de 300 milhões de processos ou seja foram 20 anos para trabalhar a infraestrutura para que nesse momento Essa a discussão possa acontecer desse dessa maneira então não é à toa que o Brasil está na Vanguarda e a gente tem discutido aqui a gente tem participado de muitos eventos e fóruns internacionais

e de fato todos os países ficam muito impressionados com esse projeto eh brasileiro de transformação eh digital do Poder Judiciário e principalmente em relação aos mais de 140 projetos já existentes e e e a governança que começou com o primeiro texto da resol 332 com a criação da sinaps que que já publicização humana e principalmente essa colaboração que nós estamos vendo aqui de toda a comunidade da advocacia diversas instituições organismos pensadores então de fato eh é um privilégio poder participar desse momento histórico e e olhar também né de perto essa sensibilidade do Judiciário e entender

todos esses riscos potenciais e como nós vamos trabalhar em conjunto para chegar nesse melhor caminho então eu vou eh dar início aos trabalhos nós temos nessa mesa o Dr Samuel Meira Brasil eh que é presidente do Tribunal de Justiça do Espírito Santo também o Dr Roberto Freitas Filho que é Desembargador do Tribunal de Justiça do Distrito Federal a Dra eice Prado juíza de direito do Tribunal de Justiça do Pernambuco Dra Camila aunt que é diretora executiva da mastertec Dr Maurício Zun que é professor de direito administrativo da PUC São Paulo Dra Maira Fernandes advogada coordenadora

do Instituto Brasileiro de ciências criminais e o Dr Marcelo Finger Professor titular do im USP Então nós vamos começar com o Dr Samuel Meira Brasil que é presidente do Tribunal de Justiça do Espírito Santo é doutor e mestre em direito pela Universidade Federal do Espírito Santo foi fellow e atualmente é faculty associate da Universidade de Harvard com pós-doutorado no em entre diversas outras atividades e também faz parte do quadro permanente da infan por favor Dr Samuel muito bem Bom dia a todos eu fao um cumprimento especial ao Conselheiro luí Fernando Bandeira de Melo e parabenizo

por essa histórica e importante iniciativa faço também um cumprimento ao Dr Alexandre saval Coelho estendendo cumprimento a todos os presentes é um prazer e um privilégio ter oportunidade de participar de uma audiência pública e de discutir um tema tão relevante tão importante e tão atual como esse que nós estamos discutindo aqui eh se no passado já não era possível ignorar os avanços que a inteligência artificial vinha fazendo atualmente é completamente impossível nós não podemos de forma alguma eh repensar uma atuação responsável ética e absolutamente necessária do Judiciário ignorando os avanços tecnológicos e as ferramentas que

foram colocadas à disposição do Judiciário para que nós possamos atingir o o obj principal da Justiça prestar uma jurisdição de qualidade eh e a inteligência artificial é uma ferramenta que vem auxiliar E isso tem que ser visto com certo cuidado e também tem que ser visto com uma certa alegria como a evolução está permitindo essa discussão porque eu me recordo que há pouco tempo atrás foi feito foram feitos diversos grupos de trabalho no Superior Tribunal de Justiça para discutir diversos temas e um dos temas era de inteligência artificial no direito apesar do esforço do presidente

do grupo de trabalho que fez um magnífico trabalho o o Ministro Ricardo Cueva eh o grupo como todos os demais se reunia e votava enunciados E por incrível que pareça apesar de todos os esforços empreendidos nenhum enunciado foi aprovado porque todos os enunciados traziam uma preocupação muito grande do impacto da inteligência artificial no direito eh o esforço do presidente foi gigantesco mas a preocupação ainda atingia a maior parte dos componentes do grupo de trabalho isso tem mudado não que a preocupação não seja necessária ela é necessária não que a precaução não seja necessária a precaução

é necessária mas isso tem mudado porque nós precisamos olhar para Inteligência Artificial como o que ela é uma ferramenta que irá auxiliar que irá contribuir para o resultado cada dia que passa nós vemos uma eh uma evolução significativa nós encontramos agora no no na Google com a ferramenta Alfa próteo que estão desenvolvendo pesquisas para simplesmente Ligar proteínas através de binders São aquelas moléculas que ligam ativos e eh eh antecipando pesquisas de aproximadamente 300 vezes com maior acuracia do com a pesquisa natural então a evolução é é é fantástica principalmente numa área da saúde que é

preciso ter um cuidado muito grande com o impacto ético e a consequência que isso vai gerar nos seres humanos então assim não é possível mais nós pensarmos em uma prestação de serviço jurisdicional como o judiciário é sem pensar no auxílio que uma inteligência artificial possa trazer possa fazer só que isso gera problemas isso gera preocupações e as preocupações são absolutamente fundadas por exemplo quando Nós pensamos principalmente e nos dados que vão alimentar o sistema e todo o sistema é probabilístico baseado em dados nós temos que pensar também como que esses dados que são coletados na

sociedade serão utilizados e os viés acho que todo mundo não preciso repetir isso todo mundo já tem bastante consciência disso os vieses discriminatórios de uma sociedade Podem sim ser impactados no treinamento de um determinado modelo mas nós precisamos então aumentar a pesquisa como já já está bem avançada por sinal para que possamos calibrar e evitar que esses vieses discriminatórios eh possam impactar de forma forma eh negativa nas decisões judiciais e nesse aspecto a resolução do CNJ foi muito boa foi muito interessante porque ela permitiu e estimulou a pesquisa mas sempre com a com a necessidade

de coibir vieses discriminatórios o problema é como controlar os dados que serão utilizados no modelo nós vamos utilizar esses dados através de um treinamento específico no modelo através de ajuste fino do modelo nós vamos então preparar uma especialização do modelo para trazendo os dados para esse modelo os grandes modelos de linguagem comerciais já permitem isso e os de código aberto também já permitem isso então é possível fazer um ajuste fino um fine tuning no modelo com dados específicos para que ele possa se especializar Mas isso significa transferência de dados e nós ficamos preocupados com essas

transferências de dados mesmo quando são Dados públicos disponíveis na internet para todo mundo que aliás é assim que tem que ser porque afinal de contas Todo mundo precisa conhecer a jurisprudência dos tribunais e o direito é baseado na previsibilidade e a previsibilidade vem através do conhecimento das decisões dos precedentes dos tribunais mas não só com os dados públicos também com os dados sensíveis nós podemos tentar retirar os dados sensíveis mas o chamado eh eh retirada dos dados sensíveis dos modelos não vai ser suficiente para impedir que eh alguma informação seja transmitida por exemplo no passado

o CEP era utilizado para se encontrar as condições socioeconômicas e até mesmo raciais de grupos específicos no Brasil e no mundo inteiro então é preciso tomar muito cuidado com isso agora existem algumas técnicas que são mais eh fáceis de lidar com com com os dados por exemplo você não precisa mandar e treinar o modelo específico você pode utilizar por exemplo a a geração por recuperação automática o o o o rag para você simplesmente especificar os modelos com os dados que você quer diminuir a Alucinação e sem que haja transferência de dados então isso dá para

fazer isso é muito bom isso é muito importante porque você não precisa transferir os seus dados para os modelos de linguagem principalmente os privados e ainda assim você pode ter acurácia no no resultado o problema é eh as grandes empresas bigtec elas avisam que não eh armazenam os dados o pnei lançou já há algum tempo o memory para que faça adequação do perfil para o usuário Então quer dizer você utilizar ou não esses dados ainda que você faça um trabalho específico o modelo vai se adequar eh vai se adequar ao seu padrão ao seu perfil

aos dados que você tá sendo os dados que você vai utilizar para gerar aquela resposta então esse perfil esse profiling que o modelo pode fazer ele pode trazer um impacto eh significativo quando nós falamos de geração de texto é claro que nós podemos mudar isso tentar mudar a regionalização as expressões típicas de cada um pedindo que o modelo então faça um tom mais formal faça um tom mais técnico isso é possível e é claramente fácil de fazer através de uma engenharia de prompt isso não tem problema nenhum mas ainda assim é possível que haja uma

manutenção de um perfil do usuário e que isso daí pode ser utilizado posteriormente na geração não estou dizendo aqui que com isso os modelos de linguagem não devam ser utilizados pelo contrário eu sou um grande entusiasta na utilização desses modelos de linguagem o grande problema é como utilizar de forma responsável e controlável para que nós não tenhamos excesso nessas utilizações precisamos prestar atenção também num ponto que é absolutamente importante o modelo vai se comportar de acordo com o uso que nós queremos e o uso pode variar de acordo com a necess de acordo com a

necessidade da ferramenta por exemplo todo mundo fala e já falou todo mundo sabe e acompanha eh o impacto de uma uma previsão que não é eh precisa ou acurada eh todo mundo sabe do impacto que o falso positivo pode trazer em uma previsão que não vai se adequar por exemplo principalmente em matéria criminal por exemplo em alguém que foi acusado de um determinado ilícito o falso positivo ele traz um impacto muito negativo e isso é absolutamente eh conhecido de todos mas isso depende muito também da ferramenta de como a ferramenta está sendo utilizada por exemplo

quando nós pretendemos ampliar a proteção da vítima O que é muito mais importante do que o falso positivo é o falso negativo porque se nós tivermos um número expressivo de falso negativo a vítima vai ficar desprotegida e esse isso é algo absolutamente insuportável e intolerável em al algumas situações por exemplo quando nós falamos de violência de gênero nesse caso a proteção ela é muito mais necessária do que qualquer erro que possa decorrer de falso negativo Então como que nós podemos acompanhar e medir o desempenho principalmente modelos de linguagem que usam linguagem natural não usam aquelas

métricas tradicionais do aprendizado de máquina podemos utilizar por exemplo se nós utilizarmos geração automática nós podemos utilizar o ragas mas mas ainda é uma métrica e Experimental isso não substitui a atuação do juiz humano isso tem que ficar bem claro a ferramenta deve ser utilizada com o único propósito que ela tem auxiliar o ser humano Nas suas nas suas atividades diárias e por isso essa revisão é absolutamente necessária chama atenção na resolução a necessidade de colocar que o texto foi gerado por inteligência artificial é algo que realmente tem que ser exige bastante reflexão porque se

de um lado traz transparência do outro lado pode induzir a uma falsa percepção de que aquele resultado final não teve supervisão de um magistrado ou de um ser humano então eh essas questões de eh conveniência ou não de políticas na inclusão na resolução precisam ser refletidas pelo CNJ que irá Com certeza achar o melhor caminho outros pontos que são absolutamente relevantes quando nós falamos de modelo de linguagem é o impacto das ciências cognitivas e das ciências comportamentais no direito e na Inteligência Artificial não é possível nós ignorarmos qualquer Impacto que possa existir seja por vieses

conhecidos ou até mesmo aqueles implícitos e desconhecidos Um dos problemas que pode acarretar é o da confiança excessiva no resultado da máquina O que poderia fazer com que eventualmente um julgador eh eh estivesse mais propenso a aceitar aquela solução achando que aquela solução é mais adequada Porque estaria amparada em um mecanismo que não estaria sujeito a erro eh isso é muito muito perigoso mas com a exigência de revisão humana isso já diminui drastica eh mas ainda quando nós falamos em termos de ciências comportamentais é preciso tomar muito cuidado e eu acredito que os tribunais todos

eles tomarão esse cuidado princialmente sobre a supervisão do CNJ é preciso tomar muito cuidado quando Nós pensamos de que eh uma determinada informação pode conduzir a um determinado resultado e é preciso ser arar a manipulação do entendimento com um incentivo comportamental um nud para que nós possamos obter um resultado completamente ético e satisfatório por exemplo há muito tempo que o Judiciários já utiliz incentivos comportamentais por exemplo para impedir litigância predatória para estimular a redução da litigância predatória também utiliza incentivos comportamentais por exemplo para ampliar a conciliação e a mediação então é possível pensar em incentivos

eh comportamentais mas aí gera um problema muito grande porque esses incentivos comportamentais estão muito muito próximos de uma possível manipulação de resultado mesmo que inconsciente por Inteligência Artificial então muito embora possa ter um resultado desejável é preciso que haja um acompanhamento muito grande do CNJ para se evitar qualquer coisa que possa trazer um dano injustificado nessa utilização Ok a eu vejo que a eu vejo que a a nova proposta de resolução trouxe avanços significativos eu gostaria de cumprimentar todo o CNJ principalmente o Conselheiro Luiz Fernando eh pelo avanço que o grupo de trabalho tem tem

feito nesse sentido eh com base na resolução anterior foi um avanço histórico significativo eu vejo que alguns pontos trazem alguma reflexão para que nós não possamos impedir pesquisa eu acho que a pesquisa tem que ser estimulada para ampliar a proteção e também vejo que alguns pontos Talvez eu fosse até um pouco mais rigoroso para que nós tenhamos uma proteção maior do ser humano então na Essência são essas reflexões que eu gostaria de trazer eu agradeço imens ao Conselheiro pelo privilégio e pela oportunidade de participar dessa audiência pública Muito obrigado nós que agradecemos Dr Samuel e

senhor sabe eu trabalho há muitos anos né com transformação digital Inteligência Artificial e um dos pilares para isso acontecer É de fato o envolvimento dos gestores quando a gente vê um gestor né falando sobre hag falando sobre falso positivo falso negativo a gente vê a profundidade deesse des envolvimento E que esse é o caminho correto PR as coisas acontecerem e de fato a gente tem tido muitas discussões aqui e preocupações em relação a a essa característica e limitações dessa tecnologia que de fato se baseia em dados do passado e e já algumas discussões inclusive né

na própria internet Quando a gente tiver muitos dados gerados pela ia generativa que que isso pode de fato afetar a a própria produção futura então esses cuidados são muito importantes de como é que a gente vai de Fato né utilizar os dados do passado mas entender que a jurisprudência o entendimento e a própria dinâmica social sempre Muda então nós precisamos usar de fato essas questões como apoio né paraas nossas decisões mas a criatividade humana e essa capacidade de se adaptar ao longo do tempo as novas demandas sociais ela é sempre imprescindível para a gente atingir

a justiça queria passar ao Conselheiro Bandeira para também fazer algumas considerações muito rapidamente Car muito ob Obrigado cumprimento meu querido Presidente Samuel Brasil tive oportunidade já de conversar com ele algumas vezes quando inclusive Visitei durante a correção do CNJ o TJ Espírito Santo Ah mas queria lhe responder pontualmente um único assunto eh Presidente Samuel que eu acho relevante colocar publicamente o senhor tocou no no assunto da rotulagem né das decisões eh produzidas com a auxílio de ia vários magistrados me procuraram também com essa preocupação diz olha talvez fez ah colocarmos no rodapé da decisão né

produzida com auxílio de I né acabe trabalhando criando uma presunção contrária ao trabalho né do Judiciário na medidaem que gera uma presunção aquil ali foi julgado por um Rô né que não não não passou no olho humano né quando na verdade pode ter sido feito um relatório uma revisão do português pode ter sido passada ali para n verificar e um certo Desembargador me disse olha Bandeira hoje já o por dizer que quase 100% dos meus votos são minados por assessores E no entanto não tá no rodapé da página né produzido com a o auxílio de

assessores né Eh e a decisão que que eu assinar Independente de se uma minuta de um assessor ou de um ia não deixará de ser menos responsabilidade minha né esse é um argumento que um desembargador usou comigo e eu acho que ele tem alguma razão né Sem dúvida na minuta que tá sendo discutida nós Eh estamos propondo a rotulagem mas talvez Contagem pode ser feita dentro do sistema né Por exemplo nós vimos ontem aqui o Assis do Rio Grande Do do Rio de Janeiro Trial do Rio de Janeiro né o sistema pode registrar internamente né

que foi utilizada a ia para e produção daquela decisão que pode servir para auditoria pode servir para controle posterior né mas talvez no texto da decisão a gente Deva refletir um pouquinho na na nos nos modos que falou o presidente Samuel se isso realmente colabora ou atrapalha né para queremos eh entregar como imagem como serviço do Judiciário mas é somente esse comentário eu não quero atrasar o painel Z vag est de volta a coordenação Obrigado antes de passar a palavra ao Desembargador Roberto Freitas gostaria também de evidenciar a presença do desembargador Alexandre feip Pimentel que

tem participado ativamente das discussões e também eh eh com casos de aplicação com grandes resultados e e uma demonstração de cuidado né nessa aplicação também a Dra Laura Porto que ontem coordenou a mesa focada justamente no que o Dr Samel falou na questão da produção de dados e o Dr Felipe o desembargador Felipe Santos também que me antecedeu aqui na coordenação vou passar a palavra ao Desembargador Roberto Freitas o Tribunal de Justiça do Distrito Federal vai falar sobre a e responsabilidade eh e ele é doutor e mestre em direito pela USP Desembargador do Tribunal de

Justiça do Distrito Federal e dos territórios professor no idp e na UnB por favor Dr Roberto Muito obrigado ali isso na base ISO Muito obrigado Dr zavalia cumprimento e Desde já agradeço pelo extremo eh pela extrema gentileza de me convidar para participar desse espaço de discussão sobre o aperfeiçoamento da regulação sobre essa questão tão importante que é a inteligência artificial ao poder judiciário aplicada ao Dr Luiz Fernando Bandeira de Melo que aliás eh conheço dosos de 2006 né quando trabalhamos no mesmo espaço no senado federal que naquela oportunidade já se verificava a genialidade do Conselheiro

e que tem uma característica extremamente importante também que é e saliente que é extrema gentileza educação com quem trata todos eh Agradeço pelo convite também queria lembrar a a professora Lar schertel que eh com quem eu travo uma eh um diálogo acadêmico sobre a essa questão e pela pela gentileza também a lembrança de meu nome para h esta reflexão de hoje e eh também o prazer ter conhecido E agradecendo pela extrema gentileza com que me recebeu o caro desembagador Pedro Felipe Santos eh eu trago a a esse nosso encontro de hoje ah um uma abordagem

sobre a questão da Inteligência Artificial que procura dar dois ou três talvez Passos atrás em relação à proposta de regulação que H que hora se discute que aliás excelente né iniciativa do Conselheiro Nacional de Justiça excelente iniciativa do Conselheiro Bandeira e excelente trabalho que fica plasmado portanto nesse documento que H se discute eh no fundo a minha questão é nós estamos regular o quê né Qual é a nossa preocupação talvez eu venha secundar aqui eh O desembargador ah Brasil que que me precedeu eh no sentido de eh apontar no fundo Qual é o Real problema

com o qual nós estamos lidando E aí essa preocupação ã me remete à própria definição que consta do inciso um ã H do inciso 1 do artigo doa H 2 A do da minuta h no que toca a própria definição de intelig sistema de inteligência artificial eh há algum tempo atrás nós vimos ocorrer nos Estados Unidos uma falha de uma EA ah ao apresentar ao Supremo a a suprema corte uma peça de um advogado em que havia uma falsificação de hã jurisprudência o advogado prontamente respondeu sendo inst estado assim os esclarecimentos e disse olha não

sabia que a ia poderia mentir eu não compreendia que a ia portanto naquela naquele momento ele dizia que a responsabilidade não era dele de certa Man maneira tentando deslocar para algum instrumento autônomo que com algum grau de consciência pudesse eh expressar um juízo próprio e portanto nesse sentido e ah se se eximir da responsabilidade Aquilo me chamou atenção e Ah me me tornou atento a ao vocabulário que nós estamos utilizando para tratar da Inteligência Artificial E aí eu volto a esse inciso um onde há a definição de Inteligência Artificial quando se h quando nós nos

referimos a isso como uma ferramenta que possui autonomia e que portanto produz inferência e que portanto possa decidir eh a minha fala a minha fala nesse sentido se alinha com a do Guilherme canela da Ana Frazão do Gustavo ah boni com a ministra Dilene quer dizer a minha preocupação é a Assunção de que nós estamos a lidar com uma ferramenta que de toda sorte é muito múltipla e variada né ah um uma ferramenta de automação de e otimização de ah atividades h repetitivas para a catalogação de processo é uma coisa uma ferramenta que Portanto tem

uma capacidade de computacional tal de leitura de um banco de dados enorme e de produção de um texto que possa ser utilizado autonomamente como uma decisão é outra coisa eh me parece que é é esse essa a preocupação de todos nós a preocupação de todos nós E aí o passo atrás que eu gostaria de dar agora compartilho com com H com vossas excelências é é de que nós tenhamos uma regulação que seja suficiente a a incentivar que as ferramentas de otimização dessas dessas atividades repetitivas sejam utilizadas sem que haja uma transferência de ã autoria digamos

assim dessas atividades bom para falar sobre isso e eu e o meu desafio maior É me manter nos 15 minutos que enfim eh Todos nós somos prolixos professores e pesquisadores nós temos achamos que temos muito a dizer portanto se manter nos 15 minutos é difícil mas eu eh eu havia alinhado a minha fala portanto em quatro eh aspectos primeiro é o risco e a ideia da precaução do princípio da precaução o segundo é que nós chamarmos essas ferramentas de otimização de atividades repetitivas de máquinas inteligentes é um engano e claro eu tô dando aí vários

muitos Passos atrás porque ah o o a o termo Inteligência Artificial tá Cunhado tá é veiculado e e está aceito de maneira assente portanto eh essa minha pretensão é bastante atrevida o terceiro aspecto é o tipo de ferramenta para a ênfase no tipo de ferramenta que nos preocupa a todos que é a produção de textos para decisões e e o quarto aspecto é Claro é o pressuposto eh já colocado de não subjetiva de não antropomorfização da máquina eh e claro essa essa minha proposta tem um rebatimento direto aqui no escopo de ã regulação que é

proposto no documento eu vou aqui procurar sumariar a a essas observações a partir eh de um texto que eu produzi mas enfim eu vou dizendo então portanto que a aparente lúdica inocente ah utilização da retórica ah de humanização das Ferramentas de a pode estar naturalizando a possibilidade de utilização de um de conceitos Como por exemplo o conceito de fortuito para justificação de exclusão de responsabilidade civil eh de quem a utiliza Claro porque se Assumimos que a máquina pode decidir Criar deliberar e ela tem reparem um ciclo de vida nós estamos atribuindo à máquina um tipo

de vocabulário que pode pode implicar numa Assunção de algum grau de consciência e de algum grau de autonomia que aí a minha postulação forte é de que a máquina não tem e jamais terá eh bom portanto e a ideia de discussão de aspectos conceituais da Inteligência Artificial eu vou fazer e portanto da da hipótese de que não é uma máquina inteligente e portanto nós temos que exercer controlle estrito sobre ela e portanto não podemos produzir uma regulação que de alguma maneira possa eh deixar implícita a ideia de uma transferência de autonomia do ato eh jurisdicional

para a máquina ela deve ser bastante bem sublinhada e deve estar bastante presente presente eh eu utilizo aqui dois autores são autores bastante conhecidos da teoria do conhecimento e da teoria da linguagem que é o John c e o noan chomsky talvez o chomsky um pouco mais conhecido h para mostrar que o atributo da Inteligência é um atributo eminentemente humano e e que a faculdade de linguagem eh nos termos do chomsky é produto de um tipo de aparato biológico que somente o ser humano pode eh eh pode desenvolver portanto aqui eu tô adiantando do ponto

de vista da regulação a ideia de que o conceito de inteligência de máquina é um conceito absolutamente eh metafórico e utilizado com bastante impropriedade eh se nós quisermos eh eh colocar nos termos de uma premissa regulatória eh Portanto o aprendizado de máquina o aprendizado de máquina que supõe experiênci de máquina não não é propriamente Um aprendizado a partir de experiências porque o pano de fundo no qual a experiência se dá é o pano de fundo da existência ah do homem no seu no seu na sua interação com o ambiente eh portanto eu digo eu coisas

como decidir escolher raciocinar atuar com criatividade são coisas impossíveis a uma máquina de realizar e aqui eu eu volto no diálogo com a a fala do eminente Ministro Professor Barroso que na palestra de abertura se refere a essa a essa tecnologia com uma tecnologia que poderá digamos propor a tomada de decisão o que importa registrar portanto é é que existem riscos na dessa tecnologia sem a atenção me parece focada neste aspecto funcional de uma máquina que pode nos ajudar sobre maneira a atividade jurisdicional mas que não de maneira alguma terá qualquer grau de autonomia ou

de qualquer maneira decidirá eh bom eh limites tecnológicos e factuais que devem ser considerados na decisão política e aqui também uma premissa do meu argumento Esta é uma decisão não é inexorável que nós venhamos a utilizar Inteligência Artificial ah com toda com toda a sua possibilidade de uso inteligência artificial para produzir sentenças acordos decisões eh será sempre um pelo menos um texto que será utilizado depois como uma decisão como uma sência como uma acordão é uma preocupação extremamente sensível eh me parece com eh nós devemos considerar portanto que essa decisão política de até onde nós

vamos permitir a utilização seja uma ferramenta desenvolvida pelos tribunais seja uma ferramenta externa eh seja utilizada portanto com relação à alimentação de dados a ferramenta é somente capaz de organizar dados previamente fornecidos ainda que possa que se possa acessar uma enorme quantidade deles de forma praticamente imediata palavras expressões avaliatórios um outro problema que não possuem sentido estável a priori serão sempre eh submetidas necessariamente a um processo hermenêutico humo então portanto neidade excessiva dignidade da pessoa humana e etc são sempre problemáticas como uma um dado objetivo do qual a máquina ã faz uso para a produção

dos seus outputs eh por meio de protocolos e terceiro a ferramenta de ag generativa é um sistema complexo de organização de padrões de dados mas não tem capacidade de argumentação bom eh tenho 3S minutos eu vou apenas eh eu vou apenas aqui talvez tentar imaginar uma situação eh e de um de um tipo de risco que aparentemente vem sendo pouco considerado quando nós Assumimos a possibilidade da utilização integral de instrumentos de inteligência artificial em um sistema jurídico de ã fluxos de demanda intensos e imensos nós falamos em 80 milhões de processos bom é da lógica

do Poder Judiciário que o diálogo entre os juízes de graus ah primeiro e os juízes e os magistrados portanto em grau de recurso tenham um diálogo frequente Ou seja é a partir da provocação de Visões alternativas que são feitas eh pelos magistrados que recebem os processos que os tribunais vão aperfeiçoando a sua jurisprudência eh o risco da utilização de um tipo de padronização nós vimos isso com aa com as ementas na fala do ministro Luis Roberto Barroso que é um passo extremamente importante mas o risco dessa padronização e de uma utilização a partir de incentivos

de produtividade que todos os magistrados terão de adequação a um modelo que é eh top Down pode nos levar a um engessamento da capacidade de aperfeiçoamento A partir dessa tensão dialética entre aquilo que o magistrado de primeiro grau compreende na solução do problema e aquilo que os tribunais superiores h tem como H resultado final de uma discussão que é feita a partir de elementos que são suscitados nesse nessa dialética portanto eh me parece por fim que nós temos que de fato E aí o diálogo com com o desembargador hh que me precedeu nós temos sim

que utilizarmos de certa maneira com alguma ênfase um princípio da precaução porque os riscos aos quais nós estamos sendo submetidos com a utilização desse tipo de ferramenta são inclusive riscos desconhecidos né até mesmo se são riscos ou não não é possível se não é possível se dizer que que haverá A partir dessa utilização Por fim eu tenho 40 segundos Poderíamos dizer portanto que as máquinas de Inteligência Artificial são máquinas limit a a uma a um protocolo sintático de utilização de linguagem são potentes para realização de atividades repetitivas e protocolares mas não tem capacidade para extrapolar

os limites sintáticos de elementos e de dados recebidos Ainda que os parâmetros de de protocolo sejam aperfeiçoados é o caso da ia generativa senhores eu termino por aqui Agradeço pela atenção de todos Espero ter contribuído obrigado nós que agradecemos desembagador Roberto eh eu só para também colaborar aqui com a sua situações tem dois dois testas interessantes um da professora Lúcia Santa ela que é uma das maiores especialistas mundiais brasileiras em semiótica essas discussões relacionadas à inteligência que é justamente a inteligência artificial é inteligente quando ela aborda essa diferença entre os tipos de inteligência e que

a inteligência de máquina de fato não tem a ver com a inteligência humana no sentido de criatividade eh de juízo de valor e um outro texto também do Professor Luciano florid que é o ai Agency Without intelligence que é justamente né a agência da Inteligência Artificial mas que de fato não tem uma inteligência são dois textos muito interessantes aqui sobre essa questão e e e a discussão é justamente né regular o qu e e o que a gente tem visto no mundo nos últimos do anos principalmente é uma constatação que nós estamos numa fase de

narrow Ai que é um tipo de inteligência artificial para tarefas específicas e baseadas em dados Então se a gente pegar os livros de 2 3 anos atrás vai ter essa discussão de super inteligência né de singularidade E aí a discussão no mundo todo tá tá no seguinte sentido olha um dia nós vamos ter o carro voando e nós vamos ter que regular a rua do céu mas será que hoje não é melhor a gente olhar pro carro autônomo andando na nossa rua né vamos entender que um dia a gente vai ver isso mas vamos trazer

pra realidade ser mais objetivo no sentido de entender as características e limitações dessa tecnologia no momento atual e isso implica eh em todas essas questões aí que o senhor colocou muito bem né de de que a gente não pode confundir a a importância da sistematização do direito que a inteligência artificial vai nos permitir nessa quantidade gigantesca de processo com eh essa eh eh com esse engessamento eh da evolução do pensamento e também da jurisprudência são duas características diferentes que a gente tem que olhar e e o último ponto para poder passar aqui pro nosso próximo

eh eh palestrante aqui o participante da nossa audiência pública eh é esse caso que foi um caso emblemático nos Estados Unidos desse processo contra uma empresa de aviação e ele é emblemático pelo seguinte porque também a gente tinha essa discussão Quem é o responsável né é o desenvolvedor é empresa de tecnologia é o usuário e e nesse caso específico o a justiça americana decidiu que era o próprio advogado que ela falou a responsabilidade pelo conteúdo é do advogado é indiferente o O que que você usou para fazer então toda essa discussão também né começa a

a a encaminhar no sentido da responsabilidade deste usuário final que tem a prerrogativa e a responsabilidade pelo conteúdo e certamente é o mesmo que acontece com os magistrados Então gostaria de passar aqui agradecendo a sua participação desembargadora a juíza de direito unice Prado eh que está eh tem a sua participação virtual do Tribunal de Justiça do Pernambuco vai falar sobre gestão de riscos e tratamento de incidentes no uso de a pelos tribunais eh Então ela juíza de direito pelo Estado do Pernambuco mestre em Direito eh e poder judiciário pela infan certificado em ética da Inteligência

Artificial pela Londo School of economics entre diversas outras atividades e também participante do grupo de trabalhos que resultou eh na resolução original da 332 por favor D Dra eice grande prazer termos aqui Ah desculpa eu falei errado Eh eu falei o virtual que eh tava aqui e foi atualizado aqui eh nós temos aí a a a participação do d uní aqui presencialmente conosco projetar a apresentação dela e a Dr uní tá pedindo só para colocarem a apresentação por favor ao nosso cerimonial isso Bom dia a todas as pessoas presentes muito obrigada pelo convite estar para

estar aqui eu cumprimento o Dr Alexandre zavaglia Presidente aqui desse painel E também o conselheiro Bandeira de Melo um cumprimento especial pro Desembargador Alexandre Pimentel de Pernambuco e os demais colegas aqui de painel D raura Porto outra mulher presente aqui à mesa eh eu queria fazer um pouco de contexto para mostrar que a primeira versão né da resolução 332 ela é um produto do seu tempo e esse tempo esse tempo foi a pandemia Então essa é a única foto do grupo de trabalho reunido na única reunião presencial que teve porque dias de pois né foi

realmente eh declarada o a situação de pandemia e teve impacto no GT porque não podemos fazer audiência pública e se limitou a uma pesquisa solitária né bibliográfica e documental dos integrantes do GT anterior então Eh esse é o motivo de eu ter feito tanta questão de vir presencialmente porque em 2020 isso não foi possível então eh a a resolução ela foi do jeito que deu para ser Nas condições extremamente adversas em que estávamos vivendo nãoé e Não tá passando só para dar uma instrução pro pessoal e do vídeo tá com um zoom de 54% olha

se conseguiu aumentar a vai visualizar melhor na tela é isso isso tornando-se né o primeiro regulamento oficial sobre a do Brasil Então dos Três Poderes da República veio da resolução do Poder Judiciário o primeiro regulamento né porque Bia veio depois e até agora não temos o Marco legal tá Esse tempo é precioso não fica tril daremos o devido desconto D projetado mas com um zo e daquela daquele grupo trabalho que era tão pequeno er só nove pessoas só tem um remanescente que é o o Dr Braulio né Gusmão né que participa dessa nova composição e

é uma alegria ver tanta gente porque agora desafios são muito maiores né então tanto em termos de pesquisa como e tudo que é necessário o grupo de trabalho eh eh eh depurar n imagina todo o volume de informações que vocês agora vão ter que trabalhar não é isso fora o desafio da i generativa que hoje existe e que antes não existia se vocês quiserem eu posso falar sem é porque o conteúdo é um pouco técnico dando certo vai dar certo consegui e só comentar que eram nove membros né o conselheiro Bandeira aqui tá ressaltando que

agora são 30 membros né então imagine também o o esforço né de concatenar as ideias as discussões e e também e a condução desse trabalho contou com uma ideia aí muito eficaz de dividir em três grupos então esses grupos trabalharam né Cada um el é bem plural muito plural com com com uma diversidade de pensamento maioria de membros do Poder Judiciário mas também membros de fora e esse trabalho dos grupos depois culminou né numa discussão global que que né foram os insumos aí pra criação dessa mina é então Eh na como ela teve nos seus

considerandoos na resolução 332 ela ela era baseada na carta ética europeia né E então ela só tinha ela era principiológico só tinha cinco princípios e a resolução texto ela teve 10 artigos e ela se dedicava também a uma parte importante de governança que é essa toda agora que está sendo refeita né vai andando ali que a gente vamos conseguir sei qual foil que de ali logo na minha vez pois é Mury aqui nem basquete né para o tempo aqui isso parou o tempo somente explicando para quem tá remoto nós estamos tentando resolver um pequeno problema

técnico na projeção do do PowerPoint eice Acho que em instantes vamos poder retomar Então vou aproveitar Conselheiro fazer dois comentários também né para enquanto a gente aguarda eh Roberto a gente a gente teve uma várias discussões ao longo desses dias em relação a essa questão da confiança excessiva né então a gente pelas características da tecnologia e e o ser humano eh não entendendo essas limitações né obviamente que agora essa capacitação e esse e esse diálogo tem permitido cada um entender melhor como isso funciona mas há eh essa tendência é uma confiança excessiva então o primeiro

caso é é o que todos falam comp PES que que de fato já foi descontinuado a tempo mas que os magistrados tomavam aquilo como verdade e a gente tem um caso recente desse mês né que foi comentado ontem também na Espanha que era um algoritmo relacionado a risco de violência doméstica e de fato até Nas reportagens fica claro né Eh que havia essa confiança excessiva e que as autoridades tomavam aquela questão como verdadeira e e nós tivemos recentemente H 20 dias atrás uma das mulheres cujo algoritmo diz que o risco era baixo e foi enviada

para casa e foi assassinada pelo marido então esses casos mostram né primeiro a a limitação porque nós estamos falando de probabilidade né não é uma verdade é uma habilidade e segundo que a gente de fato tem que tomar muito cuidado com essa confiança excessiva porque isso é suporte a decisão e não de fato e nem pode ser uma decisão por conta de todas essas características eh que nós já falamos e e um Último Ponto enquanto nós aqui ainda aguardamos eh também o senhor o senhor colocou muito bem né regular o quê e e a gente

tem visto também muita gente querendo regular inteligencia artificial primeiro que Inteligência Artificial não é uma coisa só né são são várias técnicas diferentes e tal eh e e e segundo que ela é muito contextual Então o que a gente deve regular é a aplicação e não a tecnologia um exemplo simples né no no mercado financeiro eh a gente pode ter um modelo de crédito então vocês veja o mesmo dado né as mesmas características as mesmas pessoas a mesma empresa para fazer um modelo de crédito e isso de fato pode ter impactos na esfera de direito

das pessoas Principalmente aqueles que não tiveram o seu crédito aceito nós podemos pegar esses mesmos dados essas mesmas pessoas e características para fazer um modelo de propensão que que é simplesmente vamos ver quem tem propensão a comprar o crédito certo E então você veja primeiro em relação ao risco quer dizer ali Você pode ter uma uma negativa de crédito aqui o máximo que pode acontecer é você ligar para uma pessoa que que não quer contratar o crédito Então veja é o mesmo dado mesma característica mesma empresa e e a aplicação gera um risco totalmente diferente

Então essas são as discussões que a gente tem tido né que de fato a gente não pode ter um apreço pela regulação da tecnologia Mas sim das aplicações e como é que a gente vai criar as estruturas para entender a sua contextualidade em cada tipo de aplicação então agora estamos prontos aí aguardando ansiosamente a sua fala vamos lá aponto para onde é el dis quea para lá se vocês quiserem passar querem conseguem passar aí vamos lá tamanho Tá certo e não cons passar a página de rosca vamos enquanto resolve isso Maci talvez depois ror vai

falar assim apresentação calcule se eu falo com a apresentação então então enquanto isso por sugestão do nosso Conselheiro Bandeira n nós vamos Será que voltou consegue passar conseguir então você estão passando aí é issoo então vamos lá então vamos lá pode passar pode passar pode passar então e depois logo após a entrega do texto da resolução 332 foi em agosto de 2020 e eu fui selecionada para primeira tura do mestrado profissional da infan para quem n está nos assistindo a infan ela é um órgão vinculada ao STJ é a escola eh oficial de treinamento né

dos magistrados brasileiros eh estaduais e Federais e esse é o primeiro mestrado profissional de escola judicial do mundo agora nós temos um outro na Espanha que segue os passos desse que foi aí e ele é uma idealização do ministro erman Benjamim então de certa forma eu dedico essa apresentação a ele porque aqui a concretização do que ele idealizou que é formar uma geração de Juízes pesquisadores pode avançar e eu vou trazer um um assunto que não foi mencionado tanto aqui que foi o tratamento de incidentes pode avançar para quando aí errar porque é fato que

isso vai acontecer observando os princípios da prevenção da precaução que inclusive já foram mencionados aqui eh no sentido de aproveitar do GT né não desperdiçar esse momento para eh eh esse último passo do ciclo de tratamento de incidentes que são as lições aprendidas pode passar durante a audiência pública sv engano o especialista que vi falado sobre sab segurança ele mencionou a necessidade de observar padrões internacionais eu não trouxe né e eh conteú de estamento técnico mas eu fiz uma uma uma imagem né que dá para ver qual é qual é o ciclo correto né de

tratamento de incidentes lições aprendidas é o último passo pode passar por isso eh o que eu sugiro é é em relação especificamente ao artigo 27 que ele agora foi trocado o título né do Capítulo que antes era outra coisa agora tá da auditoria na redação original no lugar de comitê tinha eh conselho naal Justiça mas agora a resolução traz o comitê né E todos os eventos adversos usos da Inteligência Artificial antes era todos os registros de eventos adversos então eu venho apresentar uma proposta de uma metodologia né então traduzir um princípio num prática porque o

o que é difícil é esse é o como como fazer isso né pode passar e eu trago insites eh de Pesquisas interdisciplinares também já foi mencionado desde o primeiro palestrante internacional no primeiro dia que foi a questão da aviação eh e também bancos de incidentes cibernéticos e um banco que tem nos Estados Unidos que ele regula eh todos os incidentes e dispositivos médicos né pode passar eh esse banco se chama mod eh por isso que eh na na redação sugerida do artigo 27 tinha eventos adversos né E foi pesquisado como é que eh Já que

é uma área de alto risco tanto quanto para o o nosso ramo também é né que são julgamentos como é que se regula quando há eh incidentes então foi pesquisado não pode eh antes ainda na União Europeia na Austrália no Japão Mas nenhum outro lugar tinha algo mais tão assim consolidado quanto esse dos Estados Unidos que quem regula fda né esse esse assunto porque esse banco existe desde 1993 obviamente nessa época não se tratava de dispositivos eh eh tecnológicos né Mas é para todo tipo de dispositivo pode avançar ao tempo da resolução eh de de

2020 o que existia era um consulta pública da fda para eh eh eh autorizar o primeiro dispositivo médico com base machine learning Então essa consulta pública foi em 2019 com eh centenas de de contribuições eu estudei todas elas mas vejam que o resultado só saiu em 2021 Então não saiu a tempo do texto da resolução 2020 então por isso que se ficou aberto só nos eventos adversos porque seria necessário ver o que é que aconteceria depois se eles iriam sugerir um novo banco um banco específico considerando a ia ou se iriam aproveitar o mold e

acabou aproveitando o mold justamente pelo que eu falei dele ser consolidado e é com base nesses registros que a FD ela autoriza ou não ou suspende ou revoga ou ou enfim manda resolver eh incidentes quando eles são e catalogados em grande m por exemplo eh eh o da 20 que é o robô que opera ele inicialmente era só uma automação né ele não tinha E a agora tem Mas Ele Foi útil justamente para proibir determinados determinadas cirurgias Até que a tecnologia avançasse então a a no final dessa consulta pública acabou ficando voltando pro mold justamente

porque ele era consolidado ele existe desde 1993 pode avançar e ele tem um detalhe que muito interessa pra nossa situação porque ele é vinculado a um outro sistema chamado M watch esse sistema ele é direcionado paraos usuários externos então isso tem a ver com aquele capítulo onde tem os os usuários que são os usuários internos já do ponto de vista de quem está dentro do Poder Judiciário que podem ser os magistrados servidores desenvolvedores desenvolvedores e os usuários externos que são jurisdicionados advogados peritos enfim qualquer parte que não esteja dentro do Poder Judiciário então Eh faz

uma analogia em relação a MW eh o usuário externo ele pode é uma faculdade ele ele registrar um incidente e é uma maneira muito fácil a pessoa registrar o incidente já do ponto de vista quem tá interno ou seja os médicos hospitais eles devem então fazendo um paralelo eh os magistrados servidores usando Eh técnicas de áres deveriam registrar incidentes reportar incidentes Obrigatoriamente essa sugestão enquanto para os usuários externos há uma é uma essa salvaguarda essa possibilidade pode avançar mas durante a pesquisa novembro de 2020 foi lançada em como hipótese superveniente esse outro esse banco que

eu incidente Database que foi mencionado pelo pesquisador Tarcísio Silva quando ele falou e ele justa junta justamente aquilo que Eu mencionei que são todos os acidentes e ele ele se baseia né na na no registro de acidentes aéreos desde desde o o primeiro que teve e os registros de incidentes cibernéticos então ele junta essa arquitetura e ele transforma nesse outro novo sistema adequado ele não é totalmente adequado para o nosso ramo mas ele pode servir de base e é preciso escolher um ou outro e ainda assim por tudo que eu pesquisei inclusive quando eu fiz

a minha dissertação e eu e um dos meus examinadores foi era um conselheiro na ocasião eraa Richard paikin né porque ele também participou do GT anterior e aí eh eu entreguei até o orçamento quanto custava qual era o custo disso né e qual era quais eram as técnicas utilizadas e tudo pode avançar e o local quem onde já que eu disse como né o local mais adequado para fazer C lotes porque é o laboratório de inovação e desenvolvimento sustentável daqu do CNJ eh E por quê para ter políticas públicas baseadas em evidências então isso tem

um link com o artigo segund mundo da resolução quando trata do dos princípios eu vou vou falar já sobre isso então eu sugiro primeiro pensar sobre eventos adversos ou incidentes por por diversos eh eh motivos então questão de linguagem simples a questão de eventos adversos ele tem uma conotação diferente na medicina que era eh como eu disse né o motivo de ter sido colocado com esse nome então na minha dissertação Eu mencionei por e eh eh tanto é que eu troquei o título inicialmente eventos adversas depois ficou para incidentes pode avançar a minha sugestão é

que se insira né Se o se o GT achar achar eh pertinente relevante né instituir o Banco Nacional de incidentes e a no judiciário pode avançar e ele servirá para repositório indexação de incidentes a fim de subsidiar justamento atuação do comitê na prevenção precaução e mitigação dos riscos então ele vai catalogar ele vai indexar categorizar de acordo com aqueles outros três bancos que Eu mencionei aviação medicina e incidentes cibernéticos e a partir daí o eh com esses dados política pública judiciária baseada em evidências é que o GT poderá trabalhar para saber qual é sistema deverá

descontinuar qual deverá dar uma moratória O que é que deverá ser feito né também sugiro que os usuários internos como eu falei antes eles sejam Obrigatoriamente eh eles deverão reportar incidentes né então quem são magistrados e servidores podem avançar e os externos é uma faculdade eles podem então isso também atende a diversos reclamos que aveu da sociedade civil querendo participar hum em relação ao comentário da CR a a da da professora rora Kaufman que também já foi mencionado aqui quanto a nota de rodapé aquela questão de de que foi rotulagem aqui que foi dito eu

trago uma possibilidade né que fica à disposição do GT que seria colocar no 18 se se for a opção pelo do GT de tirar a rotulagem de colocar no Artigo 18 a a eh Quais são os sistemas que aquele tribunal está utilizando né e nas no site do Tribunal porque também qualquer um de nós que for pesquisar cadear dos tribunais não vai achar né porque n em todosos tribunais eles estão espalhados também já foi mencionado ao longo do dia ao longo da da audiência pública então tendo no ABA própria de todos os tribunais e a

A Pada daquele tribunal então ali tem todos os sistemas que são utilizados e também tem esse link para o o registro do de incidentes né que vai entrar na base do CNJ mas as pessoas não sabem nem o que é CNJ né então é é preciso lembrar também como já foi falado aqui de exclusão digital da da da situação toda que a gente tem que pensar eh de quem não tem tanto acesso à justiça Então as pessoas estão mais próximas do tribunal da sua da sua do seu estado enfim de onde atuam por isso que

eu sugiro que realmente fique na aba própria de cada tribunal pode avançar por favor Além disso eu trago ponto de atenção sobre a generativa porque quando eu entreguei a pesquisa ela foi antes da da do Advento de chat GPT e a gente precisa continuar pesquisando aquele éno dilema entre produtividade e qualidade ética e justiça pode avançar Eh aí faço algumas perguntas né que até que ponto é seguro usar a ar generativa como ferramenta auxiliar pode avançar se é possível controlar ou evitar os erros e alucinações pode avançar e que tipos de erros ou alucinações podem

ocorrer vamos lá trago a primeira pesquisa empírica que se baseia em dados de pesquisadores de e Stanford sobre esse assunto publicado agora em junho pode avançar ele queria saber se eh sistemas como ch GPT poderiam em breve remodelar a prática da justiça e democratizar o acesso pode avançar o resultado foi de 69 a 88% de alucinações com esses três sistemas eles for foram analisados três níveis do poder judiciário norte-americano Essa foi a primeira pesquisa que examinou especificamente por poder judiciário né então não há outro paralelo no mundo pelo menos até o momento foram analisados 5.000

casos de cada cada nível eh hierárquico e feitos 800.000 promes com 800.000 respostas né os achados de pesquisa preocupantes foram que são eh suscetíveis a consultas baseadas em premissas legais e equivocadas eu acho que alguém aqui mencionou eh eles dão certeza nas respostas então demonstrou autoconsciência de sua prep pensão alucinar pode avançar há um risco de monocultura legal porque é muito mais volume de dados de tribunais de grande porte então assim tribunais de de pequeno porte acaba tendo sua participação eh invisível Tornada invisível e tem um um detalhe muito sério que são problemas de performance

com leis de jurisprudência muito antigas ou muito novas os extremos não isso foi muito detectado nessa pesquisa e no nosso caso Aqui nós temos diversos precentes obrigatórios que a eu eu julgo um processo hoje e e anteontem saiu um presedente obrigatório que eu ainda não tomei conhecimento então isso aí é uma questão entre as diversos eh registros de incidentes que alguns colegas me reportam por exemplo eu posso falar de uma locação em que foi colocada a lei anterior a a 1991 então vejam que essa esse esse assunto é é é algo que a se pensar

né E aí os desenvolvedores elas terão de fazer escolhas de quais al Nações eles vão Minimizar pode avançar eh foi também detectado que quem faz controle temperatura é justif fino essas medidas ainda não foram suficientes e naquele momento não estava claro se até com recursos infinitos seria possível resolver totalmente esses problemas de Alucinação somente profissionais com bastante experiência poderão encontrar algum valor e utilidade em usar isso então exigia muita cautela Mas vamos avançar e está estudi o relatório que tá citando N é isso da daquela pesquisa de eu stenford e só que eles eh fizeram

outra agora em maio só que ela ainda não foi eh publicada ela tá em eh em pré impressão né E eles agora fizeram o seguinte porque que não nós nós ouvimos o Google nós ouvimos também o pessoal da USP com o projeto Oros não é isso em que eles falam D ses temas que são fechados e que por isso Eles teriam seriam melhores né Então aí eles pesquisaram também os mesmos pesquisadores que fizeram aquela pesquisa com sistemas de a geral eles agora fizeram essa para sistemas fechados E aí houve uma redução significativa como vocês podem

ver 17 A 33% então de 66 88 diminuiu de fato inclusive com a técnica que o Dr Samuel falou há pouco pode avançar eh as soluções pesquisadas foram duas soluções da Thomson reuters podem avançar essa e essa ES proctol e a outra também que era para pesis jurisprudência e Alexis Plus ai pode avançar o achado de pesquisa foi que a a promessa publicitária de redução máxima ou eliminação de erros não foi cumprida eh essa técnica nova né que é a geração aumentada de recuperação ele ele realmente é é é uma técnica promissora como o Dr

Samuel mencionou mas ainda tem eh um ponto a avançar né mas já Vejam a a redução significativa que já deu pode avançar e exatamente o que aquele pesquisador do Harvard acho que no primeiro ou no segundo dia que foi ouvido aqui ele falou sobre a necessidade eh prée de Comparar as ferramentas Ele disse que só assim eh O Poder Judiciário brasileiro terá condições de de de de de decidir se qual deve ser usada qual não deve ser usada né então por outro lado tem um alro custo para avaliar os riscos pode avançar essa pesquisa também

ela inova porque ela a trá uma tipologia tá terminando já de erros e alucinações E aí isso não nenum outra havia feito porque eh eh a gente só fala Alucinação e erro mas ele traz quatro ou cinco tipos né e traz uma metodologia de avaliação e categorização então isso pode ser útil inclusive pro banco e paraas paraas condições do GT Pronto pode pode ir só para refletir É bom lembrar que eh o o o chpa no caso 3.5 ele havia se treinado com 0,5 de conteúdo de português isso é um problema adicional para nós né

e só para terminar risco já falo controle do usuário pode avançar eh eu fui autora da pesquisa que está publicada na revista do direito público s a primeira pesquisa que me deu grau de conhecimento os juízes brasileiros todos os Ramos sobre a e como os senhores podem imaginar é um grau de desconhecimento muito alto exigir uma uma necessidade de capacitação pode avançar o maior Emílio é a fotta de equipes qualificadas pode avançar eh na escola eh judicial de Pernambuco Eu Sou professora de uma disciplina chamada uso ético Dea no judiciário e já treinei 10% dos

magistrados pernambucanos o que mostra que os colegas têm interesse em em se capacitar e fazer uso ético da ferramenta fica à exposição à mineração estou à disposição do GT muito obrigada excelente participação Dr elício muito interessante eh essas questões a gente sabe que as questão de estatística né que é o que nós estamos falando eu tive a oportunidade de dar uma palestra no na Federação Internacional de todos os escritórios de língua portuguesa com vários escritórios da África e eles falaram que não podiam usar o chat GPT Porque tudo que eles procuravam do direito só saía

tudo do Brasil legislação brasileira jurisprudência brasileira então então isso mostra pra gente né que de fato a gente tem que adequar o uso desses modelos de linguagem a bases qualificadas né a base do próprio poder judiciário com todas as cautelas que nós estamos discutindo aqui eh e também só rapidamente aí pelo nosso tempo eh poder passar eh aqui a a sua colocação em relação aos incidentes né Dr bandeira que é é muito importante a gente aprender com os erros né então como é que a gente vai colaborar nessa identificação desses efeitos adversos isso certamente é

um ponto aí que a a o grupo de trabalho vai considerar Porque de fato é muito importante eh e vamos passar então agora a Dra Camila achutti da mastertech e ajusta equitativa ela é programadora fundadora e CEO da mastertech também fundadora das somas organização sem fins lucrativos que se dedica a construir alternativas no campo da inclusão digital participa de de conselhos e a delegada do W20 responsável pelo grupo de trabalho de mulheres em steem dra Camila bo boa tarde já né pessoal uma honra eh receber esse convite queria agradecer bastante todos os membros do Poder

Judiciário parabenizar pela iniciativa eh fazendo uma menção especial ao Conselheiro luí eh Bandeira eh bom acho que essa é uma conversa que todo mundo devia estar ouvindo e não só o poder judiciário porque de alguma forma isso vai resbalar na vivência de todo mundo enquanto cidadão brasileiro e olhando aqui do meu lado queria começar só explicando um pouco de que lugar eu falo né então Eh como já foi apresentado sou programadora muitas vezes ocupando eh mesas completamente masculinas na tomada de decisão sobre quais os rumos de uma determinada tecnologia de um determinado modelo de um

determinado sistema e isso de alguma forma me incomodou e foi onde eh eu me coloquei em lugares de discussão multilateral eh e de discussões de certa forma de regulamentação Então hoje eh grande parte da minha fala que traz o trabalho que vem sendo desenvolvido pelo W20 que é um grupo de engajamento focado em questões eh da mulher dentro do G20 que é a a um grupo de discussão o qual o Brasil vem eh presidindo esse ano e que eu acho que é Fame gerada para todos tá eh enquanto empreendedora na mastertech e na somas a

gente vem tentando aplicar algumas das coisas que eu venho eh que eu gostaria de mencionar aqui hoje nessa fala tá tentei organizar um pouco aqui o meu pensamento e a minha colaboração sobre ia equitativa justa em três etapas vou começar eh falando sobre o que que ela não é porque que hoje né a gente não tem uma inteligência artificial equitativa e Justa e acho que dá consonância a fala dos colegas desse painel e de todos os outros eh Queria falar um pouco sobre Quais são os perigos que já estão eh destacados que já estão cientificamente

comprovados de lançar inteligências artificiais que não sejam justas e equitativas e terminar fazendo deixando aqui as minhas as minhas sugestões mas também as sugestões que o W20 eh coordenou ao longo do ano e um dos nossos grandes focos Foi Sem dúvida nenhuma Inteligência Artificial Então acho que reforçando um pouco do que a Juiz eice falou o que a Fernanda eh a Dra Fernanda da Rodrigues no painel anterior O Guilherme canelo e o Samuel Brasil trouxeram Por que que hoje a gente não tem uma inteligência artificial eh Justa e equitativa e eu começo a eu começo

trazendo uma reflexão que eu faço junto com os meus alunos e com os meus colegas que tudo começa em dados aplicando pensamento computacional como boa programadora aqui né a a a gente já tem um problema logo na entrada a raiz de tudo são esses dados enviesados e a subrepresentadas explora um pouco esse assunto na sequência a gente tem um processamento mal feito e na sequência a gente tem uma saída sem controle indiscriminado e muitas vezes sem o que a juíza eice trouxe que é esse tratamento de incidências que são inerentes a um processo computacional a

realidade da economia das máquinas Então acho que com essa Tríade a gente divide um pouco onde a gente deveria estar regulamentando que foi uma que foi uma pergunta recorrente em quase todos os outros painéis e panelistas né O que que a gente tá regulamentando a minha m de opinião a gente deveria estar olhando para essas três esferas né os dados esse processamento como ele é feito e por fim como é que a gente pode regulamentar a saída e os resultados disso explorando um pouco esse início eh onde a gente né coloca aí a culpa de

quase todos os problemas que são os dados no queit de uma ia Justa e equitativa a gente tem que perceber que a maioria dos sistemas de a Depende de grandes quantidades de dados e a gente tem um custo Brasil atrelado a isso porque grande parte do processamento é feito em Cloud em máquinas externas que são remuneradas em dados e por vezes a gente não tem são remunerados em dólar em dados são remunerados em dólar e a gente tem um custo muito grande de treinar esses modelos e a gente acaba simplesmente importando modelos eh eh llms

prontos para para tentar apenas trabalhar na customização desses prompts e isso obviamente vai gerar dados eh vai gerar saídas ruins pra realidade brasileira e principalmente para as mulheres por causa do segundo ponto que é a sub-representação das minorias nos dados né os grupos minoritários eles são sub representados isso é um fato e se a gente dá um alimento eh que tá torto e que tem uma super representação dessas minorias Sem dúvida nenhuma a gente vai começar já eh não não permitindo a construção de uma I Justa e equitativa acho que um exemplo bastante eh famoso

tem a ver com o uso de reconhecimento facial que talvez tenha sido a primeira grande Inteligência Artificial talvez eh pelo ramo aeroportuário ter adotado e algumas outras grandes eh esferas públicas né a gente tem um desafio eh de dados eh para pessoas negras para as pessoas com algum tipo de deficiência e inclusive de mulheres a gente tem a gente tem uma dificuldade de achar essas massas de dados largamente distribuídas e até nacionalizadas então onde tá essas bases eh pra gente fazer esses Trein ente a gente deveria olhar então para um caminho onde a gente pudesse

trabalhar já nessa nessa entrada para que a ca pudesse um dia sonhar ser Justa e equitativa na sequência a gente vai pro segundo passo né do pensamento computacional que é esse processamento que hoje é mal feito e ele é mal feito na na minha opinião por duas razões a primeira porque falta diversidade nas equipes de desenvolvimento reitero que eu me formei sozinha no instituto de matemática estatística na turma eh de 2013 e a gente continua tendo equipes majoritariamente masculinas sem qualquer tipo de diversidade e em geral também representativas de uma única cultura Então a gente

tem dificuldade de no contexto de criação desses algoritmos trazer essa diversidade essa transparência que vem de uma construção de time diversa e colaborativa na sequência a gente tem Sem dúvida nenhuma um foco exagerado ad na eficiência em detrimento da Transparência e Equidade a gente tem hoje os grandes produtores sendo empresas eh for Profit né que tem um um uma vontade de lucrar com esses modelos e a gente tem desafios econômicos inclusive de conseguir produzir grandes modelos eh que sejam que priorizem Equidade e não eficiência quando a gente tá falando de llms e qualquer eh Inteligência

Artificial sendo ela Estreita ou não tá a gente ainda tem dificuldades econômicas de conseguir equilibrar esses pratos aqui para que a gente consiga eh não necessariamente ter que maximizar eficiência e lucratividade eh dito isso a gente supera a primeira entrada de dados que já tão distorcidos um processamento que ainda tem n desafios eh e na sequência a gente tem uma saída que por vezes eh é descontrolada a gente tem modelos eh mal regulados eh a gente não tem um processo adequado e estabelecido de revisão ética e avaliação de impacto dessas decisões que são que saíram

né a gente continua usando o joinha o like o dislike mesmo para modelo como o chat GPT se vocês perceberem a gente não tem grandes possibilidades de avaliar as saídas talvez do maior modelo de uso comercial que a gente tem notícia a gente tem apenas duas parâmetros que são dicotômicos né Eu gostei ou eu não gostei eu não tenho um contínuo eh nessa possibilidade muitas pessoas sequer usam mesmo o joinha para para cima o joinha para baixo né Eh durante o o a interação Human máquina eh a gente tem uma ausência então Eh dessa regulação

eh orgânica eu chamo assim mas a gente tem também uma ausência dessa regulação eh a que a gente chama que auditada né no no no no mundo da tecnologia no mundo do empreendedorismo aqui que é de fato um terceiro olhando para aquela resposta e dando uma supervisão contínua e dando um endosso sobre aquela resposta isso já seria de alguma forma um caminho né bastante bastante válido eh e por fim para terminar essa saída sem controle a gente ainda tem dificuldade de fazer regulamentações globais esse talvez fosse o grande sonho do W20 enquanto eh escritor né

de um comunicado sobre eh stem Ciência Tecnologia Engenharia e matemática mas a gente sabe o desafio que é conseguir colocar todos esses órgãos multilaterais para colaborar para uma regulamentação global existem inúmeras e discussões mas a gente ainda tem desafio eh de implementar uma regulação Global sólida eh em ai e pensando que a gente tá falando de uma tecnologia que tá disponível na internet e que é distribuída a gente deveria ter esse tipo de cuidado na sequência queria caminhar pra segunda parte aqui da minha fala que que é comentar um pouco com vocês Quais são esses

perigos que a gente enquanto grupo de engajamento vem apontando eh pro G20 enquanto lideranças que podem suportar e que eu gostaria de trazer aqui também pro ambiente do Conselho Nacional de Justiça para que eh essas as lideranças né como vocês do sistema judiciário pudessem também levar em conta né e acho que tem algumas referências bastante eh importantes pra gente enquanto eh construtoras de uma inteligência artificial Justa e equitativa eh mas em grande parte eu queria focar até por um motivo de tempo né eh lá se foram já quase metade da minha fala eh que a

gente precisa olhar para pros impactos das mulheres né como é que as mulheres estão sendo eh especificamente impactadas por isso e eu trouxe três grandes impactos primários que já tão subsidiados por ciência já tão subsidiados poros artigos a gente já consegue afirmar que ter uma inteligência artificial que é viesada para gênero e a gente e hoje não existe eh uma inteligência artificial que seja Justa e equitativa vai trazer menor qualidade de serviços para as mulheres entendendo que todos os todos os Ramos estão estão passando né por transformações digital a gente vai ter uma locação de

recursos informações e oportunidades injustas para as mulheres a gente vai propagar tratamentos ofensivos e apagamento dessas mulheres ao longo dessa implementação a gente vai deteriorar a segurança física que vem sendo construída eh nos últimos anos de de de forma bastante iniva e a gente vai ameaçar a segurança a a saúde dessas mulheres a gente já tem levantamentos de que aplicação eh que aplicações no âmbito da Saúde Podem trazer muitos malefícios só recortando gênero aqui tá não fiz nem eh outras tantas Outros tantos recortes Possíveis quando a gente tá falando de Equidade e por fim a

gente continua reforçando estereótipos e levando a ambientes preconceituosos Então se a gente permitir que essas falhas permaneçam eh nos nossos sistemas de Inteligência Artificial a gente tá permitindo que o futuro digital eh seja construído nessas Fundações que são injustas e eu gostaria né de ressaltar que a gente ainda tá num cenário onde essas desigualdades especificamente de gênero aqui falando ainda são tão presentes e assim eu queria ir pro fechamento da minha fala e trazer para vocês em primeira mão a gente tá embarcando eh pro nosso summit internacional do W20 para fazer essa entrega pro presidente

Lula e para pros ministros agora na terça-feira mas eu queria trazer um pouco do que o W20 o grupo de engajamento de mulheres vem trazendo como eh medida e pedido para essas grandes lideranças Então a primeira eh grande pauta da nossa das nossas discussões é que para que a gente Garanta que os benefícios de alcancem todas as mulheres meninas e eu não estou negociando a a a premissa de que e a pode trazer benefício sim eh o G20 e toda a liderança deveria apoiar pesquisas e colaborações pra gente poder construir e as equitativas para gênero

enfatizando limpeza de dados que é o primeiro passo da reflexão que eu fiz aqui com vocês eh talvez esse seja mais acertado Nesse contexto onde consórcios internacionais instituições de pesquisas e organizações da sociedade civil pudessem se envolver em construir e criar quais são essas boas práticas já temos algumas eh bastante satisfatórias como a declaração de Montreal pro meia responsável que traz eh práticas bastante Claras sobre limpeza de dados a segunda que a gente adoraria que a gente conseguisse falar de inclusão digital antes mesmo de falar de uma EA Justa e equitativa a gente ainda não

tem uma distribuição do acesso digital eh pras mulheres e meninas a gente hoje tem 20% de chance eh diminuída quando se trata de uma mulher e menina num país não desenvolvido de acessar esse ambiente digital então que Dirá falar de acesso à Inteligência Artificial e por fim a gente também eh exige que de alguma forma os países eh do G20 consigam se colocar a favor de uma construção de ferramentas digitais e infraestruturas digitais inclusivas para que maior número de pessoas possa fazer uso desses serviços públicos digitais e que isso não se alar né isso não

acabe alar and desigualdades existentes e aqui eu faço uma um comentário específico né sobre inteligência artificial que de novo a gente ainda tem muitas dificuldades em conseguir trazer essa possibilidade de acesso para maior número de pessoas Resumindo eh já nesse meu último minuto final eu acho que a base para construção de uma ajusta e ética eh tá na maneira como a gente constrói os algoritmos e como a gente trata os nossos dados se a gente tivesse que focar a nossa regulamentação em algum lugar eu particularmente como cientista da computação e não jurista sugeriria a vocês

discussões nesses dois âmbitos como é que a gente pode regulamentar a construção de algoritmos e os tratamentos de dados como um passo Inicial que a gente pudesse né olhar pros tribunais e pros órgãos legislativos também como grandes incentivadores eh de programas de letramento digital com ênfase né aqui como eh Delegada do W20 inclusão de G e Distribuição desse poder que a gente sabe que ele é informacional hoje em dia então para mim é é é o futuro da Inteligência Artificial ele é brilhante quando eu imagino mas a gente Depende de decisões que a gente vai

ter que tomar hoje para que ele seja novamente just equitativo e eu espero que isso seja um inegociável para todos nós presentes aqui mas também para todos nós que vamos usufruir desses benefícios Obrigada nós que agradecemos Camila muito interessante sua a fala eu teria muitos comentários aqui mas infelizmente pelo tempo eh não posso porque também Trabalho bastante essa questão dos viés na FGV a gente tem um grupo de trabalho específico sobre isso e e a importância da sua participação também como programadora porque se a gente não tiver tecnologia aplicada para analisar saídas para entender eh

a pontuação de variáveis nós não vamos ter os insumos as informações justamente pra gente fazer as correções e tomar as decisões éticas então muito obrigado pela sua participação eh e passar rapidamente ao Dr Maurício zum da PUC de São Paulo vai falar sobre transparência governança tecnológica e auditabilidade no emprego da ia no poder judiciário que é advogado e professor de direito administrativo da PUC São Paulo livre docente Doutor em Direito Administrativo pela mesma Universidade Colíder do grupo de pesquisa de regulação administrativa eh muito boa tarde muito obrigado Dr Alexandre zavalia eh eu quero em nome

da faculdade Dire da PUC de São Paulo agradecer muitíssimo com convite que me foi honrosamente formulado falo aqui em nome do grupo de regulação da faculdade que desenvolvo junto com o colega professor Jacinto arru da câmara quero eh digamos dar o bom dia a todos nome da Dra Laura Porto que tá aqui conosco agradecer muitíssimo uma vez mais o conselheiro bandeira de Mero pelo convite Generoso feito e me solidarizar primeiro com o grupo de trabalho eh Dr Pedro porque fazer ato normativo é mreza é madureza eu já Participei de algumas comissões de juristas eu não

tava lá só passeando jurista eram os outros mas dá um trabalho louco fazer lei dá um trabalho louco fazer um ato normativo Ainda mais quando você submete a uma audiência pública Você ainda tem que ouvir com desgosto que é que as pessoas ficam apontando lá o trabalho que deu para fazer o negócio e cada discussão de cada artigo quando vem alguém que alguma maneira eh faz uma consideração que pode ser um pouco detrimentos Aquilo é como machucar um filho eu sei como é que é isso eu sei então vocês fiquem muito tranquilos mas eu vou

eu permita fazer um papel do outro lado que eu também gosto como gostei de quando vim algumas contribuições que não tinham a finalidade destrutiva mas uma finalidade construtiva portanto saiam que eu já estive do outro lado do balcão fazendo esses atos normativos portanto você assim eu vou pro procurar contribuir efetivamente viu Dra Laura então eu vou dividir a a minha fala em quatro pontos mas vou justificar porque dos quatro pontos quando nós estamos falando e aqui essa proposta fala em regulação de Inteligência Artificial o objeto no final da história é a inteligência artificial o resultado

dessa regulação é que aplicável o poder judiciário como se eu estivesse falando em regulação na atividade médica eu tenho que falar do quê de medicamento então e aí falar da digamos da formatação jurídica a respeito desta matéria portanto não é possível iniciar alguma algum debate a respeito do tema da regulação e da proposta de minuta sem muito bem como o Dr Roberto colocou falar do que que é raios dessa própria inteligência então este é o primeiro ponto então o ponto um é como é que funciona esta inteligência que é inteligência generativa muito bem observada ontem

trabalhado pelo pelo Professor fázio Fábio kosman que acho que é é é um professor da USP e pela minha colega também de Universidade a Dra Dora Kaufman Vamos trabalhar um pouquinho isso entender Inclusive a minha orientadora do doutorado Ah não diga É verdade Ah a muito né uma orientadora muito é a PUC é uma desgraça né parece covid se esp em tudo que é lugar muito bem e aí então Eh No segundo ponto eu vou tratar dos problemas da do uso da tecnologia ainda mais pelo poder judiciar vou tratar no terceiro item das propostas e

no quarto item eu vou fazer sugestões de aprimoramento da minuta e mas tudo justificado o que geralmente a inteligência artificial não faz que é explicar porque ela é blindada eu vou procurar aqui explicar muito bem então pelo princípio primeiro ponto né como é que funciona raios essa inteligência artificial que vai sendo objeto de discussão e por e quais são os problemas que Ela implica Dr Roberto Ele colocou aqui muito acertadamente que a inteligência artificial não é inteligência no que ele tá certo eh com consorci em gênero número igual vou explicar por e quais são as

decorrências que isso advirá na realidade o o sistema eh este sistema de Inteligência Artificial não é o único que ele trabalha eh um algoritmo que trabalha no sistema transforma o que que ele faz é transformar a palavra numa representação matemática um token lá aquele token que você tem do banco ele pega uma palavra transforma no token esse token depois recebe vetores multidimensionais que são os endings que faz aquela Nuvem de palavra né assim o que que esse token tá tá realizado com isso até a houve uma uma uma convidada que veio aqui era da Google

salvo melhor juizz Ela mostrou aquelas nuvens uma coisa maravilhosa é isso e a a pergunta é além de você identificar aquela Nuvem de palavras que geralmente não é feita na língua portuguesa estamos já tem um bait um problema porque a nossa base como muito bem mencionada na palestra anterior é uma base que feita em data clouds ou digamos eh eh no estrangeiro usando língua inglêsa que não tem absolutamente nada a ver com a nossa cultura iso é um problema e depois que você transforma estas cada palavra num token e depois você dá coloca ele Na

nuvem você ainda precisa colocar ele posicionalmente que é onde dá muito vies é aonde que raio você vai colocar isso dentro uma posição que que el cham position code que é o a posição do algoritmo muito bem isso na realidade o que que causa é que a inteligência artificial ela simplesmente escolhe palavras e as posições das palavras na realidade ela faz só de modo probabilístico e que foi exatamente a colocação do Dr Roberto muito bem feito ela não tem inteligência o que ela em última medida faz ela não tem consciência ela não compreende ela não

emite juízo de valor ela naidade propõe um arranjo de probabilisticamente que fazem sentido por isso que ela alucina porque a probabilidade simpl pode aind mais pautar uma língua estrangeira que não é a nossa pode resultar num num digamos num completo absurdo portanto é importante que se entenda nesse primeiro momento em que nós estamos diante de uma ferramenta que produz um ato Sem consciência e sem vontade isso é extremamente relevante no plano do Direito Administrativo e por isso que eu fui agradeço uma vez mais eh Conselheiro Bandeira porque isso não é nada de estranho no campo

do Direito Administrativo nós temos inúmeros atos que são atos jurídicos que são produzidos Sem consciência e sem vontade e o sistema normativo trata isso de uma maneira muito tranquila caso por exemplo muito muito conhecido Professor Celson Antônio Bandeira de Melo meu professor na faculdade ele cansava de dar os exemplos nisso no campo do ato administrativo que que uma placa de trânsito um produzid Sem consciência sem vontade mas que te impõe um dado uma dada obrigação o que que é um senal semafórico como eu quer dizer que equipamentos eletrônicos que produzem as luzes é produzido Sem

consciência e sem vontade então não há nenhum problema que uma ferramenta de Inteligência Artificial Como ess se transforma que produz Atos com meras digamos com meros elementos probabilísticos resulte na produção de um ato sem cons Sem consciência vontade agora onde que isso é usualmente utilizado no campo das relações estatais quando nós estamos diante de atos de natureza vinculada ou Tecnicamente dizendo são atos produzidos no exercício de competência vinculada em relação a qual não cabe um juízo discricionário que é eu já entendi a preocupação do Dr Roberto então se nós estamos diante no primeiro ponto eu

eu primeiro tive que analisar o que era inteligência artificial identificar que é um ato produzido Sem consciência e sem vontade olhar pro direito positivo e diz não tem problema isso já é feito e chegar a qual conclusão atos produzidos com base Em competência vinculada não dá não tem prejuízo de fazer da onde que eu já saco uma primeira consequência permita-me jogar lá paraa próxima não vejo o problema e não acho que há problema porque não é um juízo de natureza discricionária você identificar a possibilidade de uma dada situação concreta se aplicar uma figura de cúmulo

vinculante porque ato vinculado ou ou uma repercussão geral que é ato vinculado ou um irdr que é ato vinculado isso não há problema Por quê você consegue estabelecer essas premissas Claro com todos os elementos de vies mas é que aí começa o grande problema e eu digo com muita tranquilidade porque muito antes da instalação deste grupo aqui pela portaria 338 de 2023 depois Renovada pela 4124 que Amp o escopo eu e a professora Carolina zancaner que eu sou marido dela mas su Nós escrevemos um artigo que era justamente tratando desta matéria onde nós examinamos exatamente

esta questão e por isso tô com muita tranquilidade para dizer aqui algo que já disse no passado portanto não não não inovo na minha pesquisa para dizer olha preparei alguma coisa caso concreto não tinha pensado exatamente nós tínhamos pensado exatamente nessa nessa questão esta tecnologia ela é feita num dado momento que aqui se mencionou a necessidade de explica habilidade o problema que ela é feita num dado num dado modelo que de linguagem que ela não se explica ela não se explica gente e a única coisa que nós enquanto administrativistas queremos num ato produzido com base

Em competência discricionária é a explicação Então como é que você vai conseguir extrair de um elemento que não se explica a única razão que Funda um ato com base Em competência discricionária que é e não é nem explicação por qu não há uma explicação no elemento probabilístico não há na realidade o que nós fazemos o que o o o na verade o agente público faz quando produz um ato de natureza produzido com base de natureza discricionária é interpretar e a máquina não interpreta pelas razões que eu acabei de mencionar portanto eu já permita-me já já

chegar a uma conclusão parece-me jurídica E logicamente ilegítimo que se confira a qualquer espécie de autoridade no exercício de qualquer função pública a prerrogativa de utilização de ferramenta de inteligência artificial para produção de Atos ainda que propostos Com base no exercício de competência discricionária não é possível porque não se tem como explicar nem proposta de sugestão você não sabe da onde que aquilo foi tirado aquela sugestão Portanto o que existe é que nesse caso dado a impermeabilidade do conhecimento existe uma opacidade algoritma algorítmica existe na realidade uma arbitrariedade algoritma porque não se tem a razão

de ser do ato produzido portanto não existe o que denomina-se rácio decidente num ato de natureza discricionária Por esta razão que no campo do Direito Administrativo nós dizemos com muita tranquilidade que o ato produzido com base Em competência vinculado não precisa nem ser motivado é Como assim um completou 70 anos então tá aposentado por quê não precisa explicar tá aposentado os fatos se auto explicam você não pode chegar essa conclusão com base em Atos produzidos com base Em competência discricionária por isso que ao meu juízo ao nosso juízo digo em meu nome em nome da

professora Carolina não é possível conceber isso em Atos competência discricionária por essa razão inclusive e essa eu colho aqui junto com o Dr Roberto um certo espanto Quando eu olho o artigo 7 c da proposta de resolução diz que são atos sensíveis aqueles que permitem inteligência a valorização de digamos a valoração de fatos ISO jamais pode ocorrer não existe essa possibilidade porque is é um elemento que demanda interpretação e explicabilidade tantas vezes mencionada que não tem nada a ver com motivação uma coisa completamente diferente explicar como é que o sistema funcionou a pergunta é Qual

é a motivação veja aqui é um problema de interpretação como se pode imputar a uma inteligência artificial por exemplo motivar um ato de competência discricionária tratando hipoteticamente da dignidade da pessoa humana você não é pessoa humana como é que se pode tratar do tema da vida digna se ele não é se ele não tem vida portanto porque ele não trabalha com esses elementos portanto me parece eh extremamente complicado isso chegando no cronômetro já estourou já estourou não sabe não não estourou Ufa prorrogação prorrogação muito bem então esses são os Esse é o próximo ponto que

são os problemas que eu identifico portanto na rácio decidente problema de explicabilidade como é utilizado esse estrangeirismo Não tem absolutamente nada a ver com interpretação são elementos diferentes no ato Então você eh a a digamos a inteligência artificial não interpreta então eu tenho Algumas propostas de solução que Inteligência Artificial que esse mecanismo eles podem ser utilizado no Exercício da função eu diria qualquer função pública de natureza descricion ària primeiro supervisão na inserção de dados eh a supervisão na inserção de dados eh eh ontem aliás que nós vocês receberam acho que foi antes a Dra Aline

Osório é isso el di Olha nós já estamos fazendo utilizando Inteligência Artificial digo show tem alguém acompanhando não não tem quer dizer é um elemento interno que V sendo realizado a base vem sendo formada Mas a pergunta é cadê a supervisão eu acho que a supervisão inclusive deve ser parte do usuário eu vou explicar por como é que você consegue evitar o digamos o viés algoritmo vou dar um exemplo súmula 7 do STJ nada passa na súmula 7 do STJ nem raker consegue passar na súmula 7 do STJ ninguém consegue invadir o STJ por exemplo

sistema que tem lá súmula S que barra muito bem se você fizer e montar toda a base de informação segundo a súmula 7 vai desafogar o STJ nada passa nada é julgado e mais se você colocar quantidade de decisões com súmula 7 rapaz julga tanto com base na súmula 7 tão pouquinho com o resto que toda decisão vai pelo viés de não ser julgado segundo a súmula 7 quem vai controlar isso então nós não vamos Inserir a base de dados gente mas insira ação Então esta Veja a intensidade desta informação pode reduzir um viés Então

tem que ter participação na formação e já vejo que não tem já já nasce com problema porque foi identificada na palestra de ontem eu vejo isso como um grave problema dois pris vamos ter acesso ao código fonte E por que que é o código fonte porque a inteligência artificial não pode ser uma conta de chegada eu ontem por quê não se pode primeiro querer o fim depois dar o meio já vou terminar como é que primeiro você atira a flech depois pinta o alvo a atividade jurisdicional mesmo com uso da Inteligência Artificial não pode ser

uma conta de chegada por que que eu digo isso Ontem entrei no clud e perguntei Claud Me explica aí por que o homem não chegou até a lua e ele me deu a resposta ele me deu a resposta ele disse não não chegou na R por tal por Tais razões só que eu já queria uma conta de chegada que era uma informação de natureza mentirosa Então como é que você vai controlar isso aí você precisa abrir ISO e mais houve aqui um um elemento problema da rotulagem né rotula ou não rotula tem que rotular eu

vou dizer porquê eu vou dizer mais porque que tem que rotular e vou outro elemento o usuário tem que ter acesso à interface isso não foi falado até agora que que acesso a interface tá usando o sistema eu quero usar quais razões que justificam que o usuário possa usar eu quero antecipadamente saber se uma causa segundo o sistema que vocês estão usando vai resultar em uma sentença A ou B cidadão tem direito de saber isso porque afinal de contas o magistrado não vai usar ele também pode usar até porque se ele usar Ele vocês podem

evitar com isso que haja um nascimento de um litígio ou que pelo contrário se ele vai usar inteligência porque que Us é a mesma inteligência a situação é diferente você fez uma conta de chegada mesmo na aplicação de súmula vinculante repercussão geral recurso repetitivo Então esta Face tem que ser aberta ess interf tem que ser aberto para os usuários E aí por fim Quais são as soluções Então esse é o terceiro ponto Quais são as soluções e agora em razão disso dos problemas que eu coloquei Quais são as propostas que eu faço em relação à

minuta que eu vou terminando primeiro deve ser proibida a utilização com todo respeito pode fazer relatório de de voto mas não pode ser utilizada inteligência artificial para produção de decisão judicial que seja de natureza discricionária que não seja para aplicar a súmula vinculante recurso repetitivo por quê Porque isso examina o quê a necessidade de interpretação a máquina não interpreta ela faz um cálculo probabilístico duro dizer isso mas eu VM da faculdade para expor esse pensamento não dá algumas sugestões na redação da da minuta artigo séo deve haver supervisão na inserção de dados artigo 7 C

diz que deve haver que eh que são atividades sensíveis na utilização de Inteligência Artificial valorização de fatos juízo conclusivo Deve ser vetado esse dispositivo deve ser alterado para ser proibido a utilização desta passagem por esta passagem indica juízo discricionário que eles podem utilizar essa ferramenta para Juiz discricionário pelas razões que eu sustentei apenas mantendo coerência esta parte do artigo 7C deve ser revogada não deve ser suprimida porque senão vai se admitir o uso diso para uma valoração que só pode ser feito com base juizo discricionário que não é possível e o artigo 17 apenas para

manter coerência que eu acabei de mencionar o usuário tem que ter acesso à mesma plataforma a mesma interface que é utilizado pelo Poder Judiciário se o judiciário usa usuário também pode usar para que ele possa eventualmente conferir a mesma conclusão a que os dois Chegaram com essas considerações agradecendo uma vez mais nome da Faculdade de Direito da ponte í Universidade Católica de São Paulo do grupo de estudos e Conselheiro Bandeira Essas são as contribuições que a nossa faculdade tem oferecer ao Conselho Nacional de Justiça Muito obrigado nós agradecemos Dr Maurício eh pelo nosso tempo aí

infelizmente a gente também teria aí muitas considerações mas certamente todas elas vão ser aí analisadas aí pelo grupo e e com muita clareza e pontos objetivos aí paraas nossas discussões principalmente essa questão da valoração de prova que é sempre é eh passa a palavra a Dra Maira Fernandes do ibcm vai falar sobre a auditabilidade das Ferramentas de a transparência sobre a base de dados e possível reprodução de vies discriminatórios em matéria penal que é sempre um assunto também muito discutido e que engloba vários da dos dispositivos ali da da minuta é advogada criminal mestre em

direito pela Universidade Federal do Rio de Janeiro coordenadora do departamento de novas tecnologias direito penal do IBC crim professora do lem direito penal contemporâneo da FGV Rio e professora convidada do Instituto de Tecnologia e Sociedade do Rio e da emerge Olá bom dia a todas e todos eh que estão no CNJ E que nos assistem virtualmente eh parabenizo a o Dr luí Fernando Bandeira de Melo eh Conselheiro por essa por esse grupo de trabalho e todos os outros integrantes do grupo de trabalho é a Dr Alexandre zaval muito prazer e muito obrigada pelo convite eh

trago aqui uma discussão que é uma preocupação do IBC crim do Instituto Brasileiro de ciências criminais que já foi de fato manifestada em outras falas mas que vale a pena reforçar Porque de fato eh pode ser extremamente Perigosa a utilização de Inteligência Artificial nos processos criminais a resolução atual a 332 né que está em vigor tá no seu artigo 23 um uma especificação que diz que a utilização de modelos de inteligência artificial em matéria penal não deve ser estimulada eh sobretudo em relação à sugestão de modelos de decisões preditivas vejo que o o grupo de

trabalho né em seu excelente trabalho denso trabalho eh fez uma proposta de retirada dessa desse artigo 23 e passa a prever apenas uma uma uma redação que classifica como alto risco o uso de Inteligência Artificial quando envolva a restrição de liberdade individual em ações criminais a atual redação portanto ela é menos Ampla e menos restritiva do que o artigo 23 mas honestamente na na nossa opinião eh a rodução poderia trazer uma proposta ainda mais rigorosa em relação até o artigo 23 atual né não se sentido de que não poderia ser utilizada a inteligência artificial em

matéria criminal sobretudo nessas decisões preditivas o que que são essas decisões preditivas né onde é que elas né onde é qual o impacto dela na Esfera criminal é justamente aquela uso da inteligência artificial para prever um determinado resultado então um exemplo que já foi falado aqui eh pela manifestação do Iris pela Fernanda né muito utilizado nos Estados Unidos que gerou um Grande Debate foi justamente o uso do compas um sistema de Inteligência Artificial que objetivava prever se uma determinada pessoa poderia reincidir numa prática criminosa ou não E como esse sistema funciona ele eh funciona com

um questionário de uma a 10 perguntas que levam em consideração todo o aspecto eh social da vida daquela pessoa se ela tem eh antecedentes criminais ou não tem aonde ela mora Se a residência é própria alugada se está devendo se não está devendo os familiares dela se ela tem algum algum familiar que também tenha tido um envolvimento com a polícia ou não e uma série de eh análise inclusive muito subjetivas como por exemplo uma análise até sobre pensamentos criminais eh e sobre uma possibilidade de tendência prática criminosa que muito se equivaleria à nossa personalidade voltada

pro crime que é uma matéria né uma expressão muito utilizada em decisões judiciais mas são são são requisitos absolutamente vagos e geravam um um resultado que dizia se essa pessoa tinha eh risco de reincidência ou não pesquisas feitas com esse sistema identificaram um altíssimo erro do sistema né e três aspectos principais né primeiro um uma baixíssima efetividade porque leigos eh eram capazes de acertar mais do que o próprio sistema né uma falta de transparência nesse sistema né porque eh de fato não se sabia como esse sistema chegava a essa determinada conclusão sobre a reincidência e

um viés discriminatório porque o sistema eh considerava com muito mais possibilidade de reincidência negros do que brancos por que que eu tô falando do compas porque não há na resolução nada que vede a utilização de um sistema como esse no Brasil é se aprovada a resolução nos moldes como proposta atualmente a resolução atual falava né na na no não estímulo né a resolução atual Não fala nem nesse não estímulo e nem mesmo numa proibição só que é um um um sistema de inteligência artificial que pode causar um altíssimo índice de erros judiciais né então eu

fico muito preocupada com essa utilização de uma inteligência artificial e que eh pode reproduzir um viés discriminatório muito forte notadamente na sociedade brasileira a Camila falou agora a pouco sobre os sistemas sobre a forma de de de alimentação né desses sistemas o fenômeno da impregnação de preconceitos nos algoritmos é conhecido como viés algoritmo né Eh e ele ocorre quando um sistema de Inteligência Artificial processa dados e produz resultados que favorecem ou prejudicam certos grupos de maneira desproporcional Só que os o fato é que os sistemas de ência artificial eles não se produzem sozinhos né eles

são eh produzidos e alimentados por uma ação humana e uma sociedade discriminatória pode gerar um sistema discriminatório né Eh justamente por conta dessa forma de alimentação em outras palavras um poder judiciário que ten a posições e decisões discriminatórias pode gerar decisões discriminatórias e nem esse ponto a gente precisa olhar para qual é o retrato do nosso sistema penitenciário Brasileiro né uma pesquisa do próprio CNJ eh publicado agora em maio desse ano mostrou o recorte racial no nosso sistema atual que hoje já tá com 850.000 presos mas na época da pesquisa apontava os dados de de

dezembro de 2023 que mostravam que de 644 mil presos 400.000 presos eram negros ou pardos Esse é o retrato da situação prisional brasileira Qual a nossa preocupação é que essa esse sistema de Inteligência Artificial pegue esses dados né de qual é o perfil eh de pessoas encarceradas no Brasil e considere esse um padrão uma categoria né um um perfil encarcera de Inteligência Artificial não conseguirá a problematizar todas as causas desse encarceramento né E pode aumentar portanto a reprodução de um sistema de Justiça Criminal que já encarcera em demasia Então nós não podemos desconsiderar que o

Brasil Prende muito prende mal aplica pouco as medidas alternativas à prisão descumpre próprios precedentes dos tribunais superiores em matéria Penal em matéria de aplicação de pena então qual é a base de dados que vai ser a base desse sistema de Inteligência Artificial se for esta base de decisões de um poder judiciário que já hoje eh eh reproduz discriminações nós vamos aumentar e reproduzir ainda mais um sistema ainda mais discriminatório então por isso essa discussão do viés algoritmo né do viés eh eh racial da preocupação com um um viés racial E de gênero e e de

todas as outras formas de discriminação ela vem muito atrelada também com a questão da auditabilidade desses sistemas né a entender como esses sistemas serão alimentados e fiscalizados né Especialmente porque as máquinas não podem ser responsabilizadas né então essa máquina vai ter um poder muito grande de decisão se essa proposta for concretizada eh com pouca transparência sobre a sua utilização É verdade reconheço como um excelente foro do grupo de trabalho que a nova proposta traz uma previsão sobre auditabilidade né Mas será que ela é suficiente num contexto como esse que eu estou dizendo so do Poder

Judiciário a auditabilidade ela é a capacidade de examinar e verificar os processos de decisões que um sistema eh assegura nas operações e sujeitando a transparência a rastreabilidade etc né então o regulamento de Inteligência Artificial eh da da União Europeia que está em vigor desde primeiro de agosto foi muito feliz na especificação de muitos requisitos de Transparência desses sistemas que merecem ser incorporados né numa aplicação eventual de inteligência artificial no Brasil porque ele traz eh que quanto mais eh Impacto tiver um determinado sistema maior Deve ser ainda eh a a o cuado com essa transparência Então

essa regulamentação da de Inteligência Artificial da União Europeia traz por exemplo medidas de controle mais rigorosas autoavaliação comunicação de incidentes graves testes e ensaios normas eh de cibersegurança supervisão humana eh rígidos Protocolos de monitoramento avaliações contínuas né já foi falado aqui agora a pouco né na fala anterior quem está eh monitorando a utilização desse Esse sistema é numa capacidade também de mitigar os riscos né então o regulamento ele classifica eh o uso de inteligência artificial na administração de justiça como de alto risco e Justamente por isso destaca a importância da auditabilidade como um elemento essencial

para mitigar esses riscos e coloca também essa necessidade da auditabilidade da Transparência como um pilar ético né É claro que a ética perpassa todo o debate da utilização da Inteligência Artificial mas na Esfera Criminal em que as consequências são ainda mais graves porque estamos falando né de da liberdade de uma pessoa estamos falando de um país que tem um sistema penitenciário superlotado um estado de coisas inconstitucional como reconhecido pelo próprio Supremo então eh não podemos nos dar o o o né a chance né de de aumentar ainda mais esse sistema penitenciário por conta de um

mau uso de um sistema de Inteligência Artificial né Eh há várias pesquisas que mostram por exemplo eh a pesquisa da do Mit da Universidade de Stanford que mostram essa questão racial como uma questão extremamente problemática no uso de novas tecnologias taxa de erro por exemplo de 34% ao identificar imagens de mulheres negras ao que o erro de 0,8 para identificar homens brancos né É porque esse resultado porque de novo as máquinas elas reproduzem elas não se autoalimenta elas elas são alimentadas por eh mãos humanas e elas acabam reproduzindo aquilo que a própria eh sociedade reproduz

né então por isso o risco de utilização de eh inteligência artificial na área criminal ele é muito potencializado podendo aumentar muito o eh risco de erros judiciais de viés discriminatório eh enfim de prisões indevidas eh eu vi também que a a resolução Ela traz uma uma discussão né de que o comitê estabelecerá Protocolos de auditoria né Eh que bom isso é importante né mas é importante Justamente que ele siga essas eh eh recomendações da da da regulamentação europeia eh e todas as outras Considerando o alto risco da utilização da inteligência artificial no sistema penitenciário é

Como assim são são são patamares diferentes por conta justamente da da da da consequência da decisão né Eh e quanto mais transparente for esse sistema assim como a gente pede que uma decisão judicial seja fundamentada a gente precisa entender como o sistema chegou àquela a conclusão né Quanto mais transparente for esse sistema mais confiança a sociedade pode ter na utilização desse sistema né os métodos precisam ser Claros as conclusões precisam ser Claras e elas não podem ser um exercício de futurologia aá spilberg aá Minority Report porque as consequências são muito graves na vida de uma

pessoa por fim eh eu trago aqui que o ideal eh seria que toda essa discussão sobre a utilização de inteligência artificial notadamente na área criminal que é da onde eu falo Viesse atrelada a uma discussão que o Brasil precisa fazer da aplicação de uma lgpd penal né quando aprovada lgpd a Lei Geral de proteção de dados não foi aprovada propositadamente uma lgpd penal essa discussão ficou para depois foi feito um excelente trabalho de um grupo de trabalho eh e que até agora não se concretizou enquanto aprovação de um projeto de lei eu sei que que

essa essa competência obviamente não é do CNJ ela é do Legislativo mas seria muito importante que o CNJ como um órgão né tão importante na sociedade né com com com tantas eh eh pautas importantes ao longo de todos esses anos também participasse dessas discussões de incentivar a aprovação de uma lgpd penal do Brasil para que a discussão de eventual aplicação de uso de inteligência artificial no Brasil viesse junto com a discussão de uma lgpd penal que certamente protegeria né todos esses direitos fundamentais Direitos Humanos direito né à vida à liberdade a tantos anos direito a

um processo penal justo e e todos os outros direitos constitucionais que nós falamos tanto aí ao longo dessa reunião Nós também eh protegeriam a os dados na Esfera eh penal por uma lei geral de proteção de dados Então seria muito interessante que esse diálogo viesse junto e nós colocamos o IBCC Instituto Brasileiro de direitos de ciências criminais absoluta disposição do CNJ para a construção desses debates e para a participação de qualquer contribuição na área da implementação das discussões do uso da inteligência artificial no Brasil muito obrigada nós que agradecemos Dora Maira e de fato a

gente tem eh no artigo 7 B né Principalmente aqui no inciso sego e essa preocupação de que não haja algo como compes Inclusive a Dora Isabela Ferrari aí do Rio de Janeiro também membro aqui do nosso grupo Sempre coloca essa questão Então seria muito importante a gente sabe a grande contribuição do ibcm para diversas questões aqui no nosso país que a gente possa receber contribuição de como adequar esse texto a a essa essas suas colocações Porque de fato Essa é a preocupação que está ali né E outra ação também eh colocada pelo Dr Maurício e

e que é importante a gente ressaltar é que um dos princípios né Eh balizadores dessa minuta é realmente o protagonismo do magistrado é a garantia de que ele é o responsável e que a decisão final nunca vai ser da máquina Então esse é um princípio norteador eh de todas essas questões e e também tá entre eh aqui as proibições né aquele uso excessivo eh qualquer tipo de solução que não seja permitida essa revisão e a supervisão humana então esses princípios também é que tem se colocado como preocupações principais aqui do grupo e obviamente todas essas

contribuições nos ajudam a afinar esse texto e também complementar questões que são importantes e muito bem colocados aqui então passando a ao Dr Marcelo Finger nosso último colaborador dessas discussões do painel do Especialista cinco eh eu tive a oportunidade já de de conversar com o professor Marcelo principalmente anos atrás quando a gente estava começando a a discutir inteligência artificial no direito e ele eh apesar de ser da área de matemática estatística sempre tem uma proximidade muito com as questões jurídicas Talvez né dos dos especialistas que mais entende da área do direito e e que vai

falar sobre potenciais aplicações da EA preditiva e eh generativa aplicada aos tribunais cientista político Professor titular Ciências da Computação do Instituto de matemática estatística da USP pesquisador principal da USP IBM Fapesp sem de Inteligência Artificial se for ai onde lidera o grupo de processamento de linguagem natural em de língua natural em português professor Marcelo grande prazer termos aqui a sua contribuição Muito obrigado eh eu gostaria de primeiro começar aqui agradecendo ao convite e ao presidente da mesa alessandre javal com quem a gente já interage há algum tempo é um grande prazer estar aqui e também

gostaria de cumprimentar os demais participantes desse painel eh todos muito interessantes em particular a Camila que foi Nossa aluna aí que bom ver ela eh sendo tão produtiva na área eh eu eu trouxe uma apresentação eh gostaria de saber se eu posso compartilhar a minha tela por favor Pode sim ver se você já consegue compartilhar senão a gente pedor aqui mas vi de regra já está autorizado eu estou compartilhando a apresentação eh vocês estão vendo sim pode continuar Ótimo então eu vou falar sobre potenciais aplicações de Inteligência Artificial preditiva e gerativa em tribunais eh eh

eu eu falo do ponto de vista de quem é pesquisador da área eu tomo café almoço e janto Inteligência Artificial todos os dias NS últimas sei lá décadas ou nos últimos 30 anos talvez eh Então para mim essas coisas de Inteligência Artificial são eh bastante concretas são do dia a dia eu gostaria de trazer aqui para os senhores algumas algumas considerações sobre aplicações possíveis ao sistema a aos tribunais em particular primeiro o pessoal fala muito de Inteligência Artificial gerativa o pessoal tá preocupado com relatos de sentencias e acórdãos que podem ser gerados automaticamente mas a

coisa pode ser feita muito mais eh eh um uso muito mais amplo tanto da Inteligência Artificial gerativa como da preditiva eh eu gostaria de de começar destacando sobre ela vou falar sobre extração de informações julgados como uma aplicação eh detecção de petições similares para desafogar os tribunais como outra aplicação muito importante e eu também quero trazer uma observação sobre crimes que já podem ser cometidos pela Inteligência Artificial isso não é ficção científica Então deixa eu começar que eh eh falando sobre a diferença entre Inteligência Artificial preditiva e inteligência artificial gerativa é uma coisa meio arbitrária

mas a inteligência artificial preditiva é aquela que classifica ou prediz algo a partir de textos ou de imagens ou de outros tipos de entrada hã quando a gente fala uso dessa inteligência ela é uma inteligência muito mais barata a gente treina ela com sei lá muito menos dinheiro que a gente precisa para treinar uma inteligência gerativa eu tô falando 50 mas pode ser feito com muito menos do que isso ã a gente utiliza dados gerados na operação das instituições ou seja em vez de usar uma internet inteira para treinar as empresas eh e instituições em

geral usam os dados gerados pela sua atividade regular tá Elas têm resultados bastante eh expressivos e Ou seja é muito boa ela não Alucina no sentido que a gente tá acostumado com a inteligência ativa ela comete erros no sentido que ela não funciona 100% ela acerta sei lá 95% 97% dependendo da da aplicação Isso é muito bom e ela eh tem um uso de de dados que eles se enquadram eh já já estão de certa forma regulamentados pela lgpd então tem uma segurança jurídica muito maior já a inteligência artificial gerativa ela para treinar uma dessas

aí a gente ouvi falar em Bilhões de Dólares na na na internet aqui eu tô sendo barato assim a da ordem de de de centenas de milhões de reais mas ela é muito cara tá E aí Record requerem quantidades gigantescas de dados e texto e imagens etc para treinar ela apece eh inteligência humana mas os o seu uso na prática como uma ferramenta do dia a dia ainda tá por se demonstrar e ela é muito difícil de domar juridicamente tá porque ela alucina tá então ela tem ela é difícil de domar eh eh e eu

trago aqui essa imagem aqui só para mostrar no começo do do séo X as pessoas tentaram domesticar a as as bestas a a as zebras aí e isso nunca foi possível Essa foto foi tirada com as zebras paradas você põe as zebras para andar elas destroem a carroça e elas não não funcionam como cavalos que capazes de trabalhar sincronizadamente tá E aqui no caso da da Inteligência Artificial eh gerativa eu é muito difícil domar a a inteligência artificial para garantir que ela não vai vai se comportar com vieses algoritmos discriminar uma uma minoria ou outra

uma religião ou e alguma minoria eh étnica tá então ela é muito difícil de ser domesticada mas mesmo assim a gente pode fazer coisas muito importantes e muito Profundas com elas em termos de de de tribunais eu vou falar Eh de uma aplicação para eh e de uma pesquisa que eu venho desenvolvendo na extração de informação de julgados tá é uma típica área da ia preditiva Ou seja é aquela ia preditiva mas nós usamos EA h gerativa para isso tá E e fizemos vários testes então é uma aplicação em gerência de processos eh judiciais o

CNJ acha que tem eh interesses em gerenciar os processos saber o que tá acontecendo essa tarefa de extração de informação de julgados eh por incrível que parece ela é muito mais difícil do que se supunha a extrair a informação corretamente tá e a dificuldade vem da extração e da classificação de entidades numéricas quando você tem um número num processo eu não sei se ele se refere a uma data a uma a ao a um dinheiro que está em julgamento a algum valor se são as folhas do processo a que se refere eh eh reconhecer e

classificar essas entidades numéricas é uma tarefa mais eh difícil do que as pessoas inicialmente tinham pensado tá E ele é o tema recente de de uma dissertação de mado sobre minha orientação e eu queria reportar aqui nós utilizamos eh engenharia de prompt ou seja eh eh eh extraia e classifique as entidades numéricas desses desses julgados aqui a gente usou o prompt ã com o GPT 4 o e o Jamily da Google da o primeiro era da da Open ai e o resultado foi aquem do que a gente gostaria ele acerta entre 55 e 60% das

vezes na maioria dos casos ele não é muito bom tá mas por outro lado a gente consegue o Lhama que tem código aberto a gente consegue fazer um refinamento dele eh eh dentro da dentro dos nossos recursos eh e usar ele como rotulagem como rotulador e o resultado foi expressivamente melhor perto de 80% das eh das entidades numéricas puderam ser bem classificadas Ou seja ainda não é perfeito mas nós encontramos uma forma de na direção H que quem sabe um dia isso esse tipo de ferramenta possa ser usado por eh na gerência de de de

julgados na extração de informações eh eh com com uma Ah acurácia e aceitável tá essa é a primeira aplicação que eu menciono a segunda aplicação que eu gostaria de mencionar é a detecção de petição similares porque esse é um problema que já atazana o judiciário há muito tempo tá as petições podem ser geradas por copia Cola você só muda o nome da da da parte litigante um escritório é capaz de submeter dezenas centenas de eh petições para um tribunal e eh o lado do tribunal gostaria de fazer o o sistema inverso ou seja identificar essas

petições que foram produzidas em lotes tá e ah fazer um julgamento único depois reproduzir para todo os elementos do lote tá Ah e também esse tipo de atitude também pode ser na busca de jurisprudência uma vez que nós já tivemos o o tem um um um uma nova petição submetida pode ser buscado na jurisprudência tem alguém que é muito parecido com isso aqui como é que foi julgado e aplicar a jurisprudência tá esse tipo de atividade quando era feito por copia e cola tá ele era feito sem sem inteligência artificial com outras ferramentas computacionais pré-existentes

tá eh e até com bastante eh sucesso que eu saiba isso é usado na na na justiça do trabalho no TST tem um um software que já tá há muitos anos eh em desenvolvimento e sendo utilizado Tá agora quando as petições não são são geradas por Copi e cola são geradas por modelos de linguagem eh apartes um prompt faz uma petição que com essas E essas características aqui que estão num prompt tá o problema pode ser mais complexo há uma variabilidade muito maior nos textos gerados tá E então a identificação deste tipo de petições que

são similares em eh em Essência mas não na na com a maior parte do do texto sendo reproduzido por copia e cola aí a gente vai precisar também de outras eas Possivelmente eas eh que usam eh gerativa e as gerativa que analisam eh eh conjuntos de textos e verificam quais textos Na verdade são petições bastante similares Para quê Para ser formado um lote para J para para julgar em lote E aí diminuir a sobrecarga dos tribunais por outro lado ess esse mesmo tipo de eh de solução utilizando Inteligência Artificial pode ser utilizada na busca de

jurisprudência e muito importante aqui o que já foi dito eh se isso pode estar disponível para o judici fazer uma petição já eu gostaríamos de saber se já existe alguma jurisprudência para ah semelhante para saber como formula e como é que esse tipo de de ação é julgada tá então este tipo de aplicativo eh ainda está em desenvolvimento Tá mas é uma um potencial muito grande se for proibido de toda a maneira ah a utilização de llm em tribunais esse tipo de coisa vai estar suspenso e os tribunais vão voltar a ficar abarrotados eh ou

vão continuar a estar abarrotados de processos mesmo quando eles são muito milares vão ter condições de identificar manualmente essas similaridades tá ou condições muito menores então aqui novamente eu gostaria de lembrar como essas llms mesmo sem estar sendo usadas para geração automática de sentencias e de acordos elas podem ser muito úteis para os tribunais eh do Brasil Tá e por fim eu gostaria de citar um caso tá que é os crimes econômicos feitos por Inteligência Artificial aqui não é ficção científica é o caso de uma empresa de precificação de aluguel foi eh é um caso

que está em julgamento na cidade de Nova York mas não é só a cidade de Nova York que tá processando tem vários eh é é o equivalente ao ao departamento de Justiça o nosso Ministério da Justiça que tá processando essa empresa Real page que ela fez uma inteligência artificial que foi treinada para cometer crimes econômicos como é que é um crime econômico não no Mercado Livre as as Ah no caso imobiliário você tem vários donos de imóveis cada um fixa o preço como que é e os e há uma variabilidade no mercado quando o mercado

é monopolista a ah o monopólio pode manipular o mercado fixar o preço que ele quiser porque ele é o único fornecedor tá E e o e o Crime de trust ou de formação de cartel é quando as empresas Ou os fornecedores de unidades de imóveis se combinam entre si para manipular o mercado e acabar aquele grupo tendo uma uma um mesmo comportamento que um monopolista tá ã eh só que aqui os os donos de imóveis não estão informando uns aos outros da do do De quantas unidades eles têm à disposição e qual preço eles querem

cobrar eles estão informando um banco de dados dessa empresa Real page tá e a empresa Real page ã tem uma inteligência artificial que vai aconselhar esses donos de imóveis a precificar o valor dos aluguéis tá E ela toda a inteligência artificial é bom saber ela tá sempre maximizando alguma algum valor e essa inteligência artificial maximiza o valor o lucro da empresa Real page que por sua vez o lucro da empresa Real page é uma porcentagem do lucro dos donos de imóveis que utilizam os seus serviços tá Então na verdade ela tá querendo maximizar o lucro

dos donos de e só que ela tem acesso aos dados que Teoricamente são sigilosos de cada uma dessas pessoas e rapidamente a inteligência artificial aprende que para maximizar o lucro ela tem que manipular o mercado e acabar se comportando como se fosse um eh um agente monopolista tá então ela aprende a cometer um crime econômico tá e há uma grande discussão Algumas pessoas dizem que esse tipo de de atividade nem crime é e outras dizem que esse tipo de atividade eh tá totalmente coberto pela legislação de E antitrust então não precisa fazer um nada especial

é um crime já previsto só que como existe essa eh essa discussão porque o crime como previsto implica em as pessoas eh o o os os malfeitores aí se comunicarem entre si eles não se comunicam eles só comunicam o banco de dados Então já tem gente pensando em eh é eh criar legislação específica para esse tipo de crime econômico Então se os tribunais vão julgar algo como isso eu acho que é muito importante eles entenderem como ess esse crime econômico está sendo cometido Então o meu a minha ã a minha mensagem aqui é é muito

importante os tribunais o CNJ eh estarem eh em ã agindo eh de forma conjunta e multidisciplinar com conhecendo aí no caso o funcionamento de programas do funcionamento da Inteligência Artificial que nem é uma inteligência artificial gerativa é uma outra Inteligência Artificial e com conhecimentos específicos do mercado de eh Imobiliário para poder eh tomar o seu julgamento fazer a saber fazer o Enquadra se isso se enquadra numa legislação antitrust ou não Tá então com isso eu encerro a minha participação aqui eu agradeço a todos os presentes e Se alguém quiser saber mais sobre detalhes de Inteligência

Artificial eu falo semanalmente num programa que depois ficar disponível em podcast sobre esse assuntos e eu agradeço novamente a oportunidade de participar aqui e de ah estar eh poder eh ter participado desse debate aí tão interessante nós agradecemos professor Marcelo e muito importante Essa visão multidisciplinar e e como você bem colocou eh a gente tem muitas vezes né uma confusão entre o direito digital e tecnologia aplicada ao direito então de fato a gente tem de um lado essa tecnologia aplicada ao serviços jurídicos que é o que nós estamos discutindo aqui e de outro lado o

uso dessa tecnologia pelos diversos setores da economia áreas da ciência e que acabam impactando no direito material que seria o direito digital então a gente obviamente essas questões são interligadas Então a gente tem o desafio aqui realmente de capacitação dos magistrados e servidores para entender como usar essas soluções no seu dia a dia e ao mesmo tempo certamente em breve vão chegar e já estão chegando muitas discussões E e esse conhecimento sobre essas características limitações da tecnologia vão ser essenciais para que a gente possa eh de fato ter uma prestação jurisdicional adequada a esses novos

desafios e a toda essa complexidade nós estamos vivendo Então gostaria de agradecer mais uma vez ao Desembargador Samuel Brasil o Desembargador Roberto Freitas a Juiz eí Prado que está aqui com a gente a Camila eh o Dr Maurício zum a Maira Fernandes e ao professor Marcelo Finger por esse debate muito importante que certamente contribuiu bastante nós estamos em cada pel eh colhendo todas essas contribuições e também recebendo dos próprios colaboradores estão participando dos painéis e colaboradoras também por escrito essas contribuições e e nós teremos após né A Tarde de hoje com o último período dessa

audiência pública eh algumas semanas de trabalho para conseguir compilar todas ess questões e discutir internamente eh Para que sejam feitas as devidas adequações a essa minuta cujo objetivo foi justamente permitir essa discussão com toda a comunidade para que possa ser encaminhada dentro da tramitação correta para a discussão no plenário agradecemos mais uma vez a todos e aguardamos na última parte no painel de especialista 6 que vai ser coordenado pelo Dr moir do Ministério Público Muito obrigado e até [Aplausos] breve senhoras e senhores pronunciamentos realizados e neste momento faremos um breve intervalo para o almoço retomamos

com a programação às 14:30 Tenham todos uma boa tarde