Unknown

senhoras e senhores Bom dia neste momento damos início à audiência pública para debater a minuta de ato normativo que dispõe sobre a regulamentação do uso de sistemas de Inteligência Artificial generativa baseada em grandes modelos de linguagem no poder judiciário informamos que para os que participam virtualmente o registro de frequência deve ser feito por meio do link disponibilizado na descrição deste vídeo para quem participa de forma presencial a frequência foi registrada durante o credenciamento compõe a mesa de honra suas excelências as senhoras e os senhores Conselheiro do Conselho Nacional de Justiça e coordenador do grupo de

trabalho sobre inteligência artificial no poder judiciário luí Fernando Bandeira de Melo virtualmente Ministro do Superior Tribunal de Justiça Vilas Boas Cueva o Desembargador do Tribunal Regional Federal da sexta região Pedro Felipe de Oliveira Santos presidente da Comissão de direito digital da Ordem dos Advogados do Brasil Laura chtel Mendes membro do Conselho Nacional de Proteção de dados pessoais e da privacidade Rodrigo Badaró Almeida de Castro pesquisadora do departamento de pesquisas judiciárias do Conselho Nacional de Justiça Olívia pessoa e professor da faculdade de direito da Universidade de São Paulo Juliano Souza de Albuquerque Maranhão o Conselho Nacional

de Justiça agradece a presença das autoridades já nominadas e a participação de suas excelências as senhoras e os senhores ministra edlene lobo do Tribunal Superior Eleitoral Conselheiro do Conselho Nacional de Justiça José rotondano integrantes do grupo de trabalho instituído pela portaria número 338 de 2023 magistradas e magistrados palestrantes servidoras e servidores e das senhoras e dos Senhores que acompanham a transmissão deste evento pela plataforma Zoom e pelo canal do CNJ no YouTube para a abertura da audiência pública tem a palavra o conselheiro luí Fernando Bandeira de Melo senhoras e senhores muitíssimo Bom dia é uma

grande ação iniciar nesse momento esses três dias de audiência pública né que teremos aqui no CNJ a respeito da regulamentação do do uso de inteligência artificial no no poder judiciário eu queria iniciar agradecendo a todos os os componentes do do GT inicialmente que se encontram aqui comigo e outros que vejo ali na na na plateia queria agradecer penh horad a a presença da ministra Edilene Lobo falará logo mais eh Conselheiro rotondano conselheira Daiane Nogueira eh e tantos outros que participarão ao longo das da da nossa atividades ah essa fala de agora é uma mera fala

de saudação né de abertura dos nossos trabalhos e eu pretendo só dizer-lhes rapidamente como iremos nos organizar nessa audiência pública porque o CNJ nesse momento ele cumpre dois objetivos fundamentais de um lado a transparência ao mostrar pra população na sociedade civil e todos os interessados o como se pretende regular né Ou pelo menos uma Primeira ideia né que o GT vem trabalhando o GT constituído em dezembro do ano passado pelo presidente Barroso vem trabalhando ao longo desses meses tornou público Ah agora nesse mês de setembro né uma uma proposta de regulação que será discutida ao

longo desses três dias né e e finalmente depois levada a plenário do CNJ então primeiro uma obrigação de Transparência em segundo uma obrigação de oitiva né da da comunidade interessada né a ideia aqui é Vocês verão né ao longo desta deste momento ainda de abertura uma exposição sobre uma pesquisa relevante ah feita pelo dpj aqui do CNJ ah com a parceria do professor Juliano Marão da USP vão apresentar logo mais as conclusões dessas pesquisas que vão mostrar o tamanho e a forma do uso da inteligência artificial no judiciário Brasileiro hoje né na sequência né Nós

daremos início aos painéis de especialistas e as mesas os painéis de especialistas foram compostos a partir de indicações formuladas pelos membros do do GT né de pessoas que têm produção ah relevante na área que estão pesquisando o assunto e as mesas foram montadas a partir do edital que foi publicado as pessoas se inscreveram né foram mais de uma centena de de de inscrições e a partir daí com critérios de de de gênero de de região de instituição a qual pertence selecionamos n um pouco mais de três dezenas de pessoas que virão aqui justamente se manifestar

né não só sobre a resolução evidentemente eh quanto a própria perspectiva de futuro quanto a a regulação da da ia eu preciso fazer um um registro aqui da do trabalho enorme de altíssima qualidade né que foi feito inicialmente né pela nossa relatora geral né professora Laura chert al Mendes de quem sou fã e quase devoto Ah bem como né em parceria né né com Ah o Desembargador Pedro aqui ao meu lado vejo tainar a gu de un quil ali na na mesa bem como os coordenadores dentro de cada dentro do GT foram divididos em três

em três áreas de eh de trabalho né e nessas áreas tivemos a atuação do Conselheiro Rodrigo Badaró Ah também do Conselheiro moass rei que estará aqui conosco ao longo dessa dessa jornada e novamente do do desembargador Pedro Felipe bom essa só palavra de saudação Inicial né eu terei oportunidade de falar um pouco sobre o mérito da proposta em outra oportunidade né No momento eu gostaria apenas de devolver a palavra ao cerimonial para que os demais membros aqui presentes possam Ah fazer a fazer sua saudação né e sem deixar eu vejo vários eh colegas e estudiosos

aqui aqui presentes né vou fazer uma saudação na pessoa do desembargador Roberto Freitas do TJDF e que é um estudioso do tema ah a todos vocês muito obrigado pela pela presença pela participação hoje nessa nesse GT e devolvo a palavra ao cerimonial né teremos agora ouviremos a saudação também do ministro Vilas Boas coeva e na sequência de alguns outros integrantes aqui da mesa neste momento fará uso da palavra o ministro Vilas Boas Cueva Bom dia a todos eu Saúdo inicialmente o o presidente do nosso grupo de trabalho Conselheiro Lu Fernando Bandeira de Melo Saúdo também

a ministra deile Lobo a nossa relatora professora Laura chon Conselheiro Badaró professora Dora Kaufman o desador Pedro a Tainá que eu vejo aí que tanto se empenharam para que pudéssemos ter esse texto que tá sendo levado a ao público acho que não é exagero qualificar esse momento de hoje como momento histórico na na evolução da da regulação da inteligência artificial no poder judiciário Ah é uma atualização e mais do que uma atualização é uma revitalização da resolução 332 que tratou naquele momento de trazer as diretrizes e princípios do uso ético da inteligência artificial no judiciário

no momento que a inteligência artificial era uma promessa ainda distante falava-se muito nela mas não havia utilização muito concreta além de umas vagas ferramentas de automação que até hoje são usadas tudo mudou a partir de novembro de 2022 com com a inteligência artificial generativa e foi preciso então fazer um esforço grande de adaptação da resolução 332 essa nova realidade as novas promessas que já se tornam realidade hoje eh e eu Saúdo então novamente a todos Eu não quero entrar muito profundamente nas discussões que foram travadas no grupo mas eu acho que as contribuições feitas pelo

grupo são muito importantes na área de de governança de Transparência na na na na criação de algumas balizas para tentar fazer com que o sistema de ag generativa possa usar possa ser usado com segurança com eh com eficiência e e e com a redução de riscos de modo que ele pode rapidamente ser implementado a a essa a revitalização da da resolução 332 ela se deve a ao Espírito inovador do do do ministro e presidente do scj e do do do CNJ do Supremo Tribunal Federal mino Barroso que eh eh tem se empenhado em eh tornar

realidade o uso da inteligência artificial no poder judiciário isso certamente contribuirá para aumentar a eficiência da prestação jurisdicional para reduzir ass simetrias informacionais para garantir mais Equidade isonomia nos julgamentos e e certamente essa eh esse trabalho que se traz hoje a a apreciação do público procura colocar mais um tijolinho nessa nessa elaboração tão longa da dessa atividade de adaptação da ência artificial poder judiciário Obrigado a todos e muito sucesso nessa audiência pública tem a palavra a dout Laura chtel Mendes bom muito bom dia a todas e a todos queria saudar aqui o conselheiro Bandeira de

Melo saudar Ministro Ricardo Vilas Boas Cueva saudar o meu querido amigo Rodrigo Badaró Conselheiro José rotondano desembar FIP D Olívia Dr Juliano Maranhão também gostaria de saudar aqui o Desembargador Roberto Freitas ministra Edilene Lobo todos os minha querida amiga tain junquilho também professora do DP todos os membros aqui do grupo de trabalho que trabalharam tão arduamente para que chegássemos nessa minuta que hoje vai ser discutida e que na verdade vai ser discutida ao longo desses TRS dias eu acho que e queria saudar também vejo a querida amiga Dora Kaufman e todos que participaram desse primeiro

painel eh Professor Felipe raca Professor US gassa acho que tivemos um eh ministra também já saudei acho que tivemos um um programa Espetacular Conselheiro queria também já parabenizar aqui toda a equipe do CNJ por esses três dias de programação certamente teremos um debate muito profico e estamos falando de um dos temas talvez mais sensíveis né quando a gente fala de Inteligência Artificial eh e nós já temos uma discussão de pelo menos 4 anos no Congresso Brasileiro eu acho que vale a pena também dizer que esse debate no CNJ ele também foi eu diria que ele

usufruiu bastante e pode ser ainda mais rico por causa desse debate rico que já tem acontecido há 4 anos no no senado federal e também na nossa na na Câmara dos Deputados eh quando nós falamos de a já há muito tempo se fala tanto dos riscos como dos benefícios do uso dessa tecnologia eh a gente percebe que tá em curso uma verdadeira revolução social Econômica né Eh e tecnológica mas a verdade é que quando falamos da aplicação dela no judiciário talvez estejamos falando de um dos talvez de um dos momentos mais sensíveis e mais relevantes

eh eu diria de todos os temas por quê Porque por um lado eh e quando falamos aqui do Judiciário brasileiro é sempre importante falar pros nossos convidados também internacionais nós estamos falando do do do Judiciário que talvez com o maior caso né com maior número de casos no mundo e portanto o uso de da da Inteligência Artificial ela claramente é um instrumento fundamental para tornar mais eficiente toda essa máquina e não e não por outro motivo esses sistemas já são utilizados eh diuturnamente pelos magistrados pelos tribunais Eu acho que isso também é um ponto importante

por outro como estamos falando de justiça e é ainda mais delicado né a gente sabe das limitações e dessas tecnologias e talvez mais do que isso de que precisamos utilizá-las adequadamente para que a gente possa ter um bom resultado então eu eu diria que estamos falando talvez da área de uma das áreas mais sensíveis e e ao mesmo tempo mais importantes e do uso da Inteligência Artificial queria falar muito rapidamente eh sobre a essa minuta que tá sendo colocada para debate acho que em primeiro lugar ela buscou eu diria como o ministro Cueva já colocou

eh Talvez os em grande medida usar e talvez aproveitar uma parte da resolução já muito positiva e acho que um avanço importante que a resolução já tinha feito inclusive nós temos hoje o sinapses nós temos um sistema que consolida eh vários sistemas de Inteligência Artificial acho que isso é importante então por um lado é uma reforma dessa resolução que tá sendo colocada né Mas por outro Há sim muitos outros temas que precisam ser colocados Talvez o mais Óbvio deles é a a generativa que obviamente não estava prevista na na resolução Inicial na resolução 332 e

eu diria que se eu se eu fosse citar Talvez o um dos temas eh o o tema mais sensível eu diria que é o uso eh da IAG generativa né Toda a resolução 332 ela tinha sido pensada como como buscar a governança uma governança eh dos sistemas que estão sendo desenvolvidos pelos próprios tribunais e de uma forma bastante curiosa eh a tecnologia nos prega várias peças né E talvez essa seja uma delas de o fato de que hoje cada juiz ele tem a sua disposição independente do tribunal eh ter desenvolvido ou não algum tipo de

solução ele tem a sua disposição vários sistemas de Inteligência Artificial seja de forma gratuita seja por meio de assinaturas privadas então isso também fez com que o grupo de trabalho tivesse que olhar com bastante eh cuidado também esse tipo de uso não faria sentido eh buscar a regulação apenas do desenvolvimento de sistema de Inteligência Artificial pelos tribunais quando eh qualquer né todo juiz tem a sua disposição também hoje outros sistemas outros mecanismos independente dessa contratação dessa contratação eh pelos tribunais Então acho que esse é um elemento importante eh e acho que vai ser muito muito

importante a gente debater isso eu queria agradecer aqui imensamente que me ajudou muito na relatoria o Desembargador Pedro Felipe a professora Tainá junquilho o Ministro Ricardo Vilas Boas coevas sempre eh foi muito importante também nessa elaboração assim como o conselheiro e Bandeira de Melo e obviamente todos os demais eh membros do GT acho que vai ser uma discussão muito profiqua e eu espero aqui Conselheiro também que a gente a gente possa debater todos os pontos colocados na minuta muito obrigada agradecemos os pronunciamentos e para apresentação da pesquisa sobre uso da Inteligência Artificial generativa Desculpa perdão

só porque ouviríamos ainda o Desembargador Pedro Felipe na sequência o conselheiro Rodrigo Badaró para na sequência termos a pesquisa por gza clo cons momento tem a palavra o Desembargador Pedro Felipe de Oliveira Santos bom dia a todos e a todas eu gostaria de cumprimentar o Excelentíssimo Senhor Ministro Ricardo Vilas Boas coeva em nome de quem cumprimento todos os membros da mesa Conselheiro Bandeira Professor Juliano vejo aqui a professora Laura cherta o Dr Rodrigo Badaró cumprimento especialmente os colegas que participam e do do GT professora Tainá vejo aqui o Dr Faustino Dr Laura Porto e outros

outros que nos acompanham virtualmente cumprimento também o Conselheiro José rotondano que está aqui a nossa Professor Olívia e também a ministra Edilene Lobo que também nos abrilhanta aqui eh com muito entusiasmo e orgulho e que a comissão instituída pelo presidente Ministro Luiz Roberto Barroso eh para analisar a regulamentação do uso de Inteligência Artificial pelo Poder Judiciário brasileiro apresenta hoje a sociedade o resultado parcial né do dos trabalhos que foram realizados nos últimos meses Desde dezembro como bem mencionado pelo Conselheiro Bandeira o grupo que é bastante plural formado por conselheiros por ministros professores magistrados expertes servidores

advogados defensores eh T discutido realizado pesquisas realizado estudos para realmente debater o status có e as possibilidades e os riscos do uso de Inteligência Artificial eh pelo poder eh judiciar eh como bem ressaltou a professora Laura cherel nós estamos tratando de todas as possibilidades possíveis todos os usos que podem ser realizados mas também considerando a sensibilidade do trabalho da missão do Poder Judiciário que é concretizar Direitos Humanos concretizar direitos fundamentais Nós também temos que proporcionar que o poder judiciário utilize as novas tecnologias com segurança com prudência e com razoabilidade eu gostaria também em nome eh

eh eh da estando aqui e parabenizar todos os membros do nosso grupo um grupo eh grande mas que eh trabalhou com muito afinco e se dedicou para apresentação dessa minuta parcial hoje aqui a sociedade e é realizado então é chegada a hora o momento de ouvir a sociedade né estamos aqui para ouvir os inputs para ouvir as críticas para ouvir as observações as reflexões da sociedade de todos os setores sobre o trabalho realizado para que que depois possamos retornar ao grupo e assimilar todas as opiniões trazidas e conseguirmos finalmente fazermos um trabalho final a ser

apresentado ao presidente Ministro Luiz Roberto Barroso eu desejo muito êxito a este evento estamos entusiasmados com as falas que aqui teremos as pesquisas que serão apresentadas E parabenizo mais uma vez pela iniciativa pela dedicação pela liderança o conselheiro Bandeira e o ministro Cueva eh é que muito muito bem tem nos liderado aqui na nossa comissão Muito obrigado obrigado com a palavra o Dr Rodrigo Badaró Almeida de Castro Bom dia a todos é uma alegria est aqui vou vou pular a nominata Conselheiro Bandeira mas não poderia deixar de parabenizar vossa excelência como grande Democrata e Ministro

Cueva e obviamente o presidente Barroso sabemos da dificuldade de lidar com qualquer questão de positivação pensando no futuro ainda mais eh como eu gosto de dizer que a tecnologia não negocia com tempo então é uma missão árdua e não obstante a inúmeras críticas que possam ser lançadas eh Essa é a vantagem do sistema democrático e da abertura do Conselho Nacional de Justiça para esse amplo debate hoje tive a oportunidade de escrever um artigo no Estadão eh eh parabenizando O Senado Federal e realmente trazendo eh um olhar no sentido de que podem alegar tudo mas não

podem alegar a falta de transparência e a falta de debate e não obstante qualquer tipo de neofobia que tenhamos com relação ao uso da Inteligência Artificial eu acredito que devemos e estamos exercendo a maior Essência humana que é a essência de pensar no próximo a essência da criatividade e até brinco Conselheiro bandeira que tinha um tem um filósofo polonês o zigmund bman que ele falava que hoje o mundo é líquido e que ele Ele fala realmente que a humanidade está se perdendo pelo medo da humanidade se relacionar E aí a gente nota que existe o

medo ah desse mundo líquido e o medo da Inteligência Artificial então que nossos medos sejam superados com transparência trazendo segurança jurídica pro Judiciário que é a estabilidade e a certeza que estaremos sendo julgados Por uma questão de extrema justiça e é isso que esse grupo de trabalho fez ouvindo acadêmicos ouvindo técnicos ouvindo a OAB ouvindo o ministério público e ouvindo magistrados e agora ouvindo a população brasileira e a sociedade civil Parabéns Conselheiro Bandeira a vossa excelência e o ministro cuevo Muito obrigado agora sim para a apresentação da pesquisa sobre o uso de Inteligência Artificial generativa

por magistrados e servidores tem a palavra a dout Olívia pessoa agora sim obrigada bom dia a todos e a todas eu gostaria de pedir licença para cumprimentar a mesa na palavra do Conselheiro Bandeira de Melo cumprimentar também os meus colegas do dpj a quem sem eles né Essa pesquisa não seria possível de executar cumprimentar o meu colega de pesquisa Professor Juliano Maranhão e parabenizar também a iniciativa do Conselheiro Bandeira junto com o grupo de trabalho na no incentivo eh da produção desse estudo Pois eu confio muito na possibilidade da gente pensar em políticas públicas em

políticas judiciárias informadas por dados de pesquisa empírica especialmente no campo do direito então gostaria de deixar aqui o meu Parabéns a esse eh grupo de trabalho bom a minha apresentação será dividida né com o professor Juliano então eu vou iniciar eh Contando um pouco sobre o processo metodológico desse estudo mas foi um estudo sobre o uso de a inteligência artificial generativa por magistrados magistradas e servidores e servidoras do Poder Judiciário é um minuto deixa eu passar pronto o objetivo do estudo objetivo Central era entender como as ias GS vem sendo usadas e qual é a

percepção dos magistrados magistradas e do servidores sobre o uso dessa ferramenta e o interesse no seu uso de modo a ofertar subsídios para compreender a realidade brasileira e auxiliar na revisão da regulação de a no poder judiciário né e contribuir de certa forma com o trabalho que vocês vêm desenvolvendo já há algum tempo nós partimos de algumas perguntas de pesquisa eh só a fim de ilustrar né A minha fala mas nós estávamos muito preocupadas e preocupados de entender em que medida as ferramentas de ag são utilizada pelos magistrados servidores para Quais tarefas ou finalidades essas

ferramentas são utilizadas Qual a frequência de uso né e o quanto familiar é são essas ferramentas para esse público investigado Quais as principais vantagens e desvantagens e limitação do uso dessas ferramentas dentro do Poder Judiciário se havia uma transparência no uso dessas ferramentas ou seja se o uso dessas eh dessas ferramentas era informado aos seus eh superiores e qual a opinião desse público sobre a oportunidade de uso né se deveria ser estimulado proibido no poder eh judiciário e se sim a ser autorizado para Quais as finalidades bom de termo gerar os aspectos metodológicos para contextualizar

eh e né na sequência passar a fala pro professor Juliano foi uma pesquisa de caráter quantitativo a gente mobilizou a técnica de a formulário estruturado nós elaboramos um formulário com 19 questões essa pesquisa ela foi inaugurada no dia 16 de Maio de 2024 durante a primeira reunião Preparatória do 18º Encontro Nacional do Poder Judiciário em 4 de junho de 2024 com intuito de reforçar e ampliar a participação nós encaminhamos ofícios à ências doss tribunais para ter uma maior adesão Então esse foi um pouco o nosso percurso metodológico ah em termos de quantidade esse questionário ele

foi respondido por 1681 magistrados e magistradas o que equivale a 9,1 dos magistrados né do Poder Judiciário respondida por 16844 servidores e servidores eh que representa 6% de todo quadro de servidores do Poder Judiciário de uma população né hoje quando nós olhamos pro poder judiciário nós estamos falando de em torno de 18.000 magistrados e 278.000 servidores para vocês terem uma ideia de proporcionalidade entre o número de respondentes e o nosso universo eh ainda sobre os aspectos metodológicos eh eu preciso dizer a vocês que é uma pesquisa por adesão então não foi realizada uma técnica de

amostragem nós encaminhamos esses formulários a todos os tribunais e o e os respondentes eles aderiam a essa pesquisa respondendo e por esse motivo ela não possui uma representatividade estatística eh eu eu gosto sempre de pontuar essa questão porque eu acho que conforme a gente vai desenvolvendo pesquisa a gente também vai Se apropriando desses termos metodológicos por outro lado ela apresenta subsídios muito importantes para informar a tomada de decisão porque você tem uma imensa quantidade de magistrados e servidores olhando para esse assunto então em que Pese não há Essa representatividade ela cria um subsídios que nos

ajuda a pensar sobre essa essa temática E além disso uma questão muito importante porque a gente pensa B mas não tem representatividade então Eh Será que essa pesquisa ela eh de Fato né Eh Demonstra o eh o o que pensam essas pessoas sobre esse assunto sim e Especialmente porque quando a gente olha o perfil de quem respondeu às Nossa ao nosso questionário eles são é muito correspondente ao perfil Geral do Poder Judiciário ou seja né quando a gente olha o perfil eh eu vou falar um pouco sobre isso de gênero de idade e compara com

o perfil que forma o poder judiciário São muito parecidos inclusive também outras variáveis como o perfil eh acadêmico e isso é a garantia pra gente que não há um viés de seleção que poderia ocorrer se caso esses perfis desto asse muito da população em geral então para explicar um pouco eh essa questão eu trouxe dois gráficos né o do lado esquerdo é o gráfico do perfil da dos respondentes o do direito perfil do Poder Judiciário então vocês podem observar por exemplo que atualmente eh 15% dos magistrados eh brasileiros T de 39 anos ou menos do

lado direito quando a gente olha o perfil da nossa amostra eh esse essa idade de 39 anos ou menos representa 14.7 por. Então são muito próximos o desen com o desenho Geral de Formação ah do quadro de magistrados do Poder Judiciário e a mesma coisa se repete pros servidores né Então pegando ali um outro número entre 40 40 a 49 anos eh é tem 36% dos Servidores Brasileiros quem respondeu ao nosso formulário nesse mesma faixa de idade eh corresponde a 32% então isso você demonstra né um diálogo entre o quadro geral e o e o

perfil dos respondentes a mesma questão acontece pro gênero quando a gente olha o o nossos respondentes 65% dos respondentes magistrados eh São do sexo masculino quando a gente olha pro perfil Geral do Poder Judiciário eh ele é formado por com 60% né ah de magistrados também do poder eh do sexo masculino demonstrando essa compatibilidade entre respondentes e formação do quadro do Poder Judiciário Bom a partir dessas respostas eh a gente considerou informações do perfil demográfico para fazer nossas análises sobre a utilização de ags foram geradas estatísticas descritivas univariadas e e bivariadas Ou seja a gente

tá olhando a para um para as de fome independente mas também para um conjunto de variáveis e vou passar a palavra pro meu colega Professor Juliano Maranhão que vai dar sequência à apresentação muito obrigada obrigado Olívia eh antes de começar eu só gostaria de cumprimentar todos aqui na mesa e fazer um um um elogio específico a ah ao departamento de pesquisa judiciária com quem eu tive o prazer de trabalhar Ah E realmente foram foi um período bastante produtivo de uma discussão rica acadêmica muito interessante Então especial A Jordana a Gabriela a a Olívia que tá

aqui e a Jaqueline né que trabalhou muito bem nos nos gráficos né E também não só no no processo mas também as críticas e sugestões muito pertinentes que foram feitas ao relatório analítico que deve ser publicado entre hoje ou amanhã né então aqui eu vou passar alguns dos resultados também agradecer os pesquisadores da log ritm que também ajudaram em algum momento né o Ezequiel Santos a Amália batoo e e o João Navas ã bom então passando pros pros principais achados aqui eu fiz uma seleção né dos achados né o o o o relatório completo já

vai tem mais elementos mas em primeiro lugar a pergunta eh as viag generativas vê sendo usadas pelos eh eh magistrados e servidores nos tribunais e a gente vê que o percentual é significativo praticamente a metade né dos magistrados e servidores tem alguma experiência de uso né das Iá eh generativas principalmente generativas de textos que era o foco Ahã mas não necessariamente esse uso significa uso nas atividades profissionais ou seja nas na prestação do serviço jurisdicional quanto a frequência de uso a frequência ainda é baixa a gente vê que a grande maioria usa raramente ou eventualmente

dentre aqueles que utilizam né as ferramentas utilizadas eh correspondem a relativamente à participação de mercado né o líder de mercado é o GPT é o que é mais utilizado também é utilizado o CoPilot geminii eh e outros agora um aspecto interessante que eh chama atenção é que a grande maioria né usa h a essas ferramentas de modo individual né seja versões abertas seja versões pagas Esse é um ponto importante porque uma das preocupações eh de governança de ag generativa tá ligada à descentralização da decisão sobre o uso né essas ferramentas podem conter imprecisões e erros

e a o seu resultado é ind discernível do resultado produzido por humanos isso traz a necessidade de um procedimento de revisão e transparência sobre o uso né então existem vantagens n para se usar ferramentas que são disponibilizadas pelos tribunais que a gente vê pela pesquisa que é a a grande minoria eh que estão ligadas a própria transparência a legitimação do uso né ah mas existem também questões com relação a isso que essas ferramentas hoje a contratação de licença são ela é bastante custosa ainda e a gente tá numa fase de início de experimentação dessas ferramentas

a existe uma relação interessante aqui entre o uso pelos H servidores e magistrados e as atividades acadêmicas o uso aumenta e a frequência também aumenta de uso entre aqueles que frequentam e participam de atividades acadêmicas sejam como seja como decentes seja como docentes ah sobre o interesse né aqueles que não usam ou não utilizaram manifestaram um interesse eh eh elevado em conhecer a ferramenta né e dentre aqueles que usam a o uso Profissional ou seja na prestação do serviço jurisdicional ele é significativo né então cerca de metade usa e dessa metade 1/3 praticamente eh eh

diz que usa nas atividades profissionais é um ponto interessante também não só é usada como existe um interesse dentre aqueles que não usam em conhecer e passar a utilizar o que mostra a importância da eh eh de iniciativas como a regulação e a adoção de políticas de governança nos tribunais sobre esse uso também é levada a crença na utilidade da ferramenta né Eh tanto magistrados quanto servidores acreditam que a ferramenta pode ser útil né e trazer vantagens isso é eh marcante em todos os setores de atividade eh dos tribunais dentre os tipos de uso realizados

né aqueles que os os usos aqui são aqueles que usam o que Eles responderam ah a maioria dos usos são adequados como geração de textos eh resumo de texto síntese e aperfeiçoamento da redação tradução agora aparece também é significativo o uso paraa busca de jurisprudência né E nós sabemos que as I generativas elas não são treinadas para trazer informações fidedignas de fatos ou ou da realidade mas para simular o discurso eh humano Então não é um problema em si usar ferramenta para eh pesquisas de jurisprudência ou pesquisas fáticas mas é importante que haja um procedimento

de revisão e verificação dos resultados dentro da eh de uma política de governança eh responsável agora um fator que preocupa um pouco é que a opinião geral sobre os usos adequados aí são tanto aqueles que usam quanto aqueles que não usam é de que a existe um um um percentual elevado que diz que Ah seria adequado o uso para pesquisa de jurisprudência não é um problema em si desde que haja verificação Como eu disse Mas a dentre aqueles que querem conhecer tão interessados existe uma crença geral numa num uso que não é o uso próprio

que é para busca de fatos dentre eles eh precedentes judiciais a gente observa que os canais pais de busca de jurisprudência nos tribunais são o as páginas oficiais dos tribunais e o Google né então a gente não tá vivendo uma situação que a generativa passou a ser o principal canal de busca de jurisprudência pelo contrário o uso é pouco frequente muito embora como eu falei existe um interesse e uma compreensão ainda incipiente sobre Quais são as melhor as melhores formas de emprego da ferramenta Outro ponto interessante são as dificuldades e limitações encontradas reveladas pelos respondentes

maior delas é a falta de familiaridade com a ferramenta uma preocupação contro a aos resultados que apresentam imprecisões ou erros O que é um aspecto positivo e aponta para um esforço de revisão um outro aspecto interessante é a preocupação com a licitude ou a ética do uso e esse é um ponto importante porque ele traz implicações sobre a transparência né Eh em relação ao a uso das Ferramentas que nós vamos ver a seguinte e essa esse é um ponto crítico né transparência quanto o uso é fundamental eh dentro de uma a eh de uma organização

Para que sejam efetivamente eh implementados os mecanismos de revisão tendo em vista os problemas de falha qu quanto a ferramenta e a maioria dos Servidores não informam sobre o uso da ferramenta isso eu tô dizendo a transparência entre os pares não a transparência eh dos prestadores do serviço jurisdicional e de seus eh eh e terceiros né que é uma outra questão também tá tratada no no relatório e eles não informam é 80% é um número significativo apesar dos magistrados eh indicarem que reagem de forma positiva quando esse uso é informado Então esse é um ponto

de atenção eh dentro das políticas de governança serem implementadas pelos tribunais ah outro aspecto eh interessante é que há um alto interesse em capacitação aqueles que não usam têm interesse em usar acreditam na utilidade da ferramenta querem e pedem eh treinamento e capacitação para que possam implementar de forma adequada não só na vida pessoal como também na na vida profissional e na atuação acadêmica ah por fim a nós colocamos algumas eh eh questões livres para os magistrados e servidores se manifestarem e uma interessante que eu trouxe aqui são as considerações e preocupações eh foram feitas

de forma livre e aberta e nós usamos o próprio GPT para fazer a classificação porque foram milhares de respostas para fazer a classificação e agrupamento dessas respostas e chama atenção apesar da da crença na utilidade das Ferramentas o interesse o interesse em capacitação é que há uma preocupação entre eh entre a maioria sobre impactos sociais e a preservação das relações humanas no ambiente de trabalho né ainda uma eh um pedido e uma solicitação para que haja uma adaptação gradual que reforça a necessidade de Treinamento as inovações tecnológicas né com programas de capacitação e valorização do

Servidor são temas que foram recorrentes e apareceram na pesquisa esse material tá no relatório analítico o relatório analítico tem duas partes uma primeira parte onde é abordada e e e eh como funcionam essas ferramentas e quais são as limitações importante que os magistrados servidores conheçam essas limitações né e Ah também a os tribunais na implementação de medidas de governança então para isso nós abordamos Quais são as medidas de governança para iá generativas em organizações em geral né preocupação com a descentralização da decisão que eu disse aqui revisão transparência privacidade informações sigilosas mas também medidas de

governanças que foram adotadas em tribunais ou diretrizes guias de uso em tribunais internacionais né a parte a segunda parte então tem a descrição da metodologia nesse levantamento dos usos e análise eh dos resultados o relatório Deve ser publicado entre hoje e amanhã convido todos à leitura obrigado bom agradeço a apresentação do meu colega Professor Juliano deixa a gente deixa nossos contatos para caso tenha alguma dúvida algum interesse e devolvo a palavra pro cerimonial Obrigada neste momento devolvemos a palavra ao Conselheiro luí Fernando Bandeira de Melo caríssimos eu só queria terminar essa mesa de abertura deixando

aqui registrado um elogio público ao trabalho desenvolvido pelo dpj Professor Olívia e pelo professor Juliano maranão né isso nos traz uma fotografia muito relevante de como a ia generativa tem sido utilizada hoje no judiciário e a importância da sua regulamentação disso estamos fazendo aqui agora n o percentual de servidores que já usam né E a generativa e que eh de certa forma carecem e pedem reconhecem isso na pesquisa da Necessidade regulamentação até para saber como usar né É é evidente é evidente que o público do nosso judiciário demanda capacitação para usar a iagem narativa e

sobretudo me preocupa muito Professor Juliano 83% do dos Servidores estão usando diag generativa e não informam né Não só seus colegas como Possivelmente menos ainda pro jurisdicionado né então é importante sim eh debatermos a as regras não só de que software usar isso será certamente um um tema n que vai ser abordado várias vezes ao longo desse debate Conselheiro rotondano Ah porque um dos temas que mais ah esquenta digamos assim as discussões sobre o uso de a generativa é nós vamos centralizar as ferramentas na que os magistrados e servidores poderão usar naquelas que o tribunal

eventualmente oferecer nós vamos criar uma lista de de ferramentas autorizadas pelo CNJ para ser para que funcione nacionalmente nós vamos incorporar treinar adaptar uma ferramenta para o judiciário disponibilizá-la via CNJ no país inteiro uma mesma ferramenta enfim tem vários caminhos ou vamos simplesmente liberar né e cada um usa o o software que quiser assina o software que quiser claro com as preocupações que nós teremos que ter né quanto a a produção de dados e a própria qualidade do resultado enfim é um debate que vai certamente permear os próximos três dias eu queria portanto encerrar essa

mesa de abertura não sem antes registrar e agradecer a honrosa presença do Conselheiro João Paulo chuquer aqui conosco né e dos presidentes da da maer de uní adade da MASP nosso querido Thiago massade Ah todos vocês muito obrigado pela participação nós temos nesse momento 220 ah pessoas acompanhando essa audiência pública pelos canais virtuais YouTube etc né além dos que nos honram com sua presença aqui no plenário do CNJ nós vamos aqui encerrar esta mesa de abertura passaremos pro primeiro painel no qual temos participação de dois professores alemães e que felizmente estamos conseguindo cumprir o horário

até aqui pelo menos da nossa programação então para não para não estender mais e minha cara Karine noss chefe cerimonial competentíssima e não arriscar atrasar o nosso o nosso andamento n eu devolvo a palavra cerimonial para que encerre essa mesa de abertura e na sequência passemos ao primeiro painel Muito obrigado a todos agradecemos os pronunciamentos realizados e neste momento desfaz-se a mesa para dar início às manifestações dos convidados nos termos do edital de convocação desta audiência pedimos à gentileza De que todos permaneçam neste plenário e para que acompanham a plataforma solicitamos a gentileza de ingressarem

no link disponibilizado no chat do zoom informamos que as audiências públicas organizadas pelo Conselho Nacional de Justiça seguem formalidades para sua viabilização assim em respeito às tradições da manções não previstas e pronunciamentos com temas estranhos à audiência solicitamos que atentem para limitação do tempo disponibilizado não haverá tempo adicional para reprodução de vídeos ou slides informamos que o cronômetro será acionado ao início de cada exposição para evitar incorreções relacionadas à contagem do tempo para que todos tenham a mesma oportunidade pedimos aos participantes que se atenham ao tempo determinado de fala que é de 15 minutos para

a condução dos trabalhos tem a palavra o conselheiro luí Fernando Bandeira de Melo Muito obrigado Vamos retomar a nossa atividades com esse primeiro painel de especialistas aproveito só para eh explicar novamente a quem eh conectou-se ou chegou Eh agora a pouco né Nós estruturamos essa audiência pública eh da seguinte forma tivemos agora há pouco a exposi apresentação da pesquisa sobre o uso de a generativa no judiciário e iniciaremos o primeiro painel de especialistas os painéis especialistas foram montados a partir de indicações dos membros do do GT né poros seus trabalhos e por suas publicações e

estudos na área né Eh e à tarde nós teremos as mesas né Eh que foram montadas a par e das inscrições da sociedade civil interessada nesse primeiro painel de especialistas excepcionalmente teremos três participações ah remotas né e três eh presenciais também né contamos com a presença minha querida ministra Edilene Lobo que tem pesquisa minist do TSE que tem pesquisa importante na nessa área já de algum tempo eh nós temos eh conectados desde a do outro lado do Atlântico na Europa os professores Us gasner da Universidade técnica de Munique na Alemanha bem como o professor Philip

hacker eh da Universidade europeia de estudos digitais na Polônia né a quem desde logo eu agradeço eh e temos também a a participação da Dora Dora Kaufman né que nos abrilhantará né com com eh com sua perspectiva sempre muito singular e e especial sobre o diretiz e governança da ia ah os professores os g e Felipe hacker falarão em inglês né E será disponibilizada a tradução tanto para os que estão aqui presentes quanto os que nos acompanham pelo YouTube professor phip hacker dol eu vou então estão nos acompanhando a tradução já está Ah aparentemente passando

para eles então eu gostaria de estava P sugerir se a Ministro estiver de acordo n considerando que teremos dois ah palestrantes em língua estrangeira até para facilitar a gestão de tradutores e e né fones de ouvido eu iniciaria ouvindo o os professores jus gasna e phelipe haaker né para na sequência né passarmos a para o ouvir as participações brasileiras por assim dizer né e darmos andamento a ideia que por volta de 11:45 11:30 teremos aqui a presença do ministro Lu Roberto Barroso que acaba de chegar ao Brasil né e nos brindará conferência Magna que encerrará

esse período da manhã ah sendo assim eu eu perguntaria ao professor US gasta se já estaria pronto para iniciar a a sua apresentação Se eu quiser eu não sei se eles está nos ouvindo em tempo real Ok então entendi que sinalizou que sim ok no Ok than you Professor for forar ok SPE I don't care because I think I don't have a presentation para desafi regat das oportunidades do nosso judiciário europeu e também gostaria de de fazer algumas observações e algumas recomendações possíveis em respeito à soluções e considerações começando essencialmente pode ser pode nos ajudar

a nos perguntar novamente Quais são os nossos desafios regulatórios quando nós [Música] tentamos em relação aos usos de Inteligência Artificial tanto a generativa como e também é regular com toda essa tecnologia eu gostaria dear algumas coisas e a regulatória aqui não é só na tecnologia mas também proativamente a estrutura que nós chamamos da governança de boa decisão Deixa eu explicar um pouco o uso da inteligência artificial no judiciário e também no sistema legal também na prática legal nas nas companhias de direito nas firmas de direito e também está sendo uma nova fronteira na é uma

nova fronteira do uso da tecnologia no direito n nos tribunais ou na prática da Lei propriamente dita do direito propriamente dito se a gente olhar pro passado e ver a invenção das e das companhias privadas de tecnologia também da de processar o você vê que essa tecnologia todas essas tecnologias de processamento de texto também Elas tiveram um profundo efeito na prática do direito como elas se desenvolve e também como nós aplicamos essas tecnologi essa teoria legal também do direito mostra que a lei o direito a tecnologia eles são interconect e e no nosso sistemas sociais

a inteligência coisa você usa essas tecnologi inovações no sistema judiciário e no direito porque o impacto da Inteligência Artificial ser fundamental vai ser maior do que Essas tecnologias que tiveram grande impacto no passado Então esse Impacto agora vai ser maior então a minha proposta é que como Essas tecnologias anteriores eles tiveram grande por exemplo a inteligência generativas elas vão ter um grande impacto no processo de decisão então a regulação pode reconhecer essas questões e especialmente aqui na União Europeia meu que nós somos desse desse da União Europeia dizer que que ess sistemas generativos só podem

ajudar os juízes para para fazer seu trabalho suas tarefas de e tomar decisões mais autônomas então até aqui tudo bem mas gostaria de propor que mesmo apoiando o uso dessas tecnologia da inteligência artificial em particular em particular nós temos que moldar como esses usos serão feitos Não exatamente sabemos em que formma seros usar em que categorias em que capacidades que técnicas qua seria o impacto no nosso processo de decisão então de propar como primeira observação os desafios regulatórios de não regular a inteligência artificial mas também mais garantir a governança como humanos todos os que trabalham

com direito e a tecnologia na forma de inteligências artificiais pode ser lidada para para atingir melhores decisões mais justas no processo de decisão isso é um grande desafio doos exemplos favoritos para mostrar quão difícil é na verdade melhorar essas questões trazendo as melhores sinergias dos instrumentos com os humanos e o uso da Inteligência se você lembrar nos primeiros pilotos nos cockpits Eles foram introduzidos no início do Século XX e alguns anos atrás 2 anos atrás a administração da aviação se lidou com a questão de de guias para todas as empresas aéreas todos os pilotos enfatizando

que os pilotos estavam dependentes demais nesses sistemas automatizados e as companhias aéreas tinham que mostrar aos pilotos como V os aviões para você você de 2020 a 2022 diferentes desafios na mesma lei na indústria de aviação no ambiente muito controlado e se pergunta como você regular isso com esse porque o círculo tem uma série de acidentes por causa daa que isso é um aviso para que não é trivial realmente colocar essas duas coisas juntas para chegar as melhores decisões então nós temos aqui os regulatórios não em especificamente a regulação a recomendação primeira devido a esses

estádios inciais do uso no judiciário eu gostaria fazer sempre um cheque duplo da reservação e e ela são flexível bastantes para se ajustar de acordo com o desenvolvimento e também que a resoluç mecanismos de controle também que é muito importante que nós podemos aprender como ros e avançar considerando todos esses é crucial como nó podemos apos alguns botões e também aqueles que têm ao de aplicação no caso que que estão aparecendo agora emergência isso são nossos preocupações Inicial vamos rapidamente pra segunda participação porque o relógio está correndo eu diria que o impacto da inteligência artificial

no judiciar consiste efeitos pequenos que vão se acumulando eu gostaria de mencionar na minha observação primeiro do impacto no sistema judiciário nós estamos usando como uma uma ferramenta necessária eu gostaria de ess essas ferramentas elas monam Nossas ações e nossas pesquisas e também para chegar a conclusões eu acho que esses pequenos efeitos esses pequenos usos de alguma fonte que vão se juntando através do tempo Como você sabe o seu ambiente alguns domínios que você Você se lembra 24 anos atrás você vê como diferentes animações começa a em grandes fe por regulações e a lei de

um sistema muito complexo isso eu gostaria també judiciário não apenas vai ser mado o uso das das das lentes dos instrumentos de Inteligência Artificial mas também vai US usar esses estamentos pelos advogados e que e que trazem seus casos a corte centena de usos de inteligência ar que existe isso vai mudar moldar aos poucos os nossos ambientes mas surgem perguntas que nós temos que resolver como nós podemos discutir como as as as provas podem ser mostradas então para fazer uma minuta dessa soluções se a gente colocar no quadro vamos chamar assim o quadro do nós

temos estar consciente dessas mudanças que estão ocorrendo durante o uso da inteligência artificial no sistema legal é mais geralmente mais abertamente relevante ou não então minha recomendação para essas observações iniciais é provavelmente expandir um comit de proposta de Inteligência Artificial de monitorar as legais V os efeitos Gerais indiretos e também indiretos do uso da Inteligência Artificial nas coas essa proposta vai se implementar ou incluir a implementação de um conselho estratégico de especialistas de membros de cidadãos que desenvolva métodos e métricas ações para seguir o impacto no tempo e analisar desde a origem desse desses instrumento

sistema e a minha última observação terceira observação é fala olhar no longo prazo no crescimento da capacidade desenvolvimento da capacidade do a inteligência artificial no sistema judiciário se na minha visão sobre a comunicação o o a inteligência artificial vai ter um impacto fundamental na transformação do ambiente legal eu não digo que ele vai mudar o tipo de casos no judiciário mas vai necessitar novas habilidades para lidar com isso é com esse histórico não é apenas necessário se f de focar de como regular as coisas mas também olhar no futuro e nos pergunta quais são as

capacidades e habilidades que o judiciário precisa para construir sistematicamente para também que a adoção da Inteligência Artificial do nosso ambiente nós temos que lidar com essas questões novas dessas novas tecnologias em termos e eu peço que vocês tomem uma uma abordagem holística geral ver os modelos de ciclo de vida não apenas considerando como essas ah instrumentos podem se usar se elas são os instrumentos certos sãoos apropriados para cada caso discutir Como regar e com a intera artificial vai trabalhar essa mudança de par as coisas que são já a provadas já no mercado e como elas

podem mudar com esses novos problemas de segurança essas questões e é uma analogia também enpor essa ciclo de vida dinâmica essa abordagem no contexto judiciário finalmente a minha recomendação final devido a a natureza da inteligência generativa provavelmente ela vai fortalecer as resoluções doos problemas que nós est eu queria colocar delinear uma um crescimento da nossa capacitação isso vai de iniciativas estratégicas de usar a ia no nível técnico do sistema judiciário por todo o processo de de programas de ização de tecnologia por exemplo das pessoas que trabalham com isso no sistema judiciário Essas são as minhas

três observações espero que isso dê uma abertura para os nossos trabalhos Muito [Aplausos] obrigado profess Professor eu gostaria só de destacar da da fala do professor importância da governança da do do uso da inteligência artificial no poder judiciário percebam que sem regulamentação Não teremos governança alguma né E essas três observações que ele fazs apontando para a necessidade de ter alguma espécie de controle e governança sobre os resultados né e o uso da eh da ia Sem dúvida passam e retroalimentam esse debate que nós estamos eh tendo aqui nosos próximos três dias passari a palavra imediatamente

ao professor Philip hacker agradecendo nova novamente por sua disponibilidade ah de contribuir aqui professor Felipe hecker que é um dos maiores especialistas na temática do uso da da Inteligência Artificial e vai falará hoje conosco sobre inteligência artificial para a justiça né diretamente da União Europeia para o Brasil Professor fique à vontade Bom dia e muito obrigado pelo convite vou passar a para ingl me português não é bom suficiente para fazer essa palestra totalmente português mas eu gostaria de começar dizendo falando sobre os prospectos aqui como utilizar na corte Suprema brasileira protegendo a democracia no Brasil

e em outros lugares no planeta tendo dito isso estou e bem animado para compartilhar pensamentos iniciais sobre como a maneira europeia de trabalhar com inteligência artificial no judiciário europeu e assim como podemos melhorar no Brasil também aqui S Uma Breve visão geral não vou levar Du horas claro eu vou ser breve vamos olhar rapidamente sobre a lei ai e também compar como é feito no sistema brasileiro e aqui compartilhar uns pensamentos de como isso pode acontecer no futuro no sistema brasileiro judiciário se vocês Poderiam me avisar quando eu tiver somente dois minutos faltando pois eu

não estou vendo o relógio daqui muito obrigado então vamos sem perder tempo eu acho que a maioria de vocês sabem alguma coisa sobre o a inteligência artificial na Europa aqui temos quatro níveis de risco aqui o eii basicamente regula você Obviamente você pode usar a inteligência artificial para escrever uma um cartão de aniversário com Mogo bem mais sério importante Então vamos manter em mente quais são os tipos de regras e que vamos usar esse sistema acabou que ele foi virado ao avesso quando chegou o ch GPT os modelos a fundação desses modelos então adicionamos uma

outra camada de texto para regularizar esses tipos de modos de Inteligência Artificial seja escrevendo artigos tanto no Parlamento europeu quanto alemão Mas o mais importante para nossa discussão Hoje existe vários tipos de casos para o sistema de Inteligência Artificial E esses são como vocês podem ver vários casos de coisas relevantes eu gostaria de dizer coisas de alto impacto e também tem um mais provis existe uma provisão que diz que a inteligência oficial é usada para autoridade judicial para ajudar Ah não só eh informar sobre a Lei mas aplicar a lei Então e se tiver esse

tipo de sistema então poderia utilizar ser utilizado tanto no Governo como para documentos transparência e quem sabe isso no futuro vai ser obrigado a usar esses tipos de e sistema de Inteligência Artificial agora o que podemos aprender se olharmos um pouco mais a fundo dessa lei aqui tem uma observação preliminar que não está Tecnicamente que foi tirado do Judiciário para e vamos interpretar então o significado deste artigo em si o artigo 61 a utilização da interal no contexto judicial apesar de dela ser considerada um uso de alto risco ela pode acabar sendo útil na hora

do juiz tomar alguma decisão Claro com muita precaução Mas temos que manter a independência judicial das decisões finais porque tem que ser ela tem que ser mantida pelos humanos n na sua base ela lista algumas aplicações que são insulares que pode não estar no centro e perceber o risco que pode dar no final essas provisões da Inteligência Artificial a comunicação entre as pessoas al algumas regras isso vem ao que pergunto o que podemos aprender o que podemos talvez trazer no próximo o artigo que vai ser debatido no Brasil neste momento eu gostaria só de alimentar

que tem pessoas às vezes que conhecem artificial muito mais que eu mas eu gostaria de falar que existem cinco Pilares digamos assim neste artigo que o uso de Inteligência Artificial degenerativa pode ser usar por exemplo talvez decisões só para dar apoio não uma decisão em si simplesmente para dar uma apoio seria talvez para melhorar o mandado e tem alguma lei no tem uma ali nos Estados Unidos que é importante dar uma olhada nessa lei que dá algumas obrigações quanto a transparência talvez algo no rodapé é importante colocar isso se você usou por exemplo uma inteligência

artificial agora eu vou falar uma discussão usando este tipo de estrutura vamos falar sobre o o tópico sensível sigiloso quando vemos nos Estados Unidos foi mostrado que havia um pouco de conceito racial para as pessoas os mostrar que o sistema de inteligência artificial é feito de e pode fazer a decisões no Judiciários e com esses preconceitos ess sãoos tipos de dois de dois polos entre nós temos que Navegar e tentar garantir que vá mais na direção do uma bússola para o como usar como você por exemplo Senor fala sobre Eu acho que o sistema brasileiro

está certo e não se concentra e pelo menos não garantir e usar muito ambiciosamente o sistema de de inteligência Aral generativos Mas de qualquer forma as pessoas vão usar as pessoas são humanas os juízes são os humanos Então os estudos que nós temos na mina cles desde o início eu pensei muito proativamente para usar o chpt chpt e as políticas de uso de Inteligência Artificial nossas políticas de uso de a e não faz sentido dizer Ah nós não podemos usar as pessoas vão usar de qualquer forma nós precisamos educar as pessoas e também até se

eles usam Eles vão usar em algum de alguma forma livro sobre isso eu quero monstrar que se você proibir e você não vai conseguir convencer porque as pessoas vão realmente usar sem qualquer treinamento e também significante problemas já de casos relatados tanto no Brasil como na União europea por isso que você pode acelerar esses problemas e aí é preocupante eu acho que nós precisamos saber como usar esses instrumentos no futuros Claro com proteções então como é a abordagem proativa é um modelo mais e não que permita mas seja verificável o que que significa eu acho

que a proposta brasileira muita caminha para garantir que esses sistemas ai sejam usados com responsabilidade no judiciário eu gostaria de pequenas adições que eu queria que propur na nossa conversa e eu também eu quero ouvir sobre as sugestões de vocês uma coisa que eu tirei dos meus estudantes que eu aprendi com eles é garantir que as pessoas não Durmam enquanto dirigindo por exemplo quando estão usando esses sistemas generativos os estudos mostram que você pode muito melhor com o uso dos sistemas generativos do que sem eles por exemplo para resolver tarefas complexas mas não se você

esquece que isso é apenas um instrumento para ajudá não é o não é a sua decisão Então gostaria de incluir não só na lei Mas também ter uma uma forma de checar fatos porque vocês sabem que há ilusões nesses sistemas que às vezes aí eles tem importantes limitações mes que você usa coisas você dá comandos bem específicos eu gostaria de sugerir que para manter a responsabilização responsável não só no na de Ah isso aí foi usado com uma inteligência artificial mas fazer referências específicas das maneiras na como o juiz seguiu o uso da inteligência artificial

isso talvez não possa ser colocado no julgamento final mas é importante ter isso no rascunho na minuta porque se a gente voltar e dizer que há um um caso de contencios ou de procedimento que as pessoas podem dizer dizer essa parte esse erro na verdade foi que o juiz errou e não a máquina então a responsabilização vai ser são muito importantes e finalmente eu acho que é muito importante que a lei brasileira introduza também essas provisões para contratos públicos que falam sobre algumas coisas que possam ser transadas que são mais sofisticadas e às vezes as

companhias que nós temos as companhias mais sofisticadas eu acho que está faltando em muitas propostas que T que ser ser incluídas eu acho que isso é fantástico ter deixa eu contar uma história rápida que no casa de de dos preconceitos Como já contei o problema é que ele usas um a 27 parâmetros e há algumas alegações que o Model discrimina e o juiz fala vamos ver os parâmetros Quais são os fatores como usar e quando eles se perguntaa informação e a companhia diz não não não não essa informação é propriedade privada não podemos mostrar então

os juízes não podem nem só não olhar o sistema mas nem proteger o uso nesse nesses contextos então a lição sem aprendida então o contrato Garanta que há transparências nos seus há Termos Nos seus contratos sobre dados arquitetura sobre esses problemas e preconceitos que são problemáticos com modelos grandes modelos de linguagem a Índia por exemplo alguém tá no Twi na Índia mas obviamente ao mesmo tempo há um grande intero do governo saber sobre isso deixa eu fechar essa sessão dizendo que eu tenho essas exemplos de políticas de ia e nós já falamos muitos disso conos

muitos e a gente reinter de compartilhar e usar para os manuais que vocês estão preparando e poro eu tenho do minutos olhar rapidamente sobre o futuro onde a gente pode estar chegando acho que o problema chave agora é da implementação a implementação de uma lei geral sobre no Mundo Ideal acho que nós teríamos o modelo local servindo de um modelo de fonte aberto com seus dados modelo oficial que você poderia cada propósito porque todos os dados fica no perímetro Inicial então nós temos um treinamento para as pessoas todos sabemos que isso não acontece assim no

mundo o real é bem confuso e complicado alguns casos Às vezes tem que ter um modelo de api que é muito Custoso e pode não usar esse modelo para cada juiz no Brasil eu não sei quantos juízes vocês temm mas Haverá oportunidades das pessoas usar seus próprios modelos particularmente se por exemplo se eles não têm acesso ao modelo oficial e nós devemos bani-lo permiti-lo ou não isso depende dos legisladores do Brasil decidir mas novamente eu acho que é difícil nesses casos para fazer uma proibição e usar apropriadamente então eu eu sugiro que vocês possam autorizar

alguns modelos específico e quem pode usá-los das formas recomendadas de fontes abertas e e não descarar diretamente todos algum desses modelos algumas pessoas que têm um modelo privado deve ter um treinamento online Porque alguns desses modelos de api tem ter muito cuidado com as informações as seguranças informações sensíveis porque memorização desses modelos Você nunca sabe como essa a depois do uso da informação ela vai ser usada apenas dois posso dá-lo mais dois minutos eu eu acho que eu não vou precisar mais muito obrigado e claro como nós sugerimos usar o os os meios pedagógicos que

vocês têm à sua disposição como eu entendo Há muitos projetos que estão acontecendo no sistema judiciário brasileiro eu sei que vocês têm modelos espías que eu acho muito interessantes talvez até melhores do que nós na Alemão no modelo alemão mas chegando próximo modelo que todo mundo tem acesso a treinamento e também esse modelo de proprietário numa lei Futura meus pensamentos finais onde podemos é necessário muito treino ajuste desses momentos para el funcionar e outra observação útil são sistemas de agênci de agenciamento Google de isso que nós temos olhando basicamente modelos são complexos bastantes e capazes

de pensar através diferentes problemas complexos em vários Passos Claros com guia humano O que que a gente pode ver sobre sistemas num ponto no tempo eles vão ser usados também pelo setor privado e também mais de outros casos é importante reter o elemento que o humano tem a agenciamento Quais são as limitações do que eles podem e não podem não devem não devem fazer nas próprios no processo de decisão e tá o monitoramento porque são novos modelos não todos esses modelos todos esses agentes precisam ser capazes de ser monitorados por humanos muitas vezes vocês têm

que precisar ao mesmo tempo de testar automatização e também uma compli dessa automatização para ter uma visão holística dos dos sistemas deen eu vou ficar por aqui e concluí que o futuro vai ser muito motivador e também vai ser bem motivador também Em ambos os sistemas insis de Brasil aleman eu a desejo o melhor para a sua jornada espero que vocês tenham muito sucesso nas discussões vindouras muito obrigado eu gostaria de agradecer imensamente a participação do professor Felipe hacker eu devo dizer que fiquei muito impressionado e feliz por perceber essas comentários já em cima da

nossa minuta né inclusive debatendo especificamente algum alguns artigos que certamente serão muito úteis professor e mais uma vez lhe agradeço por sua gentileza e e devo dizer o professor parece predestinado a trabalhar com estudos sobre né estudos digitais né ve o próprio nome de família já já traz um hacker né para para nos ensinar um pouco desse todo esse universo né Muito obrigado Mais uma vez Professor a nós temos aqui ainda para para ouvir nesse painel né duas mulheres maravilhosas competentíssimos né que vão nos brindar a um pouco aqui com seus conhecimentos a ministra edlene

Lobo que tá aqui à minha esquerda e a professora Dora Kaufman né que está virtualmente eu tô muito ansioso professora Dora para lhe ouvir Mas se me permite apenas para intercalarmos entre participações remotas e participações presenciais né Eu gostaria de de convidar a ministra Edilene Lobo para que fizesse sua intervenção né e na sequência ouviremos a a professora Dora né e e comunico a todos que o o presidente Luis Roberto Barroso já está no edifício CNJ né E logo mais deve encaminhar-se aqui ao plenário para fazer a sua conferência Magna né que talvez ocorra alguns

minutinhos antes do do previsto mas sem maiores delongas né passo de de imediato a palavra à ministra Dilene Lobo a quem agradeço desde logo por sua presença aqui por sua participação eu agradeço e aproveit veito para cumprimentar cada um cada uma Conselheiro Bandeira D Laura as pessoas que nos acompanham aqui por meio virtual igualmente eu começo dizendo da grande oportunidade que nós temos ao tratarmos dessa matéria o Brasil tem se demonstrado à frente de muitas Nações como acabamos de ver por exemplo eh o Brasil tem se demonstrado à frente de muitas Nações nesse campo e

isso é motivo de muita alegria para nós eu fico ainda mais animada com um evento como esse com a entrega dessa minuta de resolução porque identifico a participação vigorosa das mulheres que sim no Brasil tem produzido tecnologia conhecimento tratam de Inteligência Artificial como de tantos outros temas de interesse da sociedade então eu começo a abordagem do que me traz aqui muito ligeiramente eu trato do assunto envolvendo os vieses algorítmicos para falar do problema da exclusão sistemática estrutural de mulheres e pessoas negras nesse ambiente o que chama a nossa atenção para eh a intervenção correta adequada

Como o próprio Professor hacker já anotava nesse gancho muito oportuno que ele deixa para minha fala Então as minhas palavras iniciais são essas de alegria de júbilo e de confiança por isso eu devo agradecer e cumprimentar essa iniciativa tão importante e faço isso nas pessoas que integraram o GT e mais exatamente mas particularmente na pessoa do ministro Presidente bom quando nós falamos de Inteligência Artificial e tecnologia nós estamos falando de futuro e quando nós falamos de futuro parece que esse caminhar da evolução tecnológica é sempre PR frente e quando nós falamos da tecnologia aplicada à

vida numa sociedade como a brasileira nós vamos ver que ainda vamos ter que falar de passado de um passado que não passou esse passado queela essa exclusão a desigualdade sistemática e que nós vamos ter que tratar também aqui quando falamos desse tema tão rico tão importante e que busca essa regulagem do uso da Inteligência Artificial nesse âmbito tão importante da vida do Brasil e digo de qualquer sociedade avançada que é a aplicação do uso da Inteligência Artificial nessa tarefa tão árdua e importante de fazer justiça exatamente nesse país dizia eu com tão marcado pelas igualdades

desculpe eu atrapalhar uma alegria gigante contar com o ministro Barroso aqui agora fiquei ainda mais emocionada para tratar do tema ele que é um professor nos ensina tanto sobre esse assunto mas eu dizia que nós estamos nos propondo a falar de futuro mas precisando ainda tratar do passado que não passou por isso que saudar essa resolução essa minuta é tão importante ela aliás que pontua com um detalhamento muito importante aqui sobre o aspecto dos vieses então eu parto daqui e não vou me alongar para dizer que é uma premissa basilar a ocorrência dos vieses é

uma premissa indiscutível que a inteligência artificial aplicada ao modelo de justiça para nós em especial falava Eu numa sociedade tão desigual nós precisamos ter uma atenção redobrada com o problema da desigualdade social da desigualdade política e principalmente da desigualdade no acesso a um bem tão fundamental quanto é a educação e a educação para a inovação tecnológica eh eu interrompo inicialmente para perguntar oo Presidente e aos dois queridos presentes a mesa especial presidente de Barroso se eu deveria fazer um recul tático aqui cuidadoso aliás é para ouvir o Senhor e na sequência eu retomo eu devo

ser cuidadosa Presidente é tão gentil boa tarde bom dia a todos é tão gentil da sua parte oferecer eu fico até constrangido de aceitar eu eu de fato ministra tenho um compromisso Eu precisaria sair aí meia 10 meia 15 se não se importar eh de me fazer essa gentileza eu falaria ele devolveria perfeitamente perfeitamente aliás eu já digo que eu fiz a introdução e agora evidentemente nós precisamos ouvir essa autoridade m tem impressão que é o único caso que é preliminar tá vindo depois do jogo principal viu a sua presença aqui é que nos honra

muito eu peço desculpas eh mas dizem que presidir é cumprir as ordens do cerimonial entendeu eu tô sempre alguém me mandando ir para algum lugar diferente eh eu eh e agradeço mesmo de coração desculpe a indelicadeza viu e de muito muito bom dia a todos bom dia ainda eu tô chegando tô com essa cara amarrotada porque eu tô chegando do aeroporto agora de uma uma viagem que começou ontem às 10 horas da manhã Preciso Dizer para vocês de modo que eh ess a sonorização tiver ruim é involuntária eu eu tenho muito prazer e queria cumprimentar

ministra Edilene lobro do Tribunal Superior Eleitoral e agradecer uma vez mais a gentileza de me ceder a palavra aqui cumprimento o conselheiro luí Fernando Bandeira de Melo que é o coordenador do grupo de trabalho sobre inteligência artificial aqui no poder judiciário cumprimento a Laura ch temos nos encontrado com frequência para discutir esse tema para minha alegria cumprimento os nossos demais T Anes cumprimento os presidentes de associação que vejo aqui na na plateia d uní hadad o Thiago massad e todos os que estão aqui eh presentes e eu eu tenho muito prazer de participar dessa audiência

pública eh sobre regulação de Inteligência Artificial convocada pelo Conselheiro bandeira que tem conduzido essas discussões e aqui no no Supremo Tribunal Federal por coincidência madeira eu estava ontem em Stanford discutindo esse mesmo Exatamente esse mesmo tema eh e a verdade é que as preocupações que nós temos de regul isso são muito importantes porque nós estamos no uso de inteligência artificial na frente do mundo em geral Acho que nenhum país do mundo está usando a inteligência artificial como nós estamos usando e investindo tempo e energia em construir ferramentas que permitam a sua utilização pelo Poder Judiciário

também nenhum país do mundo tem 83 mil 800.000 processos de modo que aqui nós temos um Supremo Tribunal Federal que tem 90.000 processos por ano de modo que aqui eh para nós a inteligência artificial acaba sendo uma questão de Sobrevivência para o funcionamento eh adequado do Judiciário eh produzindo decisões a tempo e e a hora eu eh Fiz recentemente também num outro evento de Inteligência Artificial eh uma pequena lista sobre a importância das inovações e como elas são transformadoras do mundo e eu acho que a inteligência artificial representa bom Felipe representa um desses momentos emblemáticos

que vão mudar a história da humanidade eu fiz aqui uma listinha pessoal de sem muita pesquisa eh de quais foram as grandes inovações que transformaram o mundo eh em meio a centenas mas eu destaquei a primeira o fogo o fogo permitiu o aquecimento e portanto permitiu que a condição humana migrasse da África para os lugares mais frios da Europa onde se depois se desenvolveu a civilização ocidental e o fogo permitiu cozinhar alimentos que permitiu que o cérebro que eh Pelo menos é uma das teorias o Em algum momento o cérebro humano ele se expande e

a condição humana se distingue dos outros animais desenvolvendo a capacidade de comunicação e muitos atribuem isso a o tipo de alimentação que as pessoas humanas passaram a ingerir a segunda grande invenção que mudou o mundo foi a roda que evidentemente mudou o transporte e depois permitiu a industrialização a terceira foi a escrita que talvez seja ao lado da comunicação verbal o grande traço distintivo da condição humana a quarta foi a eletricidade inclusive gerando a a lâmpada elétrica a gente trata com alguma desimportância mas é um fenômeno a gente poder apertar um interruptor e ligar bundia

Flávia e poder apertar o interruptor e ligar eh a luz e com a eletricidade depois vier a iluminação pública o a geladeira o o o computador enfim e o rádio a televisão tudo isso dependente da eletricidade e por fim eu destaquei como inovação que mudou o mundo as inovações da Medicina primeira surgimento do antibiótico e as pessoas deixaram de morrer de infecção a segunda a invenção a descoberta da vacina prevenindo doenças e a ter terceira muito importante a anestesia quando alguém romanticamente me diz eu gostaria de ter vivido no século XV assim Deus me livre

viveu um mundo que ainda não tinha anestesia e agora nós chegamos a a esse momento que é a inteligência artificial e o impacto que vai produzir sobre o mundo há pouco tempo atrás há um ano e pouco atrás a Laura e eu participamos diferentes eventos em que a gente discutia as plataformas digitais o grande A grande questão do momento eram era a das plataformas digitais como regulá-los e nós ainda não superamos esse problema que é estabelecer a barreira legítima que separa a liberdade de expressão de cairmos num Abismo de ódio de mentiras de toxicidade nós

ainda não conseguimos totalmente essa dualidade que hoje se coloca perante todo o mundo que é a regulação das plataformas digitais e já estamos lidando com um novo problema potencialmente mais eh complexo para bem e para mal que é a inteligência eh artificial que é basicamente para falar de uma forma simples a a São programas de computador que transferem são programas que transferem para computadores capacidades humanas é basicamente isso que é a inteligência artificial essas capacidades eh incluem a tomada de decisões e incluem habilidades cognitivas eh diferentes um outro ponto muito importante inclusive Para aplicação no

judiciário da Inteligência Artificial é que a inteligência artificial ela não tem consciência de si próprio ela não tem vontade ela não tem discernimento do que é certo e errado não tem discernimento do que é bem ou do que é Malu não tem sequer senso comum a inteligência artificial no estágio atual que nós estamos ela é inteiramente dependente das dos dados das instruções e dos objetivos que são passados para ela pela condição humana por pessoas eh humanas e agora e especialmente no campo do do direito porque a inteligência artificial é um guarda-chuva que envolve muitas eh

áreas de pesquisa mas especialmente no âmbito do Judiciário nós estamos vivendo o impacto da Inteligência Artificial generativa que é essa inteligência artificial que tem uma capacidade de comunicação direta por textos por fala por sons por vídeos por imagens É essa a inteligência artificial que vai impactar de maneira decis de maneira muito relevante à relações no âmbito do Judiciário e talvez a vida na Terra de uma maneira geral a quem compare o surgimento da Inteligência Artificial à invenção da impressão por tipos móveis por Gutenberg 1455 e ao próprio iluminismo a impressão mudou a capacidade da condição

humana se comunicar e o ismo mudou completamente a estrutura de pensamento da humanidade portanto há quem compare esse momento da Inteligência Artificial a esses dois momentos transformadores na difusão do conhecimento e na própria compreensão do papel das pessoas humanas na terra portanto eu tenho a nítida sensação de que nós estamos vivendo um momento revolucionário na história da humanidade alguma coisa muito grande Está acontecendo ou está eh por acontecer E aí a inteligência artificial ela vai se apresentando como potencialmente útil para as áreas mais diversas da vida humana e com muitas potencialidades positivas que eu sempre

gosto de destacar a primeira e que impacta o direito é uma capacidade de tomada de decisões em muitas matérias melhor do que a própria condição humana portanto um aprimoramento da capacidade de tomada de decisões por uma razão singela ela consegue armazenar muito mais informações e processá-las com muito mais velocidade de modo que em muitas áreas a inteligência artificial vai ser capaz de tomar as decisões melhor do que pessoas humanas seriam capazes de tomar já já eu vou chegar a um dos mandamentos que e nos norteia a todos e e ao Conselheiro bandeira que é a

imprescindibilidade da supervisão humana em qualquer e circunstância mas há há uma passagem que eu li recentemente de um autor que diz que se um uma jovem ou um jovem tiver dois pretendentes e estiver em dúvida O Google é capaz de tomar a decisão melhor do que os interessados apenas cruzando as informações que já tem sobre todos os envolvidos eh essa é uma brin até escrevi na margem do meu do meu livro onde eu li isso prefiro errar sozinho porém a verdade é que tá vindo po ir muitas vezes Ah mas a verdade é que isso

vai colocar uma discussão ética muito importante eh e não regulável juridicamente talvez que é a circunstância de que algumas das decisões mais importantes das nossas vidas vão passar a ser tomadas ou a poder ser ser tomadas fora da gente heteronom m e toda a civilização ocidental é baseada na premissa do livre arbítrio da autodeterminação da autonomia da vontade de modo que a partir do momento que as decisões importantes das nossas vidas forem tomadas exteriormente a gente esse é um Impacto Profundo sobre um dos pilares da civilização eh Liberal que nós eh vivemos A Outra vantagem

é evidentemente a automação muitas tarefas sobretudo as perigosas ou as repetitivas que geram neuroses vão poder ser feitas por inteligência eh artificial para vez tiver que desarmar uma mina ou desarmar uma bomba ou colocar um cabo no fundo do oceano você pode mandar um robô porque também temos tido muito avanços na mobilidade dos computadores das máquinas eh em em em geral e e os robôs podem trabalhar 24 horas por dia 7 dias por semana sem risco de reclamação trabalhista portanto também aqui vai haver a a tentação e e depois vou falar isso da substituição na

medicina Hoje em dia a inteligência artificial tem um papel decisivo eu tive na China agora em Julho extraordinário o que eles estão desenvolvendo em termos de inteligência social capaz de de escanear o cérebro a neurociência já já vai entrar no radar como uma novidade extraordinária do mundo que nós estamos vivendo pelos seus avanços os diagnósticos hoje são feitos por imagem as pesquisas de medicamentos e são feitos por imagem de modo que a medicina vai sofrer uma profunda transformação a linguagem vai sofrer uma uma transformação mais profunda ainda eu vi esses dias ainda primeiro quem precisou

usar a linguagem para a tradução já terá visto a melhoria da qualidade de das traduções tanto Google Translate Como depl como o chat GPT não só traduzem como se você esver escrito em inglês eles corrigem você pode botar e di D uma melhorada aqui na minha gramática e ele melhora a sua eh gramática É sempre bom conferir viu porque às vezes engana a gente eu fui dar uma palestra sobre arbitragem não lidava com isso há muito tempo coloquei no chat GPT Quais são as 11 principais decisões do Superior Tribunal de Justiça sobre arbitragem Quais são

as pais decisões me deu 11 decisões E aí prudentemente já conhecia casos em que isso não tinha dado certo pedi ao meu assistente P minha assistente de pesquisa para verificar os 11 estavam errados nenhum era correto portanto é preciso usar com grande prudência essas funcionalidades mas a verdade é que a linguagem vai acabar com as barreiras linguísticas eu vi ninguém me contou ainda esses dias um amigo meu um professor português Miguel maduro ele deu uma aula em português e com o som da voz dele um programa de Inteligência Artificial colocou a mesma aula em mandarim

ele falando ele me mostrou o vídeo é muito impressionante o que está acontecendo em matéria de eh linguagem e isso vai nos favorecer globalmente porque embora o português seja uma língua maravilhosa como diz o o Paulo lemins que falar em português e calar-se mundialmente é mais ou menos a mesma coisa portanto agora a gente vai poder falar para o mundo com mais eh facilidade e enfim e em muitas áreas e eu já vou chegar no no direito não sem antes mencionar os riscos que estão envolvidos que são os riscos relativamente ao Impacto sobre o mercado

de trabalho muitos empregos vão desaparecer e acho que nós vamos ter uma situação é claro que muitos empregos vão surgir também mas o cidadão que é motorista de táxi ele não vai se transformar num programador de computador e portanto nós vamos ter que recapacitar pessoas e nós vamos ter que Possivelmente ter redes de proteção social para quem não conseguir eh entrar no mercado mas acho que a justiça do trabalho voltando aqui para o direito vai ter situações muito novas distintas e interessantes para além da discussão do regime jurídico dos motoristas de Uber que já é

em si uma discussão interessante tem que ter direitos eh Talvez não tenha que ter vínculo mas é preciso saber exatamente eh qual dimensão o direito quer dar a a justiça a as relações de trabalho nesse mundo que sofre o impacto eh de das novas tecnologias e dos novos modelos de negócio hoje em dia dia ninguém mais ninguém exagerou mas hoje em dia a gente já não compra livros nas livrarias É uma pena você não poder mais entrar em livrarias e para mim a livraria sobretudo quando eu viajo pro exor é muito importante porque é um

refúgio quando aparece algum troglodita seguindo a gente eu entro numa livraria que não tem nenhum risco de entrar lá dentro é criptonita para essa a gente mas a verdade é que as livrarias de rua desapareceram porque agora as pessoas compram na Amazon na Lu ou no na na alibaba ou ou em muitas outras a própria televisão aberta hoje em dia muita gente já não assiste a televisão aberta vê programas do streaming na Netflix na HBO no no na Amazon Prime a gente já paga as coisas com eh aplicativos de pagamentos tudo isso são novas relações

econômicas de produção e de trabalho que vão mudando eu sou a única pessoa que eu conheço verdadeiramente que ainda lê revista física eu gosto de Eu assino então a eu e Bandeira Somos Dois seres paleolíticos que ainda Lemos revista física eu assino a veja e só não e só não não não não não leio o jornal no papel porque eles não chegam mais em Brasília eles aboliram o papel estão tornando a minha vida mais difícil eh porque todo mundo hoje em dia usa sites de notícias e a publicidade migrou mesmo dos meios de comunicação tradicional

para a as as as mídias digitais em geral portanto eh o direito de uma maneira geral está lidando com novas situações portanto a a quando a gente fala inteligência artificial no direito a gente tá lidando com o problema que o Bandeira eh está tratando nessa comissão de como o judiciário vai utilizar para si a inteligência artificial Mas também como a inteligência vai impactar o mundo do direito e que a gente tem que julgar eh as questões de uma maneira eh geral uma preocupação enorme mas não dá para legislar aqui pelo CNJ é o uso para

fins bélicos que eu acho que é gravíssima a a possibilidade do Mau uso da inteligência artificial para fins bélicos e hoje em dia a nova Guerra Fria é cibernética hoje em dia você tem uma corrida armamentista subter entre os Estados Unidos e a China para quem consegue avançar mais em matéria de Inteligência Artificial e nós vamos precisar de uma regulação internacional tal como se fez com a energia nuclear que ameaçava destruir o mundo e se conseguiu conter e acho que paraa Inteligência Artificial também em algum momento vai ser preciso fazer esse tipo de eh contenção

nós temos o problema da massificação da desinformação portanto os problemas são e inúmeros e nós todos temos que nos preocupar com eles eu não vou ficar aqui enumerando vou falar um minutinho da da regulação externa para depois falar da regulação interna a e devolver a palavra pra ministra Edilene lobo de quem eu tomei aqui tô constrangido até agora a a regulação da inteligência artificial professora Laura participou foi relatora da comissão que que elaborou ante projeto é muito difícil porque é muito difícil você regular alguma coisa que está numa transformação permanente e numa velocidade que não

se pode controlar todos saberão que um grupo grande de cientistas assinou um documento pedido para parar pararem se interromperem suspenderem as pesquisas com inteligência artificial até que se estabelecesse um um código de ética não aconteceu nada ninguém parou porque ninguém quer ficar para trás nessa corrida mas pelo menos colocou no radar da sociedade que nós precisamos ter um um código de ética mínimo regulando a inteligência artificial para impedir que ela seja apropriada por maus atores aqui há uma vantagem em princípio na regulação da inteligência artificial emcontrar com a regulação das plataformas digitais é que as

plataformas digitais elas T um modelo de negócios baseado em dois pilares dados e engajamento portanto elas trabalham com os dados que coletam das pessoas para direcionarem a publicidade para direcionarem as matérias que interessam a cada um e elas trabalham com um engajamento a publicidade m dos meios tradicionais para os meios digitais e a publicidade ela se move pela quantidade de engajamentos ela se move por quantos acessos aquele veículo teve quantos acessos aquela pessoa teve como o modelo de negócio é fundado no engajamento nós temos um problema é que lamentavelmente para a condição humana a agressividade

a grosseria a mentira a A Ofensa a desinformação a teoria conspiratória trazem muito mais engajamento do que a fala moderada do que a fala civilizada do que a fala racional do que a busca pela verdade possível numa sociedade plural então ao regular as plataformas é preciso enfrentar esse incentivo perverso que é a difusão do mal porque o mal traz mais Business o o mal traz mais dinheiro Isso não acontece pelo pelo menos não diretamente com a inteligência artificial na Inteligência Artificial é preciso ter uma regulação mas para nos prevenir dos maus atores e não propriamente

das próprias empresas diretamente então nós queremos nos prevenir contra a o Deep fake por exemplo a massificação da desinformação ou alguém me colocar aqui dizendo coisas que eu nunca disse sem que a olho nu seja possível identificar se é a pessoa falando ou não isso é dramático porque o dia que nós não pudermos mais acreditar naquilo que a gente ouve naquilo que a gente vê a liberdade de expressão terá perdido completamente o significado é esse o perigo que nós enfrentamos e hoje em dia e e e agora mesmo nessa Curta viagem que fiz tive conversando

com uma Startup cujo propósito é desenvolver uma tecnologia que permita identificar o Deep fake que permita identificar automaticamente que aquilo é uma contrafação porque nós vamos precisar desenvolver essas ferramentas mas eu falava além da dificuldade de conteúdo a velocidade da transformação o telefone fixo aquele pretão que a gente coloca que os jovens aqui nunca terão visto que a gente colocava n numa mesinha com grande de distinção na casa ou numa parede no lugar Nobre da casa e custava tão caro que a gente declarava no Imposto de Renda o telefone levou fixo levou 75 anos para

chegar a 100 milhões de usuários o telefone celular levou 16 anos para chegar a 100 milhões de usuários a internet levou 100 7 anos para chegar a 100 milhões de usuários o chat GPT chegou a 100 milhões de usuários em 2 meses portanto Essa é a velocidade exponencial vertiginosa com que as coisas estão acontecendo no mundo de hoje e portanto Laura você bem saberá a dificuldade de você regular alguma coisa que a gente não é capaz de prever o que está vindo e portanto você tem que trabalhar com princípios gerais Então acho que tem que

regular para proteger os direitos fundamentais privacidade a própria liberdade de expressão e a própria Liberdade individual nesse mundo porque a o avanço da neurociência está fazendo com que as plataformas digitais usando Inteligência Artificial elas podem detectar a nossa vontade e encaminhar matérias e publicidade de acordo com a vontade que foi detectada para isso nós já estamos preparados mas agora já se fala em não é em end a nossa vontade é em moldar a nossa vontade é usar mecanismos de neurociência de inteligência artificial para criar a vontade que eles desejam que a gente tenha e portanto

é preciso também proteger a liberdade individual portanto preciso proteger direitos fundamentais é preciso evidentemente proteger a democracia contra os discursos de ódio Poucos países do mundo talvez só os Estados Unidos toleram o discurso de ódio o discurso de apreciativo o discurso destrutivo sobretudo de grupos vulneráveis é antidemocrático porque é um esforço para calar algum segmento da sociedade e Temos que enfrentar a massificação da desinformação e a utilização eh do Deep fake e em terceiro lugar eu tenho esse hábito de classificar tudo em três nós temos que ter uma governança adequada que assegure transparência que assegure

inteligibilidade e que imponha a supervisão humana pelo menos para tudo que envolva risco para a sociedade a união europeia ao regular a inteligência artificial fez uma classificação de risco banindo algumas utilizações e graduando o controle que se vai ter sobre outras atuações da Inteligência Artificial e por fim para não ir além do tempo razoável o as as aplicaç da tecnologia ao direito de uma maneira geral e não não necessariamente a inteligência artificial mas também a inteligência artificial é possível que a gente não tenha se dado conta porque a gente vai incorporando as coisas na vida

da gente mas nós revolucionamos os processos do Brasil com processo eletrônico um dos principais programas do Conselho Nacional de Justiça é 4.0 hoje em dia praticamente 100% dos novos processos das novas ações judicias no Brasil são via processo eletrônico eu sei que cada um tem a sua queixa específica sobre o pje sobre o eproc porém a justiça brasileira ela se digitalizou é a mais digitalizada do mundo ninguém tem esse volume de digitalização que nós temos no Brasil de 100% dos novos processos praticamente e de mais de 95% de tudo que está circulando e isso é

muito importante a o processo eletrônico reduziu o tempo de tramitação dos processos eu não tô com a estatística aqui mas reduziu muito significativamente em mais de 30% do tempo eh de tramitação dos processos eh de uma maneira geral portanto eh a gente não deve tratar com desimportância a o papel que o processo eletrônico tem no Brasil e não por outra razão nós estamos trabalhando aqui no CNJ na criação de um portal de serviços em que todos os processos do país estarão nesse Portal só não me pergunte exatamente quando que esse pessoal da ti promete do

ano passado para Ano que vem porém em algum prometeram que ainda ser na minha gestão nós vamos ter todos os processos num portal de serviços em que todo mundo qualquer pessoa pode entrar nesse sistema e saber o andamento de qualquer processo que não seja sigiloso pode ter acesso ao Diário de Justiça eletrônica e os advogados habilitados vão poder peticionar inclusive o peticionamento Inicial eles me disseram que até dezembro o peticionamento intercorrente não Inicial já vai poder ser feito não cobrem de mim eu tô só dizendo o que a ti me promete Pois então estamos estamos

confiando hein eu é o Tiago que tá ali Rafael ra Rafael estamos estamos confiando Então temos o processo eletrônico temos o plenário virtual o Supremo Conseguiu chegar ao seu menor nível de processos histórico por utilização do plenário virtual e outras ferramentas que eu vou falar em seguida nós podemos participar das sessões por videoconferência uma transformação imensa antigamente quando um ministro tinha um compromisso internacional por exemplo ele faltava a sessão agora ele simplesmente pode entrar de onde estiver E participar das sessões do supremo só o Supremo Tribunal Federal brasileiro tem sessões com participação virtual Aliás o

uso de plenário virtual também são inovações brasileiras altamente transformadoras nessa área de tecnologia eh sem mencionar o que já tínhamos antes eh que é o sistema de votação eletrônica do tribunal na Superior Eleitoral que é uma coisa extraordinária nenhum país do mundo tem 150 milhões de eleitores e divulga o resultado duas horas depois só o Brasil sem nenhum risco de fraude salvo a a fraude do argumento de que é fraude porque nós abrimos o código fonte um ano antes para todo mundo examinar todos os partidos ministério público Polícia Federal observadores internacionais depois Aquilo é lacrado

celado e assinado e aquele sistema aquele programa jamais entra online ele é inserido em cada urna eletrônica em cada uma das 500.000 urnas eletrônicas eram 500.000 pode ter variado um pouco por pen drive portanto é um sistema irvel de modo que ele é da tecnologia no direito na vida pública eh em geral fora a possibilidade que a gente tem hoje de decidir de qualquer lugar do mundo eu entro no sistema do supremo e posso produzir uma decisão Não importa se eu tô no rio se eu tô em Brasília se eu tô em Vassouras ou se

eu tô em Londres o que também é uma coisa eh extraordinária a possibilidade do teletrabalho e finalmente eu queria chegar nas ferramentas de Inteligência Artificial e e concluir a a nossa conversa eh nós temos utilizado no Supremos estão em uso três ferramentas importantes de Inteligência Artificial não sei se alguém já expôs isso aqui uma chama-se Victor que tem como papel identificar naqueles recursos que chegam nos processos que chegam qual já foi quais já foram objetos de repercussão geral porque aí simplesmente se inadmite o recurso mas aplicar a tese de repercussão geral há um segundo chamado

Vitória que nós somos a favor da paridade de gênero o Vitória ele agrupa os processos que chegam por tema e portanto nós somos capazes de saber qual é o tema que tem maior recorrência para você pensar e dar uma repercussão geral e eliminar a divergência jurisprudencial naquela matéria e tem um eh chamado Rafa que é bonitinho mais ético mas ele separa os processos que são admitidos em função dos objetivos de desenvolvimento sustentável do do do milênio que são compromissos que todos os poderes devem ter e na sequência eh nós temos agora uma fizemos uma chamada

pública com 20 empresas a correram e agora seis foram selecionadas para prova de conceito para fazer resumo dos processos resumos em no máximo cinco páginas fato relevante pedido decisão de primeiro grau decisão de segundo grau razões do recurso e com isso Chega um processo tem 20 volumes agora eletrônicos e você já não precisa mais ler os 20 volumes eletrônicos basta você ler um resumo mais ou menos tem que ter supervisão humana Alguém tem que ir lá conferir essa a orientação comum que todos Compartilhamos aqui eh mas nós não o volume que nós temos de processos

no Brasil nós não podemos abrir mão de utilizar a inteligência artificial um dos meus esforços no na presidência do supremo do CNJ é diminuir o tempo de tramitação dos processos no Brasil que é em média 3 anos e 8 meses nós temos que reduzir isso judiciário é serviço público nós temos que ser capaz de prestar um serviço melhor e para prestarmos um serviço melhor no volume que a gente tem que lidar só com inteligência artificial até porque o judiciário já custa 1,2 do PIP a gente não pode indefinidamente aumentar essa estrutura a gente tem que

agilizar a nossa capacidade de decisão e agora está a aqui pelo CNJ Nós criamos eu até pensei que fosse ter enorme dificuldade mas nós estamos conseguindo universalizar a emenda a ementa padronizada dos das decisões dos tribunais menta é dividida em quatro capítulos ou cinco caso exame questão jurídica em discussão razões de decidir um parágrafo sobre cada coisa se tiver muitas razões de decidir ou muitas causas de pedir pode fazer alguns parágrafos caso um exame quer dizer então a ementa que é a síntese do julgamento ela vai ser dividida em caso em exame questão jurídica em

discussão razões de decidir dispositivo e conclui citando a legislação e a jurisprudência referida no voto com isso nós vamos melhorar a capacidade de comunicação do Judiciário judiciário com a sociedade porque é fácil entender o que que foi decidido e em segundo lugar nós vamos ser capazes de catalogar os precedentes com muito mais qualidade do que hoje E isso se tornou muito importante num país em que os precedentes passaram a ser fonte formal do direito os precedentes qualificados que são as decisões do supremo em ação direta as decisões do supremo em repercussão geral as decisões do

STJ em Recursos eh repetitivos portanto padronização daima se tornou Vital e ela já está sendo padronizada num dos lugares mais difíceis de se conseguir consenso no Brasil que a repartição onde eu trabalho e portanto Nós já estamos conseguindo utilizar a maior parte dos ministros tô tentando meu querido amigo fux eh que tem um modelo próprio de fazer ementas ainda não consegui eh convencê-lo mas mas já tem uma armadilha para quem não for convencido já existem modelos no chat GPT que fazem a ementa no padrão que o CNJ recomenda mesmo que o relator não queira portanto

a escolha vai ser ou você faz você mesmo ou então alguém vai fazer por você Pode ser que esse seja um argumento mas eu brinquei com fux mant a sua enta lá aquela com as 20 laudas mas faz uma pequenininha também não custa vamos ver eh mas portanto eu acho que a a padronização das entas vai mudar a capacidade do Judiciário se comunicar com a sociedade e vai ajudar a catalogação de precedente E aí vem o penúltimo eh a penúltima ferramenta que nós estamos trabalhando que é a de um sistema de localização de precedentes tá

sendo desenvolvido pelo TRT da quarta região eu já nós estamos apoiando mas a ideia original é deles o CNJ agora está apoiando eu mesmo estive lá assinamos um acordo de cooperação em que o programa idealmente eh se você fala com ti eles também falam tudo tá em desenvolvimento então o programa que está em desenvolvimento ele faz uma espécie de relatório em que identifica Quais são as questões jurídicas em discussão uma coluna e depois numa uma segunda coluna ele associa os precedentes qualificados à questão jurídica em discussão se isso funcionar bem é uma revolução na vida

de juízes e de advogados também mas na vida do juízes porque você já ter a pesquisa de precedentes na hora que você vai decidir hora que você vai estudar uma questão já já pronta é uma ferramenta formidável porque a maneira como se pesquisa precedente hoje no Brasil é muito manual é muito mecânica e e no Supremo a gente julga tanto que às vezes nem os julgamento de Que você participou Você consegue lembrar exatamente qual foi a tese que foi firmada pelo volume que a gente trabalha eh portanto é esse esse Essas são as ferramentas que

já estão em uso e logo ali na esquina do tempo nós vamos ter inteligência artificial realizando a primeira minuta das decisões eu acho que aí esse talvez seja Bandeira O tópico mais importante de uma de uma regulação cuidadosa que é a produção por Inteligência Artificial de minutas de decisão eu não tenho nenhum preconceito contra isso até porque como eu disse a inteligência artificial é capaz de armazenar muito mais informação do que o cérebro humano e processá-las com muito mais velocidade e portanto nós não podemos desperdiçar essa ferramenta porém é preciso sempre ter a supervisão humana

primeiro porque a inteligência artificial pode alucinar que é inventar uma solução eh implausível ou errada ou se enganar eh e segundo porque a inteligência artificial nunca vai ter a sensibilidade humana né para decidir questões é claro que a inteligência artificial pode ter preconceitos e discriminações como há na sociedade porque ela é alimentada com dados eh que estão na sociedade que pessoas humanas alimentam Mas aqui é preciso dizer que juízes também tem preconceitos e discriminações portanto Essa não é a minha maior preocupação e talvez a gente consiga até ter mais distanciamento crítico com a inteligência artificial

Porém na vida do direito e da da aplicação do direito é preciso que haja um mínimo de humanidade um mínimo de empatia muitas vezes um pouco de compaixão ou a capacidade de ajustar a norma a algumas circunstâncias fáticas porque a vida não é uma interpretação mecânica a a vida é mais rica e complexa do que a melhor das teorias e possivelmente do que o melhor dos algoritmos portanto você não pode perder a capacidade humana de com os problemas eu gosto de exemplificar isso Alguém já terá me ouvido contar e Bandeira certamente mas eu gosto de

exemplificar isso com um episódio que ocorreu recentemente no casamento da minha filha e minha filha se casou em setembro do ano passado a presidente do supremo era ministra da Rosa veber Ministra Rosa queridíssima Ministra Rosa veber é uma pessoa muito reservada que vai a poucos eventos sociais e teve a gentileza de vir no casamento da Luna e quando ela estava saindo cedo eu da festa eu fui até ela e perguntei Rosa foi foi tudo bem correu tudo bem foi bem tratada e tal disse Tudo ótimo Tudo ótimo só não consegui comer um docinho disse como

assim não porque a atendente me disse que ainda não estava na hora disse não pera aí peguei a ministra Rosa pelo braço fui até a mesa de doces virei pra atendente e disse essa aqui é a Ministra Rosa Weber presidente do Supremo Tribunal Federal ela gostaria de um docinho e a moça disse ainda não tá na hora eu disse eu sou eu sou O Pai da Noiva gostaria que a senhora desse um docinho ela disse não tá na hora e não muda [Risadas] nada essa senhora provavelmente nunca leu Kelsen mas era uma positivista normativista radical

escola da exegese talvez E aí eu me lembrei de uma passagem que li há muitos anos que dizia que é a violação que dá vida à Norma então meti a mão e catei os docinhos e dei pra Ministra Rosa veber mas é só para deixar claro que a interpretação nunca pode ser uma atuação puramente automática aquela senhora estava repetindo e aplicando a instrução que tinha recebido ela não estava nem errada dentro da lógica com com com a qual ela estava eh trabalhando portanto eh eu acho que essas são as inovações eh e que nós estamos

já trabalhando eh e que estamos aqui fazendo esse esforço de uma regulação no entanto que precisa ter dois cuidados A primeira é não coibir viu Bandeira a primeira preocupação é a a regulação da Inteligência Artificial não coibir a Inovação a gente quer avançar a gente quer descobrir coisas novas e portanto se você regular além da conta você inibe o avanço e em segundo lugar quando você regula além da conta você acaba reservando o mercado para quem já está no mercado e a gente não quer nem inibir a Inovação nem fechar mercado a gente quer quanto

mais gente melhor tanto que na nossa chamada pública para os resumos vieram as bigtechs e algumas até estão na prova de conceito mas veio um monte de startups também de de empresas novas gente que está e criando coisas de uma modo que é uma regulação especialmente eh importante acho que essas eram a as ideias que eu gostaria de compartilhar sobre esse tema da Inteligência Artificial os benefícios que eu acho que podem trazer os riscos que eu acho que nós temos que administrar mas eu tenho uma visão positiva E construtiva das potencialidades da execução fiscal eu

até comprei vim lendo no no voo longo voo o livro O último livro do ival noar hares chamado Nexus ele tem uma visão bem crítica ele tem uma visão bem pessimista eh das potencialidades da Inteligência Artificial Mas uma coisa que eu aprendi na vida é que a gente não para a história e portanto não há como você conter o que está vindo portanto é uma questão de a gente regular eh eu acho que a visão dele eh pessimista só tem uma função importante é a gente se precaver quer dizer algumas previsões catastróficas elas são feitas

não é porque é provável que elas aconteçam é pra gente evitar que elas aconteçam portanto eu acho que o que ele tá fazendo tem um papel eh muito importante mas acho que a gente não deve desconsiderar as imensas potencialidades positivas da Inteligência eh artificial sempre que surge uma nova tecnologia as pessoas se preocupam muito quando surgiu eh o rádio as pessoas achavam que a imprensa quando surgiu a televisão achavam que ia acabar o rádio e isso não aconteceu Quando inventaram a fotografia acharam que i acabar a pintura nada disso aconteceu porém a gente precisa Estar

atento para que a inteligência artificial seja utilizada de acordo com parâmetros e critérios eh adequados e e e e satisfatórios por no final do dia não importa quantas as modernidades estejam vindo nós precisamos ser fiéis e implementar valores que são milenários e que não são nada modernos eles vêm de muito longe que são o bem a justiça e a dignidade da pessoa humana Muitíssimo [Aplausos] obrigado soltar bomba e vai sair correndo não Pior que eu vou ter que sair mesmo eu aqui eu vou passar a palavra à ministra Edilene Lobo pior mais do que passar

a palavra eu vou me privar do privilégio de ouvi-la o que eu teria muito muito gosto mesmo e queria agradecer deen uma vez mais a sua imensa gentileza de me ceder o horário eh eu eu só me absolvo porque tô trabalhando tô servindo no Brasil né não é para pro por desfastio pessoal mas queria te te agradecer a Diem que a as pessoas precisam ter muito autoconfiança para serem Humildes viu foi o seu gesto Gentil de me passar a palavra e eu agora devolvo para privilégio da plateia e vou pedir mil desculpas de ter que

sair muito obrigado a todos muito obrigada Presidente um prazer estar com o senhor eu retomo em 10 minutos concluirei eh Renovo os cumprimentos destaco que e a fala do ministro presidente reafirma o que eu pontuava que nós tratamos de paradoxos quando nós falamos de Inteligência Artificial aplicada ou de tecnologia no mundo da vida eu eu mencionava que nós estamos falando de futuro olhando para uma realidade que ainda aplica um passado que não passou nós falamos de inovação tecnológica num país ainda de grandes desigualdades inclusive de acesso à inovação tecnológica por isso que tratar desse tema

é tão importante com essa diversidade multiplicidade de opiniões e de construções a oferta Generosa da minuta de resolução permite que façamos essas considerações eu trouxe dout Laura colegas amigos eu trouxe sugestões pequenas sugestões escritas sei que a minuta vai passar por uma revisão para inclusive retirar repetições ou readequar a a escrita para evitar artigos com letras que eu acho que pode não facilitar muita aplicação e também para corrigir pequenas impropriedades mas eu gostaria de voltar aquelas premissas que eu mencionara nós estamos falando portanto de uma realidade e dessa realidade paradoxal em que reconhecemos a inteligência

artificial não amigável às mulheres e às pessoas negras nós também falamos de uma realidade em que os vieses são constatados não sem razão a minuta de resolução e o estudo profundo que esse grupo de trabalho desenvolveu com apoio de tantas outras pesquisadoras e pesquisadores traz nos seus considerandos a Extrema preocupação com os vieses Então esse é um assunto que ninguém inventou tá posto a partir dessas pesquisas confiáveis e dessa preocupação em fazer desse documento um referencial é é evidente que ele não está pronto e acabado e não será a última palavra na matéria mas é

um farol é uma luz e eu quando encerrava a minha introdução dizia que também falando desse paradoxo nós estamos mencionando um país o Brasil muito adiante de tantas outras Nações pelo mundo no desenvolvimento inclusive no desenvolvimento de propostas regulatórias da do uso da tecnologia é nesse mesmo país que nós vamos ver por exemplo nas escolas das chamadas ciências duras ou nas engenharias da tecnologia e inovação Não mais do que 3% de meninas e mulheres negras matriculadas nesses cursos é nessa mesma realidade que nós vamos ver as mulheres e muitas lutando contra essa restrição as mulheres

em geral do Brasil com pouquíssima participação na construção das ciências em especial na construção do desenvolvimento da Inteligência Artificial não é porque as mulheres não têm contribuições para dar não é porque as pessoas negras não tenham capacidade de produzir é porque o sistema é estruturalmente desigual e ele é replicado pelos modelos de inteligência inclusive grandes modelos de linguagem como é o caso aqui que se põe para regulação nesse momento em que nós falamos portanto da do cuidado e da prevenção do tratamento e da correção dos vieses não só na aplicação da atividade judicial mas também

para o desenvolvimento da própria Inteligência Artificial por isso que eu fiz essas pequenas anotações que eu trouxe para o nosso diálogo é preciso reconhecer inclusive que há uma carência gigantesca de mão de obra especializada o ministro falar aqui do pessoal de ti né Que deve sofrer barbaridades eu quero aliás dar um abraço dessas pessoas que devem sofrer essa pressão e essa cobrança cotidiana nós vemos no Brasil por exemplo uma imensa eh lacuna ou um uma reclamação insistente da falta de mão de obra especializada e nós precisamos fazer desse limão a caipirinha nós precisamos investir na

formação dessa mão de obra tratar desse tema aqui nessa nessa resolução Pode parecer um excesso mas eu vou lhes dizer que pode ser um indicativo e eu falo disso eu digo da necessidade de que estrategicamente se conte para o poder judiciário que ele também tem um papel de investir na formação dessa mão deobra qualificada atento aliás aos vieses então eu vejo ainda que a respeito da oferta E é verdade que vai avançar e nós vamos chegar a um modelo ideal num primeiro momento eu vejo a resolução indicando essa preocupação com os vieses mas nós sabemos

que não há ainda aplicada aqui práticas exitosas de instituição de mecanismos de testagem dessa mesma inteligência e do tratamento desses mesmos vieses por isso é que me parece aqui que a vai envolver uma testagem frequente da realidade é como se a gente estivesse com carro em movimento precisando trocar o pneu precisando consertar o retrovisor e precisando imprimir potência ao motor reduzir potência ao motor é isso é a proposta de construir o caminho caminhando eu compreendo bem a oferta da da minuta acho muito legal seria uma pretensão desarrazoada achar que todos os aspectos da vida e

da aplicação da Inteligência Artificial ao judiciário nós conseguiríamos fazer num documento de 18 18 páginas mas há aqui um indicativo importante um um farol que indica por onde devemos transitar eu então trouxe essas sugestões Eu aponto os desafios trouxe esse documento por escrito certamente eh ele será entregue ao grupo de pesquisa eu falo desses desafios já pontuados por tantas pessoas e me parece que as sugestões portanto perspectiva para nós falarmos do tratamento primeiro do reconhecimento do tratamento para enfrentar os vieses eu estou sugerindo inserir no capítulo 2 que trata eh que trata do respeito aos

direitos humanos de modo muito nítido aquilo que está desenhado para nós a inteligência artificial vem para servir Direitos Humanos vem para servir a sociedade então me o que inseri no capítulo do que trata exatamente desse tema As perspectivas de gênero e étnico-raciais é um registro e um recado muito legal para dizer que assim aqui nessa regulagem a preocupação com esse aspecto e para aproveitar inclusive o acúmulo da resolução tão saudada tão importante tão sofrida que foi aquela produzida que mesmo nesse conselho envolvendo o julgamento com a perspectiva de gênero eu acrescento que me parece faltar

a perspectiva étnico-racial Então a primeira sugestão passa por aqui destacando a adoção de diretrizes nesse capítulo do diretrizes eh explícitas diretrizes explícitas para a adoção de programas de capacitação recrutamento estratégico e formação de mão de obra com o propósito nítido de olver tecnologia própria até porque nós estamos falando ainda de oligopólios e enfrentar desigualdade estrutural depois eu sugiro no capítulo 4 a previsão expressa esse capítulo trata das medidas de governança que decisões enviesadas sejam declaradas nulas em qualquer grau Instância ou esfera jurisdicional a identificação dela ensejando imediatamente a abertura de proced apuratória de responsabilidades e

eu estou falando dos desenvolvedores naturalmente e a descontinuidade do sistema utilizado sugiro ainda a fixação dos parâmetros de letramento racial de gênero e de iniciação na vida digital para mitigação de vieses ou mesmo para ampliar a qualidade da formação buscada uma vez que nós observamos que ainda há uma grande grande maioria não iniciada na vida digital Então me parece ser estratégico e contar precisamente o que se quer tratar dessa matéria inclusive fixando aqui um programa permanente de capacitação das pessoas envolvidas na governança da aplicação da ia eu tô sugerindo a fixação desses parâmetros no Capítulo

8 que trata inclusive da pesquisa do desenvolvimento e da implantação dos serviços de int artificial no capítulo 5 Eu sugiro que haja a adoção da simetria de gestão estabelecendo que os tribunais terão que ter seus comitês gestores até para que não fique uma sugestão senão uma indicação precisa de simetria na gestão do sistema depois no Capítulo 9 da auditoria a realização de testes públicos anuais de avaliação dos sistemas utilizados com apresentação de relatórios prévios e com a Instância evidentemente nesses nesses eventos de instituições que compõe o sistema de Justiça eu tenho ainda no Capítulo 8

sugestões mas eu vou concluir em respeito preciso ao tempo eu trago mais duas sugestões e concluo dizendo que é fundamental nós pensarmos em canais de diálogo com a sociedade é preciso ter canais de comunicação em linguagem simples para que as pessoas possam se orientar se informar e inclusive se estimularem para a compreensão da importância da Inteligência Artificial na vida não só no sistema de Justiça Muitíssimo obrigada e meus cumprimentos mais uma vez falando aqui que os objetivos do milênio paridade de gênero Deve estar muito impressa nessa resolução e o 18 que foi atribuído pelo Brasil

que é o de igualdade étnico racial da mesma maneira por ISS que eu fiz esse enfoque essa ênfase na no tratamento da perspectiva de gênero e de igualdade étnico racial Até breve e até a publicação dessa dessa [Aplausos] resolução com certeza queria agradecer imensamente ministra edene Lobo não somente pela aula que acaba de nos dar inclusive trazendo sugestões petas no texto da resolução que serão muito úteis ministra Muito obrigado já já combinei aqui com ela que ela vai me mandar também por por escrito essas sugestões para que possamos Dra Laura né incorporar ao nosso texto

e queria agradecer também de público a gentileza da da ministra assim como fez o presidente Barroso né de suspender momentaneamente sua suu raciocínio né porque o ministro tinha uma um um conflito de agenda que precisou e equalizar e por isso Antecipamos um pouquinho a fala dele igualmente eu quero me desculpar com a professor professora Dora Kaufman que está aguardando PR para falar pacientemente e eu gostaria de destacar a a produção da da professora Dora Kaufman recente sobre tema de de A é riquíssima né não só dos dois últimos livros né mas eu queria particularmente professora

destacar um artigo publicado pela pela senhora H duas semanas atrás né que discute o problema do loop de feedback né na na ia generativa talvez a senhora queira abordar o tema na sua exposição por isso não vou me prolongar aproveito para já dizer a todos a princípio eh teria uma fala prevista minha ah neste painel né mas em em prol da do horário e da da andamento dos trabalhos vou poupá-los né da dessa fala até porque eu estarei aqui nos próximos dois dias e poderei fazer pontualmente as considerações que pretendia a a ideia não é

que os membros do GT necessariamente falem né A ideia é que nós ouçamos e por isso aliás se perceberem os membros do GT né que estão fisicamente presentes estão aqui a a na mesa afal A ideia é colher realmente as opiniões e assim podemos eh reproduzir isso no trabalho feitos esses registros e agradecimentos sem mais delongas eu gostaria de passar a palavra a a professora Dora Kaufman cumprimentando E agradecendo né Por sua gentileza de participação nesse evento estamos ansiosos por o Vila fique à vontade bom eh muito obrigada na verdade é uma honra esse convite

e poder participar com a professora Laura eh pontuou que a a contribuição né da de todo o processo no legislativo em relação à regulamentação para essa minuta para elaboração dessa minuta do Poder Judiciário mas eu queria também eh pontuar o vice-versa eh quando a gente tá falando de regulamentação de governança nós estamos falando fundamentalmente eh da das contribuições do ponto de vista legal que remete a juristas advogados então o poder judiciário tem uma importância muito grande para como sinalizador para todos os outros setores inclusive evidentemente o legislativo em relação a como tratar as questões os

potenciais eh danos ou todas as questões envolvendo a inteligência artificial bom primeiro eu queria eh eu tenho várias considerações eh sobre cada uma sobre vários do do das eh dos artigos né mas eu vou fazer algumas considerações Gerais até mesmo porque o tempo é limitado depois eu posso encaminhar as minhas observações específicas em relação a vários dos artigos bom primeiro que eu acho que o maior desafio ou eh o desafio Inicial eh de qualquer eh projeto regulatório é garantir a implementação e a posterior fiscalização eu acho que todos nós estamos de acordo que ter uma

lei que não é viável do ponto de vista de implementação e posterior fiscalização ela se tornam inócua né então a complexidade reduzir a complexidade do escopo regulatório é muito importante para garantir essas duas eh essas duas eh questões que Eu mencionei a implementação e a posterior fiscalização também para cumprir essas duas condições eh é muito importante a gente pensar e a natureza sobre a natureza multidisciplinar a inteligência artificial né então a inteligência artificial é uma tecnologia que não só eh os especialistas no na tecnologia em si e nem só os juristas e nem só os

eticistas Nem só os os cientistas sociais conseguem dar conta então é é fundamental que toda abordagem em relação à Inteligência Artificial seja garantida a multidisciplinaridade e o que eu chamo de eh eh diversidade cognitiva né então Esso é muito importante e eu queria ressaltar entrando super eh especificamente na na na proposta do comitê da do formação do comitê de do Conselho eh que a minuta prevê a participação apenas de juízes e advogados eu creio que é fundamental contemplar a diversidade cognitiva agregando justamente especialista tecnologia eticistas centistas sociais acho que isso eh eh capacita esse comitê

de exercer suas funções de uma forma mais eficiente a outra questão também relacionada ao desafio da implementação e pão fiscalização eh remede a capacitação dos usuários né Aí eu tô falando evidentemente usuários da área da do da justiça brasileira né Eh e tanto os juízes como os demais membros do Poder Judiciário eh a inteligência artificial ela apresenta uma inédita interface Homem Máquina muito mais complexa do que todas as interfaces de tecnologias de proposta geral anteriores né então nós temos que encontrar formas eh de de mitigar a simetria de conhecimento entre os que tomam decisão ou

seja em qualquer setor e os especialistas de ti no caso dos departamentos de ti dos tribunais né Essa simetria dificulta essa falta de capacitação eh evidente eu não tô dizendo que todos nós temos que nos tornar desenvolvedores da tecnologia mas uma capacitação sobre a lógica e o funcionamento dessa tecnologia fundamental para garantir a não só o melhor escopo regulatório como a posterior implementação e fiscalização eu acho que tem alguns conceitos que eh são tratados são mencionados porque não poderia deixar de ser e são conceitos Chaves né na em qualquer eh debate sobre regulamentação ou debate

sobre governança que eu queria destacar eh é muito IMP eh a gente qualificar eu acho Acho que deveria ser qualificado Eu sugiro melhor dizendo que seja qualificado eh conceitos como por exemplo transparência e explicabilidade eh eh São conceitos que muitas vezes eu os debates que eu acompanho eles tendem a ser usados como se fossem sinônimos e eles não são no caso da Inteligência Artificial eles são conceitos distintos né então quando nós estamos falando de Transparência por exemplo o própria minuta dá um exemplo eh quando eh exige que todas as as conclusões por exemplo das avaliações

de impacto sejam públicas e disponibilizadas na plataforma sinapsis isso é um exemplo de Transparência né agora a explicabilidade eh a técnica que permia praticamente todas as implementações que nós temos ou a maioria a maioria das implementações que nós temos hoje de Inteligência Artificial que tá por trás das soluções eh é uma técnica que ela tem como característica a opacidade a Não explicabilidade claro que não é o momento de entrar eh no por menor do que que significa isso do ponto de vista da tecnologia como é que se dá mas tem essa limitação então a eh

não é capaz ninguém nem o ser humano nem mesmo os que desenvolveram aquela solução são capazes de explicar plenamente Como que o modelo chegou a partir de inputs iniciais chegou a solução final ou que se chama output então do ponto de vista da esfera jurídica essa assim como em outros setores sensíveis essa essa limitação da própria técnica é uma questão que precisa ser bem equacionada né o limite da explicabilidade então bom o outro outro eh conceito eh importante é sobre a supervisão humana né todo o tempo e e Justamente eu tô de pleno acordo é

ressaltado que todas as decisões T que ter tem que ser garantido a supervisão humana né A responsabilid pelas decisões é do magistério eh e Então essa supervisão humana ela também eh eu sugiro também que ela seja melhor qualificada Porque toda cadeia de produção de uma solução de uma técnica de uma solução de Inteligência Artificial ela é permeada por decisões humanas né então a supervisão humana eh Independente de qualquer regulamentação de qualquer obrigatoriedade regulatória ela já tá presente né não é uma tecnologia autônoma ela não se desenvolve ela não se ela não se treina ela não

se implementa autonomamente então o que que nós estamos dizendo o que que nós queremos dizer exatamente sobre supervisão humana né porque se nós temos eh se nós não temos a capacitação eh suficiente dos usuários no setor de justiça para interagir com essa tecnologia com essas soluções de Inteligência Artificial de entender o mecanismo de funcionamento de entender como Como é que os os resultados como é que o sistema mostra os resultados né no caso da a generativa a a os resultados são mostrados né são a visibilidade dos resultados é de uma forma mais factível com o

entendimento humano mas outros sistemas de Inteligência Artificial não generativos é é é um é um Desafio não é tão simples essa esse entendimento essa interpretação da maneira como os resultados são visualizados então o que que significa fica a supervisão humana como é que nós podemos garantir porque é o que eu disse no início não adianta ter uma regulamentação se não tem como implementar e como supervisionar como que a justiça brasileira consegue o se capacita ou se prepara para garantir a supervisão humana eh de Fato né não é apenas eh assim formal Mas de fato garantir

que o magistrado o juiz ou qualquer membro do da da Justiça que esteja envolvido numa decisão eh eh eh esteja confortável sobre a a o processo de supervisão humana sobre o sistema que tá sendo utilizado tem eh efeitos negativos também eu queria ressaltar eh se fala muito em geral o foco eh os efeitos negativos né Eh Nas questões éticas então vi discriminatório por exemplo eh citado em todos os os momentos mas eu gostaria de chamar atenção Para uma outro eh efeito negativo ou potencial dano que é se o sistema que tá sendo utilizado a solução

que tá sendo utilizado de fato Tá entregando o seu propósito né Isso é uma outra questão se eu tô usando uma uma solução de inteligência artificial para determinada tarefa eh como é que eu garanto que aquela entrega está sendo de fato o propósito da entrega tá sendo de fato cumprido em suma se o o sistema tá sendo eficiente no propósito pelo qual ele foi desenvolvido ou adotado um outro ponto que eu queria também chamar atenção é que também permeia a minuta é a questão da auditabilidade eh eu sou super a favor acho que é um

ponto fundamental Mas também eu acho que precisaria ser melhor qualificado e e e pelo menos alguns indícios de como que se daria essa auditabilidade Quem faria auditabilidade porque para fazer uma auditabilidade de um sistema tão complexo E como eu disse que tem essa parte eh da não explicabilidade ou não interpretabilidade ou op cidade Como que você faz auditabilidade quem seria os os os especialistas capacitados para auditar um sistema desse e trazer o conforto de que tá tudo ok eh não tem nenhum potencial dano nenhuma possibilidade de afetar o o usuário ou a quem se essa

as decisões que estão sendo tomadas com base naquele naquele naquele sistema eh dentro eh eh Infelizmente o tempo realmente eh eu quero cumprir o tempo né mas tem uma outra tem tem várias dificuldades eh nesse nesses sistemas né E quanto mais complexos eh Quanto mais a a i generativa ela trouxe eh usabilidades ela trouxe benefícios enormes não H Menor dúvida são avanços significativos eh no campo da Inteligência Artificial mas também quanto mais complexos eh quanto mais facilitadores da vida mais complexos Eles estão no desenvolvimento e e na compreensão de como eles funcionam né então no

caso desses sistemas principalmente da i generativa que é bastante Foco na minuta eh o que que acontece eh o a a as soluções as técnicas soluções são basicamente desenvolvidas eh por empresas Americanas e isso consequentemente prioritariamente os sistemas eh foram treinados no idioma inglês isso traz problemas eh que precisam também ser equacionados quando são usados no Brasil e principalmente em setor tão eh sensível quant a justiça né A questão do idioma tem várias questões envolvendo o idioma né primeiro o idioma não é apenas um meio de comunicação ele eh ele contextualiza nesse caso de você

trazer Quais são qual é o idioma que você tá treinando a sua solução ele contextualiza e ele também transmite Cultura né Então como que a gente eh age e bom além disso eh mesmo quando eh no caso de startups Bras iras ou as as áreas de ti dos tribunais quando desenvolvem soluções de Inteligência Artificial principalmente e a generativa a base eh são essas eh essas soluções essas técnicas já ofertadas pelas grandes empresas Americanas chamadas Big tags Então o que o que se faz em geral é compor soluções a partir de algoritmo Inteligência Artificial desenvolvido por

elas então isso também eh essa dinâmica né esse processo ele é gerador de uma série de questões que também precisam ser equacionadas e para ser equacionadas quem vai est fazendo essas avaliações auditando tomando as audições precisa ter capacitação para entender de que se trata e como enfrentá-las então eu eu tenho aqui a colocar algumas eh questões assim tem diversas Como eu disse no início eh bom primeiro eu acho que a resolução tá eh é um ponto de partida muito positivo eh no geral ela foi muito bem pensada eh estruturada eu acho que tem algumas questões

assim que precisam ser melhor eh explicitadas eu tem uma uma questão que que tá prevista agora eu tô achando Mas tem uma previsão de que se alguém bom tem duas questões que eu acho que eu gostaria ainda de comentar uma é o uso individual eu acho que não deveria ser permitido o uso individual eh por magistrado né desse sistema de generativa porque eh primeiro porque perde seu controle segundo se na utilização se o magistrado eh agregar e fatalmente fará isso eh dados ligados a a ao à justiça né dados gerados eh em ambientes da Justiça

isso tem um problema de privacidade tem V outros problemas então eu acho que deveria não deveria ser permitido o uso individual acho que os tribunais deveriam fazer Como as empresas estão fazendo eh contratos e com essas plataformas que estão eh ofertando né os ofertantes das soluções de Inteligência Artificial e porque dessa maneira se garante ambiente eh controlado né ambiente exclusivo onde os dados gerados naquela interação não compõe a base de dados geral uma outra questão eh eh tá explicitado na na minuta que eh a importância eh se o de se for usado a inteligência artificial

ser explicitado eh publicamente pro usuário principalmente que foi usado a inteligência artificial eu não vejo isso como importante eu não consigo entender porque porque incluir numa minuta porque foi colocado ao longo da minuta eh do meu ponto de vista uma forma super Correta que a responsabilidade continua sendo do magistrado então se a responsabilidade da decisão por exemplo é de um juiz eh pouco importa que instrumentos que tecnologias que suportes Ele usou pra decisão dele eu acho que do ponto de vista do usuário se eu tô num processo que tá sendo julgado por um juiz para

mim é inócuo eu saber se ele usou Inteligência Artificial ou não eu não sei o qual é o desdobramento concreto eh porque eu sempre fico preocupada de a gente eh Complex eh assim tornar mais complexo do que já é a um processo de regulamentação incluindo questões que talvez não tem efeito prático né o efeito prático eh é isso a mesma coisa que eu vou no médico e o médico toma decisão a partir de vários da experiência dele das plataformas que ele recorre dos livros eh da conversa com os colegas ele não diz da onde que

ele chegou ele dá o diagnóstico né então se a responsabilidade do médico a responsabilidade do juiz eu acho que a gente poderia eliminar essa obrigatoriedade deixa eu ver mais então aí tem várias perguntas assim específicas né mas é o tempo acabou então o que eu vou fazer se vocês estiverem de acordo Eu posso enviar professora se quiser concluir o raciocínio fique à vontade não Sera por caro do cronômetro Deixaremos de L Vila tá É não é porque eu gosto de cumprir o tempo eh não eu acho que tem assim o artigo 7 por exemplo ele

estabelece processos internos após a garantia segurança dos sistemas incluindo ao menos medidas de Transparência Quanto ao emprego a vernan de sistemas de de medicação e prevenção e isso é uma uma frase muito correta mas o que eu pergunto é como seriam esses processos internos como garantir a transparência quantra potenciais viés discriminatórios né então se a gente não tiver resposta para esses desafios eh essa frase fica de esse artigo 7 por exemplo fica difícil de ser implementado né então a gente cria uma um uma uma regulamentação eh Teoricamente correta mas talvez com efeitos menos práticos né

então a mesma coisa por exemplo do eh dos itens do do artigo 7 que eles vão né então a a o quinto por exemplo mesma questão Como processar as obrigações quem estará apto a avaliar o sistema eh é tem uma o o do artigo 7 do item eh 6 fala sobre responsabilidade social sustentável Eu eu sugiro que isso seja um pouco explicitado melhor eh sobre que responsabilidade social e sustentável nós estamos falando estamos falando da sustentabilidade em relação ao sistema jurídico ou nós estamos falando em por exemplo sustentabilidade em relação ao meio ambiente que Quais

são as responsabilidades sociais que estão envolvidas diretamente no Exercício no uso da inteligência artificial no no âmbito da justiça brasileira que responsabilidades sociais são essas eh a o sétimo medidas técnicas Para viabilizar explicabilidade dos resultados aí eu já falei sobre essa esse limite essa essa limitação da capacidade de explicar os resultados então isso precisa também ser equacionado ou ser explicitado de alguma maneira eh deixa eu ver se tem mais como será uso individual bom o artigo oit eh eu também já me referi a utilizados individualmente pelos magistrados e pelos servidores do Poder Judiciário eu a

minha sugestão é que seja eliminado não seja possível usar porque não tem o uso individual em qualquer seja o setor não tem como garantir que não vai ser usado mas colocar isso numa regação eu acho que eh desnecessário eu acho que é contraproducente em termos do controle do que vai tá do uso da Inteligência Artificial eh bom aí Eu acho que tem vários deixa eu ver como assim um treinamento então aí o no aí aí tem tem várias Esse foi então aí tem várias outras comentários específicos mas eu eu encaminho para vocês depois Porque são

pontuais né o tempo já se esgotou estamos já passamos da hora do almoço e eu não quero deixar ninguém com fome então super Obrigada e assim que possível se for o caso eu mando os meus comentários sobre os vários itens E mais uma vez agradeço É uma honra com contribuir pro pro conselho e obrigado a todos muito obrigado professora Dora por a honra é nossa de escutá-la Obrigado por suas sugestões que sim eu gost gostaria e estarei esperando recebê-las eh também por escrito quando possa encaminhar todas elas muito relevante Sem dúvida eu gostaria de fazer

dois dois pontos muito rápid muito rápidos antes de encerrarmos esse painel partimos todo pro almoço ah ouvimos na nas palavras do professor philipe hacker da professora Dora Kaufman da ministra Edilene mesmo do presidente Barroso a necessidade de governança sobre o uso da Iá generativa Isso quer dizer o mínimo de controle Por parte dos tribunais sobre o uso né que os servidores e magistrados estão fazendo da i generativa a preocupação nossa nessa minuta de resolução eh se a gente não tiver um mínimo o grau de centralidade a respeito das decisão decisões sobre quais softwares usar e

de que forma usar a governança fica muito comprometida né e de certa forma o que fizemos como proposta para ser discutida né ao prever né que o quando o tribunal tiver uma ferramenta aquela ferramenta deve ser utilizada aprioristicamente né quando não tiver a o eventualmente pode até contratar privadamente mas dentro daquela lista né que o comitê aprovar por quê para você ter o mínimo de controle contra pra de dados quanto a a o funcionamento do do do algoritmo né porque se você começar a permitir que o magistrado contrate independentemente um software qualquer desenvolvido em qualquer

lugar do do mundo né você fica naturalmente mais exposto a a problemas mas eu vou descer a fundo isso em outra ocasião o segundo ponto eh a professora Dora trouxe várias considerações importantíssimas e nos perguntou por que a rotulagem né Por que a gente tá prevendo a ideia de que o que foi elaborado com ia ah seja marcado pra gente precisa ter uma noção né do quanto ela vem sendo utilizada qual software V sendo utilizado até para saber se tá sendo eh cumprida a eventual resolução A esse respeito para ter um mínimo de de noção

da da eficácia dos nossos instrumentos né a partir daí a gente poder fazer uma uma uma mensuração né eu tenho lógico também algumas eh dúvidas quanto a rotul imem porque às vezes o o cidadão vai olhar a sua decisão judicial e vai est escrito ali embaixo produzido com auxílio de Inteligência Artificial ele vai achar que foi julgado por um robô né e isso é importante tem que ter esse essa sensibilidade né de como regular isso e de que forma talvez não precise ficar necessariamente estampado para todo mundo mas na na no no sistema ele podia

ter essa essa rotulagem para fins de verificação de validação de consistência eh interna enfim são ideias né Eh como de novo como eu falei a São que para ouvir e essas contribuições né que ouvimos hoje pela manhã e que ouviremos hoje à tarde vão ser essenciais para que cheguemos né a um texto final não vou cansá-lo mais se tá todo mundo com fome então vamos suspender por aqui agradecendo a todos a a participação e à tarde retomamos com a mesa dos inscritos Muito obrigado senhoras e senhores agradecemos os pronunciamentos realizados e neste momento faremos um

breve intervalo para o almoço retomamos com a programação às 14:30 i