Unknown

senhoras e senhores boa tarde neste momento retomamos a programação da audiência pública inteligência artificial no pod judiciário informamos que para os que participam virtualmente o registro de frequência deve ser feito por meio do link disponibilizado na descrição deste vídeo para quem participa de forma presencial a frequência foi registrada durante o credenciamento as audias públicas organizadas pelo consel Nacional de justi seguem formalidades para sua viabilização assim em respeito às tradições desta casa e aos argumentos defendidos pelos senhores expositores não serão permitidas quaisquer formas de manifestações não previstas e pronunciamentos com temas estranhos à audiência solicitamos que

atentem para a limitação do tempo oferecido a cada expositor e instituição credenciada não haverá tempo adicional para a reprodução de vídeo ou slides informamos que o cronômetro será acionado ao início de cada manifestação para evitar incorreções relacionadas à contagem do tempo para que todos tenham a mesma oportunidade pedimos aos participantes que se atenham ao tempo determinado de fala que é de 15 minutos em continuidade da mesa 5 desafios éticos e direitos fundamentais na utilização da inteligência artificial no poder judiciário tem a palavra o conselheiro Pablo Coutinho Barreto Boa tarde a todas as pessoas aqui presentes

e aquelas que nos assistem pela internet hoje nós daremos seguimento a audiência pública inteligência artificial no poder judiciário um assunto mais do que urgente e relevante para a prestação jurisdicional no nosso país e de forma adiantarmos e mantermos o cronograma apras convido para sua fala a Dra Jamil sabad kete o Cavalcante advogada Doutora especialista em I com 15 minutos para manifestação Boa tarde Boa tarde a todos e todas primeiramente eu gostaria de saudar o grupo de trabalho do s J nas pessoas do Conselheiro Bandeira de Melo da professora D Lara schertel e do coordenador dessa

mesa o conselheiro Pablo Coutinho Barreto É uma honra poder estar aqui hoje né mesmo que virtualmente trazendo um pouco das contribuições que me são tão caras e são objeto de pesquisa nos meus últimos anos a minha contribuição ela vai ser direcionada ao primeiro tema que se trata de modelo de governança paraa gestão do processo de desenvolvimento sustentação e uso de soluções de Inteligência Artificial orientando pela transparência de auditabilidade eh a minha contribuição ela se origina na verdade da minha pesquisa de dissertação de Mestrado que foi defendida em dezembro de 2023 na unesa sobre orientação do

professor Dr Humberto Dalla e coorientação do professor Dr Paulo José Torres e eh analisa criticamente a resolução 332 do CNJ e também resultou no meu livro Inteligência Artificial nos tribunais desafios éticos e jurisdição é a minha contribuição ela vai se pautar principalmente em três momentos que norteiam a preocupação ética no desenvolvimento de sistemas inteligentes são eles a elaboração ou arquitetura do sistema no tratamento ou na inserção desses dados e na interpretação dos resultados pelo ser humano no primeiro momento quando a gente fala da arquitetura do sistema a gente precisa assegurar a maior diversidade e inclusão

nas equipes que desenvolvem sistemas inteligentes pra gente poder ter cada vez mais um retrato real da sociedade brasileira essa questão ela já tava prevista na resolução 332 de 2020 e se mantém na Mena atual né proposta pelo grupo de trabalho com a necessidade de equipes com diversidade e interdisciplinariedade seja para pesquisa desenvolvimento e implantação dessas soluções mas entendo que a gente pode ir ainda além e pensar em políticas públicas que Tragam métricas concretas e Claras pra gente poder medir esse Progresso da diversificação dessas equipes por todos os agentes de a de modo que mesmo que

a devagar e a longo prazo a gente consiga mudar um pouco do retrato que a gente tem hoje do mercado de trabalho tecnológico do Brasil em relação ao segundo momento de preocupação ética quando a gente fala nos tratamentos e na inserção desses dados a gente precisa dar prioridade a elaboração de softwares com código aberto para possibilitar uma maior transparência integração e uma interoperabilidade Entre esses sistemas dos tribunais pra gente eh fomentar um desenvolvimento que seja colaborativo e a cooperação não só entre os tribunais como entre os segmentos públicos e privados uma vez que grande parte

desse desenvolvimento muitas vezes vem do mercado privado a gente utiliza softwares privados mesmo que dentro do Poder Judiciário pensando nessa colaboração então que tá estabelecida no artigo 10 da minuta substitutiva a gente pode ir um pouco além e observar aprendendo com a experiência internacional nesse ponto especialmente a experiência chinesa que ela estabelece a padronização dos sistemas encarrega conjuntamente as empresas e os reguladores de criarem então normas para partilha de dados e a interoperabilidade entre esses sistemas públicos e privados ou seja eh estou falando da gente estabelecer os mesmos objetivos para todos os agentes de Inteligência

Artificial sejam eles públicos ou privados paraa promoção de uma colaboração que é cada vez mais necessária nesse desenvolvimento especialmente dentro do Poder Judiciário em ação ao terceiro momento de interpretação dos resultados eh oriundos pelos sistemas pelo ser humano sobre o ponto de vista de utilização dentro do Poder Judiciário a gente precisa realizar cada vez mais capacitações técnicas que tenham um viés crítico voltado aos profissionais dos tribunais que lidam com a aplicabilidade cotidiana desses sistemas eh esse essa questão já foi levantada aqui até na abertura da audiência pública na quarta-feira quando foram trazidos os dados relativos

à pesquisa sobre o uso de Inteligência Artificial generativa que confirmou essa necessidade vinda do próprio dos próprios servidores sobre um pedido de capacitação técnica nesse sentido crítica em relação ao uso ético e sobre essa perspectiva a mina proposta pelo grupo de trabalho também estabelece a necessidade então de Treinamentos e Cap e capacitação desses usuários mas eh a gente pode ir então um pouco além e criar uma obrigação acessória dos tribunais e das escolas de magistraturas que são os órgãos que irão fazer esse treinamento segundo a nova a minuta substitutiva do CNJ para que eles tenham

obrigação de prestação de contas eh sendo administrado pelo comitê de inteligência oficial que é que foi criado a partir dessa nova proposta de redação da resolução 338 com base em tudo isso então nesses três momentos a gente pode observar de uma maneira muito positiva a experiência do Tribunal Regional Federal da Terceira Região quando ele desenvolveu o laboratório de Inteligência Artificial aplicada da terceira região e o grupo de validação ético-jurídicos os projetos do laboratório sobre o ponto de vista da conformidade ética normativa e orienta depois a presidência do tribunal essa experiência ela pode ser utilizada Então

como exemplo tanto paraa elaboração de estruturas semelhantes como medida de governança em outros tribunais diretamente ligado à presidência ao centros de inovação e ao CNJ também aqui no âmbito do comitê de Inteligência Artificial E além disso ela também pode ser prevista no âmbito da plataforma sinaps eh sendo administrada pelo comitê de inteligência artificial como uma função de validação ético jurídica desses sistemas inteligentes que estão armazenados na plataforma sinapse O que poderia permitir então uma dupla validação desses sistemas em um primeiro momento pelo tribunal que desenvolve e depois pelo CNJ de uma maneira geral a a

minuta proposta pelo grupo de trabalho do CNJ ela avança muito em relação ao texto original da resolução 332 de 2020 tanto que estabelece medidas de governança antes não previstas como auditoria a ser realizada por comissões técnicas ou grupos de trabalho mas acredito que a gente possa estabelecer ainda outras medidas como por exemplo estudos Independentes que possam ser feitos por especialistas interdisciplinares interdisciplinares e também a previsão de uma realização de auditoria externa nesses sistemas que estão sendo utilizados e desenvolvidos pelos tribunais a minha contribuição de uma maneira bem suscinta então ela se pauta nesses três momentos

e eu gostaria de agradecer a todos pelo itiva e saudar os pesquisadores que falarão em seguida muito [Aplausos] obrigada agradeço a d sab careto Cavalcante e dando seguimento convidaremos para sua apresentação Dr luí Manoel Borges do Vale da procurador do Estado de Alagoas Procuradoria Geral do Estado de Alagoas 15 minutos com a palavra Doutor Muito obrigado boa tarde a todos antes de tudo quero fazer a minha autodescrição sou homem negro cabelo crespo barba Preta Estou com ter azul escuro e uma gravata azul claro bom antes de tudo quero parabenizar o CNJ por essa belíssima iniciativa

de promover um diálogo interinstitucional para debater o aperfeiçoamento da resolução que tem por objetivo regular o uso da inteligência artificial no âmbito do Poder Judiciário principalmente voltada para os aspectos relacionados ao Novo Olhar que nós temos com a inteligência artificial generativa bom orgulho falar inclusive em nome do Instituto Brasileiro de Direito Processual e também da advocacia pública brasileira e a minha exposição ela dialoga diretamente com esse movimento de redesenho de reestruturação do sistema de Justiça principalmente sobre a ótica das novas tecnologias sobre a minha perspectiva é necessário que nós repensemos institutos jurídicos clássicos processuais principalmente

porque essa tecnologia de propósito geral ela não é utilizada de forma secundária ela promove uma verdadeira rearquitetura e um rearranjo do sistema de Justiça paraa resolução dos seus os conflitos por isso nós precisamos ter um olhar amadurecido e principalmente dialogar com toda a estrutura processual e principalmente com os institutos que estão postos classicamente do no processo e que dependem de uma reanálise principalmente sobre a perspectiva das normas fundamentais processuais da própria execução do sistema de precedentes dos negócios jurídicos processuais e digo isso porque nós vivemos naturalmente sobre o pano de fundo do que eu tenho

nominado de devido processo legal tecnológico eh escrevi uma obra cujo título é teoria geral do processo tecnológico que se propõe exatamente a promover essa reanálise dos institutos processuais isso é importantíssimo porque olhando pro devido processo geral tecnológico que envolve naturalmente a perspectiva de implementação e de uso de novas tecnologias nós precisamos garantir direitos fundamentais processuais que são imprescindíveis nessas circunstâncias principalmente porque Nesse contexto é importantíssimo que nós pensemos que o uso desse tipo de tecnologia moldando a nova forma e A sistemática inclusive deliberativa no âmbito dos órgãos do Poder Judiciário carece de um debate aprofundado

Inclusive a nível cooperativo nós precisamos pensar que temos o modelo comp participativo de processo e esse modelo com participativo de processo exige esse diálogo Mais amplo aberto inclusive para o design relacionado à solução de conflito customizado e maximizado pela utilização da tecnologia dentro dessa perspectiva sinérgica entre homem e máquina e por isso é fundamental e imprescindível por exemplo que nós tenhamos um diálogo cooperativo ou uma construção cooperativa dos sistemas computacionais inteligentes olhando paraa proposta de alteração da resolução nós percebemos que há e uma perspectiva sim de análise interinstitucional porém principalmente apenas nos casos de validação

desses sistemas computacionais inteligentes a posterior mas nós precisamos da atuação dos demais atores do sistema de Justiça nós estamos falando da interlocução com o Ministério Público com a Defensoria Pública com a advocacia seja pública ou privada que são players importantes na construção desse sistema e que se faz fundamental portanto que nós né tenhamos desde a concepção até a aplicação e incidência desses sistemas computacionais inteligentes esse diálogo próprio com as demais instituições de tal forma que se sugere a alteração do próprio artigo 2º para que contemplemos também as demais instituições desde o início da Concepção desses

sistemas para que nós tenhamos Principalmente uma legitimidade da atuação do Poder Judiciário Porque a partir do momento que nós temos esse diálogo essa publicidade de debates isso favorece a legitimidade que é derivada da própria atuação e que exige esse olhar transversal e plural dentro da utilização desses tipos de tecnologia Além disso quando nós observamos o teor da resolução e da proposta de alteração da resolução e acompanhei todos os debates aqui e saldo né esse CNJ pela iniciativa principalmente de ouvir os especialistas para que nós possamos dialogar de forma mais profunda mas a resolução a despeito

de falar e a proposta de contestability mgica entre os órgãos jurisdicionais e os sistemas computacionais inteligentes se nós não temos esse descritivo que é muito importante que concha inclusive da proposta de alteração da minuta Porque sem denificar a contestability temos a possibilidade de interlocução com o próprio CNJ dentro da sua função institucional Inclusive aglutinadora das iniciativas de Inteligência Artificial mas também né diante de situações que diuturnamente são postas no processo como o jurisdicionado pode questionar por exemplo a falta de transparência e explicabilidade que acaba redundando eh em situações que resultam por exemplo da na inefetividade

da tutela jurisdicional ou seja nós precisamos também pensar a contestability inclusive no na própria perspectiva de regulação do uso da ia a nível geral no PL 2338 portanto essa é uma proposta importante paraa inclusão né de uma regulação da cont estabilidade como ela se dará em que medida o diálogo será apenas com o CNJ no processo a parte pode questionar poderemos ter uma discussão sobre o incidente processual de explicabilidade de as né gestadas e utilizadas no âmbito do Poder Judiciário veja que essas questões surgem principalmente diante das últimas pesquisas que dão conta muito da falta

de transparência e explicabilidade dos mais de 140 projetos que hoje temos no poder judiciário relacionados ao uso de inteligência artificial portanto esse capítulo é importante é imprescindível né Nós estamos falando aqui da densificação de um direito fundamental processual que se faz necessário e é deve ser observado no âmbito do processo até mesmo porque né diante dessa utilização massiva alguns resultados não são os mais adequados possíveis inclusive em situações por exemplo que envolvem aplicabilidade a incidência de padrões decisórios vinculantes portanto fica a nossa sugestão de um aprofundamento inclusive que nós encaminharemos eh por escrito para que

nós tenhamos né esse detalhamento sobre a contestability etiva da necessidade de nós termos uma revisão Periódica do dataset ou uma curadoria do dataset da base de dados informacional essa curadoria do dataset e essa revisão periódica ela permite que os sistemas computacionais inteligentes em aluma medida eles eh não reproduzam como já foi discutido aqui eventuais padrões discriminatórios e também né com a revisão periódica dataset nós temos uma aperfeiçoamento do sistema computacional inteligente basta pensar na utilização das ias para né a gestão de padrões decisórios vinculantes nós temos né diuturnamente mudanças de perspectiva na atuação do Poder

Judiciário em relação por exemplo à modulação de efeitos de um precedente vinculante ou a superação Total ou parcial de um precedente de tal forma que essa dentro da ótica da governança a revisão Periódica do dataset e essa esse cuidado com a curadoria ele é imprescindível para que de fato né Nós tenhamos essa aplicação mais assertiva que possa promover uma racionalização da atividade jurisdicional Esse é um ponto importante sobre o ponto de vista inclusive de do recorte dos dados até mesmo para que nós não tenhamos um recorte exclusivamente pro passado né dentro de uma lógica que

se faz eh específica para uma eventual análise preditiva nós temos que ter uma análise e por isso já foi discutido aqui a exaustão a necessidade de termos também uma governança estruturada de dados mas essa revisão periódica e para que essa base de dados que é utilizada inclusive no no treinamento dessas ferramentas ela reflita necessariamente o contexto atual e possa né de fato garantir uma efetividade da tutela jurisdicional dentro dessa dinâmica dessa nova dinâmica e postura de atuação do Poder Judiciário com o uso das novas tecnologias que aqui né são Salutares imprescindíveis e nós não estamos

falando só da Inteligência Artificial né O Poder Judiciário tem se valido de outras tecnologias de propósito geral como é o caso da própria tecnologia blockchain internet das coisas que acabam possibilitando rearranjos inclusive dentro da própria dinâmica probatória Além disso né dentro da nossa proposta eh nós temos ainda a necessidade de indicar para a paraa inclusão inclusive na nossa resolução um ponto que é muito importante Fundamental e que já foi objeto de uma das reflexões aqui trazidas mas quanto a proteção de dados é que nós temos que ter uma avaliação sim de impacto algorítmico mas nós

precisamos concatenar essa avaliação de impacto algorítmico principalmente nas situações em que há uma categorização de alto risco com um relatório de impacto à proteção de dados até mesmo porque nós estamos falando de um processamento massivo nós estamos falando né de uma variedade de volume de dados substancioso e dentro da utilização dessas ferramentas esse olhar cuidadoso e preventivo com os dados se faz imprescindível e Fundamental a gente sabe que a resolução tem essa preocupação com os dados mas nós precisamos né de uma sindicabilidade mais robusta em relação aos dados que são utilizados Principalmente quando há e

esse ponto é destacado na resolução a contratação de eventuais soluções privadas né deve saber se aquela solução privada para sua construção e arquitetura no seu desenho né houve uma preocupação preliminar fundamental com a tutela dos dados pessoais Então esse é um ponto muito importante E além disso né na resolução Ao se tratar dos riscos associados ao uso da Inteligência Artificial ao indicação de que por exemplo nós teríamos um baixo risco associado ao uso da ia em relação à utilização de padrões decisórios vinculantes né ou seja nós estamos dentro e um sistema é que se propõe

principalmente a observar padrões decisórios vinculantes mas nós não devemos partir de uma ótica reducionista principalmente diante da complexidade que se tem estruturada paraa aplicação de um padrão decisórios vinculante E aqui destaco as situações relacionadas aos aspectos fáticos substanciais aos chamados material facts né Será que numa aplicação que pode se tornar e muitas vezes né E defluir para uma subsunção teológica Será que nós vamos dar conta dessa complexidade Insta a aplicação desses padrões decisórios vinculantes e aqui não tô subtraindo a possibilidade de utilizar esses sistemas computacionais inteligentes mas pensar de forma transversal né entender que existe

um alto risco associado Principalmente quando nós temos em mente que nesses casos eh pode existir né podem existir equívocos e nós não podemos se resumir por exemplo a usar como base de dados para tratamento e só somente as ementas ou eventualmente as reduções e linguísticas propostas em teses e eventuais temas Lógico que isso pode ser um ponto de partida mas essa visão ela tem que ser uma visão mais aprofundada para que nós consideremos também inclusive o que tá indicado na própria recomendação do CNJ sobre a elaboração das entas que são os fatos relacionados aos fundamentos

determinantes Ao que se nomina de rasso decident holding e que são os aspectos que de fato vinculam em um padrão decisório vinculante e para encerrar né e destacando que as nossas propostas serão devidamente encaminhadas por escrito com as sugestões né No meu caso especificamente são 12 sugestões eh de melhoria e aperfeiçoamento da nossa resolução é só para destacar um ponto muito importante eh a resolução no seu aporte principiológico ela não destacou por exemplo o princípio do desenvolvimento sustentável e nós sabemos hoje que na utilização de sistemas computacionais inteligentes Há sim né uma preocupação com o

consumo energético substancioso até mesmo para o processamento dessas informações então é natural que nós tenhamos essa inclusão para até associar com as metas de desenvolvimento sustentáveis que são aqui acolhidas no âmbito do Poder Judiciário e por fim quanto à etiquetação ou a indicação eh de que a e a foi utilizada no caso isso é fundamental paraa própria densificação da contestability então eu até proponho que nós eh partamos de critérios de transparências que de Transparência que envolvam a transparência aplicativa a indicação que utilizou e não só nos casos em que há utilização da Ian generativa em

outras situações também a transparência técnica com a condensação mínima e e fácil de ser compreendida sobre o contexto técnico da ferramenta uma transparência do modelo e do Design que é utilizado e uma transparência do resultado essa né indicada na a própria resolução por isso eu agradeço muito o espaço a possibilidade cumprimento também o conselheiro Bandeira de Melo Conselheiro Pablo Coutinho principalmente pela iniciativa de estender né a todos os especialistas aqui o debate fica a nossa contribuição Até mesmo porque tive a oportunidade enquanto procurador do Estado de Alagoas de participar da elaboração da primeira lei do

país a regular o uso da ia na administração pública e muitas dessas preocupações que eu trouxe aqui estão refletidas no nosso diploma normativo que é a lei 9095 de 2 23 Muito obrigado obrigado Dr luí Manuel Borges do Vale agora dando seguimento nós convidaremos para sua manifestação a Dra Samara Castro da secretaria de políticas digitais da secretaria de comunicação da presidência da república com a palavra por 15 minutos Obrigada Conselheiro bom queria começar agradecendo parabenizando mas antes de tudo fazendo a minha audio inscrição eh eu sou uma mulher branca tô vestindo um palitó Riscado com

pérolas uma blusa branca com os cabelos e num coque e queria começar parabenizando o CNJ nas pessoas aqui dos conselheiros Pablo Coutinho Barreto Conselheiro Bandeira de Melo agradecendo inclusive o convite para atque nesse espaço acho que o trabalho que foi realizado por esse grupo é um trabalho super precioso não poderia ser diferente né composto também pela professora Laura cherel pela professora Tainá junquilho e tantos outros especialistas aí de alto nível eh da nossa parte pelo Governo Federal nós temos feito uma discussão em várias ordens da da aplicação da Inteligência Artificial e eu acho que tem

muita similaridade com o que o CNJ tem tentado fazer eu queria colocar aqui acho que alguns pontos que a gente não só tá convergindo como também pode se fortalecer nesse processo primeiro deles é essa preoc passão mesmo com olhar pro processo regulatório e também regulamentar né de alguma forma para dentro de casa então como a gente vai lidar com esses mecanismos paraa nossa própria administração do serviço público prestado e de uma outra maneira também como a gente pode auxiliar no marco regulatório geral e aí também saudar a participação do Conselheiro Bandeira de Melo Nas audiências

que tratavam sobre isso do pl 2338 o governo federal tem estado muito empenhado em olhar para projeto de lei 2338 entendendo que esse Marco paraa Inteligência Artificial ele não só é importante como ele também é urgente dada a necessidade que nós temos de adequar o poder público e também o setor privado eh olhar para como isso vai ser utilizado na academia como isso vai ser utilizado pela pela sociedade como tudo dentro disso eu acho que tem muita similaridade aqueles não só princípio mas também a aquilo que é mais importante dentro do que o CNJ tá

fazendo com o que a gente pensa para essa regulação mais geral a aponto tanto as questões relacionadas à transparência quanto as questões que dão realmente direitos e informações pra população que vai ser afetada acho que tem uma preocupação comum e acho que esse também é o motivo da atualização dessa normatização com o ia generativa quando a gente olha paraa discussão de I generativa muito do que a gente pensa como consequência ainda tá nebuloso eu retorno agora inclusive de Nova York Acabei de participar ali da assembleia geral da ONU e uma das preocupações muito grandes eh

era Justamente a discussão de inteligência artificial em suas diversas dimensões uma delas é pelo uso do próprio poder público e aqui né nos colocamos todos dentro desse eh dentro dessa visão acho que tem uma um avanço aqui na proposta de de normatização que olha pro o uso da ia generativa também para as decisões também ali para pra pesquisa de jurisprudência também pro uso dela numa perspectiva positiva de acelerar e auxiliar aquilo que a gente precisa no nosso judiciário temos um judiciário bastante carregado do ponto de vista de responsabilidades então é óbvio que existe uma vontade

de que esses trabalhos eles não sejam só acelerados aperfeiçoados eh pelo uso de a mas que eles também possam ser aplicados de de uma maneira eh mais adequada mas as preocupações elas são muitas e aponto aqui duas centrais uma tem a ver com a discussão de dados eh não só a proteção de dados pessoais que nós temos também larga já eh normatização legislação mas também a proteção de dados estratégicos pro nosso país que muitos deles também estão nesses processos e acabam sendo a objeto ali do tratamento nessas nessas eh decisões judiciais nesse procedimento como um

tudo então acho que tem um uma preocupação grande que nós precisamos dar para essas informações que estão sendo eventualmente aportadas em Sistemas que não necessariamente são sistemas orientados criados e verificados por nós mas que são necessariamente sistemas que vamos utilizar Então acho que esse é um ponto eh inicial de preocupação e o segundo ponto uma capacidade de que o poder público consiga organizar de maneira mais adequada ah racional a nossa relação com essas empresas desenvolvedoras de Inteligência Artificial especialmente as de de ag generativa não só para que a gente possa padronizar de alguma maneira o

uso disso e dessa forma também padronizar aquelas obrigações sejam as de Transparência sejam aquelas que estão relacionadas às próprias eh informações que nós vamos precisar dar paraos cidadãos como também aquelas que vão orientar os profissionais eh sejam juízes embargadores equipes técnicas na utilização eh da ia especialmente da ia generativa acho que a construção de uma capacidade do poder público inclusive de negociação e de estabelecimento de processos para com a essas empresas que são necessariamente Aquelas que nós vamos eh lidar isso é super importante E aí para eh encerrar acho que dois pontos também muito essenciais

para nós primeiro deles tem a ver com a discussão de Gover e nesse sentido acho que o CNJ já dá o primeiro passo nós temos um olhar muito preocupado com uma governança que priorize valorize aquela expertise setorial já adquirida pelos diferentes setores que podem a aplacar essa expertise também no na discussão de a acho e entendo que o CNJ nesse sentido tem essa expertise acumulada e é sim de sua competência olhar para essa discussão de regulação de inteligência artifici oficial acho que isso vai ficar inclusive mais não só nítido como também com maior capacidade empoderamento

de uma maneira geral com aprovação do pl 2338 o que ajuda inclusive nessa governança geral e na troca de informações entre os diferentes entes que vão ter responsabilidades parecidas o último ponto que eu queria apontar Como contribuição nós temos feito uma discussão bastante intensa que foi objeto a inclusive de um grupo específico de um eixo específico dentro do grupo de Economia digital do G20 que é a discussão de integridade da informação o grupo de Economia digital do G20 ele teve quatro pontos que foram abarcados um deles era parte de a governança digital do Estado transformação

a parte de conectividade significativa e os outros dois pontos uma era a integridade da informação foi conduzido pela nossa área e o outro era Inteligência Artificial esses dois pontos com uma troca muito permanente entre si e com um desafio muito grande de consensuar entre os diversos países que eram membros do G20 e eu acho que algumas lições que saíram dali são importantes que também sejam olhadas para por nós dentro do país e eu acho que uma delas é a própria a próprio entendimento da necessidade da discussão de integridade da informação como um como um princípio

e como uma lógica pela qual a gente utiliza e organiza os nossos sistemas então não deixo Como contribuição também e convoco um pouco o c o CNJ a pensar na possibilidade de acrescentar isso não só como valor mas como essa lógica compreendendo que para que a gente possa ter inclusive decisões eh Justiça nas informações pelas quais nós vamos estar trabalhando com esses sistemas que ainda tem tanto a nos ensinar e que nós ainda vamos ter tantos Desafios que a gente tenha um valor uma ótica pelo qual isso possa ser apresentado então aproveito para agradecer paraben

mais uma vez colocar à disposição todo o trabalho que nós temos feito também para uma troca permanente aqui e seguimos porque eu acho que os desafios estão só começando e Que bom que vocês estão dando esse primeiro passo para também estimular que os outros espaços do poder público façam o mesmo obrigada muito obrigado dout Samara Castro dando seguimento nós convidamos para sua manifestação de forma virtual o Dr Sebastião Tavares Pereira advogado e analista de sistemas com a palavra por 15 minutos Obrigado Conselheiro Pablo Coutinho eh Boa tarde a todos e a todas além do presidente

eu cumprimento os demais membros da mesa e a distância né mesmo não estando presente mando os meus cumprimentos também ao Conselheiro Bandeira de Melo coordenador do grupo de trabalho Agradeço ao CNJ por duas coisas pelo convite pela honrosa seleção para participar do evento e principalmente pela disposição Evidente para usar a inteligência artificial no processo apesar dos muitos cuidados necessários aos expositores eu agradeço pelas lições e alertas já falaram tudo e fica até difícil Inovar e discorrer sem se repetir antes de ir ao tema duas coisas que me chamam atenção até agora me chamaram a primeira

é a vontade de regular o uso e não impedir as inovações isso é gratificante Parabéns ao conselho à presidência do Conselho os demais integrantes do grupo por essa disposição a segunda é que em muitos casos parece-me ouvindo fora e aqui no evento as pessoas nós tratamos aiad doos aprendizes como algo pronto e queremos antever todos os males e todas as virtudes dessa nova espécie de inteligência que anda por aí na terra que eu nem acho seja uma inteligência como diz o conselheiro bandeira de Melo nós estamos na pré-história desta Iá Ela fará 2 anos em

novembro chet GPT é de 2022 estamos ensinando este bebê a andar e se comportar eu vou voltar a esse ponto mais tarde ninguém consegue arriscar um momento para a sua maioridade o importante no entanto é que bem conduzidos e atentos como demonstra esse evento Estamos dando um passo que é decisivo eu vou compartilhar a minha tela para dar um início dar início então ao meu tema o meu tema envolve duas dois conceitos importantes ou duas perguntas queremos juízes autônomos ou juízes autômatos há riscos nesse movimento de um Leviatã tecnologizado para a democracia e para os

cidadãos para fazer uma contextualização eu deveria observar três eixos técnico jurídico e sociológico eh pelo tempo eu vou contextualizar apenas técnica pela trilha do software que é é onde os avanços estão acontecendo o embate de agora no direito o embate de agora no Direito com a tecnologia esse embate aí era bem Evidente em 2007 eu até sugeria um princípio da sub instrumentalidade da tecnologia para reger essa disputa tecnologia deveria melhorar o processo e não distorcer o processo devia ser sub instrumental desculpem o desafio está posto agora né arrisquei em 2008 quatro diretrizes para o sistema

processual eletrônico entre elas máxima automação e máximo apoio ao juiz est no tempo desses dois máximos naquele 2008 mesmo com o processo eletrônico já existia Alguns por aí funcionando ainda havia um imenso buraco negro no entorno do julgador a tecnologia estava avançando em 2012 o pje zarpou aqui de Navegantes mas a inteligência artificial continuava no atoleiro das abordagens clássicas no linguajar do Pedro Domingos 2017 foi marcante o aich vasani E a equipe da Google ai que trabalhavam na tradução de textos descobriram por acaso uma arquitetura algorítmica revolucionária os transformadores os Transformers anunciaram com o artigo

esse que os senhores estão vendo aí em 2018 depois de vasu num artigo intitulado machine learning e o máximo apoio ao juiz eu lancei a ideia que passou a ser possível imaginar para cada juiz um aprendiz os Transformers são a base dos llms em 2020 o Tom Brown e a sua turma da Open noutro artigo seminal language mods are shot learners anunciaram o GPT TR o transformador generativo pré-treino uma ideia deste artigo era matadora separar o conhecimento e portanto o aprendizado em agnóstico conhecimento geralzão e específico a base agnóstica exigia o Big Data muito processamento

de aprendizado e o a especif a especificidade se fazia só com um small dat em 2021 com as visões e promessas deste artigo de Tom Brown e com o gpt3 a ideia de 2018 parecia muito mais próxima né a bola estava com os juristas machine learning nas decisões o uso jurídico dos algoritmos aprendizes tentava mostrar isso o artigo de 2018 é o capítulo 18 desta obra aí o os Transformers de vasan e arquitetônica criativa de Brown e a equipe dele de separação do conhecimento aprendes conhecimento e do aprendizado em agnóstico e específico fez o tempo

de treinamento das neurais despencar especializar algoritmos ficou rápido e mais barato hoje todos temos um GPT para explorar um PDF por exemplo o que estão fazendo os cientistas na da tecnologia neste momento os pesquisadores batalham por iá confiáveis eu estou finalizando uma tradução para o juridique sem matematic que sempre habitam essas pesquisas de uma pesquisa de Oxford sobre alucinações saiu na Nature em junho passado algoritmo que inventa Claro não serve para nós não pode servir tem que ser máquina confiável esta pesquisa mostra o ponto da operação em que o risco de doideira aumenta e é

preciso mandar o algoritmo parar eles utilizam a entropia semântica classificação clustering eh baseada em implicação bidirecional são muitas as lições do trabalho dele sobre a caixa branca da ia sobre o aprendiz que é um algoritmo clássico com pura manipulação de símbolos simbólica sem nada entender os significados ganham vida na Inteligência Artificial a prova do argumento do quarto chinês de serle foi feita com essa com essa ferramenta apenas um milagre matemático probabilístico agora os técnicos falam em extrair dos dados trajetórias definitivas reasoning os Racionais O Aprendiz transforma isso em esquemas de generalização milhões de funções à

base de conhecimento dele e se torna um observador de segunda ordem conforme a teoria lumana lá na introdução à teoria dos sistemas ele pode ser um assistente de Juiz como o Assis do Rio de Janeiro capaz de olhar processos com o racional do Juiz a que ele assiste como sempre os desenvolvedores bolam aplicações com essas ferramentas Há muitas no mercado o PJ como sempre também vai incorporá-las é disso que este maravilhoso grupo de trabalho está cuidando agora que não se trata mais de apenas gerir documentos e fluxos mas em ajudar os decisores uma área muito

mais perigosa agora eu gostaria de olhar o processo nós temos de fazer um exercício de autocompreensão da nossa tecnologia ferr Júnior para absorver a inteligência artificial sem desnaturar os valores seculares do processo o diagnóstico mostra um acervo de mais de 80 milhões de processos e isso nos tira o direito de titubear nós temos de avançar Eu Li em algum lugar que certa vez perguntaram ao simor papert o que ele achava do método de aprendizagem descrito por Pag E se ele sugeria alguma melhora e ele respondeu ó o método é perfeito não há nada para corrigir

nós só podemos acelerar ele Pois é como todos aqui eu acredito no processo e acredito na possibilidade de acelerá-lo com a i ele está precisando está necessitado né de uma alavancagem cognitiva E Agora Nós temos as ferramentas à mão para fazer isso para dar esse passo eu fiz um exercício de de autocompreensão do sistema processual nos Capítulos 13 a 15 do livro meu livro e começo com sair da sala eu acho sei cadê Aqui desculpem desculpem eu tive um problema aqui acho que eu apertei o o botão errado tá eu enuncio voltando eu enuncio um

um axioma da substituição nós nos enganamos muito com essa ideia a gente tende a pensar que substituir numa relação numa relação de um para um e entra sai um entra o outro essa noção está errada o axioma do monoo e ele é uma consequência disso um algor um algoritmo pode substituir milhares milhões de sistemas psíquicos a lógica da substituição implicaria o desaparecimento de muitos juízes staffs estruturas eh haveria um desmonte do sistema e o que nós iríamos perder com ISO né Essa lógica da substituição implicaria também o risco de um único algoritmo juiz e um

foro único eh que iria dizer o que é o direito iríamos para um tempo em que um algoritmo boca da Lei diria o que é o direito isso nos leva a três leis que eu também trato A primeira é a lei da variância nós temos uma base imensamente variante isso é um linguajar ís e portanto eh para os técnicos essa nossa base de de aprendizado é uma bagunça a tecnologia não dá conta disso eh O Aprendiz tem que não tem como traduzir Essa realidade de dados em eh funções algorítmicas essa característica é a expressão dos

valores da pluralidade do livre convencimento da autonomia do juiz aí tem uma outra lei que eu enunci O que é a lei da tendenciosidade quando nós tomamos um juiz um órgão colegiado na mesma composição existe uma coerência sequencial e ética que é um padrão e que pode ser captado pelo algoritmo aprendiz e traduzido para uma base de conhecimento para aplicação e finalmente tem uma terceira lei também que eu menciono que é a lei do fator hermenêutico hermenêutico que implica um respeito às três Funda os três fundamentos do processo a preservação do sistema dos seus valores

a resistência é uma central autocrática de autoridade e um uso jurídico do machine learning nas decisões portanto apesar da ia com o direito no comando a tecnologia é mantida no seu lugar sub instrumental e pode nos instrumentalizar para fazer os avanços dos quais nós tanto precisamos parabéns mais uma vez ao CNJ e ao grupo de trabalho e aos expositores por este histórico trabalho que está sendo feito [Aplausos] obrigado obrigado pelas suas contribuições Dr Sebastião Tavares Pereira em seguida eh convidamos o Dr Sérgio amade da Silveira consultor da fenajud com 15 minutos a palavra eh eu

vou começar com a minha autodescrição eu sou um adulto eh de baixa estatura tô com terno cinza gravata difícil de qualificar meio xadrez camisa listrada e enfim é um prazer est aqui eu cumprimento muito o CNJ agradeço muito pelo convite pela escolha e cumprimento o conselheiro Pablo Coutinho Barreto Conselheiro luí Fernando Bandeira de Melo a quem parabenizo também pela condução da desse grupo de trabalho e eu queria dizer que eu represento a Federação nacional dos trabalhadores dos Judiciários estaduais eh e eu vim aqui para trazer basicamente três contribuições né Eh vamos ver se eu consigo

operar aqui essas três contribuições eu tive a gente teve que escolher porque o trabalho de regulação no judiciário da Inteligência Artificial é bastante amplo e e nó eu vou concentrar nesse tempo que eu tenho efetivamente em três questões a importância da soberania digital e de dados a importância da participação dos trabalhadores E se for possível vou trazer algumas questões sobre discriminação e vieses bom então eu preciso colocar o cenário antes e esse cenário é muito importante para que fundamente a argumentação primeiro lugar é preciso deixar claro que os Estados ações e Seus Poderes eles estão

sendo desafiados pelo alcance global de infraestruturas computacionais ou por redes de comunicação controladas efetivamente por oligopólios digitais E essas infraestruturas elas são hoje responsáveis por aquilo que eu nomeio como ia realmente existente a ia realmente existente eh onde a ia generativa é uma das as possibilidades ela pode ser resumida em Sistemas automatizados baseados em estatística probabilidade predição que extraem padrões de dados a partir do seu processamento em infraestruturas de altíssimo poder computacional Então na verdade se eu fosse traduzir rapidamente uma linha de montagem do que a gente chama de aprendizado de máquina que é o

paradigma principal hoje da inteligência artificial eu diria que nós trabalhamos com dados trabalhamos com algoritmos organizados em arquiteturas e isso produz modelos Só que essa trajetória ela só é possível com alto poder computacional então o que que acontece os dados são o insumo fundamental da ia generativa e da ia realmente existente bom o os large language mod são na verdade baseados em dados e muitos dados vamos pegar um deles o chat GPT e Su a própria Open ai o gpt3 mostra que ele teve como base de dados 590 bilhões de textos que depois são convertidos

em tokens 590 bilhões de testos de um treinamento de mais de 4 meses de máquinas de auto processamento isso nos coloca na seguinte situação não há uma universidade BR brasileira com máquinas disponíveis para fazer isso então o que que acontece os oligopólios digitais eles tentam controlar os dados as infraestruturas de treinamento e processamento dos modelos de a os provedores de nuvem eles não são simplesmente hospedeiros eles são infraestruturas geopolíticas com gigantesca capacidade de mediação interferência e dinâmica dos seus usuários em especial dos Estados tecnodependencia [Música] modelos de aprendizado de máquinas significativos nós temos o seguinte

eh desde 2014 quem comanda esses modelos e quem está fazendo os modelos mais avançados são exclusivamente as bigtec a universidade não está mais na ponta do desenvolvimento da ciência chamada Inteligência Artificial Por que que isso é grave Isso é uma reclamação de trabalhadores do Judiciário não isso tá preocupando as Universidades do planeta inteiro há uma privatização da pesquisa da Inteligência Artificial Então na verdade nesse cenário se a gente olhar os papers mais importantes nós estamos falando que eh essas empresas estão colocando o desenvolvimento da chamada do chamado aprendizado de máquina num elevado patamar que nós

não estamos conseguindo acompanhar Então veja bem o gpt3 possui 175 bilhões de parâmetros e o que que acontece isso é 570 GB de texto treinado durante meses o gpt2 um ano e pouco antes tinha o quê era 100 vezes menor el tinha 1.5 bilhão de parâmetros E aí você fala e o GPT 4 ele gastou 78 Milhões de Dólares em computação e o Gemini Ultra do Google gastou 191 milhões de computação como é que a gente calcula isso isso é muito simples é que se o a estrutura do Google fosse vender a hora máquina que

foi utilizado para treinar o gemina custaria 191 Milhões de Dólares então nós estamos falando que o treinamento de um modelo simples ele de llm pode ser feito num computador ou em poucos computadores mas se você tá falando dos grandes modelos de linguagem nós no Brasil não estamos sendo capazes de enfrentar esse desafio bom aí o que que isso nos coloca isso nos coloca que é muito complicado que provedores de nuvens se tornem infraestruturas geopolíticas com interferências nas dinâmicas dos poderes do estado é muito perigoso isso então essas dinâmicas elas precisam estar sob controle democrático e

público e aí o que que acontece se você ver hoje o o mercado de armazenamento de dados você tem cinco empresas que concentram 81.2 por dos dados da infraestrutura como serviço no planeta e se você pegar no ano de 2022 o provimento de nuvem Como infraestrutura 61% estão concentrados em somente duas empresas aliás que são amplamente usadas no estado brasileiro e o estado brasileiro tem muitos dados muitos dados que é o insumo fundamental da Inteligência Artificial mas por exemplo até a gestão anterior do executivo que que ele fazia com os dados de 1 milhão de

servidores públicos civis e militares e pensionistas brasileiros entregava transferia internacionalmente os dados E aí eu vou ler só por quê Porque tal armazenamento tinha o propósito nos termos de uso do soov tem o propósito de prover o aprendizado de máquina da ferramenta de chat denominado Watson ou seja usávamos os dados servidores públicos civis militares brasileiros para treinar uma ferramenta em língua portuguesa de uma empresa onde os dados eram levados para fora do país ou seja esse cenário coloca a necessidade do Judiciário observar na sua resolução a importância da soberania digital a soberania digital é mais

do que a soberania do estado é compreender que nós temos que ter a capacidade de governar controlar as tecnologias indispensáveis à nossa autodeterminação a proteção de direitos e a sua inventividade Então na verdade eh da onde vem o termo soberania digital não vem Da Lógica hesi ela vem principalmente da ideia da soberania alimentar que nasce nos anos 90 com o movimento campesino e hoje está assumida até pelo Banco Mundial nós precisamos também ver a soberania de dados indígena que nos inspirou a falar da soberania de dados a soberania de dados é fundamental para que o

poder judiciário tenha condições de poder continuar sendo autodeterminado portanto esse termo soberania tem em disputa a orac lançou a nuvem Soberana e a Microsoft lançou e a Amazon lançou também então a soberania eh ela ela precisa se materializar em coisas concretas e aí a gente tem eh a fena jud traz a seguinte reivindicação que os tribunais e órgãos do Judiciário brasileiro não possam armazenar dados fora da nossa jurisdição segundo que os dados estratégicos sensíveis do Poder Judiciário brasileiro não possam ser utilizados para treinar modelos de a generativo ou não para empresas sobre o controle de

capitais estrangeiros que os dados considerados estratégicos não possam estar sob o controle ou guarda de empresas transnacionais que tenham notórios interesses econômicos e políticos e geopolíticos no país e que a soberania digital e de dados seja inserida como o princípio e fundamento das resoluções do Conselho Nacional de justiça por fim eu só queria mostrar uma imagem que tá acabando o meu tempo essa imagem parece de a imagem do mundo Industrial Mas não é isso é do data center do Google do The dos isso não é fumaça isso é vapor de água esse data center ele

tem uma estrutura de gasto de energia um data center de Hi per escala que é de 255 milhões de galões de ar no ano de 2022 ou seja nós estamos falando hoje que a inteligência artificial baseada em dados ela tem um gasto de energia insustentável insustentável ela já é na verdade já ultrapassou o gasto o efeito estufa o efeito de emissões de carbono da Aviação Civil então o poder judiciário tem que se preocupar com essa insustentabilidade desses modelos e a fenajud propõe que a gente tenha um tratamento de impacto ambiental nessa decisão do CNJ é

preciso que esse Impacto seja calculado a cada 3 meses e a cada 3 anos desculpe E aí o que que acontece vem a seguinte questão os empregos 60% deles segundo o relatório do FMI lançado em janeiro desse ano estão expostos à Inteligência Artificial nos países avançados e 40% nas economias como a do Brasil só que o jud ele é internamente falando é comparável a uma economia avançada porque ele tem trabalhos cognitivos os empregos estão expostos à Inteligência Artificial Se você pegar a ordem executiva do presidente dos Estados Unidos lançado pelo biden 2023 essa que eu

coloco na imagem ele tem um trecho onde ele diz é preciso envolver os trabalhadores e sindicatos nos projetos de desenvolvimento e uso de a Então veja eh a fenajud reivindica que exista comissões para a implementação de a nos tribunais e que os trabalhadores possam participar dessas comissões E isso não é só porque os empregos estão expostos isso é porque o trabalhador do Judiciário ele tem a competência e ele tem a capacidade de fazer o contato cotidiano não só com os juízes mas também com a população nesse sentido é preciso que você tenha um projeto de

incorporação desses trabalhadores e de participação na implementação da ia os tribunais que forem utilizar e desenvolver adquirir ia devem apresentar um relatório dos impactos das atividades nos postos de trabalho esses impactos eles podem ser aferidos mas esses impactos também podem redundar em treinamento em formação em mitigação que são fundamentais para que a inteligência artificial esteja a serviço do conjunto do Poder Judiciário Então na verdade nós achamos que é possível fazer também a responsabilidade Todo projeto de a no tribunal o CNJ poderia avaliar a inserção de uma Norma teria que ter uma responsabilização no mínimo no

mínimo um responsável pela impl a desses projetos e eu termino dizendo é notório porque já foi muito falado aqui com muita propriedade nesses dois dias esse é o terceiro dia eh da questão do viés da questão do erro da questão das alucinações eu teria algumas questões para falar mas eu vou me limitar a defender que não existe só viés de dados existe viés histórico e existe viés algorítmico não é possível fazer um machine learning que projete o futuro porque ele sempre vai ser extração de dados Ele sempre vai extrair numa base de dados e a

base de dados ela tem 1000 problemas bom o caso que inclusive já foi citado aqui hoje do Compass ele mostra claramente um tipo de viés mas tem outros uma das coisas que é mais bem feita pelo machine learning é a compressão que é muito difícil discutir em segundos mas a compressão ela é que é o principal elemento pras alucinações estatísticas e portanto pros erros que a gente vê Então na verdade a gente precisa ter sim um relatório de impactos Precisamos sim ter algo que permita que a gente faça previsões e tenha responsável eh pela mitigação

desses efeitos nefastos eu termino por aqui muito obrigado pela possibilidade de apresentar essas ideias da fenajud obrigado agradeço as contribuições Dr Sérgio Amadeu da Silveira e já convido para sua manifestação a Dra Silvia Piva advogada Doutora pesquisadora com a palavra por 15 minutos muito boa tarde aos presentes vou iniciar com a minha autodescrição eu sou uma pessoa de estatura baixa e estou usando um terno marrom óculos e cabelos presos eu inicialmente eu vou cumprimentar o trabalho do Conselheiro Bandeira de Melo cumprimentar o conselheiro Pablo Coutinho a Dra Laura Porto foi minha colega no Instituto legal

grounds eh eu eu vejo como uma iniciativa absolutamente incrível do Judiciário brasileiro Pois Enquanto pesquisadora e também atuante porque sou advogada vejo que a inovação tecnológica para o meio jurídico virá do Poder Judiciário e essa é uma iniciativa louvável de trazer uma resolução uma atualização da resolução dentro desse contexto eu enquanto pesquisadora eu vou me me localizar aqui pros senhores inclusive para o Dr Thiago que acabou de chegar eh eu sou pesquisadora da cátedra Oscar sala que tem sob coordenação o professor Virgílio Almeida eh e também sou professora do programa nacional de da infan de

escola nacional de formadores da magistratura Federal e também dos laboratórios de inovação e tenho ajudado magistrados no uso da ia generativa então eu fico muito feliz quando eu ouço meus colegas anteriores falarem muito da necessidade de capacitação Pois é isso realmente que vai fazer a diferença nessa jornada de aprend aprendizado dos magistrados eh eu trouxe aqui três princípios que ao longo da própria resolução foram muito abordados e que são os os princípios que dentro da cátedra nós temos trabalhado muito pelo professor Virgílio Almeida que é o princípio da Transparência da ca ility e de fairness

que é justiça countability de responsabilidade todos esses princípios foram amplamente trazidos na resolução de modo que a minha contribuição ela passa a ser muito mais específica sobre os artigos e aqui jamais no sentido de crítica porque o trabalho de redigir artigos ele é extremamente árduo e ele exige um um um nível de detalhamento que só quem está fazendo sabe mas mas eu quero eh no caso contribuir com a inclusão de algumas palavras menções nos textos colocados na na proposta da resolução a primeira delas eh estaria dentro do artigo 2 A né que diz que vários

princípios devem ser observados na governança dos sistemas dentre eles o princípio do devido processo legal e a minha primeira sugestão é incluir uma uma uma expressão adicional que o meu colega Luís Manuel inclusive mencionou que é sobre o devido processo tecnológico então a ideia seria incluir o inciso C no artigo 2 A deste eh artigo Para justamente contemplar o devido processo tecnológico e aqui cabe um uma parte falar que além do conceito trazido pelo livro do meu colega anterior luí Alves o devido processo tecnológico é um conceito trazido pela professora Daniele citron da Universidade da

Virgínia que vai adaptar o conceito do devido processo legal dentro do contexto das decisões automatizadas então toda vez que sistemas automatizados possam tomar decisões sejam eles com utilização da Inteligência Artificial ou não deve ser dado ao cidadão o seu direito de contestar isso porque neste momento nós podemos imaginar que o uso da inteligência artificial no judiciário chega cheia de responsabilidades mas ao mesmo tempo nós eh Devemos pensar que a iá e a i a generativa avançam numa velocidade imensa e talvez daqui um tempo essas decisão decisões automatizadas possam ser pouco questionadas então a relevância de

se incluir o devido processo tecnológico neste inciso traz Justamente a possibilidade de que os jurisdicionados possam corrigir ou buscar corrigir os erros na tomada de decisão automatizada eh ao mesmo tempo a nossa temos que colocar que hoje existe um limite muito grande paraa explicação dos sistemas de a existe um momento em que os sistemas eles passam a não ser explicáveis muito pelo contrário eles passam a se tornar cada vez mais opacos só que este limite também pode ser colocado dentro da resolução porque os limites da explicabilidade também podem ser explicados então é uma forma também

de trazer no texto até onde o poder judiciário vai poder explicar como como determinado sistema atua Eu também eh acho muito interessante que se inclua dentro do artigo quto em direitos fundamentais também a expressão devido processo tecnológico por quê Porque vai trazer a importância de proteger os cidadões dentro dos cidadãos dentro dessas decisões automatizadas de uma maneira consciente também o artigo 7 parágrafo sego nas medidas corretivas de contestação embora o parágrafo segundo do artigo sétimo mencione né Já a necessidade de se adotar medidas corretivas em casos de vieses o texto ele não vai detalhar como

essas medidas vão ser realizadas e aqui novamente faço menção ao meu colega eh luí Borges que trouxe aqui todas as menções a necessidade de um acesso do jurisdicionado a um portal seja ele por meio do CNJ seja meio por uma via incidental processual Processual incidental por quê Porque o CNJ precisa prever uma via para que o cidadão traga a possibilidade de questionar essa decisão ainda vale mencionar o artigo 18 a garantia do direito de revisão que já está estabelecida na resolução mas eu proponho a inclusão de um novo parágrafo para garantir de forma explícita o

direito de contestação de usuários externos e aqui uma sugestão de redação eu vou ler mas posso enviá-la os usuários afetados terão garantido ao direito de contestação podendo a qualquer momento questionar des automatizadas que os afetem Com base no princípio do devido processo tecnológico o questionamento deverá ser realizado por meio de acesso a uma plataforma digital do CNJ que forneça uma linguagem clara e simples e permita a possibilidade de revisão da decisão com supervisão humana no Artigo terceiro por sua vez eu gostaria de já que falamos aqui sobre supervisão humana que a supervisão humana que é

um conceito muito amplo pudesse ser eh elucidada e aqui que a ideia de supervisão humana seria a avaliação intencional da qualidade das respostas pelo magistrado No que diz respeito à sua consistência veracidade e técnica correta porque quando nós deixamos apena apenas a expressão supervisão humana Nós deixamos a ideia de que sim eu tenho uma responsabilidade mas nessa jornada que eu tenho passado com a capacitação de magistrados a supervisão humana ainda ela se torna muito abstrata então colocar avalia intencional da qualidade da resposta é extremamente importante no artigo oavo por sua vez eh eu sugeria aqui

com toda a licença que a composição do comitê de Inteligência Artificial pudesse seguir o que está previsto no parágrafo qu do artigo 20 que seria trazer a composição também de um núcleo multidisciplinar que possa apoiar as decisões Talvez o comitê em termos decisórios a a o protagonismo deve ser da magistratura e do Judiciário mas talvez um órgão consultivo que possa opinar nessas melhorias eh por fim num Capítulo específico sobre o uso individual da Inteligência Artificial Na verdade eu acho que seria muito importante trazer um capítulo específico sobre isso afinal de contas os magistrados T feito

a utilização com as suas contas particulares contas privadas eh não vejo isso nenhum problema desde que sai se saiba a finalidade do uso e conforme foi colocado pelo professor Juliano Maranhão no primeiro dia 83% dos Servidores usam a IAG generativa então um capítulo específico para isso seria extremamente importante ao mesmo tempo eu entendo pela necessidade de retirada do parágrafo terceiro deste artigo que fala sobre a necessidade de constar que foi utilizada a inteligência artificial eu acredito que isso não colabora não estimula a utilização da Inteligência Artificial algo que eh essa resolução busca inclusive incentivar eh

Eu também entendo pela necessidade de trazer orientações Claras sobre a criação e a utilização de Agentes de inteligência artificial no judiciário hoje cada vez mais o próximo passo da EA generativa É permitir que nós criemos nossos próprios agentes e talvez contemplar a possibilidade de criação de Agentes pelos magistrados a partir de determinadas balizas também possa já trazer uma elucidação de um momento que nós já estamos vivenciando já vejo magistrado querendo criar os seus próprios agentes inteligentes por fim eh seguindo essa própria orientação né da do CNJ e apesar da dificuldade de entender que não É

simples falar de Inteligência Artificial Inteligência Artificial talvez nunca seja simples o CNJ tem preconizado um movimento muito importante não só no judiciário mas em todo o direito nacional que é para a promulgação a propagação da linguagem simples Então por mais que essa resolução seja direcionada aos ao judiciário e ao seu uso o cidadão também eh será muito importante para que ele entenda essa disposição isso vai garantir legitimidade pro poder judiciário para um uso adequado da Inteligência Artificial vai conferir segurança e confiabilidade de que a justiça é um órgão que sabe utilizar a inteligência artificial para

o bem da sociedade e com isso então eu eh pugno né finalmente com sugestão para que se compreenda eh a linguagem simples se coloque a linguagem simples também como um objetivo dessa resolução então por isso agradeço mais uma vez a oportunidade de estar aqui e agradeço mais uma vez também ao trabalho da comissão por esse excelente trabalho muito [Aplausos] obrigada muito obrigado pelas suas contribuições D Silva Piva gostaria de saudar o conselheiro cnmp mo rei filho que abrilhante essa audiência pública com a sua presença e já passo a nossa última manifestação do dia a palavra

a doutora Pain do painel antecipei aqui a Dra Paula Guedes Fernandes da Silva advogada e pesquisadora está com a palavra por 15 minutos Olá boa tarde bom começando com a minha áudi descrição sou uma mulher branca de cabelos escuros tô com uma blusa verde um cordão e é um privilégio est aqui falando com vocês hoje bom Como já foi falado né Eu sou advogada sou doutorando em EA e direito pela Universidade Católica do porto pesquisadora do núcleo legal terap Rio especialista em governança de ia e hoje falo enquanto consultora do programa de ecossistema de tecnologia

de informação e comunicação da artigo 19 Brasil que é uma organização que defende e promove liberdade de expressão e direitos de acesso a informação como essenciais paraa concretização de outros direitos fundamentais no Brasil entendendo a transparência como mecanismo de regulação e controle democrático de novas tecnologias dentre as suas atuações áreas de atuação além da Transparência destaca-se um direitos digitais e a participação democrática elementos diretamente relacionados com a pauta de desenvolvimento governança e utilização de sistemas de Inteligência Artificial pelo Poder Judiciário brasileiro dito isso eu queria agradecer pela oportunidade de estar aqui nessa audiência pública hoje

e bom para iniciar a minha fala eu gostaria de parabenizar o Conselho Nacional de Justiça pela instituição do grupo de trabalho sobre inteligência artificial no poder judiciário pela iniciativa de atualização da resolução 332/2020 e pela instituição dessa audiência pública que é um mecanismo essencial uma democracia participativa Como já foi falado anteriormente pelos colegas a inteligência artificial já é uma realidade que é permeada por muitos benefícios especialmente para o poder judiciário pode pode atuar como grande aliada no aumento da produtividade na justiça mais efetiva e com mais qualidade Contudo não podemos desconsiderar Os muitos riscos que

existem na utilização não regulada dessas ferramentas em especial no contexto sensível do Judiciário brasileiro de quem tem acesso à justiça no nosso país por isso é fundamental olhar a inteligência artificial a partir de suas potencialidades de forma a não demoniza mas também não entender a tecnologia como solução de todos os nossos problemas a partir de uma visão meramente tecnos soluciona hoje é evidente como o judiciário brasileiro está empenhado com a adoção dessas tecnologias seu dia a dia de acordo com a pesquisa uso de inteligência artificial no poder judiciário do CNJ lançada em junho desse ano

94 órgãos Judiciários já possuem projetos de inteligência artificial com mapeamento de pelo menos 140 projetos Até 2023 que foi um aumento de 26% em comparação com o ano passado com o ano passado com 2022 diante desse grande interesse no desenvolvimento e utilização de Inteligência Artificial pelo Judiciário é de extrema importância falarmos em sua regulação e por isso parabenizo o CNJ por desde 2020 já contar com resolução 332 que dispõe sobre ética transparência e governança da produção e produção e no uso de a no poder judiciário porém assim como aconteceu com o projeto de lei in

tramitação no Congresso Nacional houve um maior desenvolvimento do entendimento do tipo de regulação que melhor se adequa ao sistema de Inteligência Artificial além de mudanças no próprio cenário tecnológico por exemplo com a disponibilização de uso Geral de sistemas de inteligência artificial generativa em novembro de 2022 que faz com que seja essencial a atualização das normativas de 4 anos atrás como é o caso da a resolução 332 já adentrando especificamente nos pontos da minuta que atualiza a resolução gostaria desde logo de elogiar que ela tenha sido centrada na ideia de Transparência sobre desenvolvimento e uso de

sistemas de Inteligência Artificial nesse sentido já falar que a defesa da Transparência direito de acesso à informação e prestação de contas serão pontos centrais da minha fala e da contribuição do artigo 19 como vou aprofundar mais paraa frente ainda quando falamos em governança e regulação de Inteligência Artificial o cenário ideal é que as iniciativas não devem acontecer em isolamento entre entre os três poderes e por isso é elogiável que a minuta tenha similaridade com o atual projeto de lei 2338 de 2023 a autoria do presidente do senado federal Rodrigo Pacheco que atualmente está em análise

na comissão temporária no senado dentre as convergências positivas entre a minuta e o PL 2338 gostaria de enfatizar as seguintes primeira adoção da abordagem baseada em risco com foco principal na proteção dos direitos fundamentais segundo a categorização de riscos com expressa menção dos casos de risco excessivo a segurança da informação direit fundamentais dos cidadãos e independência dos magistrados e por isso são vedados terceiro a utilização das mesmas definições do pl 2338 que facilita a interpretação e a implementação sistemática entre as futuras regulações quarto a inclusão de mecanismo de atualização do hall de riscos o que

garante que a regulação se mantenha atual mesmos com os rápidos avanços nos sistemas de Inteligência Artificial e quinto a previsão de instrumentos de governança compatíveis com o que é proposto no projeto de lei em especial a obrigação de sistemas de i de alto risco de passarem por avaliações de impacto algoritmo inclusivas prévias e contínuas feitas essas necessárias indicações dos acertos da minuta gostaria de voltar a minha fala agora para alguns elementos que entendo que eles possam ser melhorados no texto em primeiro lugar considerando que a relação entre estado e seus cidadãos é inerentemente assimétrica uma

vez que o estado detém maiores informações e poder sobre seus cidadãos é indispensável o reforço das obrigações de governança do Judiciário para que haja maior equilíbrio do fluxo informacional por meio de um olhar cuidadoso para a efetivação de medidas reforçadas de Transparência acesso à informação e prestação de conta contra o desenvolvimento contratação e uso de ferramenta de Inteligência Artificial pelo Poder Judiciário É nesse sentido que dispõe o artigo 25 e determina que todas as soluções adotadas deverão assegurar Total transparência na prestação de contas dito isso reforço que as obrigações de Transparência ativa e passiva do

Poder do setor público em especial do Poder Judiciário são considerados requisito prévio para que os cidadãos possam exercer outros direitos no curso do processo judicial inclusive direito de revisão de decisões por isso o Capítulo 5 e s da minuta que tratam respectivamente da Transparência registro no sinapse e do controle do usuário são necessários nesse ponto menciono a já referenciada pesquisa do CNJ no âmbito da Justiça 4.0 e constatou que de 140 projetos de Inteligência Artificial atualmente existentes no âmbito judiciário apenas 37 estariam hospedados no sinapse o que reforça a necessidades que a obrigação de publicação

de informações dos sistemas no registro público de sinaps esteja no texto da minuta Além disso ainda no tópico de necessária Transparência reforça fala de outros expositores dessa audiência como a Dra Isabela bitencur e Ana Carla de que para além da mera transparência os sistemas de a adotados pelo Judiciário devem ser explicáveis no que diz respeito às suas respostas não propriamente ao modelo em si e que isso deve ser feito em linguagem acessível e inteligível que é uma das medidas de governança listadas no inciso sétimo do artigo 7º F essas medidas de Transparência ativa e passiva

e de explicação são essenciais para que a prestação de contas efetiva do Poder Judiciário na doção de sistema de Inteligência Artificial o dev ser complementado por outros instrumentos como as já mencionadas avaliações de impacto algoritmo para os casos de alto risco e auditorias expressamente mencionadas no Capítulo 9 da minuta que pode ser melhorado inclusive com a previsão de auditorias Independentes ainda no âmbito da prestação de contas e transparência Saúda o artigo 24 e determina a utilização preferencial de software de código aberto pelos modelos de an no judiciário nesse ponto sugiro também a retirada do termo

preferencialmente para que a Regra geral dos modelos desenvolvidos utilizados pelo Judiciário seja de código aberto de forma a realmente possibilitar a obtenção de maior grau de transparência e cooperação com a sociedade civil ainda para que haja maior legitimidade na atuação do Poder Judiciário é importante que haja ampliação dos canais de diálogo e participação na sociedade como foi reforçado pelo colega Tarcísio Silva e pela ministra Edilene Lobo por isso recomendo a inclusão do princípio da governança participativa no artigo 2 A além da inclusão de mecanismo de participação pública durante o processo de governança como na elaboração

de avaliações de impacto e na criação das propostas de atualização das hipóteses de categorização de riscos essa inclusão permite maiores ex clinos públicos no processo de tomada de decisão desenvolvimento uso contratação e governança de sistemas de no judiciário o que garante maior legitimidade e supervisão democrática da atuação no judiciário brasileiro além de garantir que os sistemas de a sejam mais adequados para as realidades sociais em que serão implementados com especial atenção para os grupos vulneráveis somado a isso modelo de regulação de sistemas de no judiciário seja construído em alicos Democráticos é fundamental Não só antir

a participação social nas obrigações de governança mas também nas próprias configurações institucionais por isso julgo como indispensável que assim como já mencionado por alguns outros colegas como a Fernanda Rodrigues hoje mais cedo que h o estabelecimento de um comitê de especialistas e que dentre os membros do comitê de inteligência artificial no CNJ haja pelo menos alguns vindos da organização da sociedade civil e da academia e que essa inclusão leve em consideração a multidisciplinariedade além de respeitar critérios de representação de raça gênero e região Além disso apesar do texto da minuta trazer como princípio no artigo

2 a a justiça a Equidade e a não discriminação abusiva ou ilícita além do capítulo três específico sobre não discriminação H ainda alguns caminhos para que haja Expresso compromisso com combate a todas as formas de discriminação que deve ser vetor interpretativo no desenvolvimento e no uso de sistemas de inteligência artificial para isso por exemplo sugiro assim como fez o PL 2338 a inclusão de da definição de discriminação indireta com base na convenção interamericana contra o racismo que foi internalizada no oramento jurídico brasileiro eh pelo decreto 10900 32 como com estatus de emenda constitucional além da

criação da obrigação Expressa de que todo desenvolvimento e uso de sistemas de Inteligência Artificial seja feito com base nos protocolos para julgamento com perspectiva de gênero e na Perspectiva étnico-racial como bem pontuado pela ministra gilene lobo na sua fala de quarta-feira no que se refere a categorização de riscos é importante que haja inclusão no R de riscos excessivos no artigo 7B as soluções de a que sem supervisão humana tomem decisões materiais ao menos daquelas que afetem de forma significativa direitos fundamentais a delegação de decisões judiciais de mérito para sistema de a viola uma série de

princípios constitucionais processuais como do juizo do juiz natural em parcialidade motivação das decisões judiciais e paridad de armas além de próprios direitos fundamentais já que a máquina é no estado atual da arte incapaz de fazer avaliações éticas de raciocínio humano como causalidades e contra contrafactuais que vão além de escolhas técnicas isso sem mencionar Claro as violações das competências indelegáveis de servidores públicos judiciário sujeitos a deveres de responsabilidades específicos esses pontos foram muito bem pontuados pela Fala da professora Ana Frazão também ontem eh Outro ponto que eu gostaria de pontuar já nos finalmente relaciona-se com o

uso e contratação de modelos de linguagem de linguagem de larga escada osms e de sistemas de generativa pelo Poder Judiciário segundo a recente lançada pesquisa sobre utilização de a generativa eh na justiça brasileira apresentada pelo senhor Juliano Maranhão na manhã de quarta-feira atualmente por volta de 50% dos magistrados e servidores já utilizam essas ferramentas e a a maioria de forma individual em versões abertas com considerável uso para atividades no tribunal um dos pontos que acabou de ser mencionado também pela minha colega anterior foi que as viag generativas e sua utilização pelos servidores 83% dos casos

não há informação eles não informam sobre isso diante desse contexto de popularização dessas ferramentas em primeiro lugar parabenizo a inclusão de um capítulo específico na minuta sobre uso e contratação de modelos de IAG generativa em especial a obrigação de que a utilização desses modelos seja apenas de forma insti ional isso é a partir de do acesso habilitado fornecido e monitorado pelos tribunais tal obrigação é fundamental para que haja um controle mínimo do tribunal e maior garantia de adequação quo os padrões de segurança da informação de maisos regramentos aplicáveis inclusive os previstos na própria minuta ademais

a partir do pressuposto que não há como garantir a total acura e veracidade dos resultados desses modelos que usualmente alucinam em suas respostas como consequências su funcionamento com base em cálculos estatísticos e não com base na verdade recomendável que a utilização dessas ferramentas como instrumento autônoma de tomar de decisões judiciais ser listada como um dos usos proibidos do artigo 7º B sem prejuízo da manutenção total da responsabilidade do magistrado pelas decisões que ele profere nesse ponto dispositivos da minuta como o parágrafo 5º do artigo oo é que criam obrigações para que os membros judiciário passarem

por Treinamentos e capacitações periódicas para assegurar o uso adequado e responsável desses sistemas generativos é de grande relevância para impedir que haja utilização irrazoável antiética e indiscriminada dessas ferramentas Nesse contexto reforça um ponto que foi trazido pela fala do professor Philip hacker na quarta-feira a inclusão da obrigação de checagem dos resultados sempre que o magistrada ou servidor for fazer uso dessas ferramentas devendo sempre se orientar pelo manual de boas práticas será elaborado pelo comitê de a do CNJ eh e agora realmente Indo pros meus finalmente eh em consonancia com os já mencionados das obrigações do

poder público com a transparência e prestação de contas é recomendável a manutenção do parágrafo sexto do artigo o e que impõe o dever de expressamente sa em nota de rodapé de ato judicial o emprego de a generativa no auxílio de sua redação e aí segundo a pesquisa realizada eh pela FGV em 2023 sobre o uso de ia no judiciário o no Brasil a maior parte dos sistemas de ia tem a sua ideação em fases subsequentes de desenvolvimento e produção pela própria equipe interna dos tribunais além de alguns feitos em parcerias com universidades brasileiras para questões

relacionadas à soberania nacional é o cenário ideal mas não é o que vem acontecendo no que tan ao uso de IAG generativa por isso é importante a modificação no artigo oo f para que conste a obrigação Clara de que quando houver contratação de empresas privadas para fornecimento de seus modelos de e a generativa a versão institucional do tribunal tenha mecanismos de bloqueio da utilização dos dados para treinamento ou aperfeiçoamento dos sistemas além do isolamento dos dados do tribunal considerando que a maioria dos sistemas de a generativa hoje disponíveis são de empresas privadas e estrangeiras do

Norte Global essa questão está diretamente relacionada a soberania Nacional qu acabou de ser pontuado pelo professor Sérgio Amadeu já que se trata de dados sensíveis e estratégicos do Judiciário brasileiro sobre seu cidadão então dito isso gostaria de mais uma vez agradecer a oportunidade de falar nessa audiência pública e de contribuir para para essa construção da regulação no âmbito do Poder Judiciário brasileiro Boa tarde [Aplausos] obrigada muito obrigado Dra Paula Guedes Fernandes da Silva pelas suas contribuições passo a palavra aqui ao Conselheiro Bandeira Obrigado Conselheiro Pablo somente para fazer uma uma novação a todos os participantes

desse painel mesmo cumprimento Conselheiro Moaci que juntou-se a nós conselheira Laura Porto aqui conosco e o Dr Tiago estava aqui agora a pouco também se ausentou momentaneamente somente para darles a notícia que acabamos de atingir as 10.000 visualizações únicas essa audiência de Inteligência Artificial já é não acabou não acabou ainda e já é o segundo audiência pública mais assistida da história do CNJ a primeira de Mariana coa 3 anos atrás Então temos 3 anos para alcançar mais 4.000 visualizações acho que a gente chega lá mas todo bom só queria agradecer e novamente eh destacar a

diversidade desse painéis que conseguimos montar graças as às inúmeras né inscrições de todos vocês nesse painel tivemos quatro homens quatro mulheres tivemos né um representante do Estado de Alagoas representante da fen juuf de Sindicatos né três representantes da da academia representante da presidência da república ah PK Rio Ah enfim uma série de entidades que estiveram aqui presentees e teremos ainda mais agora no no na próxima mesa eh só faço esse registro para dizer que como é importante receber esses feedbacks e vocês nós já Recebemos hoje pela manhã também a manifestação escrita da a juuf né

a Mb também pediu oportunidade para se manifestar assim como os presidentes tribunais né acredito que com todo esse arcabouço de manifestações de documentos sugestões em breve poderemos entregar uma nova minuta já atendendo essas diversas preocupações Quem sabe né ou ou não se não conseguimos né mas o intuito É sim aproveitar tudo isso eu espero que vocês muito em breve se encontrem né ou visualizem a participação de vocês né na nova minuta a ser divulgada em breve já devolo a palavra ao Conselheiro Pablo ao mesmo tempo que agradeço por essa pequena oportunidade Obrigado Conselheiro Bandeira passo

a palavra pro cerimonial senhoras e senhores agradecemos os pronunciamentos realizados e neste momento Faremos o intervalo para o Coffe break e informamos que será servido no foer do plenário retornamos com a programação em 15 minutos senhoras e senhores neste momento para a condução dos trabalhos da mesa seig artificial generativa e seus impactos no judiciário tem a palavra o conselheiro mo rei filho ah Boa tarde a todas e todos quero cumprimentar aqui o conselheiro Bandeira pela organização dess dessa audiência pública a gente sabe do desafio que é n Band a gente organizar eh um tema tão

ao mesmo tempo que tá desafiador mas que traz grandes oportunidades e quanto mais olhares tivemos mais eh a a proposta de regulação consegue avançar e trazer contribuições para o poder judiciário e todo o sistema de Justiça Então parabenizo por esse desafio de três dias intenso aqui né concluindo nessa tarde de sexta-feira cumprimento também Dr Fabrício Dora Laura Porto aqui ladeado nessa mesa Dr Thiago também aqui presente e já de início já né a gente já para otimizar nosso tempo e e e ganhar no final eu vou passar a palavra desde já PR Dra ca Picolo

D advogada pesquisadora e diretora e vai falar sobre o tema eh contribuições atualizadas sobre o uso de a no judiciário a partir de Investigações junto a Unesco G20 Brasil e debates regulatórios com a palavra Dra cítia obrigada vocês me escutam bem Tá ótimo eh bom Boa tarde né a todas e todos eh Obrigada Conselheiro pela introdução e esse espaço de fala também eh parabenizo eh também o GT pelo esse esforço né de aprimoramento que é sempre desafiador e também a desafiador falar na última mesa né depois de tanta coisa que foi discutida eh e a

minha contribuição hoje ela traz esses aspectos de de atuação eh da organização que eu represento que é o laboratório de políticas públicas internet o Lapin que é uma organização da sociedade civil que trabalha na proteção de direitos e também no apoio ao desenvolvimento de leis e políticas públicas bem informadas então a gente tem atuado ativamente eh no debate da Iá no Brasil e também incluindo na agenda do G20 que a Samara inclusive relembrou na mesa anterior então eu vou trazer alguns aspectos também relacionados a isso começando eh por um mais urgente né de compromissos internacionais

que também foi trazido anteriormente né que são os objetivos de desenvolvimento eh sustentável da ONU eh e em relação ao judiciário é também importante o objetivo 16 que trata sobre paz justiça e instituições eficazes porque esse objetivo eh ele orienta o desenvolvimento de instituições exatamente responsáveis transparentes e traz a necessidade de garantir eh a tomada de decisão eh isso é muito interessante porque tá explícito né a tomada de decisão responsiva inclusiva participativa e representativa em todos os níveis então nessa linha Eu também reforço as recomendações da Unesco né sobre ética da ia que foi assinada

pelo Brasil e que destaca a importância né da explicabilidade da diversidade da inclusão e a necessidade de garantir também a responsabilidade e a prestação de contas humana por decisões eh automatizadas que afetem direitos e eu também me somo né O que a Samara Castro trouxe eh sobre as contribuições do grupo de Economia digital do G20 que para além de muito importante ter trazido a integridade da informação eh foi pautado do uso eh responsável da ií a necessidade também de se considerar culturas contextos idiomas no desenvolvimento de sistemas que é algo muito desafiador aqui para nossa

discussão e por fim eh trazendo esses aspectos mais abrangentes aqui no Lapin nós sentimos de não ter visto o alinhamento Direto das ações do recém-lançado plano brasileiro de a com a modernização do Judiciário isso deveria e ainda pode ser feito eh a única ação do plano né voltado ao judiciário tá no eixo indústria comércio e serviço que indica investimentos para uma startup do porto digital de Recife eh para um assistente com robô com o ia para realizar jurimetria e esse sistema consta todo uma descrição né ele já foi criado processa e Analisa milhões de processos

publicados em portais de tribunais eh e gera o modelo de A então também eu deixo uma provocação e uma pergunta né Eh será que esse sistema também vai servir ao judiciário eh então relembrados né esses pontos eu trago outras reflexões para melhoria de de eh de texto eh é claro que no judiciário né Eh há oportunidades pro uso da ia mas observando os dados atuais da minuta a gente tem que pensar o quão longe a gente quer ir nesse momento né Doo da tecnologia Porque a gente já viu nesses três dias os problemas envolvendo essa

tecnologia somado a isso a gente ainda não tem uma regulação abrangente para ia que é mais urgente do que nunca a gente tem outros desafios estruturais que já foram trazidos de infraestrutura e sustentabilidade e nesse ponto a gente também recomenda que o CNJ seja transparente em relação aos dados ambientais e adote política de impacto mínimo e de mitigação de riscos ambientais decorrentes do uso e desenvolvimento né da IAC judiciária eh e agora vou trazer alguns pontos também de governança segurança responsabilização e representatividade mencionando alguns artigos também para melhoria eh ficou Evidente né pela leitura da

minuta o quão a plataforma sinapse figura né como um elemento importante de Transparência ativa porque cont temm dados de projetos de governança da ia e alguns dados ali já indicam vários desafios né que a gente já tem hoje então já foi mencionado o desafio de encontrar pessoal capacitado falta de Transparência explicabilidade isso nos preocupa né quando a gente olha a minuta e vê exemplos de usos super sensíveis então o CNJ deve desenvolver processos para garantir a supervisão humana pensando nessa escalabilidade de projetos e outros dados também preocupantes do sinapse eh mostram que 48.6 por dos

projetos de a não possuem documentação 41.4 da Equipe técnica dos projetos não fez treinamento no sinapses e dos 140 projetos de a apenas 37 estão na plataforma ou seja eh com tudo isso não é exatamente criticando mas pensando no que a gente tem que melhorar em termos de estrutura e na parte de governança também é extremamente importante eh e o primeiro ponto é definir um responsável pelo monitoramento dos vieses discriminatórios porque o artigo vio trata da não discriminação e Indica que haverá um monitoramento nesse ponto dos vizes discriminatórios então a a gente precisa definir esses

processos eh também é importante que a minuta preveja no artigo vio que sempre que verificado o viés discriminatório ou uma incompatibilidade com os princípios o sistema Deva ser imediatamente pausado até que seja suspenso ou reformulado e isso deve ter toda transparência ao público tanto do erro quanto das medidas adotadas a gente sugere inclusive que seja estimulado teste de soluções em ambientes simulados antes da aplicação em larga escala um segundo ponto sobre governança que diz respeito ao artigo oavo que trata do monitoramento pelos tribunais do uso de modelos de llms e outros sistemas de ag generativa

por magistrados e servidores então é importante também definir quem vai fiscalizar esse uso né reforçando a importância da centralidade de gestão e de concentrar prioritariamente no CNJ eh eu também chamo atenção pro parágrafo primeiro que deveria conter uma vedação integral de uso de sistemas com assinaturas ou cadastros privados ou pessoais dos magistrados eh não só dos magistrados né dos Servidores e de terceiros que também poderiam ser autorizados porque eh da forma como a minuta tá hoje permite uma exceção só que acontece que sistemas que né prometem revolucionar a função jurisdicional dessa magnitude não deveriam operar

na Esfera privada então eh tem um outro ponto que como essa fiscalização na conta privada do Servidor aconteceria como que a gente garantiria a segurança da informação ou a responsabilização efetiva então isso merece melhoria na questão da responsabilização enquanto cadeia de responsabilidade eh é importante também porque a minuta fala muito né em uso responsável mas essa cadeia de responsabilidade não tá clara né já que há vários agentes envolvidos os desenvolvedores do do tribunal as contratações externas usuário magistrado então é imprescindível que haja essa informação pública sobre as empresas contratadas o modo objetivo da contratação e

a minuta Ela traz a a única figura de responsabilidade que ela traz é a do magistrado então durante toda a leitura da minuta a única figura que tem essa carga hoje é o juiz que ele é integralmente responsável pelas decisões tomadas né Eh com base do apoio de sistemas de a Então essa cadeia de responsabilidade precisa ser muito melhorada eh é preciso também que haja um monitoramento né durante todas as fases do processo de registro eh de sistema de uso do sistema pelo magistrado Pelo assessor por outro servidor se as informações foram compartilhadas entre outros

pontos Outro ponto que eu queria trazer é sobre multidisciplinaridade e diversidade o comitê deve abarcar a sociedade civil e a comunidade técnica porque são partes interessadas a sociedade é diretamente afetada e v várias das competências do comitê hoje são competências intrínsecas a quesitos técnicos eh me espanta não ter visto por exemplo um representante que gestiona o sinapse que essa figura tão central eh do uso da ia no judiciário em relação à diversidade um fator crucial né que a gente percebe pra gente garantir a representatividade nos sistemas deve ser um elemento ilá ela não pode ser

dispensada é mediante uma decisão fundamentada como Tá previsto no artigo 20 parágrafo 2 Então nesse caso eh uma alternativa seria aprimorar o artigo 8 B para que o comitê tem a competência de recomendar que o CNJ celebre convênios e acordos de cooperação com outros órgãos eh visando não somente a melhoria dos sistemas mas também para garantir essa divers e essa diversidade representatividade ela tem que ser garantida desde a fase inicial de desenvolvimento até as fases posteriores de treinamento e outras fases e não uma ou outra como hoje indica o artigo sexto e caminhando já pro

final eh eu pontuo que também é preocupante as declarações públicas sobre a intenção de pedir as bigtechs né a criação de uma solução personalizada pro judiciário brasileiro eh porque assim eh para além das questões de soberania já trazidas pelo professor Sérgio Amadeu na última mesa como seria possível garantir que os dados usados seriam provenientes de fontes seguras como tá indicado no Artigo 13 e esse cenário ele pode comprometer a integridade do sistema de Justiça afetar a confiança pública no judiciário que é um pilar extremamente importante eh também tem um risco de fragmentação e descentralização do

sistema de informação judicial brasileiro isso torna mais difícil pro país garantir a coesão e a integridade aos dados e à decisões tomadas ao longo do tempo bom eu termino aqui a minha exposição né Relembrando da função social do Judiciário eh como a confiança pública que Eu mencionei é ável para atingir justamente essa máxima potência dessa função eh a sociedade precisa ser incluída nessa transformação precisa ser informada e precisa estar segura dos riscos e a gente tem hoje a oportunidade né na mão de seguir um caminho talvez eh não tão ousado mas responsável que no fim

do dia é esse o objetivo principal e eu tenho certeza que é por isso que a gente tá discutindo isso ao longo desses três dias e certamente essa a discussão ainda vai avançar né pra gente eh ter aí uma minuta eh muito muito próxima eh de todas essas contribuições multidisciplinares que a gente tá conseguindo coletar e é isso muito obrigada pelo espaço agradeço novamente parabenizo todo mundo do GT e do CNJ pela iniciativa obrigada obrigado D Cíntia e suas contribuições trazem engrandecem o debate e trazem eh posições importante né a gente tem falado aqui acho

que é um ponto uníssono né A questão do supervisão humana e em nenhum momento né Bandeira a gente deixou de considerar isso e isso é imprescindível já é hoje em dia né com modelo que de assessorias e tudo mais um ente virtual não é diferente e eu costumo dizer que nesse processo de tomada de decisão a gente tem grosso modo aí três etapas que é a análise a decisão e a produção de uma minuta de uma peça jurídica né Então essa análise decisão do que fazer e o como fazer é claro que o treinamento da

Inteligência Artificial faz mas em nenhum momento se cogita delegar a artificial A análise e a decisão o que se delega é a produção de uma peça de uma minuta que vai ter que fazer uma engenharia reversa né em vez de começar a analisar o processo decidir E aí produzir a peça o que se faz é a partir da peça fazer análise decisão E fazer essa checagem além né tanto quanto a assertividade da decisão em si quanto do conteúdo e minutado e revisto sem sem sem deixar de forma negligente ou desidiosa né então agradeço mais uma

vez D Cíntia já encaminho a palavra ao Dr Marcelo Fonseca Santos Professor ce que vai nos brindar com tema questões ligadas a direitos fundamentais desenvolvimento econômico e da i Dr Marcelo com a palavra obrigado agradeço a senhor Conselheiro Dr mar refiro a oportunidade e a sua coordenação e gostaria de manifestar eh relativo aos direitos fundamentais preocupações que a todos atentam que foram tocadas e discutidas nesses últimos TR dias o uso da eh e os direitos fundamentais necessitam da governança de treinamento de política da instituição de um comitê de ética para que se evite por exemplo

o comprometimento do devido processo legal a própria imparcialidade e a fundamentação Acabei de ouvir a fala do Conselheiro a respeito da engenharia reversa e da verificação da peça eh de sentença né a preocupação com as da questão dos direitos fundamentais eh e da governança estão ligados à questão dos do uso dos algoritmos treinados com dados que podem não estar devidamente eh sujeitos ao tratamento a coleta e tratamento de uma maneira que possam evitar padronizações ou perfilamento perpetuando discriminações e violando Portanto o direito à igualdade essa coleta e processamento dos dados que vão fazer parte da

base de dados da Inteligência Artificial precisam respeitar não somente o direito à privacidade mas as normas concernentes à proteção de dados e as normas que dialogam com a nossa lei geral de proteção de dados para que se evite uma ofensa ou um problema decorrente de direitos de personalidade por conta da padronização direitos a aos dados que estão sendo utilizados para o treinamento dessas generativas que precisam de mecanismos robustos de proteção aos dados eh desses padrões de comportamento desses padrões eventualmente regionais que podem aumentar desigualdades e eh tornar decisões automatizadas provenientes das inteligências artificiais enviesadas eh

evadas por discriminações H né A questão negativa eh a questão da não discriminação é necessário que se garantam mecanismos de transparência e robustez que são reforçados por meio justamente dos frameworks de governança de Inteligência Artificial hoje existentes até que se tenha para um reforço disso uma lei própria o marco regulatório da Inteligência Artificial é necessário que se consigam criar mecanismos de auditabilidade desses resultados eh relatório de impacto algorítmico para que se mitigue que se diminua o risco não permitindo que Portanto o judiciário eh se torne tenha fragilidades né a a governança da Inteligência Artificial por

meio desses treinamentos das políticas eh do comitê de ética ele propicia Justamente a confiabilidade a robustez o direito a possibilidade do direito de exercício ao direito à explicação com possibilidade eventual de revisão caso assim seja necessário e para tanto dentro do contexto dos direitos fundamentais a automação não pode comprometer esses direitos como o devido processo legal o direito à ampla defesa o contraditório e a fundamentação das decisões eh com relação a parte de desenvolvimento econômico certamente a generativa e toda a automação trazida pela inteligência artificial em seus outros tipos e formatos ela certamente pode automatizar

tarefas rotineiras aliada à tomada de eventuais decisões para acelerar processos judiciais reduzindo custos e incertezas para o para os Players ali envolvidos para os atores do processo eu vou ter com a generativa da inteligência artificial e os outros mecanismos de Inteligência Artificial uma inovação e desenvolvimento da parte de tecnologia legal as legal Tex e a preocupação é o risco de adoção desigual da Inteligência Artificial sem um direcionamento específico e muito bem discutido que é parte desse trabalho que estamos fazendo aqui eh permitirá com que não se ocorram disparidades regionais de acesso à justiça como direito

fundamental em virtude de um desenvolvimento eh de ferramentas de automação e da utilização de ferramentas de generativa de a generativa que possam eventualmente causar disparidades aí entre Judiciários entre os órgãos do Poder Judiciário no que tange a governança eh certamente eh eu já falei sobre a questão da adoção dos frameworks a política de utilização da inteligência artificial de caráter geral indicando Quais foram os frameworks como é a formatação do comitê de ética que possa avaliar monitorar atualizar a utilização da generativa e da inteligência artificial no poder judiciário é sem dúvida algo imprescindível né implementar uma

uma inteligência artificial que seja robusta baseada em princípios éticos com aparência e que eu tenha mecanismos aí de apuração de eventuais responsabilidades por mau uso ou um uso em correto uma questão até de Alucinação no caso específico da generativa é muito importante que isso seja eh pensado eh com relação aos treinamentos como parte das boas práticas de utilização da Inteligência Artificial certamente é necessário esse letramento essa literacia com relação a Como utilizar quais prompts comandos serão utilizados ou uma recomendação de prompts específicos para que se tenha uma uniformidade e principalmente que servidores do Judiciário que

utilizem as inteligências artificiais generativas possam ter a capacitação necessária para não usarem contextos como por exemplo contas particulares ou colocando eventualmente dados processuais pessoais dados pessoais contidos em processos dentro das bases de dados da Inteligência Artificial generativa é muito importante que todo todo aquele que for utilizar uma inteligência artificial generativa compreenda que a inteligência artificial utiliza uma lógica algorítmica um desenvolvimento de linguagem e e por meio de sua base de dados E aí eu tenho também a questão do GAP linguístico a questão da base de dados em língua portuguesa para mitigar eventuais alucinações que eh

seja devidamente sejam devidamente orientados na Como utilizar a generativa quais dados eu posso colocar dentro de um de um prompt para a obtenção de um determinado resultado para a elaboração de um determinado documento porque uma uma atividade é eu pedir para uma ia generativa me eh colocar uma estrutura por exemplo de um contrato para que eu não me deixe esquecer de uma determinada cláusula importante outra coisa eu colocar todo e qualquer dado principalmente dado pessoal ou dado que possa formar uma base de dados com eventual padronização Por perfilamento que vá justamente envar os resultados as

decisões automatizadas então é muito importante eh a instituição de uma governança efetiva que ela seja uniformizada que ela seja eh composta pelas boas práticas que possam garantir a segurança do do Judiciário do acesso à justiça para todas as pessoas mas uma uma vez eu agradeço a oportunidade de participação de fala aqui no Conselho Nacional de Justiça e encerro a minha [Aplausos] apresentação Muito obrigado Dr Marcelo por por suas contribuições eh senhor tocou em vários pontos que são muito importantes e muito caros ao grupo e a toda a comissão e todos envolvidos direta ou indiretamente na

confecção e na atualização da resolução 332 eu destaco aqui o que o senhor falou de estrutura de governança é muito importante que se tem esse comitê representativo né que faça essa auditabilidade recorrente até porque as evoluções tecnológicas são muito rápidas né então precisa ter esse acompanhamento em tempo real dos projetos eh lá no Conselho Nacional do Ministério Público a gente também tem um relatório de projetos de a eh Ainda não temos a plataforma MP digital que vamos lançar agora em em novembro e que vai ter especificamente né Assim como sinaps para esses projetos serem alimentados

desde o início e acompanhando né Essa questão do letramento é muito importante também porque é uma mudança de Cultura né e e mudança de Cultura eficaz a gente faz com capacitação e e e governança Então essa questão do do letramento é é de suma importância é uma prioridade mesmo para evitar eh eventuais usos incorretos das Ferramentas desde já já passando a palavra então paraa doutora Regina Lúcia Nogueira que tá aqui presencial a doutora sócia fundadora e docente e traz o tema letramento EAG generativa na Perspectiva da neurociência governança digital transparência e impactos cognitivos do Poder

Judiciário Obrigado professora Regina tem a palavra Boa tarde eu vou começar com a minha audiodescrição eu sou uma mulher branca chegando aos 60 anos uso um cabelo curto estilo desconectado e tô usando uma blusa estampada azul verde e vermelha eh eu agradeço o convite o convite aceitar né a inscrição é um privilégio tá aqui compartilhando o meu saber então eu cumprimento a mesa na pessoa do do Conselheiro massir rei filho e me permite o um um um agradecimento especial ao ao Conselheiro luí Fernando Bandeira de Melo pelo trabalho realizado junto com o GT o trabalho

de vocês realmente é é incrível bom eh eu vou falar da Perspectiva da neurociência e me permitam né dizer de onde vem essa perspectiva então eu tenho formação em neurociência com pós-doutorado na Unesp com doutorado e mestrado na USP sobre do Professor Frederico Guilherme greff tem o prêmio internacional Isi no no tema e transitei né dentro da neurociência desde pesquisa básica de bancada investigando substrato neurom moral do medo e da ansiedade no serviço público eh eu implementei em equipe o programa pró excelência que é o programa de aprimoramento neurocognitivo de magistradas e magistradas tenho contribuído

sobre o impacto traumático da violência doméstica e familiar e da violência sexual sobre o o cérebro e tenho Desde que conheci a inteligência artificial em fevereiro do ano passado sido uma estudiosa dedicada e com essa perspectiva eh por gentileza acho que começou no slide errado acho que temos anteriores a isso OK obrigada Ok então o o letramento Então vamos para uma definição né O que que é um letramento em a generativa na Perspectiva da neurociência da neurociência é o que compreende e considera os impactos da Inteligência Artificial sobre o cérebro e suas funções cognitivas Então

o que eu quero trazer nessa apresenta já são estudos mostrando por exemplo né aqui um estudo já de 2023 mostrando o impacto da Inteligência Artificial por exemplo sobre memória aprendizagem e já adianto que com eh com efeitos positivos e negativos O slide não tá aparecendo corretamente mas eu vou contando para vocês tá então então vamos lá e aí o que que nós temos quando nós chegamos na resolução e quando a gente fala de fundamentos na resolução no artigo 2 nós temos dentre eles então o desenvolvimento a governança auditoria uso responsável de soluções de a pelo

Poder Judiciário tem como fundamento centralidade da pessoa humana mediante a participação e a supervisão humana em todas as etapas do ciclos de desenvolvimento e de utilização das soluções que adotem técnicas de Inteligência Artificial Então me parece né que um aspecto fundamental talvez tenha sido contemplado apenas na palestra da parte da manhã do professor dezurik se eu não me engano que é bom nós estamos dependendo de humanos a gente fala da centralidade da pessoa humana e não temos ainda discutido Como poderíamos estar discutindo O que que a gente vai precisar olhar para que essa centralidade da

pessoa humana seja de fato garantida e não apenas em termos de participação mas a em termos de qualificação para se estar participando e e me permitam condições cerebrais adequadas para se estar participando destaco que assim como tinham nos fundamentos na parte de princípios a gente tem a supervisão humana efetiva E adequada o que garantirá que essa supervisão humana seja efetiva e de fato adequada E aí uma questão importante é o que há de tão especial no no ser humano que lhe permite funções cognitivas complexas de forma interessante eh em termos genético a gente é cerca

de 98% parecido com o macaco Bonomo e então o que que nos diferencia de Fato né O que vai nos diferenciar é um córtex pré-frontal não é tamanho de cérebro mas é um córtex préfrontal e as conexões nessa estrutura não só na e região mas no cérebro como um todo porque essa é uma visão localizacionista mas todas as estruturas do cérebro elas são conectadas por redes então é esse córtex préfrontal que vai nos permitir o que nós precisamos paraa centralidade da pessoa humana e para uma supervisão humana efetiva E adequada que é capacidade de planejamento

atenção resolução de problemas monitoramento de erros tomada de decisão cognição social que envolve tanto o aspecto cognitivo quanto emocional memória de trabalho então o córtex préfrontal vai ter uma importância fundamental nisso e como eu disse isso não é só localizacionista nós temos redes no cérebro então o córtex eh préfrontal é o Hub importante para diferentes funções como raciocínio crítico memória foco concentração comunicação criatividade e entre entre outras e o que que nós temos quando nós falamos o cérebro hoje de profiss de excelência do Poder Judiciário a gente teve o privilégio de ouvir pessoas extremamente qualificadas

nessa audiência públ que tá que é hisa só que a gente precis considerar que o meu cérebro cérebro dos senores e das senoras Foi configurado longo de muito tempo então hoje o cérebro que nos permite né estar aqui fazendo essa discussão dessa resolução foi o resultado de Um percurso acadêmico longo quem tem uma graduação a graduação no mínimo estudou 16 anos a gente tem lidar com resolução de problemas complexos autoconhecimento interação com diferentes perfis de pessoas Então nós chegamos ao cérebro que a gente tem hoje por esse percurso só que agora nós temos uma variável

fundamental que é a chegada da Inteligência Artificial generativa E aí a pergunta por que que a governança digital pro uso de a eu tô falando em especial da generativa deve incluir necessariamente uma abordagem neurocientífica E aí o que que a gente vai ter vamos aqui você puder passar para mim que não foi essa transformação tecnológica principalmente então devido ao avanço de a generativa implica em alterações significativas nos nossos cérebros quando nós passarmos a utilizá-las cada vez mais sistematicamente isso vai ter um efeito sobre a plasticidade cerebral pro bem e pro mal e de como utilizamos

nosso cérebro e aí então o que que a gente tem quais são os potenciais impactos vou começar pelos positivos a gente tem muita notícia boa então o uso de ag generativa no nosso dia a dia e vai ser um um uso cada vez mais frequente vai ter impactos positivos como por exemplo me ajuda de novo com a com a Ok estímulo a flexibilidade cognitiva a gente vai precisar de novos modelos mentais novas abordagens novas habilidades eu vou passar nos títulos aprimoramento sim da tomada de decisão porque a gente trabalha com um número maior de um

número maior de dados a gente consegue processar informações que só com os nossos cérebros a gente não processaria a gente vai ter o desenvolvimento de novas idades que pode levar a novas competências a gente vai ter redução de carga cognitiva repetitiva Sim tudo isso é é é fato reduzindo fadiga cognitiva a gente tem uma otimização da memória de trabalho que é a quantidade de informações que eu mantenho no cérebro enquanto eu as processo eu vou est fazendo isso auxiliado por uma inteligência eh artificial Mas precisamos também considerar os impactos negativos no cérebro então uma dessas

consequências é a dependência de respostas prontas quem quem escreveu aqui uma dissertação de Mestrado ou uma tese de doutorado sabe o quanto dedicou para se chegar a a a um resultado final ou quem escreveu um livro então a gente tende a reduzir a motivação e a necessidade de buscar informação porque vem pronto redução na profundidade do do pensamento a resposta vem pronta não vem construída o menor tempo de reflexão sobre questões complexas a gente tem diminuição da retenção da retenção de de de informação Então a gente tem Impacto sobre a memória a gente já vai

ver que a maioria das pessoas não sabem qual o celular da mãe da esposa e etc né então brevemente né Talvez a gente vai precisar ajuda para resolver questões que a gente resolveria de cabeça e a gente tem acho que eu passei mais desestímulo a criatividade não dá para competir com a a criatividade ainda mais para quem tem bons prompts erosão da habilidade de fala de articulação de expressar a gente já tá num momento que a a gente troca eh antes eram 140 caracteres agora é um Emotion né a gente tem confiança excessiva na precisão

da informação então é uma característica do cérebro terceira vez que ela acertou eu não vou ler a a quarta a gente tende a a a reduzir a reduzir esforço e aí então eu vou diante disso para Algumas propostas para resolução a primeira proposta em relação então aos princípios é que essa eh eh essa supervisão né Eh a supervisão humana efetiva E adequada no ciclo de vida da Inteligência Artificial Considerando o grau de risco envolvido e os impactos neurocognitivos a a gente tem profissionais de excelência no poder judiciário e a gente vai precisar compreender quais vai

ser os impactos sobre e esse acúmulo que a gente tem aí ao longo de de décadas a outra proposta é em relação ao 7C a gente avaliar esses impactos neurocognitivos então além de se considerar o alto risco das soluções técnicas de Inteligência Artificial desenvolvidas e utilizadas para as seguintes finalidades e contexto em incluindo o potencial Impacto neurocognitivo sobre funções cognitivas de magistradas magistrados servidoras e servidores do Poder judici do Poder Judiciário como por exemplo memória raciocínio julgamento tomada de decisão então lembro que isso é um valor do Judiciário esse potencial humano e esse cérebro né

a forma que nós temos os cérebros hoje dentro do Poder Judiciário ainda sobre a gente tem o monitoramento contínuo de impacto sobre sobre o cérebro isso entrando nas medidas de governança então que inclua aí né os impactos novamente neurocognitivos sobre osos os usuários como sobrecarga cognitiva dependência tecnológica e diminuição do esforço intelectual contínuo que a gente eh eh no letramento no no letramento sobre os impactos a gente inclui os impactos neurocognitivos precisa ser um uso informado inclusive sobre esses riscos e Como como mitigá-los o qu então uma inserção de neurociência na avaliação dos impactos algorítmicos

algorítmico então o tribunal desenvolvedor ou contratante deverá promover avaliação de impacto algorítmico e neurocognitivo a sexta inclusão de neurociência na composição das equipes interdisciplinares e aí eu incluí também psicologia medicina e neurociência a gente está falando sobre saúde cerebral e existem profissionais com essa essa especialidade E aí o sétimo os relatórios anuais incluam os impactos neurocognitivos E aí então caminhando pro final esse letramento em a generativa da Perspectiva da neurociência objetiva o desenvolvimento de estratégias que favoreçam que magistradas magistrados servidoras e servidores mantenham suas capacidades neurocognitivas ativas supervisionando os resultados de a e evitando a

substituição do pensamento crítico humano por decisões automatizadas aqui só para compartilhar né que eu tenho ministrado oficinas já de Inteligência Artificial generativa da Perspectiva da da neurociência e termino aqui com o meu contato [Aplausos] obrigada obrigado Professora Regina eh esse tema essa abordagem né sobre o aspecto da neurociência é muito interessante e a gente sabe que a inteligência artificial ela procura mimetizar né a inteligência humana então tudo que se conhece sobre neurociência Aproveitem muito eh dos vários Campos que a a inteligência artificial tem interceção tem intercessão a a a neurociência é uma delas né além

de matemática engenharia da computação psicologia cognitiva eh economia né todas essas influenciam na no desenvolvimento de sistemas e de programas de a e a senhora tocou num ponto muito importante também que é essa questão da centralidade da pessoa humana em todas as fases Né desde o desenvolvimento a supervisão quando eh saem os resultados né ter essa revisão também a supervisão né então é isso é é muito importante pra gente evitar eh justamente vieses e e demais equívocos o que a gente percebe muito é que eh a gente tem como uma ferramenta de propósito geral como

esses gpts né uma um treinamento de uma programação em linguagem natural geral né e a o que a gente tem visto nos projetos é que esse motor é utilizado como a base de treinamento própria né Eh com essa preocupação dos dados pessoais especialmente dados sensíveis e esse treinamento próprio traz o refinamento eh paraa uma assertividade com relação ao resultado sem alucinações Então isso é um ponto importante de ser frisado né que é essa base de conhecimento própria eh e aí como foi frisado também a questão de de proteção de dados em ambientes eh custodiados né

que não sejam usados para retreinamento do modelo e isso é uma preocupação tanto do CNJ como do cnmp que nós também propusemos lá não foi uma resolução foi uma recomendação e em que há essa preocupação do uso seguro e responsável é uso mas é o uso seguro e responsável e avançando com a devidas cautelas e e observando todos os os os benefícios né e os riscos né Sem também termos uma avaliação enviesada né de olhar só os benefícios e olhar só os riscos né E essa questão da como a senhora disse né de eh automatização

de algumas mais repetitivas de menor complexidade a gente percebe isso assim o movimento hoje tanto instituições privadas como instituições públicas é o termo cunhado de ambidestria estratégica né ambidestria corporativa ter eficiência operacional com a supervisão de rotinas que são mais repetitivas liberando as pessoas para fazer um atuação estratégica um pensamento estratégico sobretudo um pensamento crítico que é a principal habilidade das profissões do futuro né como já mencionado pelo foro econômico mundial e e a gente percebe esse potencial no no sistema de Justiça no Ministério Público eh no poder judiciário defensoria advocacia que é acredito que

um pleito muito grande da sociedade em termos de eficiência estatal do sistema de justiça é com relação à atuação às vezes eh mais negocial eh com esse protagonismo mais de perto eh nas soluções de eh problemas de política pública eh que precisa essa participação de todos esses atores e aí também dos gestores na construção de soluções que não vão sair eh com uma decisão Simples então Ah esse é um é o grande diferencial né essa possibilidade de liberar para que tenhamos né tempo para realizar a supervisão daquilo que for produzido mas ao mesmo tempo eh

tocar questões de grandes complexidades de forma atenta eh e às vezes questões que vão impactar Band eh nas causas raízes de problemas de consequências jurídicas que se refletem nos processos individuais então por exemplo só para citar aqui já passar a palavra pra Dra Viviane eh a gente tem aqui no Ministério Público DF um um projeto eh de Inteligência Artificial aplicada ao aos relatórios de risco de violência doméstica que vem das delegacias e a ideia é usar Inteligência Artificial analisando [Música] eh grandes padrões de comportamento e lincar isso com casos em que houve uma escalada de

violência e levou a um a uma violência mais grave ou até um feminicídio e isso com certeza impactaria na atuação reativa que é típica do do Poder Judiciário e do ministério público e de todo o sistema de justiça para uma ação mais proativa né e também dos órgãos de segurança pública e além Óbvio de manter a eficiência operacional eh depois do fato ocorrido né aí na questão de processamento e responsabilização de autores de fato então isso também é um grande potencial Justamente na atuação do sistema de Justiça no incremento da fiscalização de políticas públicas que

são a base de processos individuais que acabam se refletindo quanto melhor a política pública menor a chance de processos individuais caso a caso e desde já então já passando a palavra pra Dra Viviane Ramone que é a advogada cm ou diretora geral e vai eh tratar sobre o tema modelo de governança para gestão de processo de desenvolvimento sustentação e uso de soluções de a orientado pela transparência de auditabilidade D Viviane com a palavra a senhora tá sem som Dora Viviane eu não sei se é o problema daqui ou de lá Não não ouvimos ainda não

ouvimos a senhora deixa eu ver é aqui aparece para nós que o microfone da senhora tá fechado tá né É agora sim boa tarde Agora sim né gostaria de agradecer dizer que é uma honra encerrar esse painel aqui nesses três dias de debates que foram tão importantes né então eu gostaria de agradecer na pessoa dos conselheiros que estavam aqui à nossa frente o conselheiro Bandeira o conselheiro Moa rei filho Muito Obrigada por participar e eu gostaria de dizer que eu sou L mas espero que não but not least né nós tivemos aqui algumas considerações que

eu gostaria de fazer de modo bem resumido que eu acho que são pontuais e são importantes e eu sei que esse conselho vai ter um trabalho muito grande agora de compilar todos esses insites que foram apresentados primeiro com a questão de conceituação né a inteligência artificial é inteligente ou não Então a partir daí nós já temos um ponto de discussão da questão de conceitos tivemos a questão da professora Laura falando sobre a questão do Judiciário com o maior número de de casos do mundo né e o uso dessa ia generativa nesse auxílio para resolver essa

questão do Judiciário D Olívia Professor Juliano que trouxeram o resultado de Grande pesquisa e uso de políticas públicas tivemos a ministra Edilene Lobo falando sobre os riscos e os vieses algoritmos a utilização da ia generativa de pesquisa judicial a melhoria da Iá para tradução necessidade de interpretação humana da forma e aí nós tivemos lembramos o caso né da importância que se nós não tivermos uma interpretação humana corremos o risco de que uma ministra do supremo não receba o seu doce no na festa do casamento a partir daí vieram as preocupações da professora Dora sobre multidisciplinaridade

sobre diversidade cognitiva capacitação dos usuários qualificação dos conceitos de transparência e explicabilidade que não são a mesma coisa isso é muito importante supervisão humana uso de a e eficiência o professor dierle trouxe a necessidade da do letramento digital né tivemos a professora Juliana justo falando sobre a importância da segregação das funções das equipes de a Ana Frazão falando sobre a terceirização das atividades Alexandra tenens falando sobre a inovações jurisdicionados projetos sa wagler falando sobre o desenvolvimento de processos eletrônicos e o que nós vamos regular e o risco de looping mas eu gostaria de falar sobre

o meu local de fala eu sou mestranda de compliance e estou fazendo a minha dissertação justamente em governança de Inteligência Artificial nos tribunais superiores E para isso eu utilizando Dalai fiz um questionamento tanto para o STJ quanto para o Supremo questionando sobre aplicabilidade do da resolução 332 naqueles tribunais o STJ me fez uma resposta bem completa apresentando Apesar de que nós vamos falar aqui sobre a questão do sinaps que foi bem envolvido nisso e o STJ infelizmente informou que o assunto não é da competência do supremo e disse que a ouvidoria não faria uma resposta

expressa gostaria de pontuar também o Av dessa proposta da minuta em termos de abordagem de risco que ela traz uma diferenciação desses níveis de risco de implementação a importância do comitê de ia e da plataforma sinapse que foi pontuada por todos a necessidade de criação de estruturas de governança e desenvolvimento da solução da ia transparência e explicabilidade foram as palavras chaves que nós ouvimos durante esses três dias e para promoção de transparência e como comunicação como foi bem lembrado nós precisamos de uma linguagem simples que é o que é a necessidade hoje de nossa sociedade

temos que valorizar essa questão da explicabilidade incentivar o uso de dados balanceados e de tes e implementação de gerenciamento de risco ao longo de do ciclo das sistemas e nós temos que pensar principalmente que nós fomos vislumbramos que a plataforma sinaps Apesar de sua importância ela não está sendo tão bem aplicada Então por que não melhorar esse acesso através das técnicas de uex então fica aí a nossa recomendação para Assessoria nesse sentido e o sinapse também com utilizando como método como mecanismo mesmo de compli para que Ele pudesse assegurar que esse uso da ia tivesse

em conformidade com as legislações vigentes de proteção de dados melhores práticas internacionais Lembrando que a questão do acesso é feito por um formulário e a partir daí eu vou ter que fazer uma identificação falando ainda sobre a questão de transparência e confidencialidade eu gostaria de pontuar o artigo 9 que fala sobre a questão da observação das regras de governança e dados aplicáveis dos próprios sistemas das resoluções e recomendações do CNJ e de segredo de Justiça Lembrando que a exigência da Transparência ela está diretamente relacionada à necessidade de controle social e essa garantia da contabilit nesse

uso das tecnologias avançadas E aí cabe a lembrança da recomendação sobre ética de a da Unesco né que ela enfatiza essa necessidade de garantia que todos tenham conhecimento claro sobre onde e como a ia está sendo aplicada especialmente em setores sensíveis como a justiça eh entendo que a simples rotulagem ela pode às vezes levar a um errôneo entendimento de como foi feita essa construção da decisão judicial nós tivemos aqui inclusive o questionamento de que não existe rotulagem para quando essa tomada de decisão é feita através de assistentes humanos então fica aí também o questionamento quanto

a questão de direo ento de riscos a questão de reconhecimento identificação avaliação e mitigação ela deve ser feita com uma revisão periódica por tudo que nós estamos falando aqui durante esses três dias hoje com certeza nós temos uma situação diferente mesmo em termos de ia generativa do que nós tínhamos no primeiro dia da audiência pública Então essa revisão periódica das definições e do escopo dessa resolução para acompanhamento da evolução tecnológica eh temos também aqui a questão da audiência e do alinhamento regulatório o bem encaminhou o CNJ com a resolução que ela está alinhada com o

projeto 2338 está alinhada com a possibilidade mesmo do CNJ da regulação desses usos de Api para acesso a dados públicos da justiça e principalmente do reconhecimento das limitações da análise de código que fonte como algoritmo de aprendizado de máquina essa governança ela também está alinhada com as tendências internacionais com ai act que adota mesmo essa abordagem de risco paraa regulação da EA do mesmo modo eu gostaria de pontuar aquele relatório do Gover ai for Human que sugere que a falta de governança e auditoria adequada pode amplificar o os riscos desses sistemas autônomos e aumentar ainda

mais a desconfiança do público em relação ao uso da ia desafios temos muitos né recomendações todos apresentaram nós temos que a necessidade de diretrizes Claras orientações específicas né para avaliação revisão periódica e recursos financeiros nós vimos aí que a já foram feitos vários orçamentos em termos de custo nós vimos a questão ambiental que também tem que ser calculada Então esse custo alto de treinamento de modelos verso a utilização de bancos de dados não representativos e equitativos que são financeiramente mais baratos tem que ser ponderado também na resolução 332 Principalmente quando a gente tem a questão

que nós estamos usando base em linguagem estrangeira que pode causar traduções errôneas eu gostaria de pontuar aíí como exemplo que estão vinculando nas redes sociais que a música do Ará para quem é mais antigo uma música clássica Take On Me na realidade ela foi uma mera tradução de uma expressão norueguesa que causou né que trouxe uma expressão na língua inglesa que não seria adequada e que virou um Hit um chiclete e acabou que virou uma questão oriunda de uma tradução errônea da Noruega lembrando a necessidade também de segurança e sustentabilidade nós temos que pensar aqui

na segurança quântica nós estamos nos encaminhando para uma computação quântica então nós temos que pensar também em medidas de segurança resistentes para a computação quântica e o impacto ambiental que tanto foi falado por todos incentivando a prática e e tecnologias que minimizem esse Impacto lembrando também da questão do uso de dados né Nós temos destacando aqui o artigo publicado com a Unesco sobre eia em Brazil indigenous populations enfatizando a necessidade de envolvimento das Comunidades indígenas e tradicionais no desenvolvimento e regulação da ia para evitar a perpetuação de estruturas discriminatórias e garantir a diversidade futuro da

ia temos agentes autônomos temos estabelecimentos de diretrizes para esses agentes temos interações multimodais que temos que pensar em Sistemas de a e temos que pensar sempre na questão da eficiência da Justiça algumas recomendações que vão ser apresentadas no documento também que vou apresentar em termos do artigo séo e um detalhamento dos processos pro gerenciamento do risco ao longo de todo o ciclo mas aí também incluindo identificação avaliação e mitigação de riscos potenciais adicionando também critérios e mecanismos para que que a gente possa garantir que esses conjuntos de dados utilizados eles tenham eles sejam relevantes representativos

e livres de vieses utilização dos dados balanceados e principalmente a necessidade de explicações sobre a lógica do processo decisório e a consideração de elementos de causalidade e contrafactuais ampliação da lista de informação de disponibilizadas para garantia de Transparência dos sistemas inclusive detalhes né sobre esses dados que foram utilizados o processamento e principalmente o incentivo da utilização da plataforma codex né ou outra ferramenta que possa facilitar essa transparência e auditabilidade dos sistemas de a permitindo o acesso de D treinados e os recursos do modelo e adoção de medidas de segurança da informação resistentes né como eu

já disse da questão da Computação quântica como a criptografia pós quântica para proteger os dados sensíveis do Judiciário e finalmente o artigo 25 parágrafo único inclusão da verificação da correlação entre as entradas e saídas dos algoritmos que é um aspecto crucial para a explicabilidade e a dos sistemas e como eu fiquei né para encerrar esse essa aqui pedi ajuda para o nosso amigo chat GPT que tanto foi falado durante esses três dias e vou me permitir Se vocês me desculpem eu vou fazer o poema que o chat GPT fez para o CNJ para o encerramento

da audiência pública a inteligência avança a justiça seguir mas é na governança que devemos investir com regras Claras e éticas a nos guiar o humano no centro sempre a lidar ao CNJ o nosso Obrigado sincero Por trazer inovação com zelo e esmero com transparência e segurança caminhar o futuro da Justiça prontos a abraçar gostaria de agradecer imensamente ao CNJ e dizer da importância desse evento e sabemos que a partir de agora todos esses elementos que foram trazidos Se não forem neste momento em incrementados implementados dentro da resolução por certo serviram de base para uma imprescindível

discussão da sociedade em termos da Inteligência Artificial e principalmente em termos de letramento de governança e de garantia da centralidade humana muito [Aplausos] obrigada obrigado D vi pelas suas cont ões eh muito importantes aqui para para acrescentar os debates ao longo desses três dias eu destaco aqui como a senhora disse o desafio da regulação né e dessa revisão periódica eh a resolução 332 2020 né e em pouco tempo já ficou desatualizada e a tendência né Foi muito bem feita é uma resolução muito bem feita pela equipe anterior eh mas diante dos avanços da tecnologia acaba

ficando eh desatualizada necessitando de ajustes E e esse vai ser o grande desafio regulatório né daqui para frente porque cada vez mais Essas tecnologias vão evoluir de forma rápida e para garantir que a gente faça essa ponderação dos riscos e benefícios é importante a gente tá atento eh essa dinâmica do comitê eh Traz essa agilidade né porque o comitê pode tomar algumas decisões iniciais ali até que tem uma revisão a gente lá no cnmp usou dessa técnica de legística consel bandeira eh na política nacional do MP edital a gente estabeleceu diretrizes princípios alguns os de

segurança Mas deixou as normas mais técnicas para um manual de Ordenações técnicas anexo a à resolução e também tem um comitê que pode fazer essa revisão da do manual de Ordenações técnicas né e para que atualizem eh o mais próximo das mudanças e aí consegue mais agilidade e havendo necess cidade alteração eh da própria resolução pelo plenário né pela competência do cnmp e o equivalente aqui no CNJ e quero de novo agradecer o conselheiro Bandeira pelo convite para coordenar esse painel cumprimentar mais uma vez o amigo Fabrício Dr thgo todos que se fazem ainda presente

até às 18 horas de uma sexta-feira né e Mostra o quanto o tema é é instigante né e desafiador e e mais uma vez parabéns pela quantidade de acessos a gente tem certeza que vai superar se tornar o primeiro porque muitas pessoas né desejam acompanhar né mas como são três dias e ainda tem muita coisa ser a ser vista e e e a ser apreendida Então parabéns a todos Parabéns a todos da equipe da organização e vou passar a palavra pro Conselheiro Bandeira por suas considerações finais obrigado obrigado meu caríssimo mo mais uma vez cumprimento

a todos serei muito breve É só para fazer algumas considerações a respeito da dessa audiência pública os números impressionam tanto ao longo de TR Dias tivemos 20 horas aqui aqui de de de audiência pública 60 especialistas profissionais da das áreas de ti e do direito né representantes da academia da advocacia do Ministério Público das gestões né dos executivos estaduais e municipais e Federal né Eh falaram aqui tivemos a contribuição de professores de cinco países estrangeiros Alemanha Polônia Estados Unidos França e colia eh tivemos Ah já uma série de contribuições enviadas por escrito também aqueles que

preferiram fazer assim né ah e acredito que foram todas muito ricas nós discutimos aqui a auditoria e governança em a discutimos capacitação letramento neurociência tivemos aqui eh determinados especialistas que que eram contra unitamente contra né o uso da ia na produção de decisões judiciais professor na Frasão da UnB ah Professor Maurício docum por exemplo da PUC São Paulo mas dizer ó dá para usar ia para colocar o processo em caixinha mas não para fazer a Adesão judicial e na sequência tivemos outros que disseram que já estavam usando a a ia como TJ do Rio de

Janeiro para produzir decisão judicial né e tivemos Outros tantos aqui que explicaram até como fazer o prompt né para gerar decisão judicial Então acho que tivemos um um leque de pontos de vista e de ah colocações algunas até contraditórias e é bom que seja assim porque afinal de contas É é desse melting Pot né dessa dessa micelânia de posicionamentos e de e e de visões do do problema da i aplicado ao judiciário que vão tentar achar melhor solução a a ideia a partir de agora é que o GT né que foi o destinatário principal né

da dessa audiência pública e fica gravada evidentemente para toda a população que quiser assistir mas ao longo desses dias vocês perceb e viram aqui diversos membros do GT que se revezaram na na bancada recolhe essas essas ah sugestões Voltaremos a nos reunir para fazer um texto final de minuto a ser apresentado ao plenário do CNJ que espero eu ainda esse ano possa se debruçar sobre o tema mas perceba mo como a a discussão se complexificou né em pouco nesses três 4 anos né de vigência da resolução 332 é o unice Prado que tava quando fez

a sua apresentação mostrou uma foto do primeiro grupo que fez a resolução 332 eram nove pessoas das quais boa parte né dentro aqui do do CNJ fizeram um belíssimo trabalho né mas com a chegada aí a generativa o texto rapidamente envelheceu demandando um novo olhar mas já com um cenário bem mais complexo tanto é que hoje o GT tem 30 pessoas né de diferentes origens para poder justamente trazer ess esses vieses essas ah perspectivas pro pro nosso trabalho né né fizemos essa audiência pública riquíssima que alguns disseram e eu concordo poderia ser perfeitamente um seminário

internacional né dada a qualidade das manifestações que tivemos aqui da da Tribuna da bancada e também da virtuais só posso agradecer a todos vocês né Agradeço aos participantes agradeço a minha equipe que trabalhou intensamente para organizar Ah esse evento o pessoal do cerimonial da toda a infraestrutura do CNJ e evidentemente meus colegas de trabalho de GT né aqui vejo o moir Rei Fabrício Mota Alves Laura Porto Tiago Gontijo né que estão aqui hoje mas mais cedo tivemos o Alexandre zavalia tivemos o o Faustino Macedo né e vários outros que Alexandre Pimentel teve aqui também en

foram vários que tiveram aqui né E que vão ajudar a construir esse espero eu né um belo legado para o judiciário brasileiro eu falei anteontem que o judiciário brasileiro está sem dúvida nenhuma na guarda da aplicação de tecnologia né se compararmos Judiciários de outros países quando olhamos as diretivas de aplicáveis a ao judiciário Quem já tem Norma são Norma são normas genéricas com princípios e diretrizes o estágio em que estamos discutindo e aplicando a inteligência artificial Sem dúvida nos legitima a dar lição né para vários países do mundo e é o que acontece quando levamos

os dados do Judiciário Brasileiro ao exterior né Sempre sur Sempre fizeram uma presa a quantidade de dados que eh que e de material de experiência que temos acumulado evidentemente também dado do porte do Brasil é o né a complexidade suas relações jurídicas e a quantidade de processos que que por aqui tramitam tudo isso para dizer que nosso objetivo é é entregar né nos se Deus quiser ainda nos próximos 30 ou 45 dias um um trabalho definitivo para análise do do CNJ e que permita que a ia possa desenvolver-se como como tava recentemente com Thiago Possa

desenvolver-se possa evoluir né Sem evidentemente que percamos o controle com a da forma que ela tá sendo aplicada né a gente tem que ter uma uma capacidade de governança de observação da desse uso da ia tem que ter capacidade de auditar o que tá sendo produzido por ela porque percebam o problema não é o bom juiz ou o bom promotor meu caro moci né esse vai vai continuar eventualmente recebendo uma uma minuta usando um subsídio para de pesquisa vai continuar lendo revisando n seu trabalho antes de publicar o problema é o mal profissional é aquele

que acumula processos atrasados e às vesas da corregedoria chegar para fazer uma uma inspeção né poderia pegar tudo aquilo jogar no aá para que cuspi um monte de sentença né E aí sim está sendo julgado por robô é isso que não queremos E é isso que vamos tentar evitar né por meio da regulamentação a todos meu muito obrigado e Prometemos em breve né entregar eh esse trabalho para discussão e análise pelo plenário do CNJ e pela sociedade como um todo Muito [Aplausos] obrigado passo a palavra a cerimonial pro nosso encerramento agradecendo mais uma vez a

presença de todas e todos senhoras e senhores agradecemos os pronunciamentos realizados e com a devida autor declaramos encerrada a audiência pública sobre inteligência artificial no poder judiciário Tenham todos uma boa noite