👨 Saber Direito – Direito Digital - Aula 3

[Música] no saber direito desta semana Túlio Silveira apresenta um curso sobre a implementação da Inteligência Artificial na advocacia e nos tribunais o professor aborda os desafios éticos legais a eficiência as tendências e perspectivas para essa ferramenta no universo jurídico está no ar aula 3 [Música] Olá seja muito bem-vinda seja muito bem-vindo ao programa saber direito da TV Justiça Eu me chamo Túlio Silveira sou advogado Professor mestre em direito doutorando em direito e vamos falar hoje sobre a inteligência artificial nos tribunais Quais são os desafios atuais para a implantação da inteligência ial no cotidiano do sistema

de Justiça brasileiro essa é a nossa aula de número TRS o objetivo Desse nosso encontro é explorar o uso da Inteligência Artificial nos tribunais e compreender os seus impactos oportunidades e desafios de implementação quais dessas tecnologias o sistema de Justiça brasileiro já está implementando quais dessas tecnologias nós estamos nos sujeitando diariamente eu quero te mostrar a aplicação da Inteligência Artificial nos tribunais como as decisões automatizadas e análise de jurisprudência podem ser conferidas e devem ser conferidas nos sistemas de Inteligência Artificial atuais quais se destacam a vamos falar um pouco sobre a revisão da resolução 332

do CNJ e quais são os desafios atuais disso tudo fica comigo até o final desse vídeo a inteligência artificial nos tribunais é uma realidade na aula passada eu comentei com vocês que um colega advogado me abordou questionando será que um juiz não irá perceber que eu criei uma petição utilizando a inteligência artificial e eu comentei com ele será que será um juiz humano que realizará o despacho da sua petição inicial doravante em diante esse e outros temas são fundamentais pra gente compreender o status qu atual da inteligência artificial em nosso sistema de Justiça antigamente nós

sempre estivemos de alguma maneira a os profissionais do direito né de alguma maneira ou em alguma medida naquela atuação clássica só que hoje nós vivemos um momento disruptivo eu sou do tempo só do microcomputador eu não redigi petição inicial em máquina de escrever mas talvez muitos de vocês que estejam nos assistindo agora são do tempo da máquina de escrever se nós fizermos uma retrospectiva histórica nós iremos receber uma evolução significativa do tempo em que as decisões eram redigidas de po depois a máquina de escrever depois as impressoras matriciais as impressoras jato de tinta ou impressoras

a laser até que nós eliminamos as impressoras e passamos para um processo totalmente digital esse processo de dos atos processuais vem desde sempre trazendo algumas discussões aqui não se trata de discutir sobre o processo digital até porque muitos de Nós já nos acostumamos com o processo digital aqueles que pegaram o processo físico tiveram que se acostumar com o processo digital aqueles que eram do tempo da máquina de escrever tiveram que se adaptar ao computador e assim sucessivamente nós vivemos uma evolução nós precisamos estar antenados nessa evolução quando nós mencionamos que o sistema de Justiça também

está passando por um processo evolutivo significa dizer que ele está antenado nas tecnologias que estão disponíveis no mercado agora você cidadão você cidadã como será impactado como será impactada em relação a esses atos decisórios nós acompanhamos já por diversas vezes as entrevistas as autoridades constituídas explicando a utilização da Inteligência Artificial pelo nosso sistema de Justiça só que o que a gente precisa ficar atento é o seguinte por que que eu vou utilizar a inteligência artificial no sistema de Justiça Quais são as vantagens da utilização da Inteligência Artificial nesse sistema de Justiça algumas pessoas poderão dizer

o seguinte Túlio em determinada localidade o processo leva x meses para ser despachado x meses para ter o primeiro despacho da petição inicial quando nós colocamos essa situação diante das tecnologias disponíveis o que nós refletimos que Essas tecnologias disponíveis estão aí para serem usadas em favor da comunidade em favor dos jurisdicionados porque se lá atrás esse processo levava dias para ser despachado por era despachado por um juiz humano e talvez a demanda crescesse em progressão em progressão geométrica em relação a disponibilidade dos recursos como a inteligência artificial pode ajudar hoje o sistema de Justiça quando

nós quando nós mencionamos e Começamos a trabalhar a ideia de Inteligência Artificial generativa nós notamos que mediante a adoção de algoritmos específicos mediante dados previamente treinados hoje a tecnologia é capaz de realizar esse primeiro Despacho ou seja haverá uma diminuição significativa do tempo anterior com a inteligência artificial os tribunais diminuirão significativamente esse despacho Inicial Túlio isso já está acontecendo já está em processo de treinamento para jazinho ser disponibilizado para os tribunais onde é que está o nosso desafio é compreendermos que a implementação a incorporação da Inteligência Artificial aos tribunais Visa aumentar substancialmente a sua eficiência

e trazer pro jurisdicionado uma resposta suficientemente hábil suficientemente rápida para que ele tenha os seus anseios atendidos Só que nesse meio tempo quando nós falamos em aceleração de Atos processuais em redução do acúmulo de casos e aceleração ou aceleramento do julgamento das decisões algumas perspectivas precisam ser analisadas primeiro como essas decisões se darão em nosso ordenamento jurídico nós temos por exemplo no código de no código civil aos direitos naturais aos direitos da pessoa ao direito da pessoa civil ao direito empresarial vários direitos lá no código civil protegem tanto que o cidadão é alcançado pelo Direito

Civil desde o seu nascimento até sua morte no código penal O Código Penal vem para estabelecer as condutas tidas como típicas e jurídicas Ou seja eu tenho um código penal onde que define a conduta e a pena eu tenho o código civil eu tenho a Constituição Federal a carta maior e ali dentro Eu preciso identificar como é que esse processo decisório vai impactar nessas relações sociais nos direitos individuais e nas garantias fundamentais digo isso porque estou estudando no doutorado e a Minha tese eh relacionada a direitos e garantias penais constitucionais e a hipótese Central eh

não se trata de quando mas de como seremos julgados por robôs e aqui o robô já comentei em aula anterior não é aquele ser autônomo né n não é aquele ser antropomorfo é o robô de Inteligência Artificial nós já temos algumas alguns exemplos que são adotados pelos próprios tribunais só que nos Estados Unidos isso já vem sendo adotado na China isso já vem sendo adotado na Coreia isso já vem sendo adotado alguns modelos precisam ser analisados sobre o ponto de vista da nossa realidade jurídica vou dar um exemplo Imagine você que antes da tecnologia o

teu processo levava em média 3 meses para ser despachado 3S meses para ter o primeiro despacho da petição inicial com a tecnologia nós podemos acelerar esse despacho estabelecendo como a máquina no lugar do indivíduo do decisor mas sob a supervisão desse órgão decisor sob a supervisão do juiz só que existe uma questão que precisa ser observada no ato da regulamentação a primeira questão não basta ser rápido para falar não o que que isso quer dizer na prática vamos imaginar que você tem lá uma petição inicial nos termos do 319 e tem um pedido de tutela

de urgência Vamos dar um exemplo aqui ao fornecimento de um medicamento de alto custo para uma doença que não está contemplada na lista do Sistema Único de Saúde quando o indivíduo o juiz humano despacha aquela petição ele Analisa não só o conteúdo jurídico Mas o conteúdo fático e leva em consideração a percepção daquele momento e a gravidade do caso despacha-se a petição inicial concedendo ou não a tutela de urgência mediante a a a o preenchimento dos requisitos do artigo 300 do Código de Processo Civil isso o juiz humano né o indivíduo agora como é que

essa máquina como é que esse robô despachar essa petição inicial Será que ela teria condições efetivas de perceber não apenas a gravidade do caso mas analisar todo o contexto ao qual é submetida aquela situação e ali sim deferir quando for de direito ou indeferir quando não for de direito é esse desafio atual que nós precisamos enfrentar é como a máquina vai perceber como a máquina vai se comportar diante das situações específicas trouxe um exemplo aqui de um despacho de uma petição inicial que a meu ver seria binário sim ou não na lógica de programação do

algoritmo trazendo aquelas regras atende os requisitos do 319 sim tem pedido de tutela de urgência sim atende os requisitos do artigo 300 é aí que a binariedade o sim ou não talvez se torne mais complexo é onde a gente precisa entender e estudar cas caso a caso Como será o comportamento dessa Inteligência Artificial Como será o comportamento desse resultado porque dentro desse algoritmo nós precisamos identificar a excia de vieses O que são vieses são adornos e artefatos inseridos sem que haja uma comprovação daquela situação vou dar um exemplo se eu inseri um viés de não

concessão para todos os pedidos daquela natureza daquele tipo de ação eu já tenho um viés discriminatório porque o algoritmo vai entender que se for contra o estado aspas deve ser negada a ação e isso é inadmissível porque dentro do algoritmo nós já mencionamos que ele deve ser transparente e a explicabilidade da decisão deve ser garantida se a gente não conseguir trazer a identificação desse viés E aí se o viés for identificado ele precisa ser automaticamente corrigido porque o processo decisório poderá tomar um direcionamento totalmente equivocado em relação à aquela demanda e a ideia de desafogar

o judiciário com despachos mais ágeis acaba caindo por terra porque se um dos objetivos da Inteligência Artificial é reduzir os prazos processuais e aqui leia-se é reduzir o tempo de resposta porque os embargos de declaração continuarão sendo opostos em até cinco dias úteis a apelação continuará sendo interposta em 15 dias úteis aqui não é redução de prazos processuais é redução do tempo de resposta em relação a aqueles prazos processuais Então dentro dessa lógica de programação trazer o objetivo paraa diminuição da sobrecarga de trabalho dos magistrados tem que ser analisado com muito cuidado nessa mesma petição

onde o autor requer a concessão de um medicamento de alto custo não previsto na lista do Sistema Único de Saúde se porventura a inteligência artificial identificar que mesmo havendo um pedido de justiça gratuita ela entender que aquela simples declaração de hipossuficiência não seja suficiente para comprovar a pobreza do autor isso de forma automática não pode ser concebido deve se atender ainda à supervisão humana todo resultado deve depender dessa supervisão humana então analisando padrões decisórios analisando decisões anteriores analisando casos específicos eu posso sim trazer essa automação com inteligência artificial para os tribunais Mas quais são os

nossos desafios a atualmente eu entendo que um deles é conseguir colocar dentro dessa lógica de programação todas as possibilidades e aqui quando eu digo todas a maioria delas em relação àquilo que se busca e tentar sim entender como isso deve começar Qual é o primeiro passo a ser dado pelo Judiciário e aí a gente vai eh eh fazer aqui para você uma apresentação então só para você entender o objetivo a meu ver hoje com a implementação da e no sistema de justiça é reduzir os prazos processuais diminuir a sobrecarga de trabalho que é estressante tá

dos magistrados e aumentar a precisão na análise de jurisprudência e na gestão de processos no Brasil do CNJ lidera a implementação dessas diretrizes fazendo a revisão da resolução 332 e a gente aguarda com mu ade essaa a revisão da resolução 332 porque a gente entende que ela é salutar pro funcionamento adequado da implementação da inteligência artificial no nosso sistema de Justiça um ponto bem interessante que a gente precisa também identificar é o seguinte entre essas decisões automatizadas Entre esses exemplos de Inteligência Artificial que a gente pode eh eh trazer que a gente pode fazer referência

em alguns países já estão sendo adotados modelos decisórios em ações de menor complexidade como em infrações de trânsito então nos Estados Unidos já está sendo implementado eh nesses casos de menor menor complexidade como infrações de trânsito essas decisões automatizadas e aqui tem uma tem um detalhe interessante né quem bate atrás tem razão ou não tem razão o caso de abalroamento de veículo quando o veículo a abalroa na traseira do veículo B quem está correto o veículo a ou o veículo B Talvez uma análise superficial você já tem aí a sua opinião mas como é que

a gente traz isso para o sistema de Justiça dentro de um algoritmo decisório ainda que se tenha uma menor complexidade na infração de trânsito Quais são as variáveis que serão permitidas para se analisar se aquele que realmente bateu na traseira do outro veículo estava sem razão não tô fazendo juiz de valor algum só Estou trazendo o quê a complexidade do tema mas esse esse essa complexidade ela precisa ser enfrentada se nós quisermos implantar as tecnologias e volto a dizer não é acelerar o processo para negar direito é acelerar o processo para dar efetividade a esse

direito e a efetividade é o reconhecimento ou não ao direito nessa perspectiva que eu percebo nesses estudos que estou fazendo é que quando a gente tem um processo com inteligência artificial pra análise de jurisprudência a gente consegue sim infinitamente analisar um volume maior de dados do que se nós fôssemos fazê-lo manualmente ou se nós fôssemos fazê-lo mecanicamente tá uma boa prática identificada é que é adotada pelo STF o sistema de Inteligência Artificial Victor onde ele Analisa processo repercussão geral organizando as informações essenciais e isso economiza um tempo significativo para os servidores do Supremo Tribunal Federal

e para a própria organização judiciário o ponto aqui é ser discutido é o seguinte a inteligência artificial não vai substituir o servidor a inteligência artificial auxiliar o servidor nessa tomada de decisões nessa perspectiva a inteligência artificial a meu ver não chega substituir correto só que ela parcialmente ou quase que na totalidade vai ser uma ferramenta necessária para aquele servidor realizar os encaminhamentos necessários nesse projeto Victor depois você que tá em casa nos assistindo dê uma pesquisada é uma muito interessante do STF além do Victor outras iniciativas também estão se avizinhando-se servidor hoje é feito por

um sistema de Inteligência Artificial que faz a pesquisa e Analisa os editais verificando aqueles editais que em tese estão contrariando os precedentes do Tribunal de Contas da União contrariando os precedentes da su 222 daquele tribunal no caso do sistema de Justiça eu vejo como uma in fundamental a gestão de processos judiciais como funcionará a gestão de processos judiciais primeiro o primeiro passo a ser identificado é a questão da triagem da documentação triagem dos documentos Organização das informações e priorização dos casos nesse tripé triagem organização as informações e priorização dos casos a gente consegue com os

recursos disponíveis dar vazão e atendimento satisfatório ao jurisdicionado eh um exemplo de gestão automatizada o Tribunal de Justiça de Minas Gerais utiliza uma maa já para organizar e priorizar as ações de maior urgência Como assim lembra que eu comentei lá agora no começo sobre o pedido tutela de urgência na legislação brasileira Você tem os casos de prioridade a a inteligência artificial já é capaz de definir dentro dos casos prioritários pela legislação brasileira adicionalmente a prioridade definida naquele escopo específico de dar de prestar o resultado ou de entregar o resultado efetivamente ao jurisdicionado mas Túlio Quais

são os benefícios dessa gestão automatizada a meu ver a redução do trabalho burocrático trazendo uma eficiência operacional a padronização e agilidade aos processos que são organizados rapidamente e aqui organizados rapidamente é dentro de uma padronização pré-estabelecida volto a dizer não é organizar rapidamente para negar é organizar para que o judici onado tenha condições de se apres entar e ter reconhecido ali o seu direito ou não um exemplo interessante sobre gestão de processo o insss em determinados casos de benefício já utiliza robôs de inteligência artificial para concessão dos benefícios qual é a vantagem em relação ao

processo manual uma eficiência operacional e uma prestação social efetiva aqueles que comprovarem atender os requisitos eu me lembro logo quando foi disponibilizado esse robô do INSS eu participei de uma de um evento e Eu mencionei pro pessoal F Olha gente é muito bacana o robozinho do insss só que ele não pode ser aquele robozinho que nega tudo uma vez preenchidos os requisitos para aquele benefício vou dar um exemplo BPC louas né uma vez preenchidos requisitos para o benefício do BBC LOAS esse benefício deve ser concedido por quê Porque a automatização significa eficiência operacional mas eficiência

operacional com objetivo que se destaca então eficiência agilidade e acesso à informação de uma maneira mais rápida essa esses três pilares da eficiência agilidade e acesso à informação me faz refletir o seguinte ainda que eu esteja falando em eficiência operacional ainda que eu esteja eh me referindo à agilidade processual e acesso a informação em todos os casos Eu preciso da supervisão humana para identificar se houve erro Se não houve erro naquele processo decisório Túlio Mas com tudo isso ainda é preciso a supervisão humana é preciso a supervisão humana para que as injustiças não sejam cometidas

e para que a própria Inteligência Artificial não faça parte desse processo de injustiças que porventura venha ocorrer o CNJ então está atualizando a resolução 332 que traz a ética e transparência do uso da ia no sistema de Justiça brasileiro a resolução 332 ela define as diretrizes para o uso da ia no judiciário com foco na ética transparência e governança ética transparência e finança significa que os algoritmos criados ou treinados A partir dessa perspectiva devem se enquadrar entre esses três fundamentos por quê Porque é necessário que o algoritmo não atue em desconformidade com a própria Norma

com a própria ética não utilize subterfúgios para adotar qualquer medida ou qualquer qualquer decisão um dos objetivos da resolução 332 é trazer a transparência e a explicabilidade no uso da Inteligência Artificial ponto presta atenção que vai cair na prova explicabilidade nós já falamos na primeira aula Se você não assistiu volte assista mas espere terminar esse episódio volte assista a explicabilidade é do algoritmo justificar o motivo pelo qual adotou aquela decisão O Código Processo Civil determina que as decisões judiciais devem ser motivadas o princípio da motivação é inerente o ato processual o que que é a

motivação é você justificar Por que você adotou aquela decisão e não a outra você feriu E porque você não deferiu porque você deixou de observar e não deixou de observar nós temos um caso muito interessante que trata do tema 1137 que nesse tema está incluído por exemplo a suspensão da habilitação do devedor a suspensão do cartão de crédito devedor e a apreensão do passaporte do devedor em caso de execução de títulos eh judiciais e títulos extrajudiciais ou seja na fase de execução poder seria adotar essa medida conforme previsto no código de processo civil no entanto

o tema 1137 determinou a suspensão desses julgamentos ou a não concessão dessas medidas enquanto o tema 1137 não fosse julgado a inteligência artificial aqui nesse caso já seria suficientemente capaz de entender que a partir de uma uniformização de um entendimento os demais procedimentos não seriam adotados em relação aquele tema ou seja enquanto não se julgar de forma definitiva todos os demais processos devem ser sobrestados todos os demais pedidos devem ser sobrestados agora um juiz pode não seguir o tema 1137 e pode ali conceder a suspensão do passaporte da carteira de habilitação e e da e

do cartão de crédito do devedor Olha que interessante se eu estou trabalhando no princípio da motivação e o código de processo civil determina que essa decisão deve ser motivada o que motivou a conceder o que motivou a não conceder na explicabilidade do algoritmo ele precisa ser capaz de explicar cedeu ou porque não concedeu só que hoje nós temos uma caixa preta algorítmica essa caixa preta algorítmica também chamada segredo de segredo não é de Justiça segredo Industrial ela ainda não propicia com que isso seja efetivamente colocado em prática ou seja se o algoritmo não for capaz

de Por que que ele tomou aquela decisão e não outra o sistema de Justiça vai se tornar capenga E é isso que é resolução 332 que é trazer para evitar e dar sim a necessidade dessa explicabilidade talvez você em casa esteja se perguntando Túlio às vezes um juiz não consegue explicar porque tomou a decisão a ao invés de tomar a decisão B mas eu tenho certeza que a motivação está na sentença a motivação está na decisão interlocutória o que nós precisamos entender é que um algoritmo nesse processo decisório não pode não pode de maneira nenhuma

deixar de ser transparente ele tem que ser Auto explicável aqui talvez o termo Auto explicável não se empregue da maneira correta mas a explicabilidade é o poder dele justificar Por que que tomou aquela decisão ou não a resolução 332 também traz o respeito à privacidade e a imparcialidade nos processos decisórios o grande objetivo aqui agora dessa resolução é revisar para que ela se atualize com avanço tecnológico né E o nosso ponto de vista ela tá tá avançando bem essas audiências que tiveram eu acompanhei os três dias pelo YouTube foram audiências muito interessantes e vários casos

foram trazidos à tona sobre a atualização dessa dessa resolução o PL 2338 de 2023 Visa e aí já trazendo a regulamentação da inteligência artificial no Brasil Visa regular o uso da Inteligência Artificial promovendo o desenvolvimento seguro e responsável dessa tecnologia a regulamentação da inteligência artificial no Brasil ela prevê efetivamente a proteção aos direitos fundamentais e o desenvolvimento seguro da inteligência artificial qual é o foco principal ou o fundamento principal dessa regulamentação é a centralização da pessoa humana e respeito aos direitos humanos esse essa é a principal a segunda que vejo ali no no projeto de

lei é a Proteção Ambiental e o desenvolvimento sustentável a livre iniciativa e a inovação tecnológica mas eu tenho aqui uma crítica construtiva a fazer muito cuidado ao trazer o modelo regulatório europeu por uma coisa é trabalharmos a regulamentação a outra é o avanço tecnológico se várias travas forem inseridas nessa regulamentação nós corremos o sério risco de não viabilizar ou de inviabilizar avanços tecnológicos porque o Brasil ainda não tem uma inteligência artificial genuinamente brasileira e nós precisamos trabalhar para que tenhamos uma inteligência artificial genuinamente brasileira trazendo o qu divisas trazendo toda a complexidade do nosso cenário

para a realidade brasileira e a inteligência artificial deve promover sim a segurança a dignidade a inclusão e o respeito aos direitos fundamentais uma coisa que chama muita atenção no pl2 23 38 e e aqui faço o registro é que quando ela trata da questão de abilizar toda a cadeia produtiva da Inteligência Artificial ela não faz menção ao direito de regresso Esse é um ponto que precisa ser analisado sobre o aspecto da regulamentação né quando nós falamos do 2338 sobre os princípios por desenvolvimento e uso da Inteligência Artificial Ela traz ali algumas perspectivas muito interessantes ela

fala a respeito do crescimento inclusivo o desenvolvimento e o bem-estar a inteligência artificial não pode ser utilizada para não permitir o bem-estar ou desenvolvimento ou crescimento inclusivo ela não pode ser discriminatória ela tem que prever o crescimento inclusivo também como na resolução 338 CNJ o PL 2338 traz a transparência a a explicabilidade e a auditabilidade como fundamentos necessários para que o algoritmo da Inteligência Artificial possa funcionar transparência é pra gente entender como ele funciona a explicabilidade é para que ele possa explicar por que que ele tá fazendo isso naquele momento em que fez e a

auditabilidade criar uma cadeia de custódia algoritma para que as autoridades constituídas possam realizar auditoria em relação à aquelas informações eh rec foi noticiado que um um indivíduo um cidadão acabou cometendo acabou ceifando sua vida porque havia se apaixonado por uma inteligência artificial isso é um fato que requer muita atenção até que ponto essa nova relação social está impactando o direito à vida quem será responsabilizado por isso Qual é a cadeia de responsabilização necessária que vai reparar essa ocorrência isso a gente precisa discutir a gente precisa trazer a baila por quê Porque nós vivemos uma nova

situação social onde pessoas estão se relacionando com inteligências artificiais que cria imagem cria um vídeo e será que essas pessoas aí não precisam de uma atenção em relação à proteção é tudo muito novo entendo eu que essas pessoas também precisam ser protegidas contra esses contra essas situações que podem ocorrer efetivamente Então vamos lá transparência explicabilidade e auditabilidade prestação de contas e justiça a inteligência artificial também precisa prestar contas e justiça social rastreabilidade e metilação de riscos são outros dois fundamentos o que que é a rastra habilidade é saber e e é o poder de se

identificar como Aquela Decisão foi tomada ou como Aquela Inteligência Artificial se comportou naquele momento Digamos que você peça pra Inteligência Artificial ensinar a você criar uma receita de bolo Então você primeiro vai separar a farinha vai separar a gema da Clara vai colocar um fio de óleo colocar a quantidade de sal dali Você vai bater o bolo deixar sovar colocar para nem sei se é assim que faz bolo tá mas ali tem uma ordem se você inverter a ordem será que esse bolo vai funcionar da mesma maneira a inteligência artificial se ela conduzi-lo para um

resultado que vai lhe imputar um erro ou para uma situação onde você foi e eh submetido a uma informação falsa onde foi conduzido a tomar uma medida que não representava a realidade como isso será rastreado quais serão os riscos e como isso será mitigado a i a Então deve ser transparente e justa permitindo o controle e e minimizando os riscos a o projeto 2338 de 2023 Tais alguns conceitos interessantes que perante os sistemas o nosso sistema de Justiça Deve sim ser levado em consideração Ela traz o conceito de sistema de a como é dotado da

Ciência da Computação né com sistemas computacionais com diferentes graus de autonomia para atingir objetivos específicos ela faz referência aos agentes de a quem são os agentes são os fornecedores e operadores do sistema não apenas os fornecedores ela faz referência à autoridade competente né o órgão regulador e fiscalizador e ela estabelece a delimitação de quem é responsável pela segurança e a conformidade do uso da Inteligência Artificial as pessoas todas as pessoas que são afetadas por Inteligência Artificial T direitos aqui a resolu a resolução perdão o PL 2338 coloca estabelece quatro e perdão três pilares fundamentais o

primeiro deles é o direito à informação explicação e contestação de decisões de a para um minuto da tua atenção direito a informação explicação e contestação de decisões da i isso muito se parece com a necessidade que está sendo colocado ao sistema de Justiça justamente porque aquelas decisões que porventura forem tomadas por Inteligência Artificial também tenham a possibilidade de serem contestadas não só o termo contestação na acepção do termo mas o direito delas serem revistas em razão dessa explicabilidade em razão dessa rastreabilidade direito à não discriminação e correção de vieses discriminatórios lembra do exemplo da ação

para fornecimento do medicamento de alto custo que não está contemplada no SUS a inteligência artificial não pode de maneira alguma trazer consigo um viés discriminatório que se for contra o estado será indeferido se for contra o município será deferido se for contra a união será indeferido ela não pode trazer esse viés discriminatório ela precisa considerar a questão em si e todos os padrões comportamentais e decisórios anteriores a proteção de dados pessoais conforme a lgpd estabelece Outro ponto fundamental do pl 2 3 38 é ah são os direitos relacionados à informação e compreensão transparência nas interações

e decisões automatizadas essa interação essa transparência nada mais é do que você avisar o usuário que a inteligência artificial pode cometer alguns erros e ela precisa ser supervisionada por um humano o direito à explicação sobre o critério e lógica de programação dessa Inteligência Artificial e as informações sobre a segurança e confiabilidade dos sistemas leia-se toda Inteligência Artificial é um produto inacabado e por isso ela precisa sempre de supervisão humana direito à contestação e intervenção humana é uma das previsões legais do pl 2338 possibilidade de revisão e correção de decisões automatizadas solicitação de revisão humana em

decisões significativas ou seja não deixar apenas para a inteligência artificial tomar essa decisão proteção novamente contra esses vieses e a correção desses vieses e o atendimento a ao fim social para o qual ela foi criada no 23 no 2338 nós temos uma categorização de riscos da Inteligência Artificial onde o PL prevê avaliação preliminar de riscos antes do uso da inig artificial e aqui pessoal quando nós falamos de riscos é o que ela vai impactar na sociedade Qual será o impacto negativo perante a sociedade quais serão os resultados desse Impacto negativo e ela traz dois tipos

de risco Ela traz o risco excessivo e o risco preliminar nesse preliminar nós temos uma análise prévia como o nome diz sobre o grau e a natureza do Risco o risco excessivo na a são as proibições a verificação para as proibições sobre a segurança pública e pontuação social e aqui eu trago um exemplo lá nos Estados Unidos como como eu comentei na aula o projeto Compass eh do wisconsin oando faz referência ao processo decisório do sistema de Justiça daquele estado Considerando o sistema de reincidência ele faz uma análise preditiva e Analisa se aquele é o

caso de que se aquele sujeito for colocado na rua novamente se tornará Reincidente isso me faz lembrar do ches Lombroso quando ele fazia toda a verificação do criminoso pela pela sua fisionomia pela formação do seu crânio nós não podemos admitir esse tipo de Conduta né a gente precisa sempre lutar contra essa possibilidade ou permissibilidade de que quem sabe quando futuramente ele poderá se tornar Reincidente a gente precisa trabalhar com o viés específico para proibir esse Censo discriminatório da Inteligência Artificial o registro e documentação do algoritmo o registro de documentação da explicabilidade o registro e documentação

do processo de Transparência ela prevê uma questão voltada do alto risco no PL 2338 nós temos a identificação dos sistemas de alto risco O que são os sistemas de alto risco são infraestruturas críticas como o controle específico de determinadas situações tanto quanto na área de segurança pública quanto na educação e saúde mas não deixando de lado a administração da Justiça nessa perspectiva determinadas áreas que foram trazidas pelo PL 2338 pela sua natureza e pelo seu ou por seu possível Impacto eh exigirão controles rigorosos e são considerados como temas de alto risco nessa perspectiva do alto

risco aquilo que coloca a sociedade em insegurança Para os fins dos do 2338 está sendo considerado como de alto risco eh eu cheguei a comentar com vocês sobre aquela política de análise com câmeras de segurança que foi adotado ah pela polícia de Boston e nesse caso específico lá houve um viés de insegurança para determinados grupos da sociedade foi feita uma análise em determinada situação pessoas de cor negra de bairros periféricos foram mais eh eh identificadas com mais tendência a praticar crime do que outras regiões Então nesse exemplo nós vemos um viés clássico de discriminação na

parte Segurança Pública uma coisa é eu garantir a segurança da sociedade a outra eu trabalhar um ato discriminatório que é inadmissível no meu ponto de vista jurídico meu ponto de vista de intérprete da legislação e de operador do direito nos sistemas de Inteligência Artificial nós temos o processo de governança no PL 2338 as estruturas de governança e os processos internos foram pensados sempre trabalhando três pilares o primeiro Pilar da Transparência o segundo a gestão otimizada de dados e os requisitos adicionais para os sistemas de alto risco a meu ver isso deve seguir estruturas de governança

Clara com requisitos extras para sistemas de alto risco tudo quando for implicar a a a a ou quando for diser respeito a parte da sociedade um tema bem interessante que foi classificado como sistemas de alto risco é a avaliação do impacto algorítmico das inteligências artificiais essa avaliação de impacto ela deve ser considerada quando o sistema for de alto risco voltado por exemplo Segurança Pública ela prevê Quais são as etapas de análise desse eh sistema de alto risco desse sistema de impacto que é preparação cognição dos riscos mitigação e monitoramento ela havia a necessidade sim de

trabalhar profissionais qualificados para atuação na na na condução dessa dessa algoritm iação e em cima dessa avaliação do impacto algorítmico peço licença para fazer um comentário adicional com a perspectiva da análise do sistema de Justiça trazendo a perspectiva do pl 2338 para o processo decisório ou do impacto do algoritmo do algoritmo nós precisamos eh trabalhar que essa perspectiva de preparação cognição mitigação e monitoramento tal qual tal qual se antv no uso por inteligência artificial no temas de Justiça deve ser trazida para a nossa realidade o nosso dia a dia e mediante a formação de novos

profissionais ou emprego de novas habilidades no contexto jurídico brasileiro quer seja na área de advocacia quer seja na área no com membros do Ministério Público ou com magistrados trazer o desenvolvimento e a aplicação do emprego digital e de novas habilidades associadas a perspectiva da responsab ação civil se vê no PL 2338 a responsabilidade objetiva para alto risco a inversão do ônus da prova para inteligências artificiais de baixo risco e a reparação integral do dano e aqui só fazer um pênes que eu não verifiquei a questão de regresso em relação às responsabil a a regressar de

forma responsável contra aquele que deu causa fica aqui uma um uma uma dica e agora passaremos para o nosso Quiz Qual é uma aplicação da Inteligência Artificial nos tribunais discutidas na aula alternativa a gestão de marketing jurídico alternativa B decisões judiciais automatizadas alternativa c previsão de condições meteorológicas Alternativa de análise de mercado financeiro e alternativa correta é a decisões judiciais automatizadas com o intuito de desafogar o nosso sistema de justiça e a sobrecarga de trabalho dos magistrados a inteligência artificial é uma ferramenta poderosa para trazer agilidade nas decisões judiciais quer sejam elas em processos repetitivos

ou processos específicos Mas acima de tudo trazer uma resposta eficiente aos jurisdicionados [Música] Qual é Um Desafio ético da Inteligência Artificial nos tribunais mencionados na aula alternativa a transparência das decisões automatizadas alternativa B redução de custos operacionais alternativa c aumento da produtividade dos Advogados alternativa d melhoria na qualidade dos serviços jurídicos e a alternativa correta é a letra a transparência das decisões automatizadas um dos objetivos da explicabilidade algorítmica é que esse sistema consiga adotar e explicar por tomou a decisão a ao invés de adotar a decisão B isso traz transparência efetiva ao processo decisório e

a automação das decisões judiciais toda e qualquer decisão judicial deve ser motivada no caso da Justiça algorítmica ela deve ser motivada igualmente [Música] Qual é o benefício da Inteligência Artificial na gestão de processos judiciais alternativa a aumenta a burocracia alternativa B maior eficiência e rapidez dos processos a alternativa c redução de casos resolvidos alternativa d aumento de carga de trabalho dos juízes e a alternativa correta é a letra B maior eficiência e rapidez nos processos muitas vezes a população reclama que não é atendida pelo Poder Judiciário Aqui nós temos um exemplo Claro onde o emprego

da Inteligência Artificial dará paraa população de maneira geral a eficiência na prestação jurisdicional onde os processos decisórios serão dados vazão conforme a legislação Pátria e assim nós encerramos o encontro de hoje na aula TRS nós falamos sobre os desafios de incorporar a inteligência artificial no sistema de Justiça fizemos uma rápida apresentação da resolução 332 e comentamos sobre o PL 2338 que tramita no congresso nacional para regulamentar a inteligência artificial no Brasil se você ainda não baixou o aplicativo TV Justiça mais baixe agora H um clique você terá acesso a todas as informações da TV Justiça

Eu me chamo Túlio Silveira e muito obrigado por você estar aqui conosco até agora mas antes de você desligar a telinha vai lá siga o perfil @ advogado Túlio Silveira muito obrigado por ter ficado conosco até aqui até a próxima quer dar alguma sugestão de tema para os cursos do Saber Direito Então mande o e-mail pra gente sabero @st jus.br você também pode estudar pela internet acesse o nosso site Rádio tvjustiça jus.br ou pode rever as aulas no canal do YouTube @radio tvjustiça k [Música]