Entender Direito debate Inteligência Artificial com juristas responsáveis por proposta de lei

E aí [Música] o Olá pessoal hoje nós vamos entender direito sobre a regulamentação da inteligência artificial no Brasil e como será direcionado o trabalho de uma comissão de juristas responsável por elaborar um substitutivo os projetos de lei que propõem o Marco legal para o uso dessa tecnologia no Brasil os países ainda não conta com legislação específica que regulamente o uso da também chamada pela sigla EA embora já tem usar 13709/2018 que a lei geral de proteção de dados pessoais EA lei federal 14129 de 2021 popularmente conhecida como lei do governo digital também contamos com projetos

de lei em discussão no Congresso Nacional Um deles o pl21 de 2020 já foi aprovado na câmara dos deputados e foi instalada no último dia 30 de Março a comissão de juristas sobre a qual mencionei e entre os 18 integrantes três deles estão aqui conosco Oi gente Dessa comissão Ministro Villas Bôas Cueva Ministro do STJ a quem eu agradeço desde já a participação aqui não entender direito o ministro esclareceu o nosso trabalho na comissão de juristas do senado a nossa outra convidada é a doutora Laura schertel Mendes professora da Universidade de Brasília e ela é

relatório dessa comissão de juristas doutora Laura muito bem-vindo ao entender direito você obrigada pelo convite nosso terceiro convidado é o advogado e professor Fabrício da Mota Alves Conselheiro no Conselho Nacional de Proteção de dados e membros dessa comissão Doutor Fabrício muito bem-vindo ao entender direito de hoje muito obrigado obrigado pelo convite eu começo com uma pergunta direcionada aos nossos três convidados tipos de Neto a gente sabe que o mundo está passando por movimento de visualização constante adaptação do direito a esse mundo virtual tem sido um grande desafio eu gostaria de começar pelo senhor Ministro o

erro por favor fio desenvolvido muito rapidamente e o direito de ter respondido a isso da melhor maneira possível mas nem sempre a ponto de se antecipar as consequências das tecnologias novas um exemplo da de uma resposta adequada foi a adoção entre nós da lei geral de proteção de dados com referida pouco né e agora a inteligência artificial traz imensos desafios Porque como é que vamos tratar de das Ferramentas que afetam nosso dia a dia já e que no futuro ainda terão repercussão maior a Anna Anna Laura estamos realmente correndo aí atrás do direito está correndo

atrás de acompanhar essa tecnologia essa movimentação constante Com certeza a inovação tecnológica Ela traz muitos benefícios né e muda muito ambiente no qual a gente vive traz novas oportunidades e também traz novos riscos então direito ele sempre tem que correr atrás como você muito bem colocou junto com as renovação tecnológica a gente também tem uma inovação no próprio direito uma nova ação na interpretação dos é mais uma inovação também Legislativa então a área de p&d com o ministro mencionou o Marco civil da internet é são exemplos né de dessas leis que buscaram então também é

regular esse novo ambiente digital e eu acho que o Brasil ele está frente aí tem uma cultura e uma tradição muito interessante de regulação de novas tecnologias Doutor Fabrício e sua opinião concordo vejo que me parece bastante natural que a sociedade sempre seja a primeira a experimentar as novidades da tecnologia e o direito por razões próprias da nossa própria democracia acaba sendo um vetor de acomodação e de previsão para a contenção de riscos e contenção de problemas que são experimentados na própria sociedade dentro desse ambiente o próprio judiciário ganhou um papel extremamente importante à medida

que ele acaba sendo muito embora talvez não seja o esperado e o ambiente que acomoda ansiedade por novas regulações e a necessidade de conformar e adequar os problemas que a tecnologia acaba trazendo em função do uso deliberado e muitas vezes indiscriminado é o judiciário tem esse papel e o ministro aqui presente Talvez seja uma das maiores expressões no equilíbrio dessa decisão entre o que a legislação ainda não alcança e o que é necessário fazer para conter os excessos que a tecnologia promove na sociedade e falando nisso não é o Brasil está tentando avançar né como

nós ficamos no conversa no começo da nossa conversa o Brasil não tem legislações específicas na que tratem 30 mente aí da Inteligência Artificial e para contribuir né para elaboração de um normativo foi criada a comissão de juristas Ministro coifa gostaria de então ouvir do senhor né é o senhor que Preside esse grupo poderemos contar Quais as estratégias de trabalho para a condução dos debates entre os integrantes eu queria que o seu contato um pouquinho então é sobre a comissão quem a compõe enfim como é que serão direcionados os trabalhos da Comissão da Verdade foi criado

por uns e ativa do presidente do senado ao lado de duas outras comissões de juristas que vão debater temas diferentes para no nosso caso da andamento um processo legislativo que já se iniciou na Câmara dos Deputados com aprovação de projeto de lei que serão analisados por esse grupo de 18 juros composto de especialistas de várias áreas de Direito Civil direito [Música] da proteção de dados pessoais e profissionais que tem contato com os nomes tecnologias e que poderão receber o máximo de informações possíveis ouvindo a sociedade com a gente pretende através de audiências públicas e o

seminário internacional de modo a fornecer aos senadores subsídios o substitutivo aqueles projetos de lei aprovado na Câmara dos Deputados naquela ocasião na cama também já ouviu um longo processo de debate com audiências públicas agora nós pretendemos complementar e aprofundar esse debate de modo que seja possível fornecer aos legisladores um quadro mais atual e mais profundo possível sobre a matéria uma séria é difícil complexa e traz muitos desafios éticos Por que no mundo inteiro já se debate sobre a própria conveniência ou não de regular Inteligência Artificial o Brasil esse estágio esse Limiar já foi superado com

aprovação desses projetos mas agora Stephanie de saber qual extensão e alcance dessa regulação esse grupo de juristas vai procurar processar toda essa informação e oferecer então aos senadores um uma minuta do que seja razoável e estão previstas audiências públicas onde é que quem nos acompanha agora pode ficar sabendo ainda as datas e tudo o endereço site site do congresso cabelo atura furou falta toda a Laura Então queria saber mais ou menos assim agenda né de audiências públicas para os interessados acompanharem Maravilha é temos uma página começar agora tem uma página no site do Senado Federal

nessa página consta o regulamento o plano de trabalho aprovado os eixos temáticos é esses eixos eu acho que são interessantes nesse plano foi aprovado na quarta-feira no dia da instalação da comissão e são quatro grandes eixos temáticos sobre sobre os quais nós vamos nos debruçar exatamente também são os eixos que vão estruturar essas quatro audiências públicas então o primeiro grande tema é exatamente como e porquê regular conceito e aspectos sócio-técnicos da Inteligência Artificial né Acho que essa é uma pergunta basilar é eu como e qual o legislativo e quais técnicas ele regulatórios devem ser empregadas

o segundo grande eixo é exatamente os impactos da Inteligência Artificial Quais são os seus benefícios Qual é o seu contexto econômico social e quais são os seus riscos na nós sabemos que também há uma série de riscos como da discriminação é autodeterminação o terceiro grande eixos são direitos e deveres é por exemplo a questão da Transparência e a uma série de outros por exemplo para o direito a explicação é uma série de direitos que a gente gostaria de debater que já são debatidas no mundo todo e o Quarto e último grande eixo temático é exatamente

a discussão sobre fiscalização sobre governança e sobre todo um quadro aí é de discussão também sobre responsabilização Então as audiências discutiram esses grandes é quatro esses quatro grandes eixos e nós inclusive estamos já pedimos durante já a instalação abriu-se o prazo Então para que toda a sociedade possa contribuir e a esses eixos Eles foram estruturados dessa forma para que atores né dos mais diversos setores como se fosse privado setor público a entidades civis possam contribuir e a gente gostaria muito de obter contribuições multidisciplinares porque esse tema ele impõe um grande desafio exatamente em razão dessa

multidisciplinaridade então nós podemos passar aqui no programa no final o site também o e-mail com o cronograma da comissão Então tudo isso consta no site da comissão no senado federal Prefeito agora com doutor Fabrício né é doutor Fabrício o grupo nessa comissão de juristas né o grupo vai trabalhar entre outras circunstâncias com base em projetos de leis já existentes e que estão em tramitação no Congresso Nacional acerca do tema da isso falar um pouquinho sobre esse trabalho aí e o seu assunto o jovem sendo com o ministro bem e batido a câmara dos deputados promoveu

realmente uma ampla discussão sobre o tema chamando também especialistas representantes da sociedade civil dentro do seu ambiente no processo legislativo democrático funcional que diz respeito à iniciativa agora o Senado promove um debate e de certa maneira em fase de revisão do que a câmara promoveu como a visão também de abertura de participação social e democrática plural naturalmente multissetorial e considerando a necessidade de uma qualificação técnica sobre o a discussão por essa razão ao presidente Pacheco estabeleceu em comum acordo com a professora Laura o ministro a criação de uma comissão de especialistas que são todos membros

engajados diz que participam deste dito essa discussão beijo viés acadêmico até mesmo a participação internacional para promover essa pluralidade e o filtro necessário em relação às contribuições que a sociedade vai estabelecer lembrando o quê é bem colocou a comissão ela vai subsidiar o relator que o Senador Eduardo Gomes é ou seja o processo legislativo Continuará o seu curso normalmente naturalmente que na verdade é passe entre os próprios parlamentares mas a comissão vem para servir de apoio técnico na proposta de discussão desse tema o ministro os trabalhos da comissão de juristas para propor um Marco legal

de uso de Inteligência Artificial devem ser norteadas por princípios e garantias dos direitos do ser humano essa de fato é uma preocupação da comissão declarou obviamente nós não podemos trabalhar sem levar em consideração o ordenamento EA construção e todos os valores dela consagrados e também obviamente a já uma vasta literatura estudos debates que se travam aqui em outras partes do mundo que já procuram que já praticamente atingir uma certa convergência contra os princípios aplicáveis a a inteligência artificial obviamente o respeito à dignidade do ser humano a tecnologia centrada no ser humano a explicar habilidade auditabilidade

entre outros valores né Essa convergência de princípios é importante para que haja uma orientação firme para os jogadores em casos futuros né que se apresenta em quando houver por exemplo um defeito no uso de alguma ferramenta de Inteligência Artificial se o veículo autônomo causar um acidente quem será responsável por esse dente discussões como essa vão desafiar O Poder Judiciário um futuro breve Imagino e talvez não seja possível que haja uma regulação completa abrangente e totalizante da inteligência social mais uma regulação minimalista que contém princípios orientadores para casos futuros Talvez já seja conveniente e possa ser

usada e não haja uma ameaça muito grande a esses direitos a que você seria outra Laura e é porque regulamentar o uso da Inteligência Artificial será que é a uma questão aí ética preocupante no uso dessa tecnologia essa é uma ótima pergunta talvez a primeira questão acho que que é importante que Ministro e Fabrício Já trouxeram é de que esse processo já se iniciou no próprio no pré-congresso na Câmara dos Deputados então de alguma forma essa pergunta do porque eu diria que o pelo menos o time e o congresso já ele decidiu iniciar esse processo

né de discussão esse processo legislativo tanto é que já temos três projetos de lei é talvez seu ponto de vista um pouco acadêmico né o regulatório porque regular de fato hoje você sabe que muitas aplicações e diz que já existentes hoje Tereza oficial elas trazem Há muitos benefícios elas te façam o nosso dia a dia né como por exemplo é até mesmo diagnóstico já podem ser feitos com o meio deles especial na área da saúde na área do sistema financeiro a gente já sabe há muito tempo que existe por exemplo uma forma de você analisar

o risco né a empresa especial permite uma análise de uma quantidade imensa de dados e EA o estabelecimento de previsões isso ajuda muito a economia ajuda muito na diminuição de riscos dos setores é o direito setor privado de uma forma geral Mas é claro que já um vasto estudo Internacional e também no Brasil mostrando que a riscos decorrentes desse Grande até mesmo dessa dessa dependência de um alto volume de dados riscos por exemplo em relação a vieses algoritmos que nada mais é do que um risco é muitas relacionada à discriminação na então às vezes é

possível que é a partir de uma análise de um banco de dados muito muito com um volume muito grande de dados é possível que esses dados eu tenho dados históricos eles mesmos já tem um viés como por exemplo um viés de gênero ou de raça e esse vier a ele pode depois acabar também influenciando na nesse resultado dessa decisão então o risco afinação autodeterminação a também um risco em relação à a correção desses dados né se os dados que entram é como um input do algoritmo eles forem equivocados tiver um erro o resultado dessa probabilidade

será equivocada né Então tudo isso pode influenciar a vida das pessoas pode de uma forma bastante impactante ou negativa eventualmente e isso sim é também é objeto do nosso estudo do nosso debate dentro da comissão o Digamos que a gente aviso sob essa influência né de forma indireta a gente a vive sob essa influência é tanto Fabrício só que especialista na em proteção de dados o seu conselho aqui a lei geral de proteção de dados não seria suficiente aí para regular Tais violações ou vejo é importante nós estabelecemos um recorte de aplicabilidade material da própria

legislação a lei geral de proteção de dados pessoais Como o próprio nome sugere inclusive ela diz respeito a uma regulação jurídica em torno do uso de dados pessoais evidentemente que o uso de tecnologias Inteligência Artificial se valem de dados pessoais mas não somente isso ela ela ela é muito mais Ampla do que eu uso de informações que digam respeito ao cidadão que identificam o cidadão Não há dúvida de que quando a inteligência artificial sendo utilizada como motor de tratamento de dados pessoais o impacto ao cidadão é brutal é muito profundo de fato nós temos ali

afetamento que vão desde a privacidade por evidência o próprio direito de proteção de dados que é um direito autônomo também consagrado a nossa Constituição Federal a partir da emenda com sono mesmo 115 e outras liberdades individuais e serviços temos o direito de ir e vir o próprio a próprio direito de acesso a serviços públicos e privados o direito do exercício profissional hoje a inteligência artificial ela está em todos os ambientes públicos e privados Então ela é utilizado e ela pode afetar ela é sobretudo um instrumento e como todo instrumento se mal utilizado as consequências são

sempre nefastas ao cidadão tão a lei de oportunidades não serviria serviria para satisfazer a necessidade de proteção do indivíduo em relação a todas as várias dimensões do uso da Inteligência Artificial ela seria e é um vetor importante hoje é o que temos inclusive uma legislação extremamente Nobre mas sem dúvida não seria suficiente e nem se propõe a funciona avalia que será portanto diz a cantora de um modo geral a regulamentação da legislação que trata da Inteligência Artificial perante a outra legislação leva a que protege os dados pessoais haveria e uma dicotomia digamos assim entre essas

duas legislações com o Fabrício bem colocou a Campos reservados embora haja sobreposição entre eles a inteligência artificial por definição trará desafios enormes a qualquer campo do direito e também a proteção de dados porque a tendência que hajam uso cada vez mais indiscriminado de dados pessoais e em prejuízo dos titulares esses dados e obviamente a proteção dos dados pessoais será no futuro provavelmente muito mais complexa do que já é hoje então sim mas a pretensão agora desse grupo de trabalho dessa comissão não é fazer uma coisa de antes uma regulação totalizante que Prevejo todos os o

desenvolvimento da Inteligência Artificial e seria até deletério desenvolvimento da inteligência social é é fazer uma relação princípio a lógica que permita que os casos se decidam à se o tempo de maneira adequada e que o direito responda ao que vieram acontecendo que nós nem sabemos o que acontecerá em são grandes a fruta conexão né Outra Lari por favor eu falar exatamente ração esse ponto é ministra a gente discutiu Coloca alguma das premissas na nossa primeira reunião exatamente se debruçar sobre as a importância da consistência dessa dessa futura legislação desse futuro projeto é como as demais

leis Então acho que essa pergunta é vem muito a calhar nós é sempre um desafio muito grande e legislativo e isso já foi uma preocupação durante a elaboração também da legislação da profissão de idade Ministro e o Fabrício a mente se lembraram e sempre tem que pensar nessa legislação de que forma ela vai ser consistente como que já existe né então a preocupação de que ela dialogue com a lgpd com código Defesa do Consumidor com o Marco civil da internet que essa sempre uma preocupação muito importante e usar também já foi colocado de linho debate

Na nossa primeira reunião e também eu diria que tão importante quanto essa consistência é nacional com as nossas normas é em especial com a concessão Federal também como o acho que o ministro colocou esse Norte foi muito claro é muito claro né é termos um norte da dignidade da pessoa humana estou dos princípios condicionais é muito importante também a gente se lembrar da do debate internacional é hoje a muito eu diria que ainda não é uma lei para mim se dita sobre inteligência artificial todo esse debate ainda está ainda nascendo também eu está sendo envolvimento

no mundo mas há uma quantidade enorme de Esse é o que a gente chama de salto ló também de documentos que tem princípios e é muito importante para a gente também como o país é dialogar com todos esses esses estudos com toda essa essa essas normas inclusive para que essa legislação seja digamos assim interoperável né É hoje a gente vive no mundo é né Global globalizado e ainda mais não tem uma como esse a gente não pode de forma alguma desprezar todo esse desenvolvimento internacional também é sobre esse tema eu tô Fabrício como eu já

falei não sou especialista em proteção de dados quais seriam os princípios né os principais direitos digamos assim que poderiam ou que já vem sendo violados pelo uso indiscriminado da Inteligência Artificial e que a gente nem percebe né isso acontece pode estar acontecendo aí no dia a dia a gente nem percebe e é apenas responder ao seu questionamento interessante observar que nessa discussão sobre os direitos digitais vamos assim dizer mas vamos lá carteiras muito interessante porque eles permeiam diversos outros direitos e liberdades estão como o digital como a inteligência artificial a própria proteção de dados que

contém mora não diga a respeito exclusivamente o digital ela também afeta o uso de dados pessoais em ambientes físicos é mais evidente que o uso massivo é um ambiente digital são os são elementos instrumentais da sociedade a tecnologia tem essa essa função de servir de instrumento para consecução de diversas atividades sociais é curioso observar que há uma fretamento em todos os campos basicamente todos os interesses do cidadão Então como Eu mencionei há pouco direito de privacidade é um direito fortemente afetado pela Inteligência Artificial direito à liberdade de ir e vir também pode ser afetada o

uso de Inteligência Artificial sobretudo nos ambientes de monitoramento e Vigilância pública especialmente do espaço público Inclusive a um forte contexto no sentido de não se adotar ou de se restringir demasiadamente uso da Inteligência policial nos nesse espaço público e vários outros então nós temos um afetamento significativo talvez O Rol de direitos e liberdades pudesse ser estendido a toda a sua grande amplitude da construção federal porque todos os direitos podem ser afetados afetados a partir do Mau uso de tecnologia isso por uma razão simples praticamente qualquer serviço seja um ambiente público ou privado pode se valer

de inteligência artificial portanto o cidadão pode ser afetado em qualquer ambiente onde ele esteja numa relação privada na sua na sua seleção para um cargo profissional na sua seleção para até mesmo âmbito de controles mais relevante públicos as contas utiliza inteligência artificial para promover a fiscalização das contas públicas por exemplo judiciário utiliza inteligência artificial para a consecução dos seus da sua atividade jurisdicional tão afetamento é realmente muito amplo e os direitos são impactado sem mesma dimensão ator a Laura e prejuízos poderiam ser causados diante desse uso indiscriminado da Inteligência Artificial assinar exemplos práticos vamos lá

acho que também queria fazer uma em relação à questão dos prejuízos os riscos eu acho que vale Vale uma reflexão sobre talvez partida do que o doutor Fabrício colocou de fato uso são tão amplos e a gente tem inclusive usos mais inofensivos e uso que podem trazer digamos efeitos dramáticos como ao aceitar a a liberdade de Iriri por exemplo reconhecimento facial equivocado de um suspeito levar mesmo a prisão daquela pessoa né Então é eu acho que um ponto de partida muito importante que também é já um tiro pela comissão é a questão sobre os riscos

e pensar no ano uma regulação também que leve em conta os diferentes níveis de riscos que a gente tem então o dar um exemplo a gente tem quando você usa um aplicativo de vídeo ou de reconhecimento é de imagens na internet você tem uma aplicação de inteligência artificial é relamente simples né mas de reconhecimento por exemplo de animais né do gatinho de um cachorro E aí você pode ter um Talvez um nível de risco mais baixo em relação a essa aplicação acho que isso também é importante você colocado mas certamente quando a gente está falando

de uma seleção de candidatos de emprego né candidatos a um emprego e há inclusive alguns escândalos no mundo em relação a isso né de que algum software acabaram escolhendo por exemplo determinados tipos de emprego que historicamente são ocupados por homens a algum soft e eram escolhendo e grande proporção é muito maior proporção homens e mulheres é interessante que nesses casos inclusive se mostrou que o não só o algoritmo utilizado como também ele tinha um grau de erro é o nível de equívocos terrível é a ponto de também pegar as pessoas ou em grande parte pessoas

que não eram capacitados né então é interessante que nesse caso do emprego você a gente pode perceber que é um caso bastante Dramático você vai limitar né o acesso das pessoas a determinadas empregos a determinados serviços e isso seja por equívoco seja por vieses de gênero ou racial Então acho que isso também é um grande problema isso certamente acho que tá na sua pergunta em relação aos prejuízos e riscos e eu queria que só voltar naquele exemplo em relação à prisão a reconhecimento facial me parece que a essa área de segurança pública as área de

vigilância o que a gente precisa assim tomar muito cuidado tem muito ter um debate também muito aprofundado em relação a isso porque o que está em jogo não é apenas a liberdade Econômica né o de emprego mas é a própria de verdade deles aquela pessoa então eu acho que quando o estado entrega toda a sua força todo seu é uma no polo da força é muito importante que também é haja balizas muito Claras nesse campo então é embora a gente pudesse estar alguns Campos importante eu acho que sempre que a gente fala de acesso ao

emprego acesso a crédito né e sobretudo no setor público na especial também o setor o toda essa área de investigação e segurança pública em parece que traz riscos muito sensíveis por cidadão e isso certamente é preciso que se pense então em balizas muito Claras para o uso de Inteligência Artificial nessas tô falando ainda sobre esse viés Ministro curva o trabalho a ser apresentado pela comissão de juristas deverá procurar a responsabilização dos agentes no caso de danos e prejuízos causados a outrem o meu tipo de qualquer possível regulação sobre a inteligência social na Europa há uma

digestive 2017 já se tentou delinear alguns elementos centrais e sistemas de responsabilização Civil para Inteligência Artificial Mas mesmo essa diretiva europeia é tudo de batida porque o sistema de cada um dos países membros da União Europeia sou muito diferente a vários regimes de responsabilização civil os riscos e sistema de gestão de riscos a que se referia agora a professora Laura é ainda também uma tentativa de antecipar respostas a perguntas que nem foram formuladas não se sabe exatamente Quais os sistemas que poderão trazer mais riscos e alguns deles já são conhecidos os outros não Qual o

grau de risco também não se sabe qual o grau de intervenção a sociedade está disposta a aceitar é necessário ter um sistema de seguro obrigatório para responsabilidades para reparação dos danos é possível fazer uma reparação integral do dano sempre que houver um uso de uma ferramenta de inteligência artificial é necessário um fundo para que se seja reparado esses anos de forma objetiva rápido e eficiente ou não a responsabilidade deve se dar pela de modo subjetivo ou objetivo como deve ser integração do ordenamento na responsabilização do dos agentes operadores na Inteligência Artificial e deve ser feita

levando em conta o código civil qual desses dor o diálogo entre essas fontes do direito deve-se criar uma personalidade eletrônica Ou seja a máquina vai ter que ser responsabilizada pelo pelo risco pelo dano que causar ou não Como será isso no metaverso aquele universo virtual paralelo que estamos prestes a viver em tantas aplicações isso perguntas difíceis para as quais não há respostas fáceis o no projeto em um dos projetos de lei aprovados pela câmara já uma tentativa de criar um regime jurídico especial para responsabilização da das aplicações de inteligência social um grupo muito significativo de

civilista já fez um Manifesto contra essa abordagem por entender que ela na verdade não traduz o que o nosso ordenamento já contei como e civis para responsabilização civil esse potencial tema obviamente inescapável do trabalho da comissão mais muito difícil muito desafiador muito ar do esse trabalho a ser enfrentado né Doutora Laura sobre esse ponto aí da responsabilização em caso de danos e prejuízo que que a senhora pensa a respeito eu acho que se eu acredito muito que como eu comecei também quando a gente falou no começo de que essas duas inovação tecnológica propiciada pela transformação

digital pela pela Inteligência Artificial ela vai exigir que a gente tenha também inovação jurídica da Inovação inclusive nas nossas técnicas legislativas então eu entendo que a gente talvez precisa pensar em novas formas livres para ler um pouco é apenas né da de se estabelecer a responsabilidade será apenas objetivo apenas subjetiva e me parece que a gente possa pensar em novas formas e Ltda Ah mas eu queria destacar aqui em cima um tamanho é muito a comissão já está acabou de negril na trabalho né E como o início muito bem colocou eu acho que a gente

tá no estádio inclusive de primeiro fazer Quais são as perguntas essenciais é quais são os tópicos essenciais que são constar nessa lei né Como regular Qual que é o objeto é o que precisa estar De toda forma e o que pode ser regulado ainda nesse estágio inicial de desenvolvimento dessa dessa família de tecnologias né então eu acho que a gente não está no estágio Inicial talvez Para não começar já discutir a discussão pelo final da responsabilização mas me parece que a gente ainda está nesse estágio de fazer todas as perguntas corretas e colocar todas as

perguntas inclusive tanto para o debate da comissão mais especial também para receber a contribuição de toda a sociedade é sobre essas perguntas sobre esses eixos centrais eu tô Fabrício algo acrescentar alguma poderá tá bom só complementando bem rapidamente as feministas professora Laura abordar os principais eixos e tópicos sobre sistema Mas eu só chama atenção para a necessidade de se pensar Até porque faz parte dos eixos temáticos da do plano de trabalho da comissão se pensar no modelo de regulação que se vai implementar mas não falam de regulação jurídica e perspectiva de construção de uma Norma

que vai promover essa regulação Mas temos que pensar sobre quem vai efetivamente aplicar e estimular aderência essa Norma então estamos falando aqui já de regulação com viés de fiscalização Ou seja é necessário promover o debate Até parece perceber Qual é o intuito da sociedade em relação à aceitação sobre esse ambiente a necessidade de se discutir atribuição atribuições legais para órgãos que existem hoje fiscalizando outros setores eles poderiam abraçar também esse ambiente de fiscalizar e são em matéria de Inteligência Artificial a Europa se discute muito isso a própria proposta que foi promovida pelo na europeia Ela

traz a necessidade de criação de um comitê de Inteligência Artificial que seria supranacional todos os estados-membros indicariam indivíduos para composição de se cometer alguns 2018 né cujo propósito é justamente criar uma Harmonia de regulação é Talvez seja o caso de especial no Brasil mas é um debate ainda com professora Laura colocou que está em fase de questionamento não é o eixo temático proposto as questões viram e tentaremos tanto quanto possível da presidência do ministro da relatoria da professora Laura tentaremos trazer algumas respostas para os senadores continuaram debate aproveitando ainda com o senhor eu sou Fabrício

o que seria a chamada opacidade dos algoritmos da Inteligência Artificial a oportunidade ela tem uma relação íntima com o elemento que a professora Laura nos trouxe que a transparência Ou seja a tecnologia é utilizada não existe um afetamento profundo sobre a vida do cidadão e a uma necessidade de haver uma explicação maior sobre como esses algoritmos são desenvolvidos são implementados são auditados e são efetivamente questionados ou seja Há uma possibilidade de questionamento a possibilidade de se promover uma maior maior entendimento sobre o seu funcionamento a professora Laura Laura falou sobre o viés de fato todos

sabemos que a um viés em principal boa parte dessas peças desses mecanismos é em função da própria natureza humana as falhas que são endêmicas ao ser humano são da mental duzidos as suas tecnologias Mas como afetamento é em massa é massificado nós temos que pensar em mecanismos e formas de mitigar os riscos decorrentes do uso massificado dessa tecnologia então é necessário que haja cada vez mais transparência e direitos mínimos assegurados ao cidadão para que ele possa que o e obter também respostas em relação ao uso da tecnologia isso acredita Doutor Fabrício que a tornar pública

e inteligência artificial usado nos algoritmos não poderia ferir a lei de propriedade intelectual debate muito importante eu acredito que temos que criar uma convivência entre diversos direitos EA direitos que são típicos também da necessidade de uma acomodação social com direitos patrimoniais direitos econômicos são também direitos relevantes para o desenvolvimento e e uma convivência social harmônica não não podemos privilegiar umas excessiva publicidade em detrimento da propriedade intelectual em detrimento é do segredo Industrial do segredo comercial porque a uma necessidade acomodação Podemos até achar que a o excesso de Publicidade seria benéfico mas ele poderá inibir o

próprio e de novas tecnologias que também são seriam benéficas para o cidadão porque evidentemente que a propriedade sendo utilizada de forma correta ela é benéfica para a sociedade então não podemos pensar que o excesso publicidade seria uma resposta temos que ter uma ponderação bem razoável Entre esses tanto os direitos que existem na nossa Constituição por favor em relação esse ponto embora de fato seja um ponto ainda muito polêmico inclusive muito discutido é que está entrando discussão é na pele dependem no início das que são um ponto muito debatido mas me parece que esse Inclusive é

o objetivo da comissão para que a gente possa aprofundar e sistemas aprofundar o debate no sistema são difíceis então por exemplo direito a explicação que é o direito é que todo cidadão Possa possa compreender porquê que aquela Decisão foi tomada daquela forma eu tenho várias formas de executar esse direito né é basta uma informação Ampla geral genérica ou eu preciso concretizar um pouco mais como é que ele entenda a partir talvez completar Como e porquê aquela decisão é baseada em satinsky probabilidade foi tomada Então eu acho que tem nuances nessa nessa discussões inclusive em relação

também muito ligado à questão do risco que a gente já colocou é será que quando um risco é maior eu poderia ter uma transparência eventualmente maior ou é ainda o outro tem muito debatido em relação ao debate dos algoritmos de propriedade do poder público Será que em relação a isso seria uma publicidade ainda maior então é um dia que são perguntas mas certamente a gente tá falando né como o outro Fabrício também colocou estamos falando de direitos todos inseridos no funcionamento eles precisam ser compatibilizado certamente mas eu acho que aprofundar esse debate compreender essas nuances

também será aí objeto é discussão e análise da comissão o ministro que eu devo acrescentar o trabalho da comissão ele vai buraco Quatro meses né E sobre essa questão enorme desafio por muitos digo e na verdade nós vamos ter que procurar segurar que que essa essa visão seja completa Mas não tão ambiciosa ponto de querer abarcar todos os possíveis do anestesia essencial esses princípios aqui nos referimos a pouco transparência explicabilidade auditabilidade eles são centrais Por que não haja vieses cognitivos embutidos nos algoritmos que impeçam o livre desenvolvimento da personalidade humana para que não há para

que não haja discriminação para que para que esse vídeo exclusão social para que se Evite o favorecimento de grupos ou gêneros ou etnias e detrimento de outras que só tocou nesse ponto aí da exclusão social né Há quem afirme a ponte que a inteligência é né ela exclui os menos favorecidos é será um trabalho um ponto a se pensar pela comissão essa questão social e vamos precisar 250 para incluir várias aplicações possíveis das tecnologias informáticas e em algumas são claramente benéficas ao ser humano EA todos os grupos sociais indistintamente por exemplo diagnósticos médicos hoje já

em algumas modalidades de Patologia são feitos com muito mais precisão e remotamente do que eram feitos antes depende do tipo de aplicação de inteligência social que esses tudo é que sequer os princípios diretores da inteligência artificial no mundo sobre os quais há uma relativa convergência eles são todos no sentido de evitar qualquer tipo de exclusão social realmente e de qualquer discriminação que possa ser contrária o princípio de olhar método jurídico democrático a senhora Laura então nessa questão que a gente até mencionou né pela velocidade né com que a tecnologia muda é muda e também com

ampliação do uso da Inteligência Artificial gostaria de ouvir inclusive vocês três aí vocês consideram que é uma legislação que vai precisar de constante aperfeiçoamento aí ou disposições principiológicas e mais subjetivas podem ser criadas de forma a abarcar as novidades futuras Dra Laura por favor pode começar Certeza acho que esse ponto também é um ponto é que ainda vai se ver vai sido então e talvez eu comprimeiro ponto que a comissão vai ter que se debruçar né comissão e todo todo o congresso certamente que é porque regular Como regular e como usar essas técnicas novas Então

os princípios nossos eu sabemos que é uma técnica que você de fato que você tem normas muito mais da Lei Gerais né generalizadas e que Oi Dani aconteça os muito diversos contextos concretos não tivesse é por isso que ele também perduram no tempo talvez uma forma muito mais é muito mais marcante do que quando a gente fala de regras muito específicas né mas em outras outras técnicas legislativas também é que o legislador sempre pode adotar e que são novas mas que já foram também adotados em outras partes do mundo como por exemplo estabelecer uma Norma

que possa vir a ser realizada Depois de alguns anos pelo Canto congresso ou seja o você ter formas e tem meios para que o congresso vem essa administração daquela matéria logo depois o analisar como é que se aquela regulação deu certo ou não então eu acho que existem outras técnicas e novas técnicas que a gente também pode é sempre pensar e colocarei à disposição do Senado também estou do congresso da cidade também para pensar a respeito eu tô Fabrício então gente tem aí um entrelace né do que já e hoje está em vigor hoje como

legislação EA Comissão vai pensar sobre isso e também nas demandas que podem surgir Qual a sua opinião qual a sua ponderação e relações eu vou me socorrer das palavras do próprio Ministro ele já posicionou muito pouco muita assertividade que o propósito talvez maior desafio dessa desse desse dessa comissão seja de criar uma uma uma sugestão de regulação que seja principiológico que não desça aos detalhes justamente em função da visão de necessidade de atualização da própria cronologia e o ministro também colocou ele poderia até estar respondendo esse questionamento ele até colocando certeza eu quero ver nesse

forma muito clara não podemos ter ambição de querer antever todos os possíveis cenários é o afetamento está muito além da nossa própria capacidade até mesmo humana de enxergar Inclusive inclusive nos estúdios inteligência avisar você que você estabelece é níveis de complexidade a própria inteligência e aponta que o último nível 5 nível que não não é nem permitido imaginar qual seria digital digital complexidade que que se possa a TV Então eu penso que o propósito seria de criar regulações principiológicas que abram espaço para detalhamentos pragmáticos e mais céleres próprios por exemplo do próprio executivo executivo utilizador

pode delegar o Executivo o papel de regulamentação da legislação que é uma estrutura muito própria de leis técnicas é como nós vemos hoje basicamente todos os serviços e setores regulados possui essa estrutura leis promovem é princípios e regras Gerais e diretrizes para o próprio regulador atuar e o regulador que estabelece os os meandros e as a modernidade necessária isso acontece em todos os setores da proteção de dados também está acontecendo e seguramente será o debate para para se pensar na comissão para os passos futuros também o então ministro gostaria de ouvir o senhor realmente não

há consenso todos os aspectos do trabalho mal começou instalamos a começou quarta-feira a uma intenção of the evitar que elas se tornem que as propostas subsidiam os legisladores na elaboração do substitutivo do Senado de modo que eles consigam chegar a uma plataforma de temas sobre os quais há consenso mínimo sem criar uma legislação que de ante-mão já fique condenada a se tornar obsoleta rapidamente não há consenso por exemplo contas a necessidade ou não de um regulador regulador como é que seria seria um regulador para toda inteligência com regulador setorial para determinadas aplicações de Inteligência Artificial

a é difícil realmente a TV como direito e vai reagir a é só algumas aplicações de inteligência social são inerentemente perigosos outras menos os graus de risco variam muito a se nós olharmos nos últimos 100 anos as tecnologias inerentemente perigosos que foram sendo introduzidas no meio social e elas foram receberam resposta do direito a partir de decisões judiciais criaram jurisprudência que levaram a mudança Legislativa a mudança que vai ser muito mais rápida mas talvez a gente possa tentar acelerar um pouco esse processo mas se imaginarmos que ele vai ser replicado agora no século 21 Talvez

nos cabos fazer princípios gerais que Oriente a atividade jurisdicional para que depois O legislador possa dar uma resposta adequada fenômenos que já tem mais de contornos mais definidos para a Laura a senhora acredita que o uso da Inteligência Artificial e motivo de preocupação para o e o ser humano e eu acredito que ela traz aplicação da tecnologia ou como muitos colocam como a família de tecnologias né que pode trazer muitos benefícios e já traz muitos benefícios Então se a gente vai pensar hoje o nosso mundo é ele que a gente se conhece ele foi transformado

radicalmente pelas inovações tecnológicas desse século né e do século passado então eu gosto a gente Talvez seja Tá difícil a gente se pensar fora desse contexto tão inovador e eu acho que Essas tecnologias para todas trouxeram grandes benefícios e mais do que isso eu diria que se a gente pensa em toda essa transformação digital você tem hoje novas formas inclusive exercício de direitos fundamentais propiciadas pela evolução tecnológica Então se a gente estudando um passo um pouquinho atrás na pensando é hoje que hoje temos formas diferentes de se comunicar de nos manifestarmos de protestar Mas então

eu diria que hoje a grande parceria nosso mundo é conformado pelas novas tecnologias por essa inovação inovação essa que permite e garante o exercício é o que pode garantir o exercício de direitos fundamentais mas essas mesmas inovações também trazem riscos Então eu acho que a gente tem que ser sempre essa talvez essa compreensão do ao porque isso é o mundo no qual a gente vive né e o direito ele pode tanto mitigar riscos Mas a gente pode usar essas Essas tecnologias de regulamentação é normativas para esses instrumentos normativos para mitigar riscos mas também para conformar-se

a tecnologia de modo que a gente possa exercer esses direitos por meio dele então talvez para sair um pouco do plantão teórico é quando você perguntou em relação a seu se é sempre possível ou se é possível ter uma maior discriminação ou inclusive um aumento em relação à exclusão social e é esse risco existe certamente se a gente não tiver nenhum tipo de regulação ou se uso foi indiscriminado de base de dados sem nenhum tipo de controle Porque de fato é possível que você concretize talvez eu diria com Jerry alguns parâmetros esses parâmetros é que

esses parâmetros que se perpetue no tempo de fato forem parâmetros discriminatórios Ou excludentes você tem de aumentar a exclusão certamente é por outro lado com uma regulação adequada que me diga esses riscos você pode inclusive ter uma maior inclusão em determinados aspectos Então acho que a regulação ela pode sim é ampliar os benefícios do uso essa inteligência e mitigar os riscos e danos que podem vir a ser causados por esses temas e na sua opinião Doutor Fabrício a inteligência artificial é ou não ameaça o trabalhador e onde novo é um instrumento não é um instrumento

e a maneira como ele vai ser utilizado a obviamente que como Ministro bem colocou a legislação e o direito Eles são reativos na Ou seja é preciso observar as práticas que hoje são são realizados a sociedade para se buscar uma maneira antever cenários futuros e assim promover regulação e sejam equilibradas E que sejam correspondentes a necessidade do cidadão eu penso que a tecnologia antes mesmo de falar inteligente especial ela sempre vem em benefício do cidadão benefício da humanidade e precisa ser sempre ponderada em relação aos seus limites porque nem tudo aquilo que é concebido para

um propósito é utilizado sempre para aquele propósito a mudanças de finalidade no tratamento dessas tecnologias e aí vem a regulação para estabelecer os parâmetros e os limites e a responsabilidade seja o modelo que que for eu penso que não vejo motivo para preocupação vejo motivo para atenção observar o desenvolvimento das tecnologias e como o direito EA legislação correspondem Especialmente na posição do Poder Judiciário que é quem mais rapidamente resolve os conflitos sociais e quem tem de fato o papel de assim proceder legislador enfim na sua morosidade típica dos movimentos do sistema jurídico brasileiro busca dar

alguma resposta mas sem dúvida judiciário acaba criando acomodação muitas vezes influenciado os passos seguintes do próprio legislador então eu vejo mais como o sentido de atenção do que ele preocupação encerrar no início também é motivo de atenção de alerta Como Doutor Fabrício falou é uso da Inteligência Artificial Em substituição ao trabalhador ao ser humano o seguro de isso será objeto de muito debate Como já tem sido em alguns casos em algumas atividades imagina que possa ver a substituição ou a mudança de atividades profissionais completamente mas em quase todos os cenários estudo pelos no passado isso

Esse aumento de produtividade trazido pelo uso da tecnologia Acabou também gerando uma requalificação daquele trabalhadores que eram dedicados a outra atividade e com isso nós temos experimentar todos até agora um um crescimento de bem-estar social que palpável é visível não apenas na sociedade mais à frente mas e em todo mundo cabe ao obviamente ao ao legislador terá sensibilidade para equilibrar esses esses interesses que muitas estão o que quase sempre converge para uma melhor densidade da sociedade como todo faça o criador a superar a criatura de Gamas assim não é ministro é inclusive por favor de

fato ela ela é objeto de filmes livros de ficção científica onde se cogita até que ponto vai ter judicial até que ponto é possível a interação do ser humano com a ferramentas em que a criatura se torna aqui que o que que a criatura se torna o criador e ameaça se a própria existência do ser humano enquanto tal estamos longe disso esperamos que isso não se realize e que esse valor a que me referi há pouco que a tecnologia existe para a promoção do ser humano continue sempre no centro das preocupações de todos os usos

da inteligência social o ministro põe o Superior Tribunal de Justiça Exemplo né estavam e com o uso da Inteligência Artificial nas rotinas da corte e claro em favor do jurisdicionado dos cidadãos que se utilizam de alguns serviços disponibilizados pela corte superior Além disso O STJ também tem parcerias firmadas com outros tribunais para ampliar as facilidades trazidas com a e a então para finalizarmos a nossa conversa eu gostaria que o senhor Ministro Villas Bôas Cueva. A se o que que o tribunal da Cidadania Está pondo em prática com essa tecnologia eo uso intenso de tecnologia no

direito algum tempo com a digitalização dos processos com uso de algumas ferramentas tecnológicas que acabaram por mudar a função que antigamente era muito laboriosa né de alto ao processo cartaz por seus papel processo físico que precisava ser transportado e tudo isso sabe o nado triado classificado hoje já há algum tempo é feito de maneira eletrônica e aos poucos vão sendo incorporados instrumentos de automação do processo nós estamos nessa fase de automação de atividade processual processuais que tem auxiliado muito muito muito produtividade do Poder Judiciário no Brasil sem dúvida e obviamente não não chegamos ainda no

estágio no qual a inteligência esse alcinei de maneira mais palpável atividade decisória decidiu o conflito para a prestação jurisdicional ainda não foi afetada por essa inteligência artificial a estudos de que seria possível num futuro não muito distante criar um mecanismo Inteligência Artificial que por exemplo dentre outras alternativas classe modelos de Justiça preditivo Com base no que já foi decidido trazer o magistrado que vai de é uma paleta de opções possíveis ou uma jurisprudência consolidada exterior benefício a vida de evitar a chamada jurisprudência lotérica e fazer com que o jurisdicionado tivesse uma resposta mais uniforme para

o mesmo tipo de demanda que ele traz ao judiciário mas nós estamos ainda longe disso no Brasil e no mundo há muita especulação nós temos Como dito ainda mecanismos e automação que aumentam a produtividade e modificaram completamente o trabalho de secretaria que o trabalho preparatório da atividade funcional sem que até o momento atividades dicionário tem sido afetada esperamos sempre que o ser humano esteja por trás e que não chegamos chegamos ao ponto de ter no computador um oráculo que vai dizer como devo a ser decidida aquela questão o ser humano vai ser é a última

raça que vai continuar Decide é o que a gente espera assim esperamos bom muito produtivo essa nossa conversa de hoje e desde já espero que vocês tenham êxito nos trabalhos dessa comissão os senhores e a senhora tenha êxito com os outros 15 integrantes dessa comissão de juristas responsável por elaborar é sugestões né para esse Marco legal sobre inteligência artificial pessoal é isso Você entendeu direito hoje sobre a regulamentação do uso da inteligência artificial no Brasil e como será direcionado o trabalho da comissão de juristas responsável por elaborar normas cerca do tema nós conversamos com o

presidente dessa comissão o Ministro do Superior Tribunal de Justiça Villas Bôas Cueva que eu agradeço a participação EA disponibilizada disponibilidade de conversarmos hoje não entender direito os trabalhos Akon é nós também agradecemos a participação da relatora dessa comissão de juristas doutora Laura schertel Mendes Muito obrigado a doutora que agradeço outro convidado de hoje foi o advogado e professor Fabrício da Mota Alves que também integra a comissão de juristas Muito obrigado Doutor Fabrício pelos esclarecimentos e Olá pessoal eu fico por aqui Vale destacar que o entender direito está na programação da TV Justiça da Rádio justiça

e no canal do STJ no YouTube Além das plataformas de streaming de áudio de sua preferência a gente se encontra lá [Música] E aí [Música] E aí [Música]