Impactos da I.A. no Constitucionalismo Contemporâneo - Abertura e Painel 1 (português)

senhoras e senhores Bom dia por gentileza qu irão tomar seus lugares e manteram os telefones celulares em modo silencioso damos início à solenidade de abertura do seminário impactos da inteligência artificial no constitucionalismo contemporâneo que busca discutir como a inteligência artificial influencia o sistema Constitucional a democracia e os direitos no contexto jurídico atual destacamos que o registro de presença está disponível por meio do CR code que se encontra na entrada do auditório ressaltamos também que um dos palestrantes do seminário fará sua apresentação em espanhol então para aqueles que desejarem a rádios de tradução disponíveis na entrada

do auditório compõe a mesa de honra o Excelentíssimo Senhor Ministro luí Roberto Barroso presidente do Supremo Tribunal Federal e do Conselho Nacional de Justiça sua excelência o senhor Ministro Gilmar Mendes do Supremo Tribunal Federal sua excelência o senhor Ministro Caputo Bastos Conselheiro do Conselho Nacional de Justiça e ministro do Tribunal Superior do Trabalho e sua excelência a senhora ministra substituta Edilene lobo do Tribunal Superior Eleitoral agradecemos ainda a presença de magistradas e magistrados senhoras e senhores palestrantes advogadas e advogados servidoras e servidores corpo docente e corpo descente senhoras e senhores nesse momento tem a palavra

o Excelentíssimo Senhor Ministro Luiz Roberto [Música] Barroso muito bom dia a todos é muito prazer é muita alegria de de estar aqui e de compartilhar essa mesa com o decano do Supremo Tribunal Federal Ministro Gilmar Mendes a minha direita com o ministro do Tribunal Superior Eleitoral e Conselheiro do Conselho Nacional de Justiça Guilherme Caputo Bastos e também com a ministra substituta do Superior Eleitoral edileno Lobo todos nos honram com a sua presença e cumprimento os presentes aqui os moderadores e palestrantes Alí Osório Patrícia perron Campos Melo Victor durigan Flávio D Calmon Lara chert Ferreira Mendes

Frederico Franco Alvim Ana Frazão Juan David Gutierrez Caio César Vieira Machado e também as autoridades presentes o Ministro do Superior Tribunal de Justiça um prazer tlo aqui a subprocuradora geral da república D Raquel dod igualmente um prazer Presidente da Associação Nacional dos Procuradores da República birat caseta a senora elizabe de que é conselheira para assuntos de cultura e educação imprensa da Embaixada dos Estados Unidos veja aqui O Conselheiro do CNJ Pablo Barreto todos muito bem-vindos cumprimento todos oses mora vou dar início à minha apresentação eu eh já expliquei aos colegas aqui de mesa tem um

compromisso em São Paulo portanto eu vou precisar sair às 10:30 eh o que não deixa de ser um alívio que significa que eu vou falar pouco eh e já pedindo desculpas aos nossos parceiros aliás me lembrei de uma história que eu ouvi do Tom ginsburg disse que vinha vinha andando na rua um padre um professor de direito e um cidadão comum e aí chegou o Anjo da Morte e disse chegou a hora de vocês vou levá-los embora cada um tem direito a um Último desejo e o padre falou quero rezar uma última missa concedido professor

de direito falou assim eu quero dar uma última aula concedido o cidadão comum falou quero que me leve antes que esses dois comecem a falar nosso nós estamos vivendo ou víamos vivendo a terceira revolução industrial que era a chamada revolução tecnológica oou digital A primeira foi a do vapor lá do século XVI a segunda na virada do século XIX pro 20 da eletricidade do motor de combustão interna e a terceira a revolução tecnológica caracterizada pela substituição da tecnologia analógica pela tecnologia digital o que progressivamente permitiu a universalização dos computadores pessoais dos telefones celulares inteligentes e

sobretudo a internet conectando bilhões de pessoas em todo o mundo nós desenvolvemos um novo vocabulário nós vivemos esse Admirável Mundo Novo da tecnologia da informação da biotecnologia da nanotecnologia da impressão em 3D da Computação quântica da internet das coisas algoritmo foi se tornando progressivamente o conceito mais importante do nosso tempo e essa revolução tecnológica mudou o a um tal ponto que as empresas mais valiosas quando eu e Gilmar eram os mais jovens eram ao e a Shel que exploravam petróleo a General Motors e a Ford que fabricavam automóveis e a General Elétrica fabricava os grandes

equipamentos hoje em dia nenhuma delas figura entre as empresas mais valiosas que são Apple Amazon Facebook Google Microsoft e a Nvidia que vende os semicondutores que alimentam essas empresas portanto nós estávamos vivendo essa revolução tecnológica que permitiu A a extensão dentre outras coisas das plataformas digitais houve uma profunda modificação na comunicação social no mundo antigamente para se chegar ao espaço público era preciso como Regra geral utilizar os mecanismos da Imprensa tradicional dos meios de comunicação tradicionais a internet democratizou o acesso ao conhecimento o acesso à informação e o acesso ao espaço público mas também terminou

ou diminuiu muito o controle editorial mínimo que as empresas de comunicação com as suas editorias faziam sobre aquilo que chegava ao espaço público e portanto a internet do mesmo passo que democratizou o acesso à informação e ao espaço público e ao conhecimento também abriu as avenidas para a desinformação para os discursos de ódio para as teorias conspir daí que surgiu a necessidade que é discutida no mundo inteiro de regulação porque o modelo de negócio das plataformas digitais ele é fundado em dois pilares um a coleta de dados E aí foi necessária uma lei de geral

de proteção de dados nas democracias para que esses dados não fossem utilizados indevidamente e o outro Pilar é o engajamento eles vivem de engajamento eles vivem de eles vivem de acessos é isso que traz a publicidade que de resto migrou da Imprensa tradicional para os meios digitais e portanto para obter esse engajamento o que as pesquisas demonstraram tragicamente e lamentavelmente é que a desinformação a mentira a agressividade e o sensacionalismo trazem muito mais engajamento do que a fala moderada A Busca da Verdade possível numa sociedade plural de modo que que como os incentivos são ruins

porque é o engajamento trazido pelo Ódio é preciso ter algum tipo de regulação para que haja incentivos também adequados para o mundo não se projetar num Abismo de incivilidade de desinformação de grosseria de mentiras e de ataques Essa é a discussão hoje sobre a regulação nas plataformas digitais tem que ter uma autorregulação ampla e alguma regulação estatal para que haja os incentivos corretos e adequados disz necessário que eu diga que a grande novidade que existe do ponto de vista do constitucionalismo é que o constitucionalismo surge no mundo Romano germânico Sobretudo simbolizado com a pela Revolução

Francesa como um mecanismo de limitação do poder do estado e de proteção dos direitos individuais em Face do Estado Portanto o constitucionalismo foi concebido com o estado no centro de gravidade limitar o poder do estado e assegurar direitos individuais em Face do Estado a grande novidade que nós estamos vivendo no mundo é o surgimento desses poderes privados que são as plataformas digitais Muitas delas com faturamento superior ao produto interno bruto da maior parte dos países do mundo a Apple tem um faturamento igual maior do que o da Alemanha que é um dos países mais ricos

da Europa Portanto o que nós estamos lidando do ponto de vista constitucional é com um poder privado que substitui em termos de risco para diversos domínios como a dominação do do poder econômico e o abuso de direitos eh riscos maiores do que os oferecidos muitas vezes pelo próprio estado de modo que nós estamos lidando com a necessidade de proteger de limitar poder privado e de lidarmos com novos direitos fundamentais como são por exemplo o a inclusão digital uma criança hoje que não tem acesso à internet que não não tem acesso ao mundo de conhecimento que

a internet oferece Ela ficará defasada e não será competitiva no mercado nós temos novas regras protegendo a Constituição Brasileira protegendo os dados pessoais e já surge um novo debate para proteger a liberdade cognitiva das pessoas porque as plataformas digitais elas são capazes de monitorar a o a nossa movimentação a nossa navegação na internet e detectar os nossos interesses e os nossos gostos e portanto se eu pesquisar preço de passagem em São Paulo na minha internet imediatamente começa a apcer anúncio de hotéis em em São Paulo portanto a a a internet ela identifica os nossos interesses

e direciona a publicidade e as notícias em função do interesse individual de cada um isso não seria um problema grave em si salvo os riscos da tribalização da vida que advieram com a internet porém o que se diz hoje em dia é que com o avanço dos estudos sobre a ciência do cérebro sobre a neurociência a capacidade já não é apenas de de detectar o que a gente quer deseja e gosta mas sim de criar aquilo que a gente deseja e gosta fazendo uma manipulação cerebral da vontade das pessoas portanto Esse é um ramo que

ainda está despontando que é a compreensão de como isso funciona mas do ponto de vista constitucional também surge esta novidade e por fim antes de falar especificamente sobre a inteligência Aral tô falando da tecnologia e em geral há uma observação muito importante e muito interessante decorrência de uma passagem mais uma uma abado de que se uma jovem ou um jovem tiver dois pretendentes tiverem em dúvida sobre Qual escolher que o Google é capaz de tomar a decisão melhor do que o próprio interessado apenas cruzando as informações que tem sobre pretendentes e pretendidos esse embora seja

uma botade uma frase uma observação espirituosa há um que de verdade nisso que é a possibilidade que se está criando no mundo de que algumas das decisões mais importantes sobre as nossas vidas possam ser tomadas de maneira mais eficiente fora da gente heteronomo e Isso muda completamente um dos pilares da sociedade ocidental que é o livre arbítrio a ideia da Autonomia individual é cada pessoa faz as suas escolhas existenciais para a sua vida dentro da Lei dentro do que é possível a partir do momento em que as decisões mais importantes das nossas vidas puderem ser

tomadas fora da gente rompeu ruiu um dos pilares sobre os quais nós todos fomos educados portanto Há muitas coisas novas inclusive do ponto de vista ético surgindo no mundo contemporâneo como esse conjunto de novidades já não fosse suficiente vem agora a inteligência artificial na verdade a inteligência artificial já vem de longe embora o impacto mais perceptível que ela tenha trazido pelo menos do mundo intelectual tenha sido a inteligência artificial generativa essa do chat GPT que é capaz de gerar conteúdo texto sons imagens e isso é uma transformação muito profunda a inteligência artificial dito singelamente ela

é um conjunto de de softwares de programas de computador que transferem para os computadores para máquinas capacidades cognitivas e decisórias humanas isso é basicamente o que a inteligência artificial faz só que hoje em dia no atual estado da arte a inteligência artificial não tem consciência de si própria não sabe o que que é certo o que que é errado o que que é bom o que que é ruim não tem sequer senso comum a inteligência artificial é alimentada inteiramente com os dados as instruções e o obj e os ob que são fornecidos por pessoas humanas

e elas trabalham com os algoritmos que essa palavra nova esquisita e que agora se tornou onipresente nas nossas vidas e que dito de uma maneira muito singela é o conjunto de instruções dados aos programas para a operação da Inteligência eh artificial que de inovador do ponto de vista positivo traz um conjunto importante de benefícios para a vida humana por exemplo a maior capacidade de tomada de decisões em muitas matérias porque a inteligência artificial ela é capaz de armazenar muito mais informações do que o cérebro humano e processá-las com muito mais velocidade de modo que em

muitas áreas a inteligência artificial Vai sim ser capaz de tomar decisões com maior maior competência e maior capacidade do que a própria condição humana é essa essa é a primeira grande vantagem primeiro traço positivo o segundo é uma automação mais sofisticada e portanto muitas atividades humanas de risco ou repetitivas que produzem neuróticos vão poder ser feitas pela Inteligência Artificial desde remover uma mina eh terrestre até colocar um cabo no fundo do do Oceano tarefas que seriam de risco para uma pessoa humana e que poderão ser desempenhadas pela Inteligência Artificial que de resto pode trabalhar 7

dias por semana 24 horas e Caputo não propõe reclamação trabalhista portanto é uma vantagem também competitiva operar pela Inteligência Artificial a terceira transformação extraordinária é a que diz respeito à linguagem a capacidade não apenas de comunicação mas quem já utilizou os programas atuais de tradução Deep L Google Translate o próprio chat GPT extraordinária a qualidade das traduções que hoje são feitas o que até pouco tempo atrás era impossível e eu mesmo estive em julho em um Congresso sobre inteligência artificial na China e um cidadão um professor chinês falava em chinês e havia uma tradução simultânea

para texto escrito num telão como aquele para o inglês simultânea com uma qualidade que eu diria de 80% mas ainda assim nós estamos chegando ao ponto em que eu vou poder falar aqui em português e o ran vai poder entender em espanhol e os companheiros chineses vão poder entender em chinês e se tiver um Russo vai poder ouvir em russo tradução simultânea independentemente de intervenção humana portanto a transformação que isso vai operar na linguagem é extraordinária e acho que vai mudar eh o mundo porque vai romper com as barreiras linguísticas as aplicações da Medicina são

as mais variadas possíveis e portanto cirurgias robóticas pesquisas de novos medicamentos leituras de imagem a medicina hoje e vi na China também as demonstrações de scaners para leitura de cérebro nós vamos ter uma profunda revolução na medicina trazida pela Inteligência Artificial potencialidade do seu uso na educação na Cultura os problemas éticos que vão surgir agora se o sujeito quiser fazer uma declaração de amor à namorada ou ao namorado em versos de Camões pode pedir ao chat GPT que ele elabora e aí o sujeito se apresenta fraudulentamente como se fosse um grande poeta vai ser uma

nova versão do Sirano de Bergerac portanto há há há muitas implicações eh essas utilidades todas que nós temos de Waze eh Uber tudo isso é direcionado por inteligência artificial que oferece riscos enormes também falei das coisas de bom Impacto sobre o mercado de trabalho utilização para fins bélicos massificação da desinformação que nos preocupa a todos pelo potencial de circulação da desinformação da maldade sobretudo em ambiente eleitoral e agora com o Deep fake que é a possibilidade de alguém me colocar aqui falando coisas que eu nunca disse sem que seja possível detectar a olho nu que

isso está acontecendo isso é gravíssimo porque compromete a liberdade de expressão nós todos fomos ensinados a acreditar naquilo que a gente vê e naquilo que a gente ouve o dia que nós não pudermos mais acreditar naquilo que a gente vê naquilo que a gente ouve a liberdade de expressão terá perdido completamente o o sentido portanto a inteligência artificial oferece riscos sim de violação de privacidade de discriminação eh algoritma as questões de propriedade intelectual tem uma ação em curso nos Estados Unidos movida pelo New York Times contra a Open ai e a Microsoft discutindo a alimentação

da Inteligência Artificial do chat GPT com materiais do New York Times que eles alegam que er que era material protegido por direitos autorais a decisão nessa ação vai fazer muita diferença eu penso pro mundo da Inteligência Artificial generativa porque a intelig ência artificial generativa depende essencialmente do volume de dados com que é alimentada e da qualidade desses dados portanto se houver uma restrição ou um custo elevado para essa alimentação a alimentação dos dados evidentemente vai ser reduzida e por isso por esse conjunto de razões fala-se hoje na regulação da Inteligência Artificial a projetos em curso

é um projeto no Congresso Nacional do qual participou a Laura e o ministro Cueva eh e mas é é a grande dificuldade de se regular alguma coisa que a gente nem sabe bem ainda o que que tá vindo mas há valores que nós não podemos perder de vista os direitos fundamentais como a privacidade como a liberdade de expressão temperado com a livre iniciativa que também é um valor importante tem a proteção à democracia com os riscos da desinformação e dos ataques consertados com Ser contra a democracia e tem uma regulação sobre a governança para que

haja inteligibilidade transparência e um mínimo de controle humano sobre a atuação da Inteligência Artificial esse é o momento que a gente está vivendo a união europeia acaba de aprovar uma regulamentação basicamente medindo as atividades o nível a intensidade do Risco representada por cada ferramenta da Inteligência Artificial acabam de ser colocada paraa consulta pública guidelines da Unesco Portanto o mundo está discutindo o que fazer e como fazer para ter uma regulação da Inteligência Artificial e fazer com que ela sirva bem a causa da humanidade e não seja apropriada pelos maus atores que que atuam na sociedade

e por fim uma última palavra sobre o que que nós estamos fazendo aqui no Brasil e no poder judiciário com a inteligência artificial aqui no Supremo nós temos três grandes programas já funcionando três grandes projetos três grandes sistemas um tá aqui a Natasha que é a nossa secretária de Tecnologia da Informação nós temos o o programa Victor que é um um programa um sistema que identifica entre os recursos extraordinários que chegam aqueles que já foram objeto de repercussão geral para os quais portanto já tem uma solução definida pelo supremo portanto aquele recurso não deve sequer

subir apenas mandar que o tribunal de onde veio o recurso aplique a tese que nós já afirmamos tem um outro que é a vitória que aqui nós somos paridade de gênero tem Vítor e tem vitória o Vitória é o programa que agrupa os recursos por temas para que a gente saiba qual tema tá tendo maior incidência para pinlo e dar repercussão geral para tentar diminuir a litigiosidade naquela matéria e tem tem um já tô acabando e tem um outro que é o Rafa eles deixaram um nome meio ambíguo assim esse é andrógino uma Rafa que

identifica em cada um dos recursos que nós admitimos e e e os identifica com as ods com os objetivos de desenvolvimento sustentável do do milênio É cosmético mas é charmoso portanto a gente sabe eh em que área dos objetivos do milênio nós estamos atuando e no Conselho Nacional de Justiça tem tantos projetos em andamento que eu não sou nem capaz de sistematizá-las Então vou citar apenas os mais eh importantes eh que eu anotei aqui um pouco de cabeça então nós temos em parceria com o pnud com o programa de desenvolvimento eh das Nações Unidas nós

temos uma grande plataforma que se chama plataforma digital do Poder Judiciário um grande guarda-chuva e dentro dessa plataforma nós temos inúmeras ferramentas algumas em desenvolvimento queem lida com ti sabe que tá tudo sempre em desenvolvimento e as promessas são do ano passado pro ano que vem a gente espera espera Mas algumas chegam E aí quando chega faz todo mundo mais feliz eh portanto nós estamos eh o primeiro grande projeto ou importante da plataforma digital do Poder Judiciário é a unificação dos sistemas por uma circunstância Brasileira de uma certa descoordenação os tribunais desenvolveram sistemas diferentes portanto

alguns o o processo Brasileiro hoje é os novos quase 100% hoje é processo eletrônico e dos que estão em tramitação mais de 90% mas os estados e os tribunais desenvolveram sistemas diferentes portanto alguns estados usam o pje outros estados usam o eproc e outros usam o esaj eles não conversam entre si Esse é um problema grave que nós enfrentamos e eu tenho a promessa não é nem Promessa é um juramento de que até o final do ano até dezembro nós vamos ter conseguido unificar essas plataformas de cada um pode ficar com o sistema que quer

mas pro usuário a interface vai ser a mesma eu eu fiz ele que vão ajoelhar no milho se não me entregarem isso até dezembro portanto Esse é um um projeto muito interessante que vai interconectar todos os tribunais do país o que é um avanço e importante nós estamos também desenvolvendo em breve vai entrar em funcionamento pleno um portal de serviços que vai permitir a todos os operadores jurídicos entrarem no sistema e acessarem qualquer processo em tramitação no país e aqueles que estejam habilitados podem inclusive peticionar naqueles processos e vai ser possível fazer as citações e

intimações por esse sistema por esse Portal Único de serviço nesse momento nós já criamos está funcionando e bem o domicílio judicial eletrônico todas as pessoas jurídicas do país agora são intimadas e citadas por via eletrônica Elas tiveram que cadastrar no registro próprio o endereço eletrônico onde recebe as comunicações isso também é uma transformação importante mudando um pouco o papel dos Oficiais de Justiça e e parte das coisas que nós estamos estudando é Como reaproveitar em outras atividades do Judiciário essa importante força de trabalho que são os Oficiais de Justiça e só para não ficar eh

longo demais estamos desenvolvendo uma ferramenta que pros juízes é muito útil chamada Sniper o juízes sobretudo de execução a pesquisa de bens ela é feita em diferentes bases de dados então tem a base de dados do sistema financeiro tem a base de dados e mobiliária tem a base de dados de veículos e aeronaves e você tem que entrar em cada uma colocar uma senha em cada uma perde-se um tempo enorme nós estamos unificando essa base de dados base de dados com uma ferramenta chamada Sniper em que você entra e com a identificação do do devedor

e o CPF Você já consegue saber a a sua situação financeira Imobiliária e se tem avião navio navio Geralmente as pessoas físicas você tem barco ou outros símbolos de riqueza tudo isso eh precisando E também temos no CNJ uma comissão um grupo de trabalho estudando como eh editar normas na verdade atualizar normas éticas para a utilização da Inteligência Artificial pelo Judiciário portanto existe muita coisa acontecendo em termos de inteligência artificial no mundo em geral o Brasil está na frente não propriamente na pesquisa e na inovação mas na utilização Poucos países do mundo tem o nível

de digitalização que o Brasil tem porque Poucos países do mundo tem 80 milhões 300.000 processos em tramit na verdade 83 mil 800.000 processos em tramitação de acordo com o justiça em números a China tem 1. 400.000 habitantes e tem 35 milhões de processos ou seja 35 45 tô cando de cabeça eh mas enfim a gente tem mais ou menos o dobro do que tem a a China que por sua vez tem 12.000 juízes aqui são 18.000 a vida do Judiciário aqui é mais dura ao contrário do que às vezes fazem parecer portanto Essas são algumas

ideias e reflexões sobre o tema da Inteligência Artificial o impacto que tem no Direito Constitucional e as dificuldades de nós fazermos uma transição de um direito constitucional que nos protegia do estado e agora precisa nos proteger também dos particulares temos esses novos direitos fundamentais e temos a inteligência artificial abrindo fronteiras gerando a dificuldade de regular aquilo que a gente não sabe bem o que virá depois de amanhã a única coisa certa é que enquanto a condição humana for a condição humana como nós a concebemos hoje o os valores que devem nos nortear continuam a ser

os mesmos o bem a justiça e a dignidade humana Muitíssimo obrigado a todos eu vou ficar mais uns minutinhos no início da apresentação do ministro Gilmar Mendes depois vou sair a Francesa porque senão eu eu não não consigo pegar o vo e chegar no meu compromisso em São Paulo eu o observando eu agora a jeito que é presidente do supremo jilmar já foi é a gente almoça duas vezes janta duas vezes manter o peso É dificil mas eu aprendi uma coisa observando a vida brasileira tem dois tipos de despedida tem a saída francesa em que

o sujeito sai sem se despedir e tem a saída brasileira que o sujeito se despede mas não sai e portanto você na hora que você tá indo embora você que se despediu de você há 15 minutos ainda tá na porta é um fenômeno brasileiro por favor neste momento tem a palavra sua excelência o senhor Ministro Gilmar Mendes Bom dia a todas e a todos cumprimentar o ministro Barroso por essa iniciativa debate extremamente importante e também por essa lúcida palestra cumprimentar a colega de painel Edilene Lobo cumprimentar colega Guilherme Caputo Basso cumprimentar a todos os palestrantes

e todos os presentes e dizer que de fato Como já apontou o ministro Barroso nós temos no Brasil eh uma preocupação bastante grande com a questão da regulação das mídias sociais e Claro agora com a potencialização maior com a chamada inteligência eh artificial generativa nós que não faz muito tempo eh vivenciamos aquele episódio do 8 de janeiro para que não se esqueça Milan Cira diz que uma das defesas contra o poder absoluto é a rememoração é a memória contra o esquecimento essa reunião que se fez e que resultou na invasão dos três poderes em Brasília

eh foi feito com um pequeno código que se chamava a reunião Vamos à festa da Selma por portanto a partir daí se eh reuniriam e fariam então Eh aquela tragédia que nós vimos as marcas que podemos ver aqui no plenário do supremo claro que preocupa hoje eh como já foi dito o potencial de transformação e para o bem e para o mal a inteligência artificial está rapidamente se tornando uma força transformadora em nossa sociedade com profundos impactos tanto na economia quanto na vida cotidiana dos cidadãos seu potencial para impulsionar a Inovação aumentar a produtividade e

melhorar a qualidade de vida é inegável desde aplicações na saúde onde algoritmos podem auxiliar no diagnóstico precoce de doenças até o setor financeiro onde sistemas de otimizam investimentos detectam fraudes a tecnologia está remodelando indústrias inteiras ainda a pouco nós tivemos um almoço Barroso com a Dra Ludmila eh com todos os ministros do Supremo e ela falou da revolução que se faz no atendimento à saúde na Índia a partir de usos de que se faz da Inteligência Artificial e de um Modesto celular se faz o acompanhamento e se transmitem exames ou se pode até fazer exames

no entanto junto com essas oportunidades surgem desafios significativos que exigem uma regulação cuidadosa o impacto do ia no mercado de trabalho por exemplo é uma preocupação crescente Ministro Barroso brincou aqui com o Guilherme Caputo Talvez daqui a pouco saia uma liminar do TST proibindo e o uso na no mercado de trabalho Enquanto alguns empregos podem ser automatizados novos tipos de trabalho também hão de surgir estão surgindo a questão é Como gerenciar essa transição de forma Justa e equitativa Ministro Barroso falou da questão dos Oficiais de Justiça eh certamente nós temos várias atividades que vão se

tornando obsoletos profissões que desaparecem em função dessa revolução Além disso o uso generalizado de ia levanta questões importantes sobre a privacidade e proteção de dados os os sistemas de a frequentemente dependem de grandes volumes de dados pessoais para funcionar eficazmente isso cria riscos potenciais de violações de privacidade e uso indevido de informações sensíveis outro aspecto crucial é o potencial da ia para amplificar preconceitos existentes ou criar novos tipos de discriminação algoritmos treinados com dados enviesados podem perpetuar ou até exacerbar desigualdades sociais isso é particularmente preocupante quando a ia é usada em processos de tomada de

decisão que afetam diretamente a vida das pessoas como concessão de crédito contratação de funcionários ou até mesmo em decisões judiciais os avanços tecnológicos no campo da ia generativa juntamente com a velocidade e a escala sem precedentes da adoção de novas ferramentas para consumidores e aplicativos voltados para a empresa capturaram a imaginação de todos nós a possibilidade de alavancar a inteligência artificial para melhorar nossas vidas de repente parecem muito menos fictícias seja ajudando as pessoas a alcançar novos patamares de criatividade e produtividade reforçando o desenvolvimento industrial ou descobrindo soluções para desafios compartilhados nos domínios da saúde

e das mudanças climáticas no entanto também parece mais provável do que nunca que essas mesmas ferramentas possam ser usadas de forma abusiva corroendo as liberdades individuais prejudicando os meios de subsistência reforçando as desigualdades e minando as normas e instituições criadas para defender os valores Democráticos e proteger os direitos humanos em interessante documento do escritório do alto comissário das Nações Unidas para os direitos humanos sobre a taxonomia dos Direitos Humanos impactados pela ia generativa vemos algumas reflexões sobre os riscos para a liberdade de expressão esfera pública e acesso à informação quadro por exemplo da violência política

Como já foi observado amplificação da desinformação a i generativa pode ser aproveitada por agentes mal intencionados para criar conteúdo falso mas convincente que é transformado em arma de forma direcionada para ameaçar a liberdade de expressão por exemplo o uso de desinformação criado por iagem narrativa para sedar analistas ou oponentes políticos as mulheres têm sido um alvo mais vulnerável por assédios online erosão da confiança a proliferação de conteúdo impreciso na internet criado com ferramentas de ag generativa seja desinformação pode abafar ou obscurecer informações online baseadas em evidencias e verificadas por fatos ameaçando amplamente o direito dos

indivíduos e das Comunidades de acessar informações as consequências disso incluindo a erosão de confiança do público na mídia de notícias e nos processos políticos podem afetar negativamente vários outros direitos bem como a governança democrática de forma mais Ampla a outra questão apontada também nesse documento é o problema de isonomia e pluralidade aend dos resultados dos modelos de ia de super representar grupos culturalmente hegemônicos pode resultar pode resultar em uma falha na produção de uma diversidade de opiniões e informações sobre minorias ou grupos historicamente oprimidos a escassez resultante dessas informações em espaços online representa um risco

para o direito de acesso as informações Nesse contexto a criação de estruturas de governança desses sistemas é uma das prioridades da agenda política internacional e nacional a assembleia geral das Nações Unidas aprovou de forma unânime a primeira resolução Global sobre inteligência artificial em 21 de março deste ano os estados membros são instados a proteger os direitos humanos e os dados pessoais e a monitorar a ia em busca de possíveis danos para que a tecnologia possa beneficiar a todos a adoção unânime da resolução da Organização das Nações Unidas liderada pelos Estados Unidos sobre a promoção de

sistemas de Inteligência Artificial Seguros protegidos e confiáveis que também beneficiarão o desenvolvimento sustentável para todos deve ser e é um esforço Global histórico para garantir o uso ético e sustentável da Inteligência Artificial a resolução da ONU foi aprovada após uma série de outros documentos internacionais relevantes como a adoção das recomendações da Unesco sobre ética da inteligência artificial em 2021 e dos princípios da uc sobre inteligência artificial em 2019 e a recente aprovação de uma lei de inteligência artificial da União Europeia no Brasil essas discussões estão sendo lideradas pelo congresso por meio do pl 2338 de

autoria do Presidente Rodrigo Pacheco e so a relatoria do Senador Eduardo Gomes o imperativo de lidar com os riscos impost ao ecossistema de informação e comunicação é urgente em 2024 pois 3 bilhões de pessoas em todo o mundo votarão em eleições no mundo todo processos Democráticos as implicações para os processos Democráticos nos sistemas de ia nesse contexto ainda está sendo avaliado e debatido internacionalmente os riscos aqui analisados evidenciam a necessidade de um marco regulatório robusto que possa equilibrar o fomento a Inovação com a proteção dos direitos fundamentais a regulação da ia não deve ser vista

como um obstáculo ao processo tecnológico mas sim como um facilitador do desenvolvimento responsável e sustentável dessa tecnologia estamos falando do presente e também do nosso futuro estamos falando de um tema afeto ao Brasil Mas também como C viil afeto à Comunidade Internacional estamos falando acima de tudo sobre a garantia dos direitos previstos na Constituição Federal e que merecem e precisam ser protegidos mesmo sobre as condições tão diferentes como as que vivenciamos com a transformação digital é preciso garantir a dignidade da pessoa humana fundamento da Constituição Federal e os direitos individuais como a capacidade do ser

humano de se autodeterminar os direitos de personalidade a liberdade de expressão de comunicação e de informação o devido processo legal o direito a igualdade bem como a privacidade e a proteção de dados pessoais o futuro da ia no Brasil dependerá da nossa capacidade de interpretar a Constituição Federal e de criar criar um ambiente regulatório que fomente a Inovação proteja os direitos dos cidadãos e promova o uso ético e responsável dessa tecnologia transformadora com uma abordagem equilibrada e flexível o Brasil tem todos os pressupostos para aproveitar o potencial dessa tecnologia em benefício de nossa sociedade de

nossas empresas E dos nossos cidadãos mais uma vez o TSE ministra Edilene Saiu à frente nessa questão de uma regulação ainda que mínima do uso da ia nas eleições proibindo o o abuso nesta Ceara como nos lembra o brilhante Professor alemão Hoffman rim um dos grandes nomes da questão das de proteção de dados no mundo h inovação se dá não apenas no plano da tecnologia mas também das estruturas sociais e do próprio direito o próprio processo de desenvolvimento jurisprudencial pode ser visto como uma verdadeira inovação do direito como vimos aqui no Supremo Tribunal Federal o

debate que se travou sobre o direito à proteção de dados antecipando em alguns anos a decisão do próprio legislador constituinte não é um acordon da ministra rosa entendeu que a constituição já protegia os dados como portanto uma proteção de direitos fundamentais abrindo as novas circunstâncias ao seu redor dirimindo conflitos Luz dos parâmetros normativos trazidos pelo legislador e muitas vezes adaptando-os em Face dos novos paradigmas tecnológicos ou de mudanças sociais substantivas tenho certeza de que a Constituição de 1988 dispõe dos instrumentos necessários para que possamos continuar a interpretá-la no sentido de uma constituição viva garantindo direitos

fundamentais em Face dos novos desafios tecnológicos e Tenho a plena convicção de que os aqui presentes estão empenhados nessa Nobre missão imbuído desse espírito Desejo a todos um feliz um excelente evento muito obrigado tem a palavra sua excelência senhora ministra edlene Lobo bom dia bom dia a todas as pessoas aproveito a gentileza a generosidade dos dois ministros que já se referiram a todas as pessoas e as autoridades aqui presentes e vou direto ao ponto também recebendo a boa orientação do ministro Barroso lembrando do meu conterrâneo que dizia que discurso bom é curto se for curto

nem precisa ser bom eu então vou me limitar alguns aspectos Talvez num olhar como venho desenvolvendo nos meus escritos com meus companheiros e companheiras de pesquisa eh vou pontuar aqui algumas questões um pouco mais ácidas Ministro Gilmar uhum Ministro Caputo porque me parece que alguma inflexão aqui que eu sei tem orientado e preocupado todas as pessoas presentes em especial o Supremo Tribunal Federal mas me cumpre então botar aqui meio que o dedo na ferida porque a indagação que me parece vir a partir de todos os ensinamentos generosos gigantes dessas duas palestras é de que nós

precisamos fazer um recurso tático teórico para nos indagar afinal de contas o que que nós queremos com a inteligência artificial já se pontuou bem e parece que esse é o Leme aliás Leme é a tradução da palavra cibernética cibernética na verdade significa timão timoneiro eh o Leme então a nos orientar são os direitos fundamentais por isso que quando eu recebi esse convite tão Generoso e quero agradecer a todas as pessoas que oportunizaram que eu estivesse aqui tratando desse tema que me encanta eh eu recebi o convite para nós falarmos dos impactos da inteligência artificial no

constitucionalismo eu imediatamente Rebelde que sou lembrando de Alda Lara ela dizia que ainda sou a mesma né produto da rebeldia que me sagrou então ministro Gilmar quando eu recebi o covid com aquele título pensei não me parece que não são os impactos da inteligência artificial no constitucionalismo parece me o inverso os impactos do constitucionalismo na Inteligência Artificial e a partir daí sei que esta é a orientação o título é uma provocação a esse nosso pensar a partir daqui me parece que esse recur tático teórico científico jurídico político precisa ser feito a inteligência artificial evidentemente como

construção humana precisa se dirigir à serventia humana o destino dela Inteligência Artificial deve ser servir a sociedade servir os direitos fundamentais operar principalmente no sul Global contra as desigualdades Muitas delas minist Gilmar no ponto preciso Muitas delas a maioria delas concentradas sobre uma grande maioria nesse país que são as mulheres negras Então esse recul tático aqui é muito importante porque nós precisamos portanto reconhecer que nós não estamos mais assistindo a revolução tecnológica nós estamos imersos e imersas nela portanto Esse passo atrás não me parece possível no sentido da negação não é possível mais nós dizermos

que recusamos qualquer possibilidade de participação nesse novo mundo nós estamos todos e todas engolfados engolfa grande transformação e aqui nós poderíamos falar da vivência num pós mundo nós estamos mesmos e mesmos diante de uma realidade um tanto quanto ainda incompreendida e nesse aspecto faço um parêntese para registrar que me parece haver um cultivo cuid da Hiper complexidade e nessa direção cultivo para vendar inibir controles Então essa hiper complexidade não serve para esse propósito de proteção dos direitos fundamentais se a aplicação desse grande conjunto tecnológico potencializado pela Inteligência Artificial não é explicável não é compreensível não

serve porque nós precisamos compreender precisamente Qual é o impacto dessas grandes construções humanas com essa rotulagem já tão bem explorada e tão bem tratada pelos ministros que efetivamente palestraram então eu faço ess recula pontuar que esse tem que ser o Leme O timão cibernética como timão tem que ser direitos fundamentais e principalmente compreendendo em que ambiente os direitos fundamentais lutam para sobreviver nós estamos falando ainda no modelo capitalista que não vive sem o colonialismo colonialismo que não vive sem o racismo essa pontuação crítica ela é fundamental me parece porque e como bem disse o ministro

Gilmar nós sabemos dos vieses Os muitos vieses que reafirmam uma tradição de exclusão secular eu estou falando do Brasil mas nós bem poderíamos nos referir ao mundo então essa construção humana ela de fato precisa ser aplicada para que nós possamos falar nesse enfrentamento a essas desigualdades politicamente construídas quando nós falamos da violência política bem lembrada pelo Ministro Gilmar nós sabemos que é uma construção cuidadosa para a captura do poder político esse tribunal muito recentemente enfrentou uma matéria que é de impressionar quando nós Recebemos a decisão do supremo na dpf 779 em que esse tribunal dizia

é inaceitável que em séculos e séculos de aplicação do direito nós ainda tenhamos que conviver com a tese da legítima defesa da honra para justificar a matança das mulheres no Brasil e quando eu vejo aquele julgamento transportando para esse debate sobre inteligência artificial aplicado aos direitos fundamentais nós precisamos enfrentar a perpetuação dessa Matança no plano físico para O Extermínio das mulheres no plano virtual o apagamento da contribuição das mulheres a violência política insistentemente executada contra mulheres negras o cancelamento a pornografia e dentre tantas outras aqui disfuncionalidades para usar uma palavra mais simples para tratar dessa

barbárie que nós estamos vendo potencializada pela Inteligência Artificial então eu faço essa pequena introdução e prometi né que respeitando aqui eu cuidaria de ser breve me preocupa e a partir daí é muito importante nós termos eventos como esse capitaneados na casa Suprema da justiça brasileira me preocupa muito Qual é a destinação que nós daremos a inteligência artificial aplicável à justiça eu conversava com o Dr Daniel Avelar um pouco antes de entrarmos nessa sala e eu dizia a ele o que eu escrevo todos os dias e tenho como referencial que é justiça para além do poder

é justiça para além da estrutura física com um título de fórum ou de tribunal escrito na parede nós precisamos portanto tratar do sistema de justiça e da impactação da Inteligência Artificial ao sistema de justiça para nos preocuparmos com justiça nessa realidade que eu acabara de mencionar uma realidade excludente uma realidade racista uma realidade machista e aporofobia Endo por exemplo que a aplicação de sistemas inteligentes tem propiciado economia a função judicial e eu Suponho que sim muita economia nós certamente temos que pagar menos pelas estruturas físicas é preciso que esse ganho se reflita por exemplo no

barateamento do serviço prestado lá na ponta pra cidadania pro cidadão para cidadã nós precisamos falar lá no barateamento por exemplo das custas judiciais nós precisamos fazer com que esse ganho se reflita numa ampliação do acesso das pessoas Principalmente as pessoas vulnerabilizadas mais pobres ao sistema de Justiça quando nós falamos e vemos tantas notícias importantes que o ministro Barroso trouxe com a pontuação sempre acurada do ministro Gilmar quando nós ouvimos falar desses muitos sistemas com nome tão interessantes provocativos é preciso que a construção e o desenvolvimento saia da gestão da administração do Poder Judiciário o sistema

de justiça e aqui eu estou falando dos vários componentes dele além das pessoas integrantes da magistratura o sistema de Justiça precisa participar desse desenvolvimento e dessa construção é preciso que se saiba o que que está se produzindo nos tribunais quais são essas construções algorítmicas aplicadas ao à distribuição da Justiça no Brasil para que por exemplo nós coloquemos em prática aquilo que é um princípio inafastável que é o princípio da explicabilidade e um outro ainda mais importante o da auditabilidade as pessoas precisam compreender como é que esses sistemas que essas construções com computacionais da engenharia como

é que se aplicam esses sistemas na sua vida no seu cotidiano nós precisamos falar de acesso à inovação tecnológica para além de acesso aos sistemas do pje do eproc do esad e outros nós precisamos falar em capacitação das pessoas para efetivamente saberem utilizar esse ferramental tão importante nós precisamos falar inclusive da advocacia envelhecida que não consegue mais produzir para além daqueles documentos tradicionais com alguma evolução um computador acoplado a um impressor e que tem dificuldade de acessar esses vários sistemas então notem que essa grande construção criação humana que traz tantas coisas importantes pra vida humana

aqui no sistema de Justiça me parece merecer essas correções essas inflexões que eu aqui que trago m singelamente para nos conversa eu diria inclusive que essas muitas transformações importantes para o sistema de Justiça elas precisam se espraiar para o campo da forção das pessoas todas as pessoas não só os chamados operadores e operadoras do direito nós precisamos falar da iniciação para a vida digital nós precisamos falar da Educação para esse Admirável Mundo Novo que por vezes repete fórmulas velhas nós precisamos falar de acesso a um direito fundamental nessa constituição antes mesmo dessa disrupção que nós

acompanhamos muito recentemente que é o direito fundamental de acesso à inovação tecnológica sobre o qual inclusive Ministro Gilmar escreve e produz também esse acesso como a garantia de que as pessoas todas as pessoas não se transformarão apenas e tão somente em consumidoras de aparelhos eletrônicos e pessoas que usam bem a banda larga da internet como se isso revelasse um índice de inclusão como nós temos visto do ponto de vista formal nós podos falar inclusão digital em acesso à inovação tecnológica para além do acesso à smartphones de última geração uso da internet de banda larga nós

precisamos que as pessoas estejam letradas para compreenderem qual a destinação e o uso desse ferramental que esse Admirável Mundo Novo traz paraa nossa realidade nós precisamos falar dos vieses Min Gilmar pontuou tão bem Esse aspecto portanto Nós precisamos trabalhar com a inteligência artificial para enfrentar os vieses que ela mesma cria nós precisamos falar dessas construções tecnológicas tão avançadas para enfrentar velhos problemas Como o racismo a misoginia e a porob eu tenho dado Ministro Gilmar alguns exemplos singelos o senhor me perdoe já estou concluindo eh de utilizar tecnologia a serviço da implementação de direitos fundamentais e

enfrentamento desses vieses eu penso que o protocolo esse protocolo tão importante de julgamento sobre a perspectiva de gênero precisa ganhar a ampli do julgamento sobre perspectiva de raça particularmente tratando desses vieses que essa alimentação da inteligência artificial com dados produtos de uma sociedade envasada tem reproduzido então nós precisamos falar da tecnologia a serviço da sociedade fazendo com que essas construções novidad doas sirvam para enfrentar velhos problemas como eu acabara de mencionar o racismo o machismo como os dois pontos principais eu penso que é isso é a tecnologia a serviço de quem ela deveria exatamente estar

e aqui eu trago duas pequenas sugestões até porque o ministro Gilmar pontuou algo muito legal e responde bem a certas críticas acerca da regulação da Inteligência Artificial e ele foi um desses grandes integrantes da corte eleitoral que apreciou a matéria a resolução 23610 do TSE tratando de acesso do Povo ao direito fundamental de se orientar nos processos políticos por meio da propaganda eleitoral o TSE traz contribuições interessantes para a regulação da Inteligência Artificial e aqui estou falando em gênero não em espécie paraa Regência de um pleito para dizer basicamente que a inteligência artificial pode e

deve ser utilizada para potencializar o acesso do Povo à propaganda ele como um direito seu a propaganda de boa qualidade diga-se de passagem sem desinformação sem vieses sem desvios e que essa inovação é bem-vinda desde que não sirva a manipulação a desinformação a construção de realidades paralelas que não orientem não possibilita o exercício da liberdade para escolhas conscientes então quando nós vemos a atuação do TSE é uma resposta para aí sim o sistema político como um todo é possível é necessário que nós falemos como o grande alemão que o ministro Gilmar fez referência de uma

autorregulação regulada Nós precisamos trabalhar a regulação a partir da estatalidade porque a regulação a partir dos atores privados ela existe fortemente o mundo digital está fortemente regulado pelos Donos das tecnologias utilizadas o que nós precisamos conversar é sobre regulação estatal naquela linha do que o ministro Barroso mencionara de falar desse embarre dos atores ou do Poder extremado dos atores privados nesse ambiente nós temos eleições mencionaram Ministro Gilmar e mais com mais de 3 bilhões de pessoas e as plataformas Que nós conhecemos essas que formam aquele acrônimo conhecido gafan Elas têm cada uma mais de 1

bilhão e meio de usuários com acesso a dados muito mais profundos por exemplo do que o governo da Índia com 1 bilhão e meio de pessoas da China com quase mesmo número e do Brasil com 220 milhões de pessoas compondo Essa sociedade então eu concluo dizendo que há boas ideias há boas propostas e elas partem especialmente de conversas de diálogos como esse eu tenho sugerido vou concluir que nós precisamos para enfrentamento da violência política contra as mulheres e duas providências relativamente singelas a resolução TSE 23610 tratou um pouco disso que a necessidade de um plano

de integridade das plataformas para tratar exatamente desses desvios desses vieses e eu digo que as plataformas podem e devem passa da hora de que elas entreguem sistemas que rastrei a violência polí no mundo digital os algoritmos de rastreamento que por exemplo servem algumas plataformas que fazem entrevistas de emprego poderiam muito bem ser utilizados para identificar E permitir ao sistema de justiça e mesmo a fiscalização alguma atuação preventiva porque o grande problema nosso é trabalhar na repressão e que aí não atalha o dano ao lado disso as delegacias virtuais de polícia para o enfrentamento da violência

no mundo digital no mundo da política contra as mulheres essas duas medidas associadas a tantas outras já adotadas nessa regulagem pelo TSE me parece aqui um gesto de boa vontade apontando alguma inflexão nesse cenário para fazer com que esses números tão perversos que apresentam a fotografia do poder político no Brasil de mulheres mulheres negras fora dos espaços decisórios que essa fotografia mude algum dia muito obrigada quid autorização declaro encerrada a abertura do seminário impactos da inteligência artificial no constitucionalismo contemporâneo neste momento desfaz-se a mesa convidamos as autoridades que compõem expositivo de honra para tomarem assento

nos lugares reservados na primeira fileira e em instantes daremos continuidade ao seminário com o primeiro painel do dia Inteligência Artificial direitos e democracia dando início ao primeiro painel com o tema Inteligência Artificial direitos e democracia compõe a mesa como moderador o Dr Victor durigan coordenador de combate à desinformação do Supremo Tribunal Federal e como palestrantes o Dr Flávio dupim Calmon professor da Escola de Engenharia de em Harvard A D Laura cherel professora de direito do Instituto Brasileiro de ensino desenvolvimento e pesquisa e da Universidade de Brasília a Dra Patrícia Perroni Campos Melo secretária de autos

estudos pesquisas e gestão da informação do Supremo Tribunal Federal e o Dr Frederico Franco Alvim assessor de combate à desinformação do Supremo Tribunal Federal neste momento tem a palavra o Dr Vittor durigan alô alô bom dia a todas eh e a todos que estão aqui presentes é muito bom ver esse auditório cheio eu queria antes da gente começar esse painel cumprimentar as autoridades que estão aqui presentees faço isso em nome da de vossa excelência Ministro Gilmar Mendes e estendo isso a todas as demais autoridades que estão aqui conosco eh queria cumprimentar muito os nossos painelistas

que estão aqui do meu lado nessa mesa de primeiríssima categoria professor Flávio do pin Calmon professora Laura Cher Mendes nossa querida Dora Patrícia Perroni e meu querido amigo Dr Frederico Alvim e a gente tem nessa mesa como tema Inteligência Artificial direitos e democracia a gente tem uma ótima oportunidade de aprofundar os desafios os os impactos as consequências que a inteligência artificial a inteligência artificial traz dos nossos direitos fundamentais humanos e no funcionamento das democracias no Brasil e no mundo todo E esse debate eh muito oportunamente será feito de forma multidisciplinar do direito em diálogo com

outras áreas do conhecimento eh em especial por conta da presença do nosso professor Flávio do Pim calmão professor de engenharia elétrica da Universidade de Harvard eh e pra gente aproveitar da melhor forma possível o tempo dos nossos e palestrantes eu vou direto ao ponto ler antes a sua mini biografia mas passar a palavra pro professor Flávio dupim Calmon Flávio dupim Calmon é professor na faculdade de engenharia e ciências aplicadas da Universidade de Harvard e ele obteve seu phd engenharia elétrica e ciênci da Computação no Instituto de Tecnologia de massachusets e concluiu o pós-doutorado no centro

de pesquisa Thomas da IBM em Nova York ele completou seu mestrado em engenharia elétrica da Unicamp bacharelado engenharia de redes de Computação na Universidade de Brasília eh o professor ele é autor de mais de 90 artigos científicos publicados em conferências e periódicos internacionais nas áreas de engenharia Ciência da Computação matemática aplicada e é Inventor de 11 patentes hoje Ele dirige um grupo de pesquisadores na Universidade de Harvard dedicado ao desenvolvimento de novas abordagens para as áreas de Inteligência Artificial a aprendizado de máquina e teoria da informação em Julho de 2024 Professor Calmon foi agraciado com

o prêmio James Messi concedido pelo Instituto de engenharia elétrica e eletrônica sendo o primeiro pesquisador latino-americano a receber esse prêmio também foi agraciado com o prêmio nsf career award da Fundação Nacional de pesquisa dos Estados Unidos e prêmios concedidos pelo Google IBM Amazon e Universidade de Harvard em 2021 o professor recebeu também o título de honra ao mérito da Universidade de Brasília sendo o primeiro ex-aluno da área de ciências exatas em engenharia a receber essa honraria com professor Flávio com você bom muito obrigado pela pela introdução gostaria de cumprimentar a todos que estão aqui cumprimentar

também aos excelentíssimos senhores ministros excelentíssima senhora ministra Muito obrigado pelas falas tão inspiradoras e eu queria dizer que eu tô muito feliz e até um pouco emocionado de est aqui eu sou de Brasília cresci aqui na Asa Norte estudei na ONB Então para mim é uma oportun muito especial de estar aqui com vocês falando um pouco sobre o trabalho que o meu grupo tem desenvolvido em Harvard eu gostaria também de agradecer ao Supremo e aos organizadores pelo convite eu me sinto muito honrado o hoje eu vou falar um pouco sobre assim que os slides aparecerem

ah tá aí eu vou falar um pouco sobre os desafios contemporâneos da Inteligência Artificial discriminação arbitrariedade e privacidade Esse é um assunto muito complexo Esse é um assunto que daria 30 horas de aula pra gente começar a entender a complexidade do tema tanto das questões técnicas quanto o impacto social dessa tecnologia Mas o que eu vou me aventurar a fazer hoje é que eu vou dar uma visão panorâmica sobre o assunto e só trazer alguns pontos que o meu grupo de pesquisa em Harvard Tem trabalhado Então essa é a agenda do que a gente vai

fazer o que do que eu vou falar agora vou começar hoje eu vou abordar três desafios relacionados ao uso da Inteligência Artificial que ao meu ver são fundamentais para o estado democrático de direito a discriminação a arbitrariedade e a privacidade mas antes de chegar lá eu vou passar a primeira metade da minha apresentação falando um pouco sobre o contexto histórico por trás dessa tecnologia e como Engenheiro o meu objetivo aqui é desmistificar um pouco o que existe por trás da Inteligência Artificial e falar um pouco sobre como essa tecnologia é desenvolvida e e eu acho

que entender esse Panorama histórico e e ver esse momento hoje que a gente vive de inteligência artificial é importante contextualizar ele como um avanço natural dessa tecnologia nas últimas décadas e essa revolução da Inteligência Artificial ela está apenas começando né já se falou muito nas falas anteriores sobre alguns do das oportunidades e das aplicações dessa tecnologia parece que cada vez que a gente abre o jornal ou vai na internet a gente vê uma nova Manchete uma nova reportagem sobre como a inteligência artificial vai revolucionar a educação vai revolucionar a sa A área da saúde serviços

públicos e além mas acho que é importante perguntar por essa revolução está acontecendo agora né desde que existem computadores se fala de Inteligência Artificial Então por que esse momento de A generativo tá acontecendo agora nos anos 2020 e para entender o contexto histórico a gente precisa voltar no tempo então a gente vai voltar pro ano 1998 eu vou falar um pouquinho sobre como era o panorama Panorama da da Inteligência Artificial nessa época em 98 slides de fundo preto ainda não eram moda celulares não eram Smart celulares pareciam assim o maior nome da na da área

de tecnologia era Microsoft né se falava muito do processo antiu contra Microsoft hoje se fala no processo anti contra Google Que por sinal tinha acabado de ser fundada no ano de 1998 Essa é a página inicial da Google naquele ano uma outra coisa aconteceu no ano de 98 um paper muito importante foi escrito esse paper chamado gradient Bas learning apply to document recognition esse paper três autores Desses desse paper le Leon botu e yosua B viriam a ganhar o prêmio touring que é o equivalente ao prêmio Nobel na área de ciência da computação e nesse

paper o que esses autores perguntaram é como você consegue ensinar computadores a reconhecer padrões essa é uma pergunta que já era feita há muito tempo mas eles eh eles introduziram um sistema chamado uma rede neural convolucional que hoje tá rodando no seu telefone caso você esteja batendo foto e a ideia que eles tiveram é ensinar é ensinar o computador é reconhecer dígitos escritos à mão de uma forma utilizando apenas dados em vez de tentar programar um computador e falar ó se você vê um círculo é um zero se você vê apenas um traço a um

a ideia era eh fazer o computador reconhecer criar um modelo que reconheceria esses padrões diretamente de dados e a forma que isso é feita é e a forma que eles fizeram isso foi criando o que a gente chama de um dataset de Treinamento foi coletando dezenas de milhares de exemplos de dígitos escritos à mão e formando um grande banco de dados onde você tinha um exemplo de cada dígito e o rótulo real do que aquele dígito corresponderia se era um zero ou um ou dois e três e assim por diante e com esses dados em

mãos você faz um processo que a gente chama de treinar um algoritmo de aprendizagem de máquina um algoritmo de machine learning e a forma que isso é feito é de um nível bem alto é razoavelmente simples você tem o seu modelo e você escolhe aleatoriamente um exemplo do seu dataset você oferece esse exemplo como entrada pro seu modelo e você vê qual é a previsão que o modelo faz se se essa previsão é igual ao rótulo real né esse zero é realmente um zero o modelo preveu corretamente você não faz nada você não muda o

modelo agora se você oferecer uma outra amostra por exemplo um 4 e o modelo faz uma previsão errada o que você faz é que você treina o modelo você atualiza os parâmetros do modelo um pouquinho você mexe no no no modelo só um pouquinho para que a saída seja mais próxima da saída real e esse processo é repetido dezenas de milhares centenas de milhares de vezes até que ele converge né até que você atinge um nível de precisão média que seja tolerável esse processo de treinamento é uma coisa que vocês já viram na matemática de

segundo grau esse processo de treinamento é o ajuste dos parâmetros de uma função extremamente complexa aos dados que nem uma regressão linear né você que provavelmente todos aqui em algum momento na matemática do segundo grau justou uma reta a uma série de pontos né nesse caso a reta tem dois parâmetros uma um um modelo de aprendizagem de máquina é um é uma função também só que não apenas com dois parâmetros uma função extremamente mais complexa e a função as funções que a gente usa hoje são coisas chamadas redes neurais né ISO são funções parametrizadas com

dezenas de milhares milhões hoje em dia trilhões de parâmetros que representam essa relação muito complexa entre um dado de entrada e um dado de saída e a esperança é que essas redes aprendam a reconhecer padrões de forma automática que eles aprendam a fazer uma coisa tipo o que tá no slide aqui que aprenda a organizar que aprenda a organizar esses dígitos e reconhecer padrões por exemplo a representar os seis todos juntos Os Quatros e os noves juntos também às vezes tem uma confusão se um nove é um quatro mas que você consiga criar essa áreas

de decisão onde observando uma nova amostra você faz uma classificação correta para treinar um algoritmo de aprendizagem de máquina para treinar um algoritmo de Inteligência Artificial você precisa de três fatores esses de três componentes que a gente já sabia na década de 90 a primeira você precisa de uma arquitetura né você precisa de uma descrição dessa função extremamente complexa que representa a entrada e a saída lembra a gente falou de uma regressão linear essa é uma função muito simples você precisa de uma forma de de expressar esse relacionamento complexo você precisa de uma métrica que

prevê as qualidades das suas previsões da saída desse modelo e essa métrica é normalmente calculado na média a gente vai ver depois que isso leva a problemas de discriminação porque você otimiza pra média não significa que o modelo tem uma um desempenho bom para todos toda todos os dados de entrada em alguns casos todas as pessoas e o terceiro fator uma vez que você tem um modelo e você tem uma métrica da qualidade desse modelo você precisa de um algoritmo de Treinamento você precisa de algoritmo para ajustar esses parâmetros do seu modelo para otimizar a

sua métrica e ter um bom desempenho como é que uma rede neural se parece né como é que um algoritmo de Inteligência Artificial se parece é um cérebro flutuando num data center em algum lugar não o esse processo que eu descrevi esse processo complexo de treinamento de um modelo tá representado assim aqui em um slide Ah isso é o código que você precisa para para implementar todo esse processo de o de treinar o modelo que reconhece dígitos é uma eu não eu não espero que ninguém aqui entenda que que esteja escrito aqui mas eu só

quero desmistificar isso quando você fala em regular Inteligência Artificial que você tá regulando é isso é um pedaço de código que tá sendo executado num computador na nuvem né E hoje a gente tem pacotes de software como pythor tensor Flow são pacotes que são mantidos por empresas como Google Facebook meta que torna muito simples implementar esses modelos tão simples que você consegue escrever o código em um slide é uma coisa que um aluno de graduação de ciência da computação consegue facilmente implementar então várias arquiteturas de redes neurais usadas hoje a gente já conhecia ah vários

desses algoritmos por trás de Inteligência Artificial já eram conhecidas na década de 90 né a gente já sabe isso há muitas décadas que que mudou né E para entender porque a gente tá vivendo esse essa mudança hoje a a gente precisa vir de novo pros anos 2010 e foram três componentes três fatores essenciais que ao meu ver todo mundo aqui tem que saber que foram fundamentais para essa explosão da ia generativa e esse e esse uso de e esse amplo uso da tecnologia de Inteligência Artificial o primeiro fator que já foi mencionado antes é Ampla

disponibilidade de dados hoje a gente tem empresas cujo modelo de negócios é inteiramente baseada em coletar dados numa escala global e minar esses dados para prover serviços serviços como propaganda direcionada além de outros né então a quantidade de dados que a gente tem é sem precedentes o segundo fator é o poder computacional acessível e barato e esse é um fator crucial só para dar uma eu queria trazer uma referência aqui para vocês se você olhar o computador o super computador mais rápido do ano 2000 era IBM Asi White essa er é um computador que ficava

num dos Grand grandes laboratórios de pesquisa do departamento de energia do governo americano e esse computador encheria essa sala e custaria Milhões de Dólares ele tinha um poder computacional de 7.2 teraflops o que isso significa que esse computador fazia 7.2 milhares de bilhões de operações de soma multiplicação divisão por segundo hoje você consegue comprar uma placa de vídeo Essa é uma placa que eu consigo segurar na minha mão que tem mais ou menos 20 vezes o poder computacional do computador super computador mais poderoso do ano 2000 né esse é um computador que você coloca no

data center um uma placa que você coloca no data center você usa para treinar em redes neurais e custa cerca de 0.000 agora se você olha o poder computacional que é usado para treinar os modelos como chat PT Gemini e tal o poder computacional é muito grande Esses são Dados fechados mas a gente tem uma referência que é um modelo que foi feito lançado em aberto pelo Facebook recentemente pelo meta Chamado liama 3 Esse é um modelo pelo que tem mais ou menos 140 bilhões de parâmetros e foi treinado em 24.000 desses gpus que estão

representados aqui ou seja um poder computacional 500.000 vezes maior do que era o maior supercomputador do ano 2000 quando você fala do Poder computacional por trás do chat IPT você tá falando de 1 Milhão ou 2 milhões de de vezes mais poder computacional então o crescimento é exponencialmente grande e o terceiro fator e esse é um fator que não é tão discutido é é o que a gente chama de reprodutibilidade sem atrito a pesquisa computacional é geralmente comunicada por meio de código aberto e artigos publicados e em repositórios como o Archive e o github isso

é uma coisa que qualquer pessoa pode acessar e reproduzir particularmente na área de Inteligência Artificial você tem um padrão de publicação de código online O que torna a pesquisa rapidamente reproduzível Então o meu grouping Hart quando a gente tem um um novo modelo ou quando a gente tem um novo método pesquisadores da Google ou da Meta podem rapidamente verificar a implementar essa esse essas inovações e vice-versa um novo modelo da Google ou da openi a gente pode testar esses modelos no nosso laboratório e o que isso faz é que ele que isso reduz o atrito

de verificar e desenvolver pesquisas existentes né a gente tá vivendo essa revolução em grande parte por causa da pesquisa pesquisa na academia pesquisa financiada pelo governo e pesquisa dentro dos das empresas das grandes empresas de tecnologia e compare isso com outras áreas tipo Ciências Médicas né onde desenvolver um novo remédio leva muito tempo vários estudos aqui a gente pode rapidamente testar e Inovar e melhorar a modelos existentes então esses três esses três fatores dados mais computação mais reprodutibilidade leva uma taxa de inovação sem precedentes na verdade quem tá olhando de Fora Parece que um gênio

saiu da garrafa né que de repente surgiram esses modelos que são extremamente poderosos mas não é essa é uma evolução natural desse aumento exponencial da quantidade de pesquisa na área do poder computacional e da quantidade de dados que são disponíveis e a sensação que você tem pesquisando nessa área é como é quase no começo da física o que a Archimedes falava né que dê-me um ponto de apoio e uma alavanca eu moverei o mundo e a sensação que a gente tem é dme dados e poder computacional e a gente Talvez consiga modelar ou aprender o

mundo e eu acho que o uma das áreas onde a gente sente isso Mais atualmente é esse rompimento da barreira de linguagem que a gente vê hoje né se você olha os modelos de 1998 que Eu mencionei antes de 25 30 anos atrás esses modelos tinham mais ou menos 60.000 parâmetros e faziam tarefas de classificação bem simples mas dado uma entrada eles previam um uma propriedade daquela entrada nesse caso se esse dígito é zero ou é um e o que os modelos generativos fazem é mais ou menos a mesma coisa o modelo transforma é um

modelo extremamente mais complexo tem mais ou menos os modelos tipo por trás do chat IPT tem mais de 1 trilhão de parâmetros Mas eles ainda resolvem um problema de previsão né dado um pedacinho de texto na entrada desses modelos eles prevêem Qual que é a próxima palavra ou pedacinho de palavra então se você colocar como entrada o Brasil é um país aí dá de volta paraa entrada o Brasil é um país d e de volta para entrada país é um Brasil é um país de rica e assim por diante e assim que o o chat

PT funciona se você perguntar complete essa frase o Brasil é um vai responder o Brasil é um país de rica diversidade cultural e natural conhecido por suas paisagens desum brantes Sua Música vibrante e sua hospitalidade calorosa uma visão bem estrangeira bem gringa do que é o nosso país né mas isso é formado prevendo a próxima a próxima palavra o quando quando eu Inter com esses modelos é difícil não pensar em Machado de Assis né e particularmente o que o narrador de Don Casmurro fala que a verossimilhança é muita vez toda a verdade né e aqui

você tem esses esses modelos que criam essa saída que é verossímil mas muitas vezes não é a verdade mais parece e o desenvolvimento da Inteligência Artificial traz várias novas oportunidades oportunidades que já foram discutidas mas o desenvolvimento da Inteligência Artificial também gera vários novos desafios à medida que a inteligência artificial se desenvolve rapidamente surgem vários novos desafios que precisam ser abordados para proteger e preservar os princípios e Valores do Estado democrático de direito e nos 10 12 minutos que me restam eu vou falar um pouquinho sobre três desses desafios só vou dar um um um

trazer um ponto de cada um deles de novo esse é um assunto incrivelmente complexo eu só vou falar um pouquinho sobre discriminação arbitrariedade e privacidade em modelos de Inteligência Artificial Quando você pensa no desenvolvimento de um modelo de Inteligência Artificial e nos vieses que podem existir nesses modelos a primeira coisa que vem em mente são os dados né os dados são enviesados e esses modelos propagam na sua saída o viés que existem nos dados mas a verdade é que no desenvolvimento desses modelos Existem várias outras escolhas que são feitas por um cientista de dados por

um engenheiro por um cientista da Computação qual tipo de modelo que você vai usar a quantidade de dados que você vai usar Qual o número de parâmetros desse modelo até o algoritmo de treinamento e otimização lembre aquele algoritmo que ajusta os parâmetros do modelo para você conseguir prever isso depende dependendo de como você inicializa essa esse problema de otimização de uma forma aleatória né você vai convergir numa solução diferente Isso corresponde a um modelo diferente com propriedades diferentes e muitas vezes esses modelos são são desenvolvidos de forma não trans transparentes né mas todas essas decisões

são codificadas dentro do modelo pós treinamento isso pode levar a um comportamento surpreendente e inesperado a os esses modelos Isso já é uma coisa amplamente documentada esses modelos podem incorporar vieses e discriminar apresentando um desempenho desigual entre diferentes populações o que eu quero dizer por isso é que você em certas tarefas você usa esses modelos e a precisão ou o desempenho desses modelos muda para diferentes populações um exemplo disso foi o que foi ocorreu na Inglaterra há alguns anos atrás onde o governo britânico usou um algoritmo para dar nota pros alunos pro Enem deles o

a-level exam porque a prova não podia ocorrer por causa do covid e esse algoritmo foi demonstrado que tinha vários vieses né particularmente discriminava contra alunos que vinham de regiões de renda mais baixa ou outra aplicação onde você tem o onde a esses modelos de discriminam em reconhecimento facial né Isso já é um caso amplamente discutido e documentado isso é particularmente importante quando Essas tecnologias são utilizados utilizadas para segurança pública o que o meu grupo de pesquisa em em Harvard faz é que a gente está desenvolvendo novos métodos para tentar reduzir essas diferenças de desempenho em

modelos preditivos para pros Corajosos que querem ver os detalhes técnicos a gente teve um paper recentemente no neurips que é a maior conferência de Inteligência Artificial do mundo a gente propõe um método que é quase como colocar um óculos no modelo onde você ajusta as saídas para equalizar essa esse desempenho e muita gente acha que intervir nesses modelos para diminuir padrões de discriminação vão reduzir o o desempenho do modelo na média isso não é verdade não é o que a gente observa a gente consegue desenvolver métodos altamente eficientes que melhoram o desempenho do modelo sobre

diferentes populações sem diminuir o desempenho médio então esses algoritmos podem discriminar algoritmos de Inteligência Artificial Ah também podem aí decisões apoiadas por modelo de Inteligência Artificial podem também ser arbitrários e só para ilustrar esse ponto eu vou falar rapidamente de um experimento que a gente fez no nosso laboratório Isso foi um paper que a gente apresentou aqui no Rio junto com o Caio o Caio é um dos primeiros autores desse desse paper e e o experimento que a gente fez foi o seguinte a gente treinou uma dess desses grandes modelos de linguagem o llm para

reconhecimento de conteúdo tóxico essa é uma tarefa que você faria por exemplo numa plataforma online para determinar se um determinado tweet ou um post é tóxico ou não né existem grandes datasets abertos que você pode usar para treinar esses modelos então o que esse modelo faz que você recebe um um pedacinho de texto na entrada e a saída se isso é um conteúdo que é que discrimina é tóxico ofensivo ou não E como Eu mencionei antes tem várias decisões que um um cientista de dados que tá desenvolvendo esse modelo precisa fazer por exemplo até definir

o como você vai inicializar o gerador de números aleatórios por trás do treinamento né se vai ser o número 35 ou número 46 São decisões absolutamente arbitrárias né a gente chama isso de uma inicialização aleatória do modelo só que e a gente fez o seguinte teste a gente pegou um datet usou exatamente o mesmo exatamente o mesmo tipo de modelo e a gente treinou 40 modelos diferentes simplesmente mudando essa inicialização aleatória pensa em jogar um dado e você treina um modelo joga um outro dado treina o modelo e assim por diante e a gente acaba

com 40 modelos diferentes para identificação de conteúdo tóxico e todos esses modelos tem mais ou menos a mesma performance né na média o pior e o melhor modelo tem uma performance média com 2% de diferença uma coisa que é estatisticamente insignificante esse efeito onde você tem vários modelos pra mesma tarefa é uma coisa conhecida na área de aprendizagem de máquina é conhecida como efeito de rashomon rashomon é uma referência ao filme de Akira crosal da década de 50 onde diferentes pessoas descrevem o mesmo crime de diferentes perspectivas e da mesma forma aqui você tem vários

modelos diferentes que podem apresentar o mesmo desempenho médio em uma tarefa de classificação predição ou geração Mas qual modelo escolher né Qual modelo você vai usar e o desafio que surge com essa existência de múltiplos modelos é que eles podem discordar então por exemplo se eu pego um exemplo na média eles são tem mais ou menos o mesmo desempenho mas se eu pego um exemplo de texto por exemplo texto um aqui eu pergunto para esses modelos Será que ele esse texto é tóxico cada modelo pode ah individualmente ter uma decisão diferente esse fenômeno a gente

chama de multiplicidade preditiva foi um fenômeno que eu e e colaboradores introduzimos há alguns anos atrás onde modelos com o mesmo desempenho médio podem produzir predições conflitantes para a mesma pro mesmo dado de entrada o e essa é uma coisa que no nosso experimento em vários outros cenários também a gente observa nesse caso aproximadamente 34% dos seus dados tinha pelo menos dois modelos que discordavam naquela classificação né ou seja se você fosse usar um algoritmo desse para moderação de conteúdo a decisão se esse conteúdo é tóxico ou não pode depender do número aleatório que um

cientista de dados escolheu no início do treinamento é uma decisão absolutamente arbitrária e não apenas isso né Essa arbitrariedade não incide da mesma forma sobre todas as amostras conteúdo que se dirige por exemplo a pessoas que são lgbtq mais tem maior probabilidade de ter uma decisão arbitrária do que certos outros grupos ou seja tem uma discriminação da incidência dessa arbitrariedade em si e os impactos da multiplicidade expeditiva são vários E e essa é uma ocorrência por isso ocorre por causa dessas decisões silenciosas e não transparentes feitas durante o desenvolvimento do modelo se a multiplicidade preditiva

não for considerada as decisões apoiadas por modelos de machine learning e de de ia podem depender de escolhas arbitrárias feitas durante o treinamento Por exemplo essa inicialização aleatória do modelo Isso é um problema particularmente quando você tem Leviatã algorítmicos né um Leviatã algorítmico é um algoritmo que controla acesso a uma sociedade a uma oportunidade crítica na sociedade né um exemplo de um potencial Levi atão algorítmico foi que o Ministério da Educação anunciou 2 anos atrás a intenção de usar ia para dar nota na questão discursiva do Enem Até onde eu sei isso não foi implementado

mas você pode imaginar que esse é um algoritmo que controla acesso a uma oportunidade crítica educação superior imagina sua se sua nota no ENEM ser 10 ou 20 pontos diferente por causa de como alguém inicializou esse algoritmo né e um outro exemplo disso são os algoritmos de de credit scoring usados nos Estados Unidos se eu quero ter acesso a crédito nos Estados Unidos tem três algoritmos que são usados nos meus dados né e cada algoritmo me dá uma nota e essa nota é utilizada para determinar se eu tenho acesso a um empréstimo ou não então

multiplicidade preditiva é mais um um exemplo e o último exemplo que eu vou falar de um um risco do I É privacidade eu vou falar rapidamente sobre privacidade isso de novo isso é um tema altamente complexo né e acho que desses três desafios é o que é mais debatido e regulado só vou trazer uma questão aqui para vocês que modelo de inteligência artificial tem informações sobre os dados de Treinamento gerando riscos à privacidade e só para demonstrar isso eu vou dar um exemplo de um paper recente de pesquisadores da Google esse não é um paper

mail onde eles demonstraram que se você chegasse pro tipt e pedisse para repetir a palavra Company para sempre o que acontecia que o modelo repetia Company Company Company Company centenas de vezes e eventualmente come começava a cuspir dados utilizados no treinamento inclusive dados que tinham um aviso de de copyright né e o desafio aqui que a gente ainda não tem uma forma técnica Até onde eu sei de fazer um modelo desaprender um dado a gente não tem uma forma de deletar um dado pós treinamento do modelo né a única forma a única forma que a

gente tem para fazer isso não eficiente é retreinar o modelo né mas quando você tá falando que esses grandes modelos tem um custo de 100 milhões de dólares em breve 1 bilhão de Dólares de custo computacional para treinar o custo é muito grande né para deletar o dado então a última mensagem que eu vou passar para vocês e já recebi a notificação do tempo aqui é que soluções para desafios tipo discriminação arbitrariedade e privacidade e inteligência artificial requerem um diálogo e colaboração Entre várias áreas e várias disciplinas né Isso são problemas técnicos mas são problemas

que requerem um diálogo entre a ciência da computação a engenharia e a estatística e também o direito à sociologia políticas públicas ética educação e além são problemas que estão surgindo muito rapidamente e você realmente vai precisar uma um diálogo entre a parte técnica e as pessoas desenvolvendo esse modelo e a parte legal e a parte regulatória e essas soluções para arbitrariedade discriminação e privacidade e outros riscos muita gente fala que elas limitarão o desenvolvimento da Inteligência Artificial e Eu discordo com isso eu acho exatamente o contrário essas soluções são fundamentais para garantir que essas futuras

tecnologias de inteligência artificial sejam úteis em larga escala e funcionem para todo mundo para ter inteligência artificial útil em escala a gente precisa abordar esses problemas e eu vou terminar por aqui meu contato tá aqui eu tô à disposição de qualquer um aqui meu grupo em ravat também para responder perguntas e e se você quiser fazer um followup me manda um e-mail e mais uma vez muito obrigado pelo convite obrigado [Música] eh Muito obrigado Professor tá tá ligado professor Flávio pelas suas palavras excelente é muito bom mesmo poder recebê-lo aqui vindo de Harvard mas a

sua cedade é um prazer o Supremo est aqui com você eu direto também aproveito para chamar nossa próxima painelista é a Dra Laura Ferreira Mendes a professora Laura chert Ferreira Mendes é advogada eh diretora do centro de direito internet Sociedade do idp aqui de Brasília coordenadora do mestrado profissional em direito também no idp professora de direito digital de Direito Civil é direito digital no idp de direito civil na Universidade de Brasília é Doutora suma cum laud em direito privado pela Universidade hott de Berlim tendo publicado sua tese sobre proteção de dados na Alemanha mestre em

direito estado e constituição pela UnB uma das autoras do anteprojeto de lei de proteção de dados que resultou na nossa lgpd e e também foi relatora da comissão de juristas na Câmara dos Deputados responsável pela elaboração do eh parabenizar aqui ao Supremo Tribunal Federal por essa excelente iniciativa por realizar Esse seminário Então queria parabenizar aqui ao Vitor nosso moderador A Patrícia a Aline ao Ministro Barroso eh por essa por essa excepcional por esse excepcional programa né queria também cumprimentar aos nossos aos colegas e da mesa que professor Flávio do pin Calmon que fez uma excelente

palestra eí que eu espero poder dialogar com ela refletir tanto a respeito da sua fala que espero não me perder aqui na minha na minha reflexão também cumprimento eh Dr Frederico Alvim e todos e todas aqui presentes em especial também a ministra Edilene Lobo que fez uma brilhante fala aqui eh no começo e trouxe acho que eh reflexões muito importantes também sobre Direito Eleitoral eu queria começar eh fazendo Talvez um comentário aqui professor Flávio acho que o senhor trouxe eh reflexões muito importantes pro Brasil quando o senhor falou de arbitrariedade discriminação eh a gente vê

que A Iá tem sido utilizada cada vez mais também nos nossos processos decisórios né seja no próprio poder judiciário que acho que essa é uma um Grande Debate inclusive está hoje em debate um grupo de trabalho no CNJ eh a discussão de reconhecimento facial eh tem um dado importante aqui sobre o Observatório de segurança eh pública coordenado pelo Pablo Nunes que mostra que 90% dos presos por monitoramento facial no Brasil são negros Então acho que esse também é um ponto muito relevante quando a gente fala né de discriminação eh eu e o senhor colocou aqui

sobre O Leviatã algorítmico né Eh a gente vê que as empresas têm utilizado cada vez mais também esses sistemas para tomar decisão sobre muitas vezes sobre promoção ou sobre o salário dos seus colaboradores e eu soube recentemente que a Universidade de Brasília eh iria utilizar inclusive um algoritmo para definir quantas vagas vão para cada um dos departamentos ou seja seja Quantos professores Eh quantas vagas de professores irão para cada um dos departamentos o que mostra como o tema é atual e ao mesmo tempo também sensível né e acho que na sua fala eu queria também

me conectar mais com alguns assuntos Talvez o primeiro deles me lembro muito da professora Kate Crawford que disse que muitas vezes o sistema de Inteligência Artificial eh eles não são nem exatamente Inteligentes da forma como a gente imagina nem exatamente artificiais e acho que o a sua apresentação mostra muito claramente isso né Por um lado nós precisamos sim de uma série de decisões humanas ao longo de toda essa cadeia ao longo de todo esse ciclo da vida eh da Inteligência Artificial eh para definir Quais são os dados que entrarão e alimentarão esses sistemas eh Quais

qual o modelo estatístico que baseará esse sistema e como muito bem colocado aqui muitas vezes são modelos estatísticos diversos que vão gerar um resultado bastante diferente né então acho que isso é importante lembrando também que além de recursos humanos recursos naturais são utilizados por esses sistemas e portanto ela não é tão artificial como a gente imagina e por isso também os seus resultados não são tão objetivos né muitas vezes como a gente imagina Às vezes a gente eh eh muitas vezes se depara com credit score ou com Outros tantos scor tantas outras avaliações estatísticas eh

entendendo que elas são eh objetivas no sentido de que Elas seriam mais verdadeiras né ou necessariamente melhores do que uma decisão humana eu acho que é fundamental a gente compreender que esse ciclo né compreender que eh elas precisarão e essas todos esses resultados estatísticos eles precisam sim passar por uma avaliação humana muito detalhada em especial quando a gente tá falando de um impacto sobre os direitos fundamentais em especial quando a gente tá falando sobre né se estivermos falando sobre segurança pública sobre decisões que vão afetar eh o direito de irir sobre a liberdade de expressão

né sobre o trabalho das pessoas Então acho que esse é um ponto fundamental eh para ser tratado aqui também por isso também parabenizo aqui o tema do do do seminário como que os sistemas de a de Fato impactam né os nossos direitos fundamentais no dia a dia então acho que esse é um é um ponto muito importante e aqui me me me vem também eh de certa forma alguns mitos que a gente precisa eh derrubar o primeiro deles é o de que nós não precisaríamos eh fazer nada ou não precisaríamos regular ou de com uma

simples inércia levaria a um desenvolvimento e a Inovação da ia no nosso país eh como uma espécie just let ai Happen né como se fosse e aqui professor Flávio a sua apresentação também traz eh de uma forma acho que muito clara como nós precisamos de recursos computacionais poderosos né como nós precisamos de uma quantidade de dados de uma qualidade também de dados impressionante e de como nós precisamos de recursos talentosos né recursos humanos talentosos Para para que a gente tenha digamos uma boa predição um bom resultado eu acho que isso mostra eh acho que só

essa essa equação mostra como é desafiador por um lado eh nós como país né eh inovarmos e e também termos a capacidade de desenvolver a ia de forma Soberana e eu falo isso porque isso é um grande tema no Brasil como eh sempre aquela discussão de que a regulação poderia eh impedir ou impactar a Inovação e eu acho que quando nós percebemos eh que os recursos eh necessários para esse desenvolvimento para essa inovação São enormes eu acho que fica claro que a gente precisa sim de uma regulação e e mais do que uma regulação a

gente também precisa de um plano nacional eh para que a gente possa desenvolver também soberanamente esses recursos e e que isso claramente ainda vai ser um longo caminho pela frente mas para Além disso eu acho que isso também mostra que nós precisamos sim de uma regulação para avaliar os impactos e para que a gente possa eh de uma forma talvez muito equilibrada mas muito também eh adequada proteger os direitos fundamentais que hoje são impactados por esses sistemas Então essa decisão acho que é uma decisão importante eh da se a gente são tantos os casos né

que a gente poderia citar mas esse caso da ofcom no Reino Unido Nós pensamos se nós pensarmos No No Impacto paraa educação né de quando estamos usando sistemas de inteligência artificial para eventualmente eh substituir ou avaliar alunos e logo a educação que tem como missão exatamente eh superar desigualdades Eu acho que isso fica claro também como nós precisamos eh regular esses sistemas e aqui eu queria eh falar muito rapidamente Já que é o também o tema da nossa mesa aqui Vitor eh sobre o impacto paraa esfera pública digital né e aqui a gente indo direto

pro tema da nossa mesa eh esse tema é tão desafiador que a gente poderia falar de diversos assuntos dos impactos no trabalho dos impactos nas relações de consumo eh dos impactos na economia de uma forma geral mas eh eu queria me deter talvez nesse ponto que é um ponto também foi muito falado na na abertura quando a gente pensa nos impactos paraa democracia e paraa esfera pública digital e aí eu sempre me lembro da frase da jornalista Maria ressa que foi a ganhadora do prêmio Nobel da Paz 2021 que diz que sem fatos não é

possível ter verdade sem verdade não é possível ter confiança e sem confiança não temos uma realidade compartilhada nem democracia isso torna quase impossível lidar com os problemas existenciais do nosso mundo e isso Eh tá muito ligado ao fato de que quando pensamos na esfera pública digital nós sabemos que esses espaços ampliaram né a informação a possibilidade de expressão e ao mesmo tempo eh ampliaram a quantidade digamos de desinformação E ampliaram também o que já foi falado aqui inclusive também pela ministra Edilene eh o potencial de discriminação e de violência política ou seja nós temos um

espaço e uma esfera pública digital hoje bastante desafiador porque por um lado todos supostamente poderiam falar desde que essas pessoas também não fossem ameaçadas né então Eh me parece que quando falamos de liberdade de expressão e esse é um um aspecto um direito fundamental eh muito relevante e também já presente em tantas decisões do supremo tribunal federal nós precisamos pensar como que como devemos proteger essa liberdade de expressão Qual que é o conceito adequado de liberdade de expressão eh nesse novo mundo e eu gosto bastante também de uma expressão inclusive da da Dra Luna Barroso

quando ela diz que no mundo em que não há escassez de informação mas de atenção surgem novas formas de censura baseadas em ataques pessoais campanhas de cancelamento e estratégias de inundação da internet e o que é interessante nesse processo é que se não bastasse o desafio de estabelecer uma governança democrática das plataformas digitais desafio esse que o Brasil ainda não conseguiu para qual o Brasil ainda não conseguiu encontrar uma solução seja no âmbito constitucional seja no seu âmbito normativo e regulatório nós fomos de certa forma inundados e com o bom da ia generativo o que

deixa ainda mais desafiador o processo e o contexto que a gente já via eh de desinformação e e de violência nesses espaços nós sabemos que a i generativa ela altera todo o fluxo da da informação do fluxo da informação des da sua criação porque esses sistemas eles facilitam né praticamente eu consigo criar uma peça de desinformação mais ou menos a mesma velocidade com o mesmo custo que a gente faz um e-mail que a gente escreve um e-mail certo então eu tenho uma facilitação enorme dessa criação Mas eu também altero a distribuição dessa informação por meio

de Bots E por meio de de robôs que facilitam essa essa distribuição Mas eu também altero a recepção dessa informação Ou seja é a criação a distribuição e a recepção e com isso eh me parece que o o nosso país eh ele tem a um desafio ainda maior porque nós não resolvemos sequer eh eu diria um primeiro grande problema que é o primeiro grande eixo que é o eixo da regulação das plataformas que é o eixo de como eh podemos ter uma governança democrática dessas plataformas desses grandes gatekeepers né que de certa forma eh não

são meros intermediários ao contrário são grandes curadores e que podem sim influenciar e em todo esse fluxo da informação mas por outro Nós também não resolvemos isso é claro é um tema no novo nós não resolvemos como garantir uma accountability como garantir uma transparência é ao longo de todo o fluxo da Inteligência Artificial E aí como me restam eh 5 minutos eu queria apenas eh consolidar me parece que os nossos desafios eles estão em três grandes esferas os desafios nessas duas grandes áreas a gente tem um déficit institucional um déficit normativo e ao meu ver

também um déficit ainda ligado à autorregulação então Eh se eu puder consir lidar e talvez fazer um resumo muito rápido desses três déficits eu diria que um déficit institucional ao meu ver eh e isso vale tanto paraa Inteligência Artificial quanto também paraa governança de plataformas é que nós não temos ainda um locos no governo que coordene todos esses assuntos né basta a gente observar Eh esses dias estive também em alguns outros eventos com várias também outras pessoas do do governo e eu percebi que tem pelo menos 15 Ministérios com áreas específicas de sobre né com

o tema digital mas não existe ainda uma área e que coordene né Todo esse esse esse espaço e isso talvez eh já já evidencia a dificuldade também de criar e coordenar políticas para esse ambiente porque se eu não tenho um locos de coordenação eu não tenho também eh muitas vezes eu tenho dificuldade de formulação eh agregada ou coordenada Então eu acho que esse déficit institucional ele é relevante e a gente precisa sim como país eh eh pensar em como resolver isso em segundo lugar me parece que a gente tem um déficit normativo também e ele

é muito eh Evidente nessas duas grandes áreas eu acho que é é importante a gente eh falar acho que o Brasil avançou muito sim na sua regulação eh de proteção de dados com a sua autoridade Nacional de Proteção de dados nós avançamos muito também exatamente há 10 anos atrás quando o Marco civil foi promulgado em 2014 acho que lá foram colocados de fato eh bases e estruturas importantes pro desenvolvimento dos últimos 10 anos mas nós precisamos avançar e hoje a gente tem um déficit normativo me parece muito claro seja eh quando falamos aqui de plataformas

sobre repartição de responsabilidades no ambiente digital qual que é a responsabilidade de cada um desses atores né Qual que é a responsabilidade das plataformas e de outros atores também nesse ecossistema como garantir transparência e observabilidade eu gosto muito de um texto da professora Janet Hoffman que ela fala eh que não é só um problema de Transparência quando falamos aqui das das da do fluxo de informação das plataformas é um problema muito mais de observabilidade nós não sequer Nós não sabemos sequer Como se dá esse fluxo né E se nós formos pensar sobre quais informações nós

recebemos em cada um dos feeds das nossas redes sociais eu posso saber o que eu recebo mas eu não sei o que o Vitor recebe o que o Flávio recebe o que a Patrícia recebe ou seja como entender como esse fluxo acontece sem eh um acesso a informações para pesquisa sem uma transparência maior paraa moderação eh de conteúdo sem um devido processo legal sobre como cada uma das decisões e dessas plataformas são tomadas com base nos seus Termas de uso e acho que um ponto muito importante que o digital service act traz também é sobre

quais são os riscos sistêmicos que esses algoritmos muitas vezes podem e realizar gerar né E e esse também é um ponto acho que muito importante e pensando aqui na Inteligência Artificial também falta e pra gente para nós um um uma visão eh sobre todo esse ciclo de vida da ia nós temos uma regulação de proteção de dados pessoais sim mas a gente sabe que os dados que alimentam esses sistemas muitas vezes não são dados pessoais e portanto eh apenas uma regulação de proteção de dados não vai resolver não resolveria né a accountability e a necessidade

de compreender também a repartição de responsabilidades de todos esses atores desde daquele que desenvolve o sistema e de que treina e que treina esse sistema aquele que pode alimentar eh enriquecer com novos dados esses sistemas até a ponta aquele que vai aplicar por exemplo um hospital que compra um um sistema e vai aplicar para fins de Diagnósticos Então me parece que eh nós temos um déficit normativo nessas duas áreas eh isso é fundamental que a gente que a gente possa avançar e aqui acho que a gente tinha um um um projeto que tava bastante cuja

discussão tava bastante avançada o 2630 eh e que agora acho acho que tá um pouco nebuloso qual que seriam os caminhos né que que eh por quais caminhos essa essa discussão da regulação de plataformas vai continuar Mas é fundamental que ela continue E no caso da regulação de a nós temos o PL 2338 já foi citado aqui também eu tive a honra de ser a relatora da comissão de juristas no senado federal e o Presidente Rodrigo Pacheco eh propôs ele é o autor desse projeto de lei 2338 que hoje inclusive é relatado pelo Senador Eduardo

Gomes me parece que nós precisamos sim avançar eh nessas duas frentes e o último déficit que eu queria comentar eh falei de um déficit institucional de um déficit normativo nessas duas áreas seria um déficit de autorregulação não é possível pensar eh nessas eh na regulação dessas tecnologias sem a participação das empresas né e isso é fundamental que a gente pense não apenas no sentido de que também essa autorregulação será espontânea ao contrário é fundamental que esses sistemas regulatórios que estão sendo elaborados debatidos também pensem no papel das empresas em como elas deverão ser mais proativas

em como elas poderão também participar dessa regulação e aqui então eu acho que eh o Brasil eh tem discutido fortemente esses assuntos acho que a gente precisa avançar nessas três frentes nesses três déficits e talvez só para eh já para encerrar e porque o meu tempo acabou é importante pensar que a trajetória da evolução tecnológica ela não é e inclusive da da ia ela não é inevitável nem unidirecional né É fundamental que as nossas instituições democráticas que tem a responsabilidade de moldar e orientar a evolução de todas as tecnologias o façam em uma direção responsável

e em direção também em especial como já foi falado aqui também no primeiro painel de modo a proteger e garantir o nosso nossos direitos fundamentais então muito obrigada aqui pela oportunidade e pelo convite [Aplausos] Muito obrigado eh professora Laura excelente eh a gente sabe do Papel Central que você tem tido no debate regulatório de Inteligência Artificial aqui no Brasil então é muito bom poder contar com a sua presença eu passo agora pra Dra Patrícia Perroni Campo Melo pra terceira fala Ela é professora de direito constitucional da Universidade do Estado do Rio de Janeiro e do

programa de mestrado e doutorado do Centro Universitário de Brasília ela é mestre de Doutora pela uerg realizou estudos pós doutorais na Harvard Kennedy School e no Max plank institute of comparative Public Law and International Law na Alemanha e ela também é coautora do artigo Inteligência Artificial promessas riscos e regulação algo de novo debaixo do sol em com autoria com o ministro presidente do STF luí Roberto Barroso bom dia a todos e a todas se ouve é uma alegria fazer parte desse evento eu cumprimento meus colegas de painel cumprimento as autoridades presentes demais professores na pessoa

do ministro Gilmar Mendes e queria fazer um agradecimento de coração ao Dr Vittor durigan e a Dra Lívia Guimarães que são a alma desse seminário eh o objetivo da minha palestra é falar sobre os neurod direitos sobre a relação entre os neurodireito desenvolvimento da da neurotecnologia em articulação com a inteligência artificial e de quais são os desafios nessa matéria primeiro lugar o que que a gente chama de neurodireito neurodireito são novos direitos ou novas leituras dos direitos fundamentais e dos direitos humanos que a gente já tem aos quais a gente procura dar uma nova abrangência

para proteger a dignidade humana de di ante de avanços da neurociência e da neurotecnologia a neurociência é uma ciência que tem o objetivo de estudar o funcionamento do cérebro para fins de de diagnóstico e de tratamento é justamente em virtude da neurociência que a gente sabe que a gente o nosso cérebro funciona com base em redes neurais que determinadas áreas do cérebro eh são responsáveis responsáveis por algumas atividades que outras são responsáveis por outras atividades e são esses achados por exemplo que permitiram aos técnicos de Inteligência Artificial desenvolver o aprendizado profundo de máquina o que

o aprendizado profundo de máquina tenta fazer é reproduzir em âmbito tecnológico a estrutura biológica que a gente tem no cérebro então enquanto nós temos uma rede de processamento biológico de informações ah as a a inteligência artificial usa uma rede de processamento matemático de informações a neurotecnologia já é um conjunto de técnicas é um conjunto de processos que tem o objetivo de monitorar de registrar de alterar e de manipular o funcionamento do cérebro é graças à neurotecnologia que a gente já pode ou em breve vai poder ã recuperar o movimento de membros perdidos que a gente

vai poder enfrentar doenças neurodegenerativas como Alzheimer e Parkinson que a gente vai poder enfrentar uma série de enfermidades mentais depressão recuperar visão recuperar audição né então a a a neurotecnologia pode se utilizar de ã recursos mais ou menos invasivos recursos mais invasivos do ponto de vista Vista físico podem ser por exemplo a implantação de um chip para disparo de estímulos elétricos dentro do cérebro de uma pessoa com objetivo de de controlar ã movimentos involuntários de determinadas doenças neurológicas e a gente sabe que esses estímulos podem ajudar nesse controle mas também podem alterar a identidade dessa

pessoa um exemplo de estímulos menos invasivos é a utilização de algoritmos de inteligência artificial na interferência sobre o comportamento humano e aí um exemplo disso só para mostrar que isso já é passado não é nem presente e nem futuro é o caso Cambridge analítica em que com base ã no monitoramento do comportamento das pessoas no Facebook foi possível desenhar o perfil psicológico das pessoas identificar vulnerabilidades e depois bombardeadas com informações ou com desinforma ação que foi capaz de interferir no comportamento delas de voto a ponto de se acreditar que esse mecanismo teve influência pra eleição

de Donald trump e pra saída do Reino Unido da União Europeia então H é uma é uma tecnologia que é fantástica excepcional mas que também nos coloca grandes desafios Qual é o panorama geral da expansão da da neurotecnologia no mundo que é assim a nova próxima Fronteira entre direito e neurotec e tecnologia entre 2014 e 2021 portanto num período de 15 anos a gente registrou um aumento de 700 por nos investimentos em desenvolvimento de neurotecnologia entre 2000 e 2020 a gente registrou um aumento de 20 vezes o o o número de patentes apresentadas para registro

a distribuição dessas patentes não é homogênea entre os países basta dizer que quase 50% dessas patentes são de titularidade norte-americana então em primeiro lugar estão os Estados Unidos com 47% das patentes mas precisamente depois Coreia do Sul com 11% China com 10% e depois Japão Alemanha e França eh seis empresas TM quase 100% das patentes de neurotecnologia no mundo que demonstra uma grande concentração de poder em termos de neurotecnologia sobre alguns países em eh sobre alguns países desenvolvidos os campos em que a neurotecnologia tá sendo expandida também não são homogêneos né existe um registro de

um aumento de 355 por entre 2015 e 2020 no investimento e na obtenção de patentes eh de neurotecnologia em matéria de ciência da computação o segundo maior campo de avanço da neurotecnologia é a tecnologia médica responde com um aumento de 92% apenas ou seja isso mostra que existe um embrin momento muito importante entre neurotecnologia e inteligência artificial com um potencial de geração portanto de instrumentos tecnológicos que favorecem monitoramento e manipulação do comportamento humano quais são os riscos portanto da utilização dessas ferramentas de neurotecnologia riscos paraa privacidade basta pensar que os pensamentos e os sentimentos que

eh a neurotecnologia é capaz de identificar são Possivelmente aqueles pensamentos e sentimentos mais íntimos que nós temos que a gente eventualmente até escolher ou não revelar ah existe um desafio também de consentimento Liv informada as pessoas não podem ser monitoradas dessa maneira se elas não consentirem com isso e o que que é informado como é que elas fazem para saber efetivamente Quais são as consequências e como vai ser usado esse dado ã existe um risco paraa confidencialidade de dados um eventual vazamento desses dados pode ser muito danoso paraas pessoas um risco paraa liberdade de pensamento

cognição e autonomia decisória porque conhecer esses dados permite a manipula ação de comportamento risco paraa identidade pessoal e integridade pessoal estímulos neurológicos sobretudo os invasivos são capazes de alterar estruturas cerebrais e a identidade das pessoas e gerar um profundo eh sofrimento psíquico porque elas não reconhecem nos seus comportamentos o seu próprio eu o seu próprio self eh existe um risco em termos de igualdade igualdade entre países os países que dominam as a a a neurotecnologia e os países que são dominados igualdade entre as pessoas esse tipo de tecnologia não serve apenas para superar problemas neurológicos

serve também para ampliar a capacidade cognitiva de pessoas normais a gente pode criar super humanos ã e quem não tem acesso à tecnologia jamais terá condições eh equitativas de competição com essas pessoas existe um risco para democracia porque democracia pressupõe ah livre arbítrio democracia pressupõe livre escolha e é porque tem livre escolha que os representantes eleitos precisam ser responsivos à vontade Popular portanto existem riscos significativos no desenvolvimento da neurotecnologia a despeito de ela ter um potencial positivo imenso também debates H Então existe um debate Eh vamos regular direito esses direitos detalhadamente ou os direitos humanos

que a gente tem já são suficientes para eh enfrentar os desafios e a compreensão de que os direitos humanos que a gente tem cobrem uma defesa preliminar dos neurodireito há necessidade de de afirmação de novos direitos em fase de cada um desses riscos ã mais do que a necessidade de afirmar direitos do ponto de vista substantivo existem eh existe a necessidade instrumental de H assegurar transparência portanto explicabilidade auditabilidade de assegurar governança em termos de neurotecnologia e de assegurar a fiscalização da implementação dessas neurotecnologia para que essa essas esses direitos substanciais que a gente está reconhecendo

na prática se vejam efetivamente concretizados na Esfera internacional a partir de 2019 a gente tem um início de regulamentação da matéria esforços eh eh preliminares na produção de diretrizes e de princípios gerais reguladores do desenvolvimento e do uso da neurotecnologia então o CDE produz uma diretiva em 2019 a união europeia em 2022 a OEA em 2023 em âmbito nacional o Chile é o país foi o primeiro país a incluir a proteção dos neurod direitos na Constituição seguido pela pela Espanha que não inclui na Constituição mas produziu uma carta eh a carta espanhola sobre neurodireito também

em 2021 a França produz uma carta sobre o neurodesenvolvimento sobre o desenvolvimento responsável de neurotecnologia a união europeia recentemente produziu o ato regulador de Inteligência Artificial que não trata propriamente de neurotecnologia mas Veda utilização de tecnologias que manipulem a capacidade cognitiva das pessoas se elas puderem gerar danos às pessoas e no Brasil a gente tem um projeto de emenda constitucional tratando do direito à integridade psíquica diante das novas tecnologias e da existência de transparência da exigência de Transparência algorítmica existem também uma tentativa de inclusão da regulação de neurod direitos no novo no projeto de novo

Código Civil e na lei geral de proteção de dados Portanto corroborando o que disse a professora Laura ah nos falta a norma falta no mundo inteiro falta aqui também nos falta Norma nos faltam instituições e autorregulação se se ainda tá distante na inteligência artificial no neurodireito tá mais ainda né então em conclusão a neurotecnologia é uma tecnologia fascinante eh que pode abrir grandes caminhos positivos paraa humanidade enfrentamento de enfermidades que a gente ainda não cons conseguiu superar mas é também uma tecnologia que reúne um grande potencial de risco ela pode alterar o que a gente

compreende hoje que é ser humano eh ela pode alterar Nossa identidade ela pode alterar nossa mente ela pode interferir sobre a governança democrática tornar desnecessário que os governantes sejam responsivos Às nossas expectativas porque afinal de contas a nossa economia Pode ser manipulada né então H é uma tecnologia que precisa de regulação que precisa de regulação do ponto de vista material para proteger privacidade para proteger eh consentimento informado para proteger confidencialidade entre outros muitos direitos já referidos e precisa também do ponto de vista instrumental que a gente Estabeleça regras de de transparência que a gente Estabeleça

regras de governança e que a gente Estabeleça regras de eh fiscalização Eh esses são os aspectos fundamentais para que a neurotecnologia seja realmente desenvolvida em favor das pessoas e não em detrimento das pessoas para que os benefícios da neurotecnologia possam efetivamente se distribuir de forma equitativa entre as pessoas e os países para nas palavras da ministra Edilene colocar as tecnologias a serviço de quem elas realmente devem estar [Aplausos] obrigada muito obrigado dout Patrícia eh passo agora a palavra pro nosso último painelista Dr Frederico Franco Alvim é assessor da Coordenadoria de combate à desinformação aqui do

Supremo Tribunal Fed ex-assessor chefe da assessoria especial de enfrentamento à desinformação no Tribunal Superior Eleitoral ex-assessor especial da presidência também do TSE Doutor em ciências jurídicas e sociais doutorando em Ciência Política mestre em Direito autor e coautor de diversos livros entre os quais abuso de poder nas competições eleitorais guerras cognitivas na arena eleitoral e inteligência artificial e eleições de alto risco Muito obrigado Vítor eh Bom dia a todos e todas tenho aqui eh a intenção de tratar da Inteligência Artificial como um meio sociotécnico e não especificamente como meio tecnológico quer dizer que é hora de

a gente discutir a inteligência artificial não só como um instrumento novo de tecnologia mas especialmente um instrumento disruptivo que transforma a sociedade e impacta profundamente os processos sociais mais sensíveis incluindo os processos eleitorais e quero explicar eh esses novos desafios para as sociedades democráticas trazidos pela Inteligência Artificial a partir de uma análise histórica e conjuntural focada no nas transformações das campanhas eleitorais ao longo do tempo se a gente observa como é que as campanhas eleitorais se desenvolvem eh historicamente eh vai ficar claro que a gente tem a cada nova possibilidade de comunicação entre as pessoas

né Toda vez que um novo meio de tecnologia da informação e da comunicação surge esses processos são transformados de uma maneira muito proeminente né nós vivemos desde 150 anos para cá basicamente três grandes revoluções da tecnologia nas eleições que Dão origem a quatro períodos muito demarcados do desenvolvimento dos processos eleitorais se a gente olha lá pro começo quando nós não tínhamos internet quando nós não tínhamos rádio televisão quando os únicos meios de comunicação de massas possíveis eram os meios escritos que não chegavam a muita gente tendo Vista que naquela época nós tínhamos um público iletrado

basicamente a comunicação social se dava numa perspectiva de um para um ou no máximo numa perspectiva de um para poucos naquele contexto Então não é que aquilo que a gente chama hoje de desinformação e aquilo que a gente chama de discurso nocivo não existisse é que eles não não implicavam riscos sociais sistêmicos tendo em vista em que aquelas dificuldades estruturais de circulação de ideias e opiniões faziam com que esse ciclo fosse um ciclo lento e consequentemente um ciclo pobre do ponto de vista quantitativo e também não incendiário quando o rádio e a televisão chega e

a gente passa desse momento das campanhas pré-modernas para as campanhas modernas a comunicação de um para todos passa a ser possível Pode parecer que agora nós eh passaremos a viver eh algum alguns dramas do ponto de vista da comunicação mas a única forma de uma pessoa se comunicar para toda a população naquele contexto era passar pelo filtro da Imprensa séria e profissional portanto nós tínhamos uma comunicação de um para todos que eram possível apenas e tão somente num contexto controlado e esse contexto controlado pela curadoria né informacional da Imprensa profissional fazia com que as ideias

incendiárias com os pensamentos extremistas com as que com que as teorias da Conspiração e a desinformação não chegassem para muita gente nesse momento histórico a gente tem um descolamento a boa informação uma informação útil válida e propositiva passa a chegar para muita gente mas aquilo que a gente chama de lixo informativo não com o decorrer do tempo surge a internet e com a internet a gente passa a campanha na etapa das campanhas modernas a partir desse momento a comunicação de todos para todos passa a ser possível agora já é possível fazer com que aquelas ideias

que não passavam pelos portões da grande mídia consigam chegar a todas as populações a toda a população dentro nesse novo contexto cria-se um mercado que é em primeiro lugar um mercado Super saturado porque agora as ideias e opiniões e afirmações de fato passam a surgir desde múltiplas instâncias e a partir de múltiplas origens a gente tem um crescimento exponencial do do fluxo informacional do ponto de vista quantitativo mas obviamente a gente não tem um acompanhamento de um crescimento qualitativo na medida em que por força desse novo ecossistema de mías que vai sendo criado o volume

de informações inválidas que compete com o volume de informações do ponto de vista democrático que teriam alguma utilidade passa a Se inverter isso porque a partir desse momento a própria a mídia profissional passa a concorrer com outras instâncias do ecossistema midiático a partir do momento em que através da internet qualquer pessoa ou grupo pode começar a participar da indústria da comunicação num primeiro momento então nós temos a mídia profissional concorrendo com Novos canais de comunicação que praticam um jornalismo de reenquadramento que vai fazer com que aquelas visões negacionistas e conspiracionistas que não participavam do mainstream

da comunicação a agora eh possa participar ocorre que existem grandes influenciadores políticos que eh tem uma abordagem tão extremista tão radicalizada que não conseguem lugar inclusive dentro dos meios de reenquadramento e vão passar a produzir informações em outros canais através de de um jornalismo solo de um jornalismo individual e empreendedor é absolutamente polemista e mais radicalizado inclusive do que o segundo braço da indústria de comunicação teríamos sorte se a coisa acabasse por aí mas o fato é que temos também hoje nas redes sociais grandes eh influenciadores que se arvoram na posição de jornalista sem selo

e passam a difundir também essas ideias extremistas naquilo que a gente chama de mídia alternativa O problema é que não só esses eh essa nova reconfiguração da mídia traz o aspecto negativo do do crescimento de informações polêmicas que vai concorrer com aquela cobertura jornalística sóbria com a qual a gente estava acostumado que se baseia em critérios editoriais de verificação de fatos e de fontes O problema é que quando as eh quando a inteligência artificial aporta o território das mídias sociis nós temos o desenvolvimento de uma nova indústria publicitária que vai impactar fortemente o modelo de

negócio da mídia tradicional a mídia tradicional começa a reduzir até o ponto em que a cada 10 anos em média 700 grandes jornais são fechados no mundo né então aquele cenário em que a gente tinha a boa informação vertida para muita gente e a má informação com grandes dificuldades estruturais agora se inverte porque o âmbito de criação daquele jornalismo que cumpre efetivamente com a sua função social vai diminuindo Mas claro que a indústria da informação da desinformação ela parte do princípio de que é preciso é necessário quebrar a hierarquia das fontes eu só vou conseguir

mentir com capacidade de convencer se primeiramente eu eliminar a credibilidade e minar a confiança das pessoas nos Guardiões da Verdade nas fontes tradicionais de conhecimento válido é preciso portanto dentro desse cenário da conversação digital atacar a As instituições atacar os jornalistas atacar a a Instância científica e acadêmica e assim por diante para que a gente crie esse cenário que é o cenário da pós-verdade em que as pessoas paradoxalmente não acreditam em nada porque não acreditam mais na voz das instituições mas ao mesmo tempo são capazes de acreditar em qualquer coisa no âmbito dos rumores que

se espalham em redes de desinformação digital a questão é que a mídia profissional não enfrenta apenas e tão somente uma crise de modelo de negócio como consequência desses ataques sistemáticos enfrenta também uma crise de credibilidade o Instituto reuters publicou em abril desse ano né uma pesquisa Mundial que envolvia o Brasil e pro cenário brasileiro que temos para hoje é que nos últimos 9 anos a o volume de pessoas que acreditam na imprensa tradicional né decresceu 19% no cenário brasileiro de acordo com esse levantamento apenas 43% das pessoas acreditam nessas instituições democráticas de garantia né no

cenário inverso a pesquisa do barômetro mundial da confiança o barômetro de edelman e pro Brasil também chegou a conclusão de que 68 da amostra entrevistada acredita que a imprensa profissional exagera e mente deliberadamente para enganar a população o que acontece é que com a Ada da Inteligência Artificial nas redes sociais nós temos a terceira revolução das campanhas eleitorais a partir do momento em que é esse espaço das mídias sociais passa a ser o espaço por Excelência da praça pública onde nós discutimos as questões políticas e formamos a nossa opinião o que acontece é que com

a entrada da inteligência artificial em primeiro lugar nós temos a possibilidade de artificialização dos climas de opinião pública nós somos humanos temos uma tendência à conformidade toda vez que um pensamento uma ideia ou uma afirmação parece ser acolhido e apoiado por uma ampla capacidade da população nós temos o impulso inicial de acreditar nessas histórias e narrativas porque parece que tem muita gente acreditando o primeiro problema é que grande parte dos usuários de rede social são usuários automatizados eh existem estudos por exemplo que dizem que algo entre 13 e 17% das contas no Twitter são contas

movidas por robôs n Pode parecer pouco mas na verdade essas contas são contas super postador e portanto elas participam do debate numa fatia muito maior do que esses 13 a 17% em segundo lugar eh ao contrário do que se imaginou num primeiro momento da internet em que a gente havia decretado o fim dos Filtros na medida em que nesse momento histórico passou a ser possível falar para muita gente independente da filtragem dos canais de rádio e televisão nós temos agora um novo Guardião porque os algoritmos das redes sociais vão determinar n Que tipo de pauta

Que tipo de agenda política que espécie de voz terá ou não terá uma grande visibilidade social e isso pode claramente gerar muitos problemas do ponto de vista da perspectiva democrática especialmente pelo fato de que os algoritmos de redes sociais tendem a privilegiar aquilo que gera engajamento e o que gera engajamento não é a comunicação baseada numa racionalidade sóbria muito pelo contrário são aqueles discursos que mexem com sentimentos eh basicamente sentimentos Moral emotivos a partir do momento em que as pessoas abrem uma rede social achando que a partir dali vão encontrar uma janela para a realidade

mas a realidade que se encontra ali é apenas e tão somente a realidade das pessoas que gritam mais alto à luz da programação algoritmo e nós sabemos que é quem grita mais alto raramente é quem tem razão para piorar nós temos agora um grande fluxo de dados que monitora os nossos comportamentos digitais eh em tudo que a gente faz na internet e torna possível então que esses essas nossas esses dados sejam convertidos em análises de crenças e preconceitos até então uma pessoa que queria desinformar teria que praticar ou criar uma narrativa generalista que ia convencer

um determinado segmento do público mas ia passar ao Largo das preocupações de muita gente mas de posse desses dados eu consigo eh providenciar mentiras customizadas que vão acionar o gatilho da sua mente essa comunicação super individualizada portanto possibilita que as mentiras sejam criadas eh eh de maneira personalizada para versar sobre temas que geram eh mais preocupações dentro do intelecto daquela ou daquela outra pessoa e por fim a inteligência artificial quebra com esse paradigma de que a gente se acostumou a consumir informação tendo áudios registros fotográficos e vídeos como prova de alegações até então a gente

todo mundo que queria mentir teria em tese que provar mas agora essas provas podem ser criadas com clonagem de imagem com clonagem de voz fazendo com que as mentiras eh atinjam um nível de verossimilhança e sofisticação absolutamente inédito é claro que a grande preocupação relacionada à inteligência artificial tem a ver com o fato também de que basicamente com toda essa facilidade propiciada pelos novos meios que estão sendo popularizados a uma velocidade também nunca Vista antes é o que a inteligência artificial basicamente consegue fazer é automatizar a injustiça n tudo aquilo que antes levava eh um

custo econômico levava um custo cognitivo para para eu criar uma grande história eu tinha aqui no mínimo trabalhar no campo da minha inteligência para articular uma história bem contada para manipular uma imagem dentro de um programa que não tinha eh eh tanta facilidade de uso assim a partir de agora tudo isso passa a ser feito de maneira automática e portanto a inteligência artificial ao lado dos Sem dúvida nenhuma muitos benefícios que pode trazer paraa evolução da participação política e dos processos Democráticos traz um novo conjunto de riscos que faz com que as instituições tenham que

se se movimentar buscando regulação sem que essa necessidade de regulação de maneira alguma se articule com algum intento relacionado a ideia de censura Muito obrigado muito obrigado Dr Frederico Alvin eh passo aqui pra gente encerrar o nosso painel mas eu gostaria de agradecer muito ao professor Flávio a professora Laura a professora Patrícia Perroni Nossa secretária de autos estudos e ao Dr Frederico Alvim eh pela presença nesse painel muito enriquecedor também queria agradecer pela parceria na na organização desse seminário a Dra Lívia eh a Dra Patrícia Perroni a Dra Teresa secretária de relações com a sociedade

do supremo eh e a Dra Aline Osório Nossa secretária geral pelo super apoio eh antes da gente desolver esse dispositivo o cerimonial tem um anúncio e também queria avisar que temos um segundo painel também e com pessoas brilhantes para todos acompanharem Muitíssimo obrigado exibiremos agora o lançamento do trailer do documentário juris máquina dirigido pela professora Tainara Gui junquilho e produzido pela aqu Produções o qual aborda riscos e possibilidad uso da inteligência artificial no [Aplausos] direito é hora de acender as luzes sobre o uso da inteligência artificial no direito brasileiro éo mais seres e out umbre

a out assim como a justiça a Inovação deve sempre servir para atender as pessoas é difícil pensar que o mundo daqui a 20 anos não vai ser todo Inteligência Artificial de um lado fala-se da possibilidade dessas tecnologias serem aliadas da eficiência dos processos e procedimentos jurídicos e da possível neutralidade e objetividade dessas ferramentas tenho esperança de que a sinergia entre a justiça e a tecnologia nos ajudará a prestar melhores serviços para a população velocidade e melhora da qualidade daquilo que nós entregamos eu não não consigo vislumbrar hoje algum malefício ou risco assim que que impeça

a gente de usar a inteligência artificial no poder judiciário então é é uma realidade que veio para ficar então é é importante sim que os advogados olhem para isso aprendam de outro os riscos inerentes como os vieses discriminatórios de raça gênero cor tem essa ideia de que a tecnologia Pode ser neutra que ela seria neutra mas ela além de ser feita por pessoas ela também tá lidando com dados que retratam uma determinada realidade majoritariamente pessoas negras estavam sendo identificadas erroneamente estavam pagando por crimes que elas não cometeram eu não acredito que colocar uma máquina no

lugar do ser humano vai resolver os problemas que a gente tem que resolver a única relação Direta com o uso da inteligência artificial no direito seria exatamente a classificação que se atribui algumas dessas utilizações do Poder Judiciário por exemplo que seriam de alto risco e exigiriam alguns cuidados especiais a gente tem outras iniciativas tem a resolução de propaganda eleitoral do TSE que já foi editada pelo tribunal e também discute aí i generativa Deep fakes E especialmente estabelece uma obrigação de transpar né eu gosto muito desse pensamento de que ai pode ser diferente eu gosto da

ideia de dar [Música] esperança o documentário completo será lançado no dia 3 de setembro às 19 hor no idp da a norte convidamos também a todos para seguirem o Instagram do filme que é @ juris maquina tá @ juris maquina então que todos possam segui-los agradecemos as manifestações de todos os palestrantes deste primeiro painel neste momento desfaz-se a mesa do dispositivo convidamos as autoridades que compõe a mesa para tomarem assento nos lugares reservados na primeira fileira