PGE/PE - (CEJ) - Como usar o ChatGPT no Direito

Professor George palestrante de hoje que vai contribuir com seus ensinamentos sobre o chat PT eu vou fazer a abertura do evento porque o nosso coordenador Silvano ele está em um outro evento Inter Teresina e acabou não conseguindo chegar a tempo da abertura e como o professor George tem também uma agenda após as 3 horas então eu vou fazer uma rápida apresentação do tema e também do nosso palestrante de hoje E hoje nós vamos falar sobre um chatbot que talvez seja o mais celebrado entre todos eles mas possa ser que alguém aqui acredite que esse tema

é algo ainda muito longe da prática da advocacia da advocacia pública da advocacia privada longe do Dia a Dia do Advogado mas eu diria que não é bem assim tá vindo aí uma uma avalanche de transformação digital de inovação aplicada ao direito que se nós não estivermos preparados nós certamente seremos engolidas por ela e mas chatbot de uma forma geral é um software capaz de manter uma interação uma conversa utilizando uma linguagem humana Mas esse não é um tema novo Eh Os Robôs utilizados para atendimento ao público ao contribuinte a um cliente já são utilizados

há muito tempo e já vem dando dor de cabeça e tirando Nossa paciência também a um bom tempo eu acredito que todo mundo aqui já teve a oportunidade de tentar resolver um problema junto a uma companhia telefônica a uma empresa uma concessionária de energia a uma empresa aérea e o único atendimento disponível que tinha para você era justamente um chatbot um robô que tava ali para te auxiliar mas a única coisa que ele conseguiu foi tirar a sua paciência fazer você passar raiva e no final o que você desejava era ser atendido por um humano

e E isso acontece porque essas empresas ainda utilizam modelos antigos baseado em regras rígidas onde a conversação ela é limitada não atende a expectativa e ela só vai por um caminho muitas vezes já previamente definido e engado mas apesar de chatbot ser uma ferramenta que já se é utilizada há muito tempo o novo fator fez o jogo mudar de patamar que foi a chegada como ela é compreendida hoje da Inteligência Artificial e a inteligência artificial ela possibilita não só respostas mais rápidas mas também mais precisas mais complexas e mais céleres dessas ferramentas de interação de

conversação que se utilizam da linguagem humana e realmente existe uma corrida das bigtec para entregar a melhor ferramenta possível hoje a gente vê uma disputa bastante acirrada entre o chat PT e o cloud cada um apresentando uma novidade de tempos em tempos para ver qual é a que tem a melhor performance na geração de texto na análise de dados o Google também que é uma gigante do mercado tem a sua própria inteligência oficial e anunciou recentemente que tá incorporando ao Gmail para Que ela possa fazer resumo dos seus e-mails ao Google Drive para Que ela

possa organizar os seus arquivos Isso é um problema que eu tenho porque o meu é um é terrível também vai ser incorporado ao sistema de buscas do próprio Google então quando a gente fizer uma busca na internet vai haver ali um resumo gerado pela Inteligência Artificial do Google Gemini e a até outras gigantes do mercado como a Apple que não conseguiram acompanhar Essa corrida maluca que tem acontecido e em volta da Inteligência Artificial anunciou recentemente que vai fazer uma parceria com opene Para incorporar a tecnologia do chat PT ao iOS 18 e aos produtos da

Apple e essa transformação digital ela tem repercutido e respingado também no poder público se você for fazer o seu Imposto de Renda eu espero que todo mundo aqui já tenha feito ninguém tenha tomado muta eh você já consegue ser auxiliado por um chatbot com inteligência artificial que tem a finalidade de estar ali te acompanhando e tirando dúvidas de como você pode fazer essa declaração e especificamente em relação ao chat GPT no poder público a gente tem alguns exemplos como no TJ Minas Gerais save que é uma inteligência artificial baseada no chat GPT que tem a

finalidade de elaborar textos e auxiliar juízes e servidores na produção desses documentos jurídicos o próprio presidente do Supremo Tribunal Federal o ministro Barroso já anunciou que tem dialogado com essas Big Tex para eh apresentar num futuro próximo uma espécie de chat PT do Poder Judiciário alimentado com informações que são produzidas pelo Judiciário brasileiro o TCU também já já tem o seu próprio chatbot o chat TCU que tem na sua base de dados a jurisprudência do tribunal né os seus entendimentos normativos com a finalidade de orientar o gestor público para saber se aquele procedimento de licitação

de contratação tem seguido a orientação do Tribunal de Contas e o TCU tem feito também parcerias com outros tribunais de contas e até com secretarias de estado a Gu acabou de anunciar por meio do Ministério do planejamento que eh vai fazer um investimento de R 25 milhões deais no chat PT para que junto a openi para que o chat PT Trabalhe em três vertentes uma at Triagem de processos principalmente aqueles de pagamento de rpv que tem um volume muito grande dentro da Advocacia Geral da União análise de dados de processos que é algo que o

chat chpt faz muito bem também e a gente tem utilizado de forma experimental na pge a gente finalizou essa semana uma análise de dados para entender o comportamento decisório dos juízes Em uma matéria específica Ária e foi utilizada a linguagem r e o chat GPT também e a gu também vai utilizar para fazer o resumo de documentos e produção de texto isso com os advogados da união e servidores tanto na atividade fim quanto na atividade meio a cefaz Pernambuco também já tem um contrato com a Microsoft e openi para fazer uso de algumas contas e

utilizar o chat PT no dia a dia dentro da secretaria Então esse é o mundo que tá surgindo cada vez com mais força e quem vai poder falar melhor sobre Ele é o professor Jorge marstein e eu chamo de professor porque George além de ser juiz federal Doutor em direito também é professor do curso de escrita jurídica do chat GPT que eu tive a oportunidade de fazer esse curso e Recomendo a todos aqui e no momento que houve aquela explosão eh com o chat chpt que foi a primeira plataforma a atingir 1 milhão de usuários

em em C dias eu procurei tentar entender o uso dessa ferramenta tentar entender a mente do chat PT para utilizar isso eh em meu favor na minha produtividade na melhoria da da minha produção jurídica e eu queria fazer isso através de uma pessoa que entendesse da teoria mas também fizesse uso da plataforma no seu dia a dia e foi aí então que eu cheguei ao até o professor George que é alguém que compreendeu a mente do chat PT inclusive trouxe pro Brasil eh conceitos que a gente não via por aqui como janela de contexto janela

de estilo ajudou a orientar como melhorar os prompts na criação de gpts personalizados que podem ser utilizados por exemplo para criação de um assistente jurídico então George é esse acadêmico prático que é a pessoa ideal para para falar um pouco sobre como utilizar o chat ept no direito então feita essa rápida apresentação eu gostaria de passar a palavra pro professor George marstein que tem toda a propriedade para falar sobre o assunto e agradecer mais uma vez por ele ter aceitado o convite para falar aqui para A Procuradoria Geral do Estado para UPE para advogados públicos

e privados com a palavra professor então boa tarde eu agradeço bastante essa introdução Miguel facilitou aí minha vida para na contextualização da importância do tema e queria inicialmente falar o quanto n para mim é eh proveitoso prazeroso né conversar com Procuradores do Estado porque esta foi minha primeira carreira né Eu já fui procurador do Estado em Alagoas eh antes de ser juiz federal e tem um apreço muito muito eh forte né pela pela carreira da advocacia pública n especialmente procuradoria do estado por conta dessa minha primeira né primeiro contato com as carreiras jurídicas foi justamente

eh na pge de Alagoas Então tem um né um sempre um orgulho muito grande inclusive tenho né feito cursos também com com algumas procuradorias tive lá você falou que o seu chefe tava lá em Teresina né eu tive lá também há umas duas três semanas muito legal lá fizemos o curso numa palestra presencial né entar georginho inclusive eh Professor Silvano que é o coordenador do sge entrou aqui já está na sala e antes de você se for possível iniciar a sua fala se a gente puder passar a palavra para ele para ele fazer a abertura

formal do evento E aí depois você retoma Claro está deção Professor George É uma honra pro centro de estudos jurídicos para procuradoria do estado de Pernambuco recebê-lo no nosso Centro de Estudos o seu evento foi um sucesso Agradeço ao Miguel eh publicamente eh mais uma vez o Miguel eh tem colaborado com a procuradoria colaborado com sge ele que fez essa ponte para que esse evento fosse realizado hoje só para ele ganhou uma dimensão Nacional Professor Jorge eh ele nós somos Procuradores do Mato Grosso Procuradores do Amapá Procuradores do Mato Grosso do Sul de Alagoas e

também Procuradores de Pernambuco eu acho que ele foi o o recorde de inscrições online que a gente teve até agora na nossa gestão e se deve ao seu nome eu comentei agora no almoço eu tô e peço desculpa por não poder ficar até o final porque a gente tá tendo o quinto encontro da o quinto encontro Nordeste advocacia pública em Teresina no Piauí e daí eu tava no com o pessoal agora à tarde reunido né agora há 5 minutos e daí eu comentei que que teria a sua fala hoje na procuradoria de Pernambuco e eles

falaram que você veio presencialmente aqui há mais ou menos umas três semanas e que o evento foi um sucesso Daí eles daí no almoço eles estavam falando sobre como foi assim que você que você ia falando os prompts e a galera ia testando no meio da da plateia um com outro e tal e falou que foi um um negócio incrível e eu já já faço convite para que você vá presencialmente na procuradoria de Pernambuco a gente I organizar um curso eh presencial seria é fantástico porque eu sei que é um sucesso tá só queria dar

eu não vou eu sei que seu horário é curto eu não vou tomar muito seu tempo eh eu só entrei para poder agradecê-lo e o evento Tá gravado eh Agradeço também por você você e Miguel disponibilizar nessa gravação para ficar no YouTube da da pge eh que daí eu vou conseguir assistir eh todo toda a palestra de hoje como eu vou falar agora às 2 horas eu não vou poder eu não vou poder ficar até o final mas eu vou assistir e e e vou aprender muito com o que foi falado aqui hoje muito obrigado

Mais uma vez boa tarde Eu que agradeço Silvano é fico feliz aí que o pessoal tem dado um um bom feedback foi bem legal mesmo o evento aí em Teresina e Eh claro que se houver oportunidade a gente faz aí o curso também na pge Pernambuco Então vamos vamos dar início aqui a a a apresentação e eu queria de início falar o quanto tem sido cada vez mais difícil eh falar sobretudo em palestra de Inteligência Artificial generativa aplicada ao direito né estão pedindo aqui para confirmar a minha linguagem deixa eu colocar aqui o português pronto

eh porque eh quando eles quando a a ferramenta surge em novembro de 20202 eh ela era ela tinha uma aplicação muito limitada ela era muito mais uma ferramenta de curiosidade acadêmica porque realmente eh gerava textos né bem razoáveis né com com com aparência de terem sido escrito por seres humanos mas era muito limitada porque a gente trabalhava ali com eh alucinações que eram respostas falsas respostas erradas trabalhava com uma janela de contexto curta Ou seja a quantidade de texto que a gente poderia pedir para ele analisar era muito pequena e aí portanto a gente não

tinha ainda uma ferramenta usável sobretudo no direito que exige precisão exige Rigor não pode haver informação falsa eh somente em fevereiro de 2023 é que a gente vai ter um passo importante que é o surgimento do chpt 3.5 eh e logo em seguida em março chpt 4 né na versão paga né ficou ficou na versão paga até a semana passada até a semana passada nós só tínhamos eh a o o o o a possibilidade de usar a ferramenta mais poderosa da openi né disponibilizada para o mercado que era o chat pt4 na versão paga agora

Ele criou uma ferramenta chamada chat pt4 o que também é disponível paraa versão gratuita então portanto todo mundo para conhecer a ferramenta pode utilizar essa versão robusta que é o chat PT 4 o é limitado a apenas 10 perguntas por dia o que realmente é muito pouco eh mas quando a gente começou esse process processo lá né e eu eu comecei a usar eu eu sou assinante eh da ferramenta desde fevereiro do ano passado portanto um ano e meio né um ano e quro meses aí usando a ferramenta todos os dias eh eu eh a

gente tinha ali uma ferramenta que era basicamente uma ferramenta de geração de texto era uma ferramenta simples de geração de texto que já era poderosa já dava para fazer muita coisa de correção de erros gramaticais de melhorar a redação né de conseguir fazer um texto um pouco mais claro mais ó objetivo mas ele ainda era muito limitado no seu poder interpretativo porque nós ainda estávamos trabalhando com eh janela de contextos pequenas de quatro e cinco páginas né Ou seja a quantidade de texto que a gente conseguia trabalhar de modo eh razoável era curto era não

era não eram textos muito longos é uma petição inicial de 30 páginas era inviável utilizar o chat ept 3.5 para essa finalidade eh até que surge o chat pt4 né que é o aos poucos vai ampliando a sua capacidade também de interpretação dentro desse conceito de janela de contexto né que é um conceito básico para entender como utilizar o chpt e hoje a gente já trabalha dentro do chpt com eh possibilidades de textos de até 200 páginas 300 páginas para ser mais preciso 192 páginas é o limite do do da janela de contexto hoje do

chat pt4 eh isso faz com que a gente tenha muito mais possibilidade de uso e portanto a gente tem eh uma dificuldade de de de apresentar uma a ferramenta porque ela deixou de ser uma ferramenta simples do ponto de vista de ser meramente um chatbot eh ela não é meramente tem alguém com o microfone ligado aí não sei se a pronto ela não é meramente hoje um chatbot ela é um chat sim mas é um chat com com as com habilidades incríveis e capacidades incríveis que para o mundo jurídico ela tem muita potencialidade de uso

desde dessa desse uso mais básico de correção de erro gramatical melhoria de redação de texto até algo mais avançado como análise de texto complexo e até geração de petição geração de decisão Eh que que eh que tem sido cada vez mais impactante né Inclusive a linguagem Tem se tornado cada vez melhor dessas ferramentas então por isso se torna mais difícil de falar outra dificuldade para se falar dessa ferramenta é que a gente deixou de ter uma ferramenta de geração de texto para ser uma ferramenta multimodal ela cada vez mais vai ganhando features recursos que eh

vão incrementando o nosso poder de uso né hoje a gente tem por exemplo dentro do chat ept mesmo uma ferramenta de leitura de documentos a Vision né ou seja ela consegue pegar um documento né e fazer fazer eh fazer o transcrever esse documento uma imagem de uma foto né e conseguir transcrever o texto eh em linguagem mesmo textual ou interpretar né a imagem interpretar uma cena ela consegue fazer isso através da ferramenta Vision dentro do chat PT nós temos o dalii que gera imagem cria imagens de acordo com o que o usuário determinar eh nós

temos a ferramenta de análise de dados né que permite que você eh coloque lá uma uma planilha um arquivo csv né um dados e e consiga criar gráficos fazer análise eh de inclusive machine learning dentro desse desses gráficos sem saber programação sem saber programação o que você precisa saber é saber o que tá fazendo né saber um pouco de análise de dados para poder utilizar corretamente a ferramenta Mas você não precisa saber Python não precisa saber Excel não precisa saber R não precisa saber nada só precisa colocar lá a informação e dar o comando certo

saber se comunicar com a máquina e nós temos também eh ferramentas de voz né que que principalmente na na versão do do celular que a gente consegue conversar com a máquina em qualquer língua então Ou seja a gente tá criando né tá eh diante de uma ferramenta que tem se desenvolvido no último último ano de modo muito rápido e esse desenvolvimento dificulta também a compreensão e e a e a apresentação da ferramenta porque para que a gente consiga conversar adequadamente com a máquina a gente a gente precisa compreender alguns conceitos básicos eu tive muito trabalho

para isso porque não não não tem livro na verdade né eu pode dizer que não tinha livro né hoje ainda tem alguns livros que ajudam a a dar uma ideia mas esses livros são muito teóricos eles não são livros que nos ajudam a entender na prática como funciona então o que que aconteceu quando eu comecei a usar a ferramenta já fiquei empolgado com ela tentei hackear né o sistema para entender a mente do chat IPT como ele funciona o que é que dá certo o que é que não dá e nisso eu fui construindo uma

teoria que depois né claro um aprofundamento teórico vai se refinando para mostrar as possibilidades de uso dessa ferramenta e uma primeira coisa que eu vi né E era uma coisa que todo mundo faz e que de logo já diz essa ferramentas não presta é uma ferramenta burra eh eh usar ela como ferramenta de busca que é o pior uso que a que você pode fazer todos nós estamos acostumados a usar o Google né e portanto a gente imaginou que a gente estava diante de algo parecido com Google né você pede lá liberdade de expressão e

ele vai né produzir um texto sobre liberdade de expressão que seria como se fosse da Wikipédia é isso que a gente esperava da ferramenta assim essa é a ideia Inicial que todo mundo tem só que quando a gente começa a pedir por exemplo C decisões do supremo sobre liberdade de expressão ele vai começar a citar decisões e quando a gente vai procurar essa decisão não existe é decisão inventada é é o que a gente chama de Alucinação esse uso que é o que eu chamo de modo extrativo é o pior uso possível porque e o

chpt ele tem uma lógica própria de produção de informação de geração de informação baseada no treinamento dela dele no conhecimento parametrizado e ele é incapaz de regurgitar ou de transcrever textos de modo fiel ao que ele viu no processo de aprendizagem por quê Porque ao contrário do que se pensa o chpt ele não é uma máquina que consulta textos base de textos para gerar textos ele não tem dentro dele se a gente conseguir olhar dentro dos arquivos do chat PT ele não tem base de texto ele não tem documento do Word ele não tem PDF

lá com revistas com livros não tem dentro dele tem planilhas tem números o que ele faz é calcular ele está calculando né E na hora que ele vai calcular ele usa probabilidades usa aleatoriedade para gerar texto para criar textos e portanto sempre que ele tiver reproduzindo algo que tenha que ter correspondência com a realidade o risco de ele estar criando alucinando ou inventando é muito alto né ou seja nunca devemos usar o chpt como ferramenta de busca por quê Porque ele não reproduz o passado ele cria o futuro o Google reproduz o passado se eu

eh deixa não sei se eu consigo compartilhar a tela consigo aqui fazer aqui uma demonstração para vocês para quem nunca viu o chat pept esse aqui é o chat PT né que basicamente é um sistema de conversação em que você pode colocar eh o seu né sua seu texto aqui Escreva um texto sobre liberdade de expressão é o famoso prompt né E aí tem um comando e a e o conteúdo né que que a gente vai colocar e a gente tem o poder também de hoje anexar arquivos inclusive na versão gratuita a gente consegue carregar

arquivos processos mas nesse caso aqui eu vou usar o modo extrativo né O que que é o modo extrativo Eu não vou usar conhecimento externo Eu Vou solicitar que ele escreva um texto baseado no no que ele aprendeu eu clico isso aqui né e o que que a gente vai ver né O que que a gente tá vendo a gente tá vendo ele escrever um texto muito bem escrito do ponto de vista gramatical muito bem estruturado muito bem organizado Talvez um pouco robótico no sentido de que eh hoje muita gente usando chat PT a gente

consegue perceber um padrão de linguagem que eh nesse caso como eu não tive nenhum controle da camada de estilo né É É igual a todos os textos que o chpt produz mas esse texto por incrível que pareça ele apesar de parecer um texto que existe ele é um texto completamente inédito se a gente for aqui no Google e pedir né Colocar entre aspas e e saber onde é que tá esse texto que texto é esse ele vai dizer olha Sea pesquisa não encontrou resultado mesmo se se eu pego apena apenas a primeira frase a frase

mais curtinha colocar entre aspas aqui no Google também não encontrou resultado ou seja foi um texto que ele acabou de criar ou seja ele não reproduziu um texto do passado ele criou um texto novo ele criou um texto inédito um texto que não existe Claro que ele não criou ideias novas ele não inovou ele não trouxe nenhum valor epistêmico para o mundo nesse texto ele tão somente reproduziu o conteúdo dos do padrão que ele viu no processo de aprendizagem como ele aprendeu a escrever ele escreveu um texto como nós escreveríamos por exemplo se eu pedir

para você escreva um texto sobre liberdade de expressão você provavelmente I colocar liberdade de expressão é um direito fundamental previsto na Constituição Brasileira e em tratados internacionais que garante a todos o direito eh você vai criando um texto palavra por palavra baseado no seu conhecimento sobre aquele tema né e e e aí se eu perguntar da onde é que você tirou esse texto né que você acabou de escrever e você vai dizer não eu criei agora né da minha cabeça né é a mesma coisa aqui ele tá criando um texto da cabeça dele Claro baseado

no que ele aprendeu nos padrões que ele aprendeu no passado é diferente de se eu vier aqui no chat no Google Colocar liberdade de expressão e clicar aqui na wikipdia nesse caso a gente tá vendo um texto que foi escrito em fevereiro de 2022 e esse texto é é do passado a gente tá lendo o passado tá lendo algo que alguém escreveu no passado ou seja o chat IPT ele eh transforma inclusive o gp o g eh eh generativo né de Inteligência Artificial generativa o g significa do GPT significa generativo e o te Transformers que

é o modelo arquitetura transformadora Então o que ele faz aqui eh em certo sentido gerar um texto novo transformando algo que ele aprendeu no passado eh então ele ele ele tem uma memória que não é fotográfica a memória do chpt ela é em mosaico é como se ele tivesse pegue todos os textos sobre liberdade de expressão juntado em um saco e começado a escrever um texto Baseado Em matemática em probabilidade sobre o que faz sentido o eh qual é a coerência desse texto é parecido com aqu o que que nós fazemos se eu pedir para

você escreva um texto sobre liberdade de expressão você vai a liberdade de expressão é um direito fundamental previsto na constituição brasileira que assegura a todos o direito de se manifestar e de dizer o que quiser sem censura e sem restrição e essa seria mais ou menos a estrutura de um texto que a gente vai criando Com base no que a gente aprendeu palavras que fazem sentido e que é inédito que é justamente o que dá o toque de ineditismo eh no caso do do Google ele tem uma memória fotográfica né o Google ele reproduz o

passado ele entrega para você algo que já existe ou seja ele dá uma lista de links com textos escritos por alguém no futuro o chat PT Não ele tá criando sempre algo novo Eh e uma vez que o chpt não reproduz o passado mas cria o futuro a gente chega a conclusão de que ele não deve ser utilizado como ferramenta para olhar para trás ele não deve ser utilizado como ferramenta para para extrair fatos do passado por quê Porque ele vai alucinar eu vou mostrar aqui para vocês o é uma Alucinação vou usar o 3.5

é mas eu poderia usar até o 44 mas vou usar uma versão mais menos robusta pra gente ver Alucinação em Ação Se eu pedir aqui para ele Quem é George marmelstein né Essa é uma informação factual eu tô pedindo para ele que ele dê um fato né quem é georg marmelstein eh nesse caso ele não está consultando a internet porque é a versão 3.5 não consulta a internet e eh ele tá dizendo Ok jurista brasileiro tá tá indo no rumo né conhecido por sua atuação de direitos humanos direito constitucional Ok até aí tudo bem professor

de direito constitucional na Universidade Federal do Rio Grande do Norte aqui Tá errado essa informação é inventada eh e é uma invenção que probabilisticamente faz sentido eu eu sou professor na unicet né mas estudei na UFC né Fiz mestrado na UFC se eu perguntar aqui onde ele fez doutorado Lembrando aqui eu tô usando o conhecimento do passado um conhecimento que ele aprendeu eu não tô usando conhecimento externo não tô pedindo para ele consultar a internet né não tô eh eh dando um dado para que ele processe eu estou explorando o conhecimento dele e aí o

que é que ele vai fazer geod fez doutorado na universidade de Coimbra que ele acertou curiosamente ele acertou o meu doutorado mas ele erra sempre eh Se eu colocar aqui de novo abrir um novo chat né aqui o que a gente começou a gente começou uma conversa um chat e essa conversa é a esse botãozinho aqui de cima é o novo chat né aqui nessa conversa é o que a gente chama de janela de contexto né Ou seja a gente começou uma conversa e toda a resposta dele vai levar em conta esse contexto que a

gente teve teve aqui então se eu perguntar onde George marmelstein leciona a resposta dele vai ser compatível com o que ele acabou de dizer lá em cima que é Universidade Federal do Rio Grande do Norte que é uma informação errada é falsa se eu abro uma nova conversa aqui inaugura uma nova janela de contexto zera tudo zera tudo ele não vai lembrar do que a gente conversou né Essa conversa ele não tá aprendendo com as interações que eu tô fazendo com ele não existe isso o conhecimento dele parametrizado né o do passado é esttico estático

e fechado ou seja é só quem tem o poder de melhorar isso é a própria openi inclusive importante dizer que e não existe essa história de usar uma eh ah nós vamos treinar a a o chat GPT com os dados da justiça para que ele saiba a juris press e não erre essas besteiras não vai acontecer isso porque só quem treina é a openi n no no só quem mexe no conhecimento parametrizado é a openni e ela não vai se preocupar em fazer fine T de Treinamento específico para poder judiciário brasileiro o que a gente

pode fazer é pegar uma ferramenta aberta menos robusta do que o chpt como lhama três como grock né como Mistral e treinar isso para com os dados da Justiça mas o resultado vai ser pior do que o uso do chpt porque o chpt é muito mais robusto mesmo não sendo treinado com os dados da Justiça ele consegue dar respostas muito melhores do que essas outras ferramentas que são 10 vezes ou até 100 vezes pior do que o chat GPT eh então se eu perguntar aqui novamente quem é ge de marn Stein em princípio ele vai

dizer a mesma resposta ele deveria dizer foi o mesmo mesmo prompt mesmo input só que a gente vai ver que o output é completamente diferente né é o modo estocástico que ele nem falou Qual é a universidade onde ele leciona e onde fez o doutorado eh professor da UFC errou também eu não eu não leono lá né eu leson na uniset e acertou novamente o doutorado o doutorado ele tá ok né mas eh veja que ele mudou a informação ele vai mudando Isso é o que a gente chama de modo estocástico inclusive é uma é

uma das limitações de uso no sentido de que e o chpt ele não é uma boa ferramenta de automação ele não é uma boa ferramenta de não supervisionada né que você deixa ela fazer tudo sozinho ela é uma excelente ferramenta de expansão da mente de apoio da tomada de decisão de auxílio da criação mas não de substituição do julgamento não de substituição da tomada de decisão por qu porque ela vai sempre criar algo diferente né E aqui principalmente usando o modo extrativo que é o que eu tô usando aqui confiando apenas no conhecimento parametrizado que

é o conhecimento da máquina E lembrando que o conhecimento da máquina não é texto é número e eu quero fazer um teste aqui com vocês né uma para mostrar como é que é essa lógica do conhecimento parametrizado se eu perguntar aqui para ele quem é a mãe de Anita aqui eu tô usando apenas aa do conhecimento dele do que ele treinou né do que ele viu e basicamente o que ele viu foram textos da internet e aí a resposta dele vai ser a mãe de Anita se chama miram Macedo se a gente for lá no

Google Colocar Miriam Macedo a gente vai ver que ele acertou né mãe de Anita é miram Macedo portanto se eu perguntar aqui quem é a filha de Miriam Macedo é claro que ele vai saber dentro dessa janela de contexto porque ele acabou de dizer né cujo nome verdadeiro é Larissa de Macedo Machado eu vou pegar essa mesma pergunta Quem é fil quem é a filha de miram Macedo copiar ou seja se a gente pensar em conhecimento né em texto conhecimento Ah e eh se ele sabe que eh a mãe da Anita é Miria Macedo é

claro que ele sabe que a filha de mirem Macedo é anita mas se eu abro uma nova janela de contexto e pergunto isso para ele quem é a filha de miram Macedo a resposta vai ser não faça a menor ideia ou ele vai inventar outro nome e vai alucinar nesse caso acertou deixa eu abrir aqui de novo aqui uma uma nova janela de contexto para ver se ele dá outra resposta pronto que é o que eu queria né vejao que ele vai alucinando ele vai criando eh se eu tivesse automatizado aquela resposta ele teria acertado

uma né na na na na janela passada e agora ele colocou outra Miria Macedo tem uma filha chamada Patrícia bravanel filha do Silvio Santos né colocou aqui como Miria Macedo mãe de Silvio Santos né loucura loucura né E aí portanto completamente alucinado completamente fora da da da do padrão E por que que ele sabe que a mãe de Anita é Miriam Macedo e não sabe que a filha de Miriam Macedo é anita porque o conhecimento parametrizado é frequentista é baseado na quantidade de vezes que ele visitou aquele lugar que ele viu aquele texto que ele

eh repetiu aquela informação então se você perguntar cite o artigo 5º da Constituição Federal ele viu tantas vezes que ele vai acertar é uma informação comum é uma informação válida mas se você pegar agora o novo nova janela né s o artigo 198 da Constituição Federal a chance é cite o artigo a chance é que ele invente ele invente né e e e aqui vamos ver se ele acertou essa esse esse dispositivo não faça a menor ideia pode ser que tenha acertado mas há o risco também de ele ter alucinado completamente vamos ver acertou né

Então nesse ponto ele conseguiu responder esse dispositivo mas se você pegar um artigo muito raro ele não vai conseguir responder ou se você pedir uma jurisprudência ele não vai conseguir responder por quê Porque uma informação muito rara ele viu pouco e portanto é incapaz de saber né a a a o o conteúdo daquilo isso aqui é o modo errado de usar o chat ept é o chamado modo extrativo é o modo em que a gente confia apenas no conhecimento parametrizado do chat PT e tem outro modo de usar tem né é onde a gente vai

aproveitar o poder da janela de contexto a janela de contexto é a chave pra gente saber usar o chat GPT porque é o nosso lugar de ensinar a máquina a gente não consegue mexer nos parâmetros é é um sistema fechado né A não ser que você seja lá da openi trabalhe na Open você mexe nos parâmetros mas nós usuários nós não temos como mexer na base dele de conhecimento o que nós podemos é acrescentar conhecimento externo dentro da janela de contexto eh deixa eu abrir um gráfico aqui para vocês só para que a gente possa

ter uma ideia do que é o tamanho da janela de contexto hoje antes né Eh antes um breve um breve esclarecimento sobre o conhecimento parametrizado né Eh como eu falei para vocês o chpt ele não tem base de textos dentro dele não tem não tem arquivos de texto ele não ele não sabe o que é anita ele sabe o token equivalente Anita ele tem números tudo dentro dele é números se a gente conseguir enxergar dentro dele por ex é como se ele fosse um pendrive né um pendrive gigante né um pendrive com muito muito quantidade

que que vai ter um monte de de números que vão ajudar que vai ajudar ele a calcular qual vai ser a próxima palavra dentro de uma sequência né o que ele tá fazendo é continuar uma sequência de palavra prestando atenção em tudo todas as palavras anteriores dentro da janela de contexto dentro da sua capacidade de processar se a janela de contexto fosse infinita nós colocaríamos um texto por exemplo de todos os textos do mundo 200.000 páginas e ele conseguiria calcular todas as palavras para gerar um texto só que isso é inviável do ponto de vista

computacional é muito cálculo computacional para fazer isso então o que que ele faz ele reduz a janela de contexto para se adequar a capacidade computacional dele quanto ele consegue olhar para trás É como se você tivesse uma calculadora que você consegue colocar por exemplo eh um cálculo com 20 números né mais do que isso ele não aceita mais do que isso ele erra E aí portanto eh ele tem uma capacidade limitada de processar quantidades muito grandes de texto né esse esse o que eu falei muitas vezes falei muito conhecimento parametrizado conhecimento parametrizado é o que

está dentro da máquina é o que a gente a gente não mexe que são números são parâmetros e esse sistema é fechado fixo e datado ele não é atualizado eh isso não é isso não é problema isso não é nenhum problema por quê Porque a gente não vai confiar em modo algum nem paraa informação antiga no conhecimento parametrizado a gente não quer usar o conhecimento parametrizado para extrair informação a gente não quer usar o conhecimento parametrizado para extrair texto de lei jurisprudência doutrina por quê Porque não serve conhecimento parametrizado é a inteligência semântica da máquina

é onde ele aprendeu a se comunicar isso é igual a ser humano Nenhum de Nós tem na mente guardado a constituição e lit a gente tem noção da Constituição se eu tiver colocando so tortura você para falar cite o artigo 198 da Constituição você vai criar alguma coisa no rumo né mas é inventado Mas vai ser criado você não vai ser capaz de fazer isso o chpt ele foi ensinado a cumprir a solicitação do ser humano a fazer o que o ser humano tá mandando tá pedindo então se você pede cite decisões do sdf ele

vai citar ele vai citar e vai citar errando n a gente não vai usar o conhecimento parametrizado para extrair informações factuais né o modo distrativo não serve para fatos modo distrativo ele vai ter muita utilidade para argumentos para ideias para conceitos né e mas nunca para extrair dados para extrair informação e nós usuários é que vamos ter o poder de Inovar dentro da janela de contexto nós temos hoje 190 páginas para escolher o nosso conhecimento que a gente quer que ele trabalhe colocar o nosso próprio conhecimento ensinar ele a escrever o nosso estilo né e

produzir texto de acordo com o que a gente quer ou seja ele ele é nesse sentido um catalisador epistêmico já que ele tá criando conhecimento ele está criando o futuro você não deve usar ele para extrair algo do passado você deve usar ele para criar algo novo né então por exemplo eu sou juiz eu eu estudei direito tributário eu sei os princípios constitucionais tributários não de cabeça mas tenho uma ideia do que é o princípio da anterioridade ten uma ideia dos princípios da capacidade contributiva eu tenho tenho alguma informação de tributário na minha mente né

Eh se chegar um caso novo para mim que eu nunca vi na vida do tipo é devido a tributação sobre stock stock options na na na imposto de renda eh eu vou dizer não faço a menor ideia eu não tenho essa informação eu tenho que ir atrás de um conhecimento externo que não está na minha no meu conhecimento parametrizado e eu vou ler esse conhecimento externo Com base no meu conhecimento parametrizado e vou ser capaz de solucionar esse problema Ou seja eu vou ter a informação eh fundamental conceitual na minha mente mas a informação específica

tem que vir de fora vai ser doutrina que eu vou ler vai ser legislação que eu vou consultar jurisprudência que eu vou pesquisar vou me cercar de informações sobre aquele tema E aí dentro desse nova janela de contexto que eu criei na minha mente sobre aquele tema eu vou conseguir resolver o problema é a mesma coisa com o chat PT é a mesma coisa com o chat PT ou seja eh ele tem um conhecimento fixo eh conceitual fundamental que vai funcionar como ferramenta interpretativa do conhecimento externo que você vai acrescentar na janela de contexto né

Essa é a lógica do modo interpretativo E aí é onde vem né é um ponto que pouca gente fala aqui no Brasil né aqui no Brasil ninguém entende essa ideia de que a única forma que a gente tem de ensinar a máquina não é o conhecimento parametrizado o conhecimento parametrizado é passado é da é da openi tá lá fechado a gente não controla que a gente tem controle usuário é o conhecimento não parametrizado é onde a gente tem o poder de direcionar a máquina pro lado que a gente quer pro conhecimento que a gente quer

se a máquina está alucinando é porque a gente não está usando corretamente a janela de contexto Ou seja a gente não está dando corretamente o nosso input com as informações necessárias para que ele possa responder de modo correto então o conhecimento parametrizado é o do passado é fixo é o aprendizado dele o conhecimento não parametrizado é o que a gente acrescenta ou colando na janela de contexto copiar colar no prompt ou anexando né no caso do Cloud se a gente anexa entra tudo pra janela de contexto é maravilhoso melhor ferramenta hoje disparada é o cloud

que não está ainda disponível no Brasil o né Por uma questão de ser usuário antigo né e conseguir assinar há muito tempo o cloud hoje é disparadamente melhor do que o chat PT e quando você anexa um documento dentro do Cloud lá da da de uma conversa né de uma conversa dele tudo aquilo ali entra na janela de contexto e portanto eh você consegue ter um poder interpretativo muito maior de captar os detalhes daquele texto no caso do chpt quando você anexa eh o texto e ele ele vai usar uma técnica chamada rag que é

uma eh é é uma entrada sob demanda ele só vai colocar na janela de contexto o que o usuário pedir que ele coloque né o que tiver na pergunta do usuário isso faz com que processualmente seja ruim depois eu posso até dar uns exemplos se a gente tiver tempo mas eu não quero me alongar muito nisso e tem a possibilidade de usar por exemplo eh fonte externa Como consultar a internet que é um conhecimento não parametrizado que aí nesse caso ele tá indo lá no Bing lá na na no na ferramenta da Microsoft procurando os

links que tratam daquela pergunta do usuário fazendo uma leta textual do que tá naqueles links e dando a resposta eh interpretando eh esse conteúdo Com base no conhecimento parametrizado Ou seja no fundo eh o que ele tá fazendo aqui não é não é que ele e eh não é que ele tá incorporando né o o conhecimento da internet no conhecimento dele não não tá que ele tá e incorporando o conhecimento da internet na janela de contexto né sobre sobre que aquilo que o usuário pede por exemplo cite decisões do supremo consulte a intern interet o

chpt vai na internet Vai consultar vai pegar decisões lá na internet do conjur do J na vigand né do juz Brasil vai colocar na janela de contexto e ele vai gerar um texto com base naquilo ali né então é isso que é o conhecimento não parametrizado eh quando e quando a gente fala em em ampliação da janela de contexto eu quero já chegar no gráfico pra gente perceber do que a gente tá falando do tamanho de poder que a gente tem n que tá crescendo cada vez mais eh a gente tem que pensar que eh

quando o chat ept surge lá no passado 3.5 que a gente tinha apenas 2000 tokens janela de contexto Quatro páginas n Quatro páginas a gente tá falando de uma matemática muito pesada né É muita energia para processar 4.000 tokens porque ele vai prestar atenção em todos os tokens fazer um cálculo matemático para saber qual é o próximo o token é uma pedaço da palavra Então imagina quei calculando 4000 palavras para adivinhar Qual é a próxima palavra levando em conta todo o contexto que foi dito em Quatro páginas para uma calculadora Isso é muita matemática é

muito complicado então a ampliação da janela de contexto implica um aumento do poder computacional das máquinas e hoje a gente tá trabalhando com janela de contexto de mais de 100 páginas né de mais de 100 páginas e o que que implica isso implica que a gente tem mais ou menos 100 páginas para ensinar algo novo pra máquina ensinar o quê ensinar conhecimento ensinar estilo sendo que é um tradeoff quanto mais textos a gente coloca de estilo mas a gente vai perder de janela de contexto para poder colocar conhecimento né então é um tradeoff que a

gente tem que fazer na máquina nessa história O que que a gente quer prestigiar o estilo ou conhecimento porque a gente só tem 100 páginas para trabalhar mais ou menos eh estilo e conhecimento em que a gente vai ensinar pra máquina siga esse estilo siga esse conhecimento né E aí portanto ela vai aprender aquilo ali e vai gerar o texto com base naquele contexto que a gente criou é mais ou menos como se a gente tivesse eh ensinando algo novo para ela inclusive informações novas um caso inédito um caso que nunca viu na vida e

aí é onde tem a a grande vantagem dessa criação dessa invenção dessa ideia de que ele cria o futuro de que ele está alucinando isso é bom porque se ele fosse apenas um papagaio reproduzindo o passado nós não tínhamos o poder de solucionar problemas novos né como ele está recriando né E criando o futuro nós conseguimos trabalhar com ele com demandas que não existem né inclusive com cenários contrafactuais né Imagine se amanhã né houver uma bomba nuclear como é que seria o contexto Ele vai construir um cenário contrafactual né ele consegue imaginar cenários contrafactuais justamente

porque ele não tá repetindo o passado ele tá criando o futuro tá criando possibilidades para o futuro direcionada pelo que o usuário Manda então quando a gente amplia a janela de contexto a gente aumenta a o poder de de aprendizado a gente aumenta a capacidade interpretativa da máquina né então a gente consegue trabalhar com processo judicial de 100 150 páginas com qualidade né eu vou fazer demonstrações daqui a pouco eh temos o maior poder de dirigir a máquina dando instruções complexas para que ela cumpra várias tarefas ao mesmo tempo né quando a gente tinha um

um uma janela de contexto menor a gente poderia tinha que dar instruções muito simples né faça isso e isso e ela fazia se a gente colocasse faça isso isso isso e isso ela ficava doida ela não sabia fazer hoje a gente consegue fazer eh cria um jogo ela cria um jogo né hoje a gente consegue fazer muita coisa dentro dessa desse poder aumentou o nosso poder de dirigir a máquina né E aqui vem um vem um paradoxo V um paradoxo muito interessante que é o fato de que o aumento da janela de contexto D ao

usuário uma maior dirigibilidade poder de dirigir a máquina e aumenta a capacidade interpretativa significa dizer que mesmo com comandos fracos a máquina consegue entender o que eu quero dizer e produzir respostas boas Ou seja você a Rigor não precisa saber se comunicar com a máquina em nenhuma linguagem especial basta saber dar comandos né E ela vai cumprir o seu comando e portanto cada vez Tem se tornado desne E aí é uma contradição com o meu curso porque no meu curso eu ensino isso Tem se tornado cada vez mais desnecessário saber técnicas específicas para produzir respostas

Poderosas porque a própria máquina Está transformando o PR do usuário em algo mais poderoso deixa eu mostrar ISO aqui na prática usando o d né vou usar aqui o Dali que é o modelo de geração de imagem e aí eu vou mostrar para vocês o seguinte eu vou criar um prompt muito ruim n um prompt bem bem beabá crie uma imagem da orla de Fortaleza com robôs eh andando de kit suf vamos ver aqui o que que ele vai fazer esse é um comando é é um é o que a gente chama de prompt né

e é um é um prompt considerado bem fraco Mas vocês vão ver o que é que vai acontecer né então ele vai gerar ele tá usando uma ferramenta dentro do do chat epd que se chama dalii que é gerador de imagem né criador de imagem vai criar uma imagem inédita né da ola de Fortaleza com robôs andando de de kit suf né Espero que ele saiba o que é ksf acho que vai saber claro né mas vamos ver aqui como é que tá pronto né então criou essa essa imagem da orla de Fortaleza né Eh

com robôs andando de ksf ficou desproporcional né o tamanho do robô mas fez o que eu mandei né fez o que eu mandei uma praia bem bonita inclusive eu moro aqui né em um desses prédios aqui eu estou eu moro por aqui né Eh eh como é que ele conseguiu fazer uma imagem tão boa a partir de um prompt tão ruim pelo seguinte se eu pedir para ele eh Diga qual foi o prompt que você original né original que você usou para gerar a imagem vocês vão ver o seguinte ele vai des dar um prompt

em inglês né tá aqui ó Então ele pegou essa esse meu comando ele pegou isso que eu escrevi traduziu para o inglês e incrementou com um monte de coisa a Vi of Fortaleza coastline with Roberts k boarding então várias várias expressões né iconic Beach sun e tal ele reescreveu o prompt que eu tinha dado para aprimorar e incrementar e gerar respostas melhores então no fundo a Rigor a a a necessidade de você dominar técnicas de prompt tem se tornar lado menor por conta disso por esse poder interpretativo e as ferramentas que as máquinas estão criando

para eh incrementar os os prompts porém aí vem o paradoxo uma vez que você aumenta o seu poder de dirigibilidade voltando aqui para o nosso slide uma vez que a gente aumenta o poder de dirigibilidade a gente consegue fazer muito mais coisas se souber usar engenharia de prompt ou seja para o básico para um resumo para uma coisa simples a gente consegue usar o chat PT tranquilamente mas para que a gente se a gente quiser fazer por exemplo uma ementa com a nossa linguagem uma um relatório né com com com as nossas palavras eh eh

a gente consegue fazer algo muito mais robusto eu vou mostrar para vocês daqui a pouco usando técnica de engenharia de promos e por fim né o aumento da janela de contexto permite que a gente dialogue por mais né Por mais eh com mais textos quando a gente fala mais longos não é de tempo né É de textos méo tamanho né tanto é que eu posso abrir um diálogo aqui que eu fiz no ano passado e ele vai continuar a conversa normalmente né não existe essa história de de do tempo fazer com que ele esqueça dentro

da mesma conversação ele lembra tudo né porque o que importa são os tokens né as palavras que estão ali dentro eh eh não interessa o tempo que passou sem eu abrir aquela conversa eh eu posso eu esqueço Mas a máquina tá lá registrada tá preso na na na memória dele ele da da memória da conversa dentro da conversa né Eh mas se eu tiver conversando uma conversa muito longa por exemplo Imagine que eu comecei a conversar sobre uma petição inicial Resuma a petição acima tal me deu um use a metodologia x tal deu o formato

tal e ele dá dá o resumo né agora sugira né Eh argumentos para contestação vamos desenvolver a contestação E você começa a falar falar falar até que vai chegando depois de né de 200 perguntas você pergunta qual é o nome do autor que tá lá na inicial no no primeiro diálogo que a gente fez ele não vai saber porque a janela de contexto é limitada a Cent e tantas páginas e se tiver passado disso ele vai esquecendo as conversas iniciais é como se a gente tivesse uma caminhada em que você vai caminhando né deixando as

suas pegadas seus rastos no chão e depois de um caminho muito longo você consegue enxergar muito mais coisas na frente mas o o que fica para trás vai se apagando aos poucos vai reduzindo né inclusive né Na hora de produzir o texto o que o que tá mais perto do prompt né os textos passados que estão mais perto do seu comando vão ter um peso maior na resposta do que o mais longo eu vou tentar mostrar aqui para vocês uma metáfora né para mostrar isso em funcionamento essa história do da da janela de contexto e

da e do de como ele mecanismo de atenção de como ele processa o texto pensando eh processando tudo deixa eu abrir aqui deixa eu abrir aqui o a outra outro slide é uma visualização de uma generativa de música né de música Essa aqui é é o é o presente digamos assim né aqui é o é o é o é o Prom a gente é o que tá sendo produzido imediato né é o imediato aqui é o passado o futuro ainda não não arregou isso aqui não existe ainda o para frente vai ser criado ainda né

Eh eh mas o que eu quero mostrar para vocês é o seguinte Imagine que seja um texto sendo escrito você tá escrevendo o texto aí pronto cada palavra cada eh linha dessa é o que ele está prestando atenção olhando para trás para produzir o texto paraa frente para produzir o o o o tempo real né Então nesse caso aqui ele tá prestando muito mais atenção aqui Ó nesses vermelhos tal eh mas você vai perceber que na medida em que na medida em que o texto vai sendo produzido menas menos menos capacidade ele tem de prestar

atenção no passado no que tá muito longe né ó pronto aqui ó ele prestou muita atenção nessa que tá bem pertinho um pouco de atenção nessa mas muito menos nessas Então você tem um um sistema que é igual de texto né Eh eu sei que é metafórico eu sei que a gente não tem muita mente abstrata Mas tente imaginar aqui como um monte de textos né como um monte de texto sendo escrito e por exemplo eh a a era uma vez um rei sábio que morava em um castelo assombrado esse Castelo tinha muitas saídas né

tinha muitos quartos em um dos quartos morava a filha el a princesa é Lara né o rei vivia preocupado com sua filha ela para ele saber eh que esse ela se refere a elara ele vai ter que olhar para trás para lembrar filha princesa rei e aí portanto algumas palavras chaves que a gente colocou aqui vão ter uma força maior do que outras para gerar a resposta subsequente Esse é o mecanismo de atenção e isso é a janela de contexto ou seja tudo que vai ficando atrás é o contexto que tá sendo utilizado para ele

calcular qual vai ser o próximo passo Essa é a lógica do chat PT né e portanto se você eh direciona a máquina para para gerar o que você quer criando o contexto certo ele faz o que você quiser você consegue fazer o que quiser com ele porque cada vez mais você tem esse poder de dirigibilidade e já já eu vou mostrar isso na prática né usando um caso real né E aí só para concluir a a parte um pouco mais teórica eh eu quero dizer para vocês agora do que é exatamente a janela de contexto

em termos reais assim na prática Olha quando a gente trabalhava lá no passado em fevereiro de 2023 com chpt 3.5 4K que já era incrível legal faz corrige corrige redação né faz eh melhora o texto né a gente a gente tem uma janela de contexto de seis páginas ele só conseguia eh lembrar né e processar levar em conta na na na geração do do próximo da próxima palavra seis páginas aí depois a gente saltou para 24 páginas né e foi aumentando só aumentando quando chegou agora nós temos 192 páginas no no GPT mais robusto que

hoje até gratuito né o GPT 4 o né e o turbo também que é mais robusto Eh mais mais é mais lento né e no Cloud nós temos 300 páginas 200k tokens né são a medida deles é tokens porque o chat PT como eu falei para vocês ele não ele não tem palavras ele não calcula palavras ele calcula tokens que é uma representação simbólica de pedaços de cada palavra é como se fosse um vocabulário matemático para que ele consegue processar melhor o texto do que do que palavras inteiras então ele quebra a palavra em pedaços

né E aí portanto cada palavra vai ter vai ser dividida em tokens E aí portanto a gente tem eh uma possibilidade muito maior de dirigir a máquina dentro da dessa janela de contexto eu vou agora apresentar para vocês na prática como isso funciona saltando completamente do modo errado de usar o chpt que é o modo extrativo para o modo correto de usar o chpt que é o modo interpretativo O que é que vai diferenciar um do outro no modo extrativo a nossa base principal de conhecimento é o conhecimento parametrizado Quando é que a gente pode

utilizar isso de modo confiável apenas para conceitos argumentos ideias e algo que não tenha que ter correspondência com a realidade que não seja factual uma informação por exemplo o Supremo decidiu isso no acordão tal é factual então não confie né na na no conhecimento parametrizado a a a minha o meu mantra é todas as informações factuais produzidas pelo chpt no modo extrativo né no conhecimento parametrizado são falsas são inventadas são alucinações até prova encontrá algumas ele acerta porque são muito frequentes mas em geral ele está alucinando parta dessa pressuposição não use o modo extrativo para

buscar informação o modo correto o modo mais poderoso já chpt é o modo interpretativo que é o que a gente vai fazer agora né usar o modo interpretativo de usar a ferramenta então aqui é o chpt o modo interpretativo né você tem que inserir o o conhecimento na máquina E aí você tem duas possibilidades você pode pegar aqui o texto deixa eu abrir aqui o uma petição inicial chpt colocar isso aqui para que vocês vejam o que eu tô fazendo chat PT Então vou colocar aqui material casos a gente vai trabalhar um caso de tortura

que é um caso que eu julguei mas eu anonimização Inicial está anonimizada aqui é uma petição inicial do caso né seis páginas não é tão grande né mas é um caso bem complexo mas eh repetição não é tão longa né E aí portanto aqui o que eu vou fazer é o primeiro modo mais simples de usar a ferramenta usando aqui o copiar colar Então a primeira coisa que eu vou fazer é copiar copiei o texto vou lá no tpt vou colocar o seguinte eh resuma o texto a seguir e vou colocar o texto eu vou

usar aqui uma técnic Zinha que é uma boa prática que se chama tags texto tags é um sinalizador um delimitador por quê Porque eu quero que ele diferencie O que é eh comando o comando é resuma e eu já digo que Esse comando é péssimo é um comando ruim é um comando que nunca uso né mas eh só para F de mostrar para vocês eh esse modo interpretativo aqui é o comando que eu estou dando a tarefa que eu quero que ele faça né e aqui tem o conteúdo que eu quero que ele processe Ou

seja eu estou colocando a janela de contexto copiando colando o conteúdo da petição e para que a gente possa dividir o que é comando do que é texto eu uso uma tag né uma um delimitador não é necessário Se eu quisesse você poderia botar aqui colchetes uso muito ches também se eu quisesse eu nem colocava né não é necessário mas por que que a gente coloca porque que é uma boa prática usar essas tags esses delimitadores porque pode ser que dentro desse texto tenha algum tipo de comando tipo ainda eh tipo assim e requer a

citação da União né E aí pode ser que a máquina Entenda esse texto como um comando para ele fazer uma citação então ele vai escrever uma citação o que não é isso que a gente quer né Eh claro que ele não vai ser tão burro ao ponto de fazer isso ISS né mas e mas pode ser que faça quanto mais claro quanto melhor for a nossa instrução menos vai ter Chan De ele ir para um lado errado né se a gente quer dirigir corretamente a gente tá tem que dar instruções corretas uma forma de dar

instrução correta delimitando O que é comando do que é conteúdo né e uma forma de delimitar é usando tags que é isso daqui aqui inicia a tag e aqui finaliza a tag Esse simbolozinho é o mesmo né só que a gente só bota essa essa Barrinha aqui para poder finalizar e esse comando resuma o texto a seguir é um comando ruim é um comando que eh a se a gente usasse aqui há quatro semanas ia sair uma grande porcaria só que como eu falei para vocês eh o as essas ferramentas elas estão cada vez mais

eh se aprimorando para para dar um upgrade automático no prompt do usuário então mesmo esse comando aqui pode ser que dê uma resposta boa né pode gerar uma resposta boa porque eh ele ele ele tá incrementando pro mas não nesse caso aqui tá uma resposta ruim né então Eh Então Ainda bem né confirmou o que eu queria que é o fato de ele ter Peg aquelas seis páginas e resumido ele cumpriu o que eu mandei só que é um resumo muito Meia Boca um resumo que é considerado ruim né é um resumo que não tem

conteúdo que não tem informação relevante né a gente consegue entender o caso né Francisco entrou com ação porque foi torturado na num treinamento do exército 2003 Essa é a ação né então a gente conseguiu pegar os casos mas não tem detalhes não tem nada demais o chat PT ele tem uma grande vantagem né e o cloud também essas ferramentas de llms eles hoje conseguem eh compreender metodologias eh a resposta do chat PT ele vai ter um nível de grandeza maior né um nível apenas maior do que a capacidade do usuário de de de direcionar ou

seja o o o chat ept a resposta dele é um pouquinho melhor do que a que você daria só que se você tiver um nível baixo ele vai dar uma resposta baixa se você tiver um nível alto ele vai dar uma resposta alta um pouquinho melhor do que você faria né desde que você saiba dar essa resposta alta e aqui vem uma metáfora que eu gosto muito que foi uma metáfora que eu desenvolvi para mostrar como é que é essa lógica né E se você perceber aqui ó e principalmente conhecimento parametrizado o chat PT ele

produz tokens com base em tokens ele produz sequência de palavras Com base no que foi dito antes dentro dele do conhecimento parametrizado você tem um monte de coisa né aqui mais uma vez eu vou apelar para aquele grafico Zinho de conhecimento parametrizado não precisar deix colocar aqui já tá já dá para ver eh o conhecimento como é que se faz o conhecimento parametrizado como é que a gente treina a máquina a gente treina a máquina e não é a gente nós usuários quem treina a openi são as empresas as bigtech n as bigtech como é

que elas treinaram essas máquinas a gente não sabe como é que a Open treinou até sabe mas não tem certeza de exatamente que dados ela utilizou a a a tecnologia o modo operand a gente sabe só não sabe exatamente o quanto foi feito né Eh a quantidade de textos o que a gente tem acesso são os códigos abertos como por exemplo do Lhama que é um da Meta que é a principal fonte de aprendizagem sobre como as essas máquinas são treinadas de acordo com o paper que a meta eh publicou sobre o Lhama como ele

treinou o Lhama Ela disse o seguinte Olha nós pegamos coletamos muitos textos na internet textos de domínio público Wikipedia eh livros artigos científicos scripts de de Enfim tudo que tá tem tem uma lista de de coisas que eles pegaram de Corpus de textos né bibliotecas que eles colocaram para treinar a máquina essa é a primeira parte aí você vai fazer uma limpeza nesses dados tal mas você vai transformar tudo isso em um enorme base de 10 tb de texto é muita coisa não cabe no computador 10 tb não cabe no PC no laptop né teria

que ter 10 laptops para você conseguir colocar tudo isso né de uma vez né então é é 10 HD externos de 1 taa né então é é muito é muito texto aí o que que você faz você coloca esse texto no sistema de processamento matemático estatístico para que ele vá contando claro que eu vou fazer aqui uma simplificação Quantas vezes a palavra rei aparece junto com a palavra castelo tá próxima sim Rei aparece junto de castelo cavalo branco né Eh maçã fruta ele ele vai criando associações com base nos textos e criando cálculos matemáticos para

dizer o quão próximo uma palavra está da outra isso vai ser transformada em uma espécie de de de tabela né que são os parâmetros que é uma simplificação é uma compressão do texto original aqueles 10 teras byes depois de de você criar essas associações numéricas entre cada palavra ou cada Token para C mais preciso vai gerar um arquivo de 100 140 GB né 140 GB Então os parâmetros do Lhama São 140 GB O que significa dizer que você consegue baixar o Lhama pro seu computador e acessar ele sem internet como se fosse o chat PT

né só que ele é obviamente 100 vezes menos robusto do que o chat PT coloa aí o chat PT como 100 vezes mais robusto né do que ele então eh durante 12 dias 6.000 gpus foram usadas a um custo de 2 milhões de dólares para transformar 10 tb de textos brutos né textos de uma biblioteca em parâmetros comprimidos de 140 GB que são justamente o o é o que vai proporcionar a geração de texto é o que vai proporcionar que se eu falar o rato rei a roupa do rei ele vai saber que a próxima

palavra é Roma porque na base de texto dele ele viu tanto essa frase que ele sabe que o eu a roupa do rei de Roma né só que esse essa compressão né do do dos parâmetros ela se dá com perdas né ou seja e é diferente de você zipar um arquivo que você consegue zipar e abrir ele de novo no original no formato original recuperando todas as informações né se eu zipar um arquivo doc do Word ele vai ficar comprimido ele vai ficar menorzinho E se eu disipar eu volto ao tamanho original nesse caso não

essa é com pressão é com perda ou seja não consigo retornar aos 10 tb anteriores por isso que a gente por isso que ele sabe que a mãe de de de Anita é miram Macedo mas não sabe que a filha de miram Macedo é anita porque na hora de comprimir ele calculou o tokem Anita é muito forte então ele sabe tudo que se diz respeito a Anita mas o miram Macedo se perde no meio de mar de oceano de informações e nesse oceano aqui nessa nesse Corpus de textos nós temos textos de Íssima qualidade e

texos de baixíssima qualidade né É como se você tivesse um oceano com peixes nobres lá um atum da vida Um salmão da vida e testes pobres um baku um bagre né o pescador Profissional ou seja aquele que domina a arte de conversar com a máquina consegue direcionar a máquina para capturar os melhores tokens os melhores peixes as melhores os melhores textos onde estão as respostas mais inteligentes o cara que não sabe direcionar a máquina vai vai direcionar para pegar os os baiacus da vida os bags da vida né e portanto não vai pegar bons peixes

então o segredo aqui é você saber escrever isso né saber fazer esses comandos Esse é um peixe é um resumo de é um é um prompt é um comando de amador é um comando de que eh Pode ser que ele jogue a vara e pode pode pescar até um peixe bom né um serigado da vida alguma coisa boa mas a a a aqui nesse caso ele pescou né os tokens que foram gerados foram tokens pobres ou seja uma resposta muito pobre o que que eu quero dizer é que nós temos o poder de direcionar a

máquina para capturar os melhores peixes nós temos o poder de direcionar a máquina para a área mais inteligente Onde estão os texos mais inteligentes como é que a gente faz isso com promp poderosos né sabendo desenvolver promp poderosos tanto incluindo determinadas palavras chaves dentro desse prompt né que eu vou já mostrar para vocês algumas delas quanto bendo fazer uma estrutura de prompt mais complexa dando a metodologia que deve ser utilizada para dar a resposta então eu vou aqui no no no eh no mesmo pra gente comparar né veja que a resposta resuma foi essa eh

o texto tá na janela de contexto eu não preciso repetir de novo né ou seja não ele sabe qual é o caso né eu não preciso colocar de novo o caso né Se eu tivesse uma nova conversa com ele se eu abrisse aqui uma nova conversa eu teria que incluir novamente o caso para pedir mais informações sobre sobre o caso mas como eu tô dentro da mesma janela eu vou dar um comando aqui analise em detalhes e com profundidade o caso acima usando a metodologia firac eh aqui n Eu garanto para vocês né Mesmo sabendo

que as respostas são estocásticas ou seja varia de caso a caso mas eu garanto para vocês que há Três Palavrinhas aqui que vão dar um upgrade na resposta primeira palavra é o verbo é É o comando a tarefa né a tarefa é analise analise é melhor do que resuma né porque ele resume por natureza ele já resume né naturalmente analisar é uma palavra que tá costuma estar presente com mais força em textos mais profundos do que em textos mais fracos e quando eu falo em detalhes e com profundidade eu poderia colocar aqui né Eh com

inferência é lógica né com com pensamento crítico com reflexão profunda que são é o que eu chamo de tokens cognitivos São tokens nobres que estão Associados a textos mais inteligentes A ideia é que quanto mais eu conseguir ativar nesse oceano nessa rede neural da máquina os tokens mais poderosos mais valiosos mais ele vai trazer respostas eh inteligentes para mim nesse caso Pela Minha experiência o verbo analisar tem esse poder quando eu falo em detalhes também tem o poder de dar mais detalhes e com profundidade também dar mais detalhes e metodologia firac é Framework firac o

formato firac layout firak modo firac vai dar uma resposta muito mais poderosa o que é que é firac firac É uma técnica uma metodologia de análise de caso jurídico né desenvolvido nos Estados Unidos muito conhecida e portanto tem no conhecimento parametr do chpt inclusive chpt 3.5 já consegue fazer análise firac e em que ele vai tentar extrair do conteúdo que eu forneci né interpretar os fatos relevantes né vai tentar adivinhar os fatos relevantes a questão central a regra aplicável a aplicação dessas regras ao caso e a conclusão Então vamos ver aqui como ele se saem

nessa tarefa e comparem essa resposta que é o resuma com essa resposta que é eh o firac né fatos né fatos aqui tá uma resposta bem ruim né eu já posso dizer para vocês que eu não tô gostando e daqui a pouco eu vou dizer o comando que eu dou né o comando que eu dou é o é o firac Plus que é um pouco mais incrementado do que isso mas ele colocou aqui eh nos fatos eh não até foi bom porque ele fez uma divisão aqui dentro do do dos fatos né entre identidade histórico

né então o autor é esse eh aqui é o histórico dele os fatos são esses consequência isso tudo aqui ainda são os fatos né ele tá analisando os fatos então você vê Veja veja só aqui é o resumo né resuma o caso a seguir foi muito ruim resumo fraco se eu peço metodologia firac você vê que só na na sessão dos fatos ele já é muito mais detalhado consequência jurídica outros aspectos muito profundo já é muito profundo aqui aqui eu já dou satisfeito eu ia dizer que o meu comando ia gerar uma resposta muito melhor

mas aqui já tá dando uma resposta muito boa questão central a união pode ser responsabilizada pelas agressões e torturas sofridas por Francisco Silva realizadas por agentes públicos durante seu serviço militar né direitos violados tal e aí Portanto ele vai eh colocando tudo que tá interpretando daqui né do do do prompte Inicial que eu dei onde eu coloquei o conteúdo e nesse caso eu colei o conteúdo dentro do do prompt então ele tá dando uma resposta mais detalhada e mais precisa por isso porque tá tudo na janela de contexto qualquer pergunta que eu fizer aqui né

quando foi protocolada a ação na verdade quando foi datada né a ação ele colocou 16 de agosto de 2016 se a gente for aqui na petição inicial 16 de agosto 2018 ele errou né Errou não 18 Tá certo acertou 16 de agosto de 2018 Então se a gente ver aqui na petição inicial ele extraiu a informação 16 de agosto de 2018 né então foi uma interpretação que não é Alucinação porque ele está interpretando e não criando não gerando né Eh eu vou concluir aqui porque a ideia é fazer apenas uma uma amostra né do que

a gente pode fazer com chat PT usando um outro comando que é o comando que eu uso que é o que eu justamente o que eu ensino no curso eu vou colocar eh o processo inteiro né os os quatro documentos aqui do processo né Inicial contestação réplica réplica perícia e sentença e vou dar o comando que eu uso que é o comando de análise firac firac Plus nesse caso Esse comando é um comando que eu tenho um atalho né para seguir ele ele é muito mais detalhado Então a gente vai ver aqui que ele tem

técnicas muitas técnicas de engenharia de prompt de chamar a atenção da máquina né de estruturar em markdown não é linguagem de programação nem é codificação é super simples isso aqui isso aqui são três ou quatro símbolos que você dominando melhora muito a qualidade dos prompts e principalmente eu estabeleço a metodologia que ele deve seguir né dando comandos dentro de comandos e vamos ver eu eu eu não quero eh mostrar aqui em detalhes que a gente não vai ter tempo daqui a pouco eu vou ter que fazer um atendimento aqui mas a gente eh já percebe

que a gente tem um um um um uma saída né um formato mato de saída muito mais apresentável não é só pelo uso do dos emojis que os emojis tem tem uma função dentro do do da engenharia de prompts Eh mas porque eu eu estruturei a resposta de modo muito mais preciso Então veja os fatos e e nesse caso veja eu não precisei fazer o copiar colar Eu coloquei tudo no anexo cinco documentos no anexo é um processo tem mais ou menos umas 100 páginas no total né E e aí ele tá fazendo eh detalhamento

dos fatos né com muitos detalhes com muitos detalhes né todas as datas e tudo mais a questão central se ele tem direito à indenização pontos controversos tem uma controvérsia sobre prescrição né ou seja ação de 2003 foi proposta em 2018 discussão sobre nexo causal o cara ficou bem eh transtornado né Por causa das torturas e saber se os problemas mentais dele atuais psiquiátricos são decorrentes da Tortura que ele sofreu no exército então uma discussão sobre nexo causal responsabilidade da união e provas alegações estabeleceu com base nos documentos fornecidos eh o direito aplicável Quais foram as

regras aplicáveis a esse direito e argumentos e provas do autor né Quais são as os argumentos e provas estabelecidos argumentos e provas do Réu e a conclusão imprescritibilidade aqui eh Apesar de eu ter colocado decisão ele colocou que ainda não não não há decisão mas eu acho que é que que é porque não não deve ter colocada a sentença por alguma razão ele não pegou a sentença mas estabelcer o que é que deve ser julgado né e portanto você tem uma uma uma descrição muito boa do do processo para aprofundar e agora a partir daqui

eu posso fazer um monte de coisa posso fazer o relatório por exemplo eu vou pedir para ele fazer o relatório o comando que eu tenho que a São várias técnicas Para para que ele faça um relatório exatamente com minhas palavras ele vai criar um relatório usando exatamente as minhas palavras a partir desse caso né que pode servir de ponto de partida para um relatório eh oficial né numa sentença eh e aí um relatório que se vocês prestarem atenção eh é um relatório muito eh melhor né do que eu faria né Muito mais detalhado muito mais

eh bem inscrito mais organizado né colocando aqui Bullet points porque eu determinei né tá tá o meu comando de relatório tem isso né e eu digo exatamente como é que ele deve fazer a estrutura do relatório né E aí portanto você tem aí uma um um relatório citando trechos da contestação muito Inicial muito interessante se eu quiser eu posso fazer só relatório da Inicial são comandos que eu utilizo isso aqui eu eu vou deixar um gostinho né Para para que vocês se quem quem tiver interesse no curso é poder aprender essas tecnicas inhas de autocomplete

que é bem legal né para Us para usar né na repetições mas enfim é uma ferramenta fantástica e olha que eu não não não usei aqui a questão de perguntas em audiências foi só uma Uma amra básica do que a gente pode fazer com essa ferramenta né no no direito sabendo utilizar sabendo utilizar Sobretudo o modo interpretativo e no domínio mais avançado o modo interativo e os gpts customizados que são impressionantes a possibilidade que a gente né O que a gente consegue fazer com ele né e também Lembrando que aqui a gente apresentou apenas a

parte da geração de textos n se a gente for pro campo da análise de dados codificação aí é um mundo que tem é uma nova lógica né e e digo para vocês hoje já é eh já é uma ferramenta plenamente pronta para ser usada no poder judiciário né Eh sabendo usar né sabendo eh principalmente não usar no modo distrativo usar apenas no modo interpretativo né Ou pelo menos não usar no modo extrativo para extrair fatos né informações factuais eh usar principalmente o modo interpretativo e o modo interativo e conhecer suas limitações saber que ele ele

eh é uma ferramenta que já desenvolveu muitas habilidades Mas ainda tem algumas limitações sobre sobretudo na na tarefa decisória ele eh as decisões que ele toma são estocásticas ou seja são aleatórias são baseadas no acaso né Eh e e ele tem um grande o maior risco do chpt é que ele é muito convincente ele é uma ferramenta que produz textos muito poderosos da perspectiva de parecer verdadeiro né de parecer correto e o usuário que não sabe disso é usuário que se impressiona fácil usuário que não tem capacidade crítica usuário que não tem o domínio do

conhecimento de fundo ele se impressiona e aceita tudo que a máquina faz quando na verdade chat PT é um uma máquina de escrever inteligente obediente e mitomaníaca né E aí eu reforço tanto as palavras mitomaníaca ela está sempre mentindo quanto a palavra obediente veja que o fato de ela ser mitomaníaca é neutralizado pela obediência ela faz o que você manda ela faz o que você manda então se você souber mandar você consegue fazer com que ela não minta não adianta pedir para ela não mentir ela vai mentir mas se você souber dar comando adequados sabendo

os limites sabendo o que que ela pode fazer o que que ela não pode você consegue e e sabendo usar as ferramentas avançadas para evitar as alucinações você consegue usar ela muito bem Sem mentir E aí eu vou concluir aqui com uma historinha que é a história do Kasparov que eh quando foi jogar lá com deep blue 1997 ele perdeu a partida né perdeu a série de cinco partidas empatou uma e perdeu quatro e eh ficou uma fase transtornado dizendo que a máquina iria substituir todos os seres humanos e que aquilo ali devia ser não

podia deixar a máquina jogar xadrez né E que seria né O fim do xadrez e a A Ascensão das máquinas né uma vez que as máquinas passam dos seres humanos não há mais razão para jogar xadrez e o que aconteceu foi justamente o contrário né o próprio Kasparov numa palestra que ele deu no Ted Talk ele disse ol o que eu vi foi o contrário foi mais pessoas se interessando pelo xadrez o xadrez ficando cada vez mais avançado né jogadores cada vez humanos cada vez melhores porque tão tem agora diante de si tutores gratuitos eh

professores que máquinas né que ensinam a jogar xadrez em qualquer momento em qualquer tempo sem você precisar de adversário né e com a melhor didática com as melhores técnicas a qualquer momento então o xadrez evoluiu Aumentou a a unidade de jogadores de shadz eh e o jogo se tornou uma febre mundial em grande parte por conta das máquinas em grande máquina dessa interação homem máquina que fez com que mais jogadores se interessassem e aprendessem a jogar xadrez né usando as máquinas como adversárias e tutores né e tutores e e aí ele conclui essa palestra dizendo

o seguinte Olha depois disso eu mudei completamente minha visão né eu tenho certeza que hoje né o segredo não é você brigar com as máquinas você fica ficar inimigo das máquinas ou ter essa aversão esse medo aí das máquinas o segredo é você se aliar a ela o segredo é você trabalhar junto com elas Quando o homem se junta com a máquina para resolver um problema ganha a humanidade né se o homem não tivesse se juntado com a máquina para eh mapear o Genoma do vírus da covid nós não tínhamos vacinas eh produzidas em tempo

recorde foi graças a uma aliança homem máquina que a humanidade conseguiu avançar e sobreviver aquele vírus eh fatal então a a conclusão que eu deixo é essa não vamos ter essa mentalidade de brigar de ter medo de se preocupar segredo é abraçar isso estamos diante da de um catalisador epistêmico que pode eh levar a o conhecimento humano a um patamar nunca antes vistos né Eu gosto de dizer que o xat PT ele pode ser usado como muleta e é realmente vai ser um desastre pra humanidade quem usar o tpt como substituto do raciocínio vai estar

atrofiando a sua mente mas ele pode ser usado como uma asa para o pensamento e aí quem sabe usar o xpt como asa para o pensamento não tenha dúvida vai levar o seu pensamento muito mais alto muito mais longe e muito mais rápido muito obrigado George Muito obrigado pela sua fala eu tenho certeza que todo mundo ficou com vontade de aprender Ender mais de conhecer mais como funciona o chat GPT essa engenharia de prompts que você ensina tão bem no seu curso Eu particularmente Já criei gpts personalizados com base no que você ensina né e

inclusive utilizando o método firac Então eu acho que esse é o início de e minha linguagem aqui Pediu para confirmar Esse é o início de um de um diálogo de muito aprendizado de troca de informação de troca de experiências que eh a gente promove aqui a partir desse encontro e eu lhe agradeço por você gentilmente ter entregue muito mais conteúdo do que previamente a gente imaginava já que você conseguiu avançar um pouco mais no horário e eu acabei de receber aqui a informação que o balcão virtual de 3:30 já foi resolvido Só voltei o de

quatro Então temos ainda tempinho para pergunta se quiser viu Pronto excelente eu eu imaginava que não daria tempo eh e eu vou pedir então a ajuda de Janaína que é a nossa colaboradora do sge para que se alguém tiver alguma pergunta a fazer pode levantar a mão e e depois ela mesmo faz a a abertura do do áudio e se você quiser fazer alguma complementação também George eu sei que você tava preocupado com o horário então se você quiser fazer alguma complementação agora tá mais tranquilo o que eu vou fazer é o seguinte eh eu

tô pegando aqui o QR Code do curso porque eh é uma forma também de de divulgar né esse trabalho durante muito tempo eu fui relutante em fazer cursos né de de de divulgar curso tal mas e eu tenho tanto orgulho né do que foi feito porque foi um trabalho que que eh eu sou muito eu sou muito curioso e defensor da Super aprendizagem que é uma técnica de aprendizagem baseada na curiosidade e e de certo modo o curso é uma prova de conceito né não não não da da da da própria ferramenta chpt mas da

Super aprendizagem da técnica que eu utilizei para aprender a conversar com as máquinas então eu tenho eu tenho muito orgulho né desse curso e e e e também né você já fez o curso já tá fazendo ele não é só um curso de chat PT é de escrita jurídica então ele é a parte da escrita a parte da eh eh da máquina né do funcionamento do chat PT e da persuasão né também usa uma parte bem legal sobre como né usar o chat PT para fazer estruturas argumentativas a gente viu o firac mas tem tem

o Aida tem o celling também você trata belling tem tem várias outras técnicas que são usadas lá para aprimorar a redação eí portanto é um curso que eu acho que que que eu tenho orgulho de de divulgar né porque realmente eh foi feito com com carinho e com aquela ideia de que poxa é único né um curso que você eh Eu Já Fiz alguns né corsera Harvard e tal geralmente são cursos genéricos são cursos que ficam muito na superficialidade ali da ferramenta você perde muito tempo eh e quando você quer usar não consegue né E

esse curso é um curso para nós do direito pro nicho jurídico né ou seja vamos usar aqui na na na atividade jurídica né então se eu se se eu não sei não dá para botar o link aqui no no no chat né habilitou o chat habilitou pode pode colocar colocar aqui o curso que o meu Pronto coloquei aqui o o link para para o curso para quem tiver E aí eu vejo que o pessoal tá tendo dúvidas aqui né isso quantas dúvidas georgio você teria condições de responder três ou ou mais assim pelo pelo meu

horário a gente pode ir uns 10 minutos a mais dá para fazer né Aí dependendo do tamanho das dúvidas né certo então fique à vontade para selecionar as dúvidas aqui no chat e responder eu tô fazendo a o papel de anfitrião porque o coordenador do Sérgio Silvano tá no evento agora e me pediu para encerrar aqui e conduzir essa parte final mas eh a gente pode iniciar já a resposta às perguntas os livros estão na na Amazon principalmente super aprendizagem né e também na J tem tem alguns livros meus mais jurídicos na jus pódium Jorge

tem uma dúvida aqui de Sérgio e é umais que eu também eh ten uma preocupação ele trata sobre a Quest do sugilo das informações compartilhadas com o chatbots eu tava dando uma olhada na documentação do do chpt da openi e vi que eles colocam a informação de que só a a conta teams é que eh garante o a não utilização dessas informações para base de treinamento Inclusive a conta paga né que era o GPT 4 que agora ficou gratuito eh ele poderia existe a possibilidade de se utilizar dessas informações e debatendo com até Servidor da

da casa da pge Álvaro eu trouxe a ele a preocupação que é doutor em em automação Inteligência Artificial tá fazendo pós-doutorado agora e tem conduzido os projetos da pge juntamente com os colegas da procuradoria e eu levantei para ele a preocupação de um ente público e advogados públicos utilizando xat PT para melhorar os seus texos melhorar as peças as peças de defesa particularmente se não chegaria em um ponto em que eh um advogado representando uma parte utilizando-se também do chat chpt que incorporou essas formações do ente público às peças de Defesa do ente público se

ele não poderia ter acesso antecipadamente às principais teses de defesa do Estado por exemplo numa ação de medicamento que o Estado tem eh utiliza-se de modelos com teses já consolidadas para defender a o o interesse do ente público n se a parte não conseguiria descobrir né e entender ali compreender essas teses de e já contra-argumentar na petição inicial Então existe realmente uma preocupação com o sigilo de informação e como essa informação é utilizada a informação que a gente joga na janela de contexto nos prompts como ela é utilizada pela Open ey tava tava sem sem

áudio eh ess é uma bem interessante e não é tão simples de responder eh talvez vai ficar só com ela como resposta pelo seguinte né porque nós temos hoje uma uma dados são é o novo petróleo né então eh essas empresas elas querem dados todas elas querem dados querem usar o dados para treinamento né Eh só que isso né Eh afasta muita gente do uso e aí a política delas né a documentação política oficial é que na versão paga né chpt a openni a antropic eh tem como padrão uma cláusula de não usar seus dados

né ou seja os dados são seus que você coloca lá é privado seu não vai nem para vai para lá para para api deles mas eles não vão usar aqueles dados eh deixa eu colocar aqui de novo a ferramenta porque vocês vão ver que esse é um pontozero E pelo fato de que toda hora eles querem os dados é um botãozinho aqui que é um botãozinho muito safado né É É ISS aqui ó não aqui controlar dados e vocês estão vendo aqui né melhorar o modelo para o mundo para todo mundo né inclusive ele não

coloca né Me Dê seus dados ele não coloca isso ele coloca uma versão sofisticada de de usar seus dados né você quer melhorar o modelo para o mundo né Aí você clicando aqui né tem a opção de dizer que seu conteúdo seja utilizado para utilizar tal se você ativar aqui eh você tá permitindo que os dados sejam utilizados para treinamento né os dados repito são privados esses dados É como se você tivesse colocando Google Drive É como se você tivesse colocando no no né no na nuvem sua na na na na no seu computador acessado

à internet não não tá disponível para outras pessoas só você com a sua senha pode acessar aqueles dados então se você clica aqui vai permanecer assim os dados continuam seus só que a Open vai ter o direito de usar esses dados para treinar o modelo né para treinar e aí aí se você clicar Sabe mais vai levar para para política de dados e vai dizer exatamente como os dados são treinados né Eh se eu clico aqui aliás se eu se eu desabilito né desabilito meus dados não serão utilizados eu tenho tenho uma garantia né pelo

menos formal de que a openi não vai usar aqueles dados para treinamento Então posso colocar em princípio até processo sigiloso eu poderia colocar aqui em tese não tá sendo utilizado para o mundo externo no entanto depois eu vou dizer que eu não recomendo isso porque é uma questão que vive mudando às vezes opna já mudou isso daqui sem avisar pros usuários né mudou o default né porque antigamente o default é não vamos usar a não ser que você autorize aí depois ela colocou nós vamos usar a não ser que você não autorize né vive mudando

esse default O que é safadeza né E hoje eles estão fazendo uma coisa que eu acho mais safadeza ainda eles estão lançando eh dentro da versão paga eh modelos Beta que por exemplo agora vocês devem ter visto o lançamento da do novo que eles deu que ainda não tá disponível para todo mundo que é um que você que ele que você conversa com ela e ele a câmera fica acesa e ele consegue descrever vê o que tá o que a câmera vê né isso não tá disponível ainda para todo mundo mas eles disseram olha os

usuários que habilitarem essa ferrament ainha né usuários que tiverem verim vão receber primeiro né ou seja fazendo tudo para que você dê o dados para ele né aí claro que como eu trabalho com dados sensíveis né Eh dados processuais dados que não são meus eh eu não eu não Libero né não autorizo né Eh o que tem acontecido hoje é que como a Open ela não tem ainda um histórico de govern sobretudo aqui no Brasil eh nós não podemos confiar muito e aí por isso eh a minha a minha opção é a minha sugestão é

que se for processo sigiloso processo né com dados sensíveis anonimizar né E aí eu faço manualmente mesmo são poucos os processos que eu tenho eh com dados sensíveis né Aí eu anonimização vendo tem dados sensíveis o nome do autor não é Francisco é outro nome né esses dados aqui são são são o nome dele é alterado os outros os fatos o nome dos dos dos militares que agrediram também são alterados né Por quê Porque eu tô usando para treinamento tal para para treinar vocês né para para apresentação e portanto eu eu anonimizado eh a o

cloud ele tem uma política mais robusta de privacidade teve inclusive um vazamento de dados periféricos tipo e-mails né mas não tinha não fez senha fez só e-mails e ele mandou um aviso olha eh tivemos um terceirizado Aqui que teve problema e portanto né Mas não se preocupe que os dados não deu bem direitinho né O que exatamente foi vazado eu achei muito honesto a a a Claud hoje antropic que é essa empresa que desenvolveu essa ferramenta ela é mais eh esg né do que do que a opna o opni tá muito muito eh muito capitalista

muito ganhar dinheiro ganhar dinheiro ganhar dinheiro e aí portanto eh tá and nessa parte eh eu faço parte da da comissão na do grupo de trabalho lá do CNJ que está elaborando a regulação da inteligência artificial no poder judiciário e eu fiquei responsável especificamente pela Inteligência Artificial generativa e ajudei na verdade escrevi praticamente quase todo esse artigo 7 eh 7h que fala e não é a versão final mas já já não não é mais sigilosa por isso que estando para vocês em primeira mão né não é não não tá pública mas vai vai estar disponível

para debate público vai ter alguns ajustes de de redação mas essa regulação aqui da inteligência artificial no no poder judiciário Ela traz alguns tópicos interessantes primeiro a capacitação né ou seja usuário tem que ser capacitado para usar a ferramenta né Eh não pode funcionar como substituto da tomada de decisão ou seja não não é ferramenta de automação é ferramenta de apoio decisório e de apoio de interpretação de análise eh a política e aí é onde eu entra a resposta que eu quero colocar para você a a empresa que fornece o serviço tem que ter uma

política de garantia de proteção de dados por quê Porque tem muita empresa que tá pegando a a a api da openi ou da antropic está criando um serviço razoável só que não tem garantia de proteção de dados então imagine por exemplo a juus juus Brasil ela tem uma ferramenta de Inteligência Artificial né E aí ela ela você coloca os dados lá e ela tá sabendo de antemão qual vai ser sua linha de defesa Quem garante que ela não vai vender isso para um escritório Quem garante que ela não vai ter uma parceria com determinados escritórios

que vão saber de antemão qual vai ser a linha de defesa ou Quem garante que eh não vai usar aquilo ali para eh de algum modo prejudicar a parte não sei né então eu eu incluí né A minha sugestão de inclusão foi uma regra específica para só aceitar de empresas que têm políticas de proteção de dados eh compatível com a legislação brasileira Ou seja que Garanta que os dados não vão ser usados né Eh Essa regrinha é específica por conta daquela ferramenta né sendo vedado o tratamento ou uso dos dados fornecidos pelos usuários do Poder

Judiciário para treinamento aperfeiçoamento quaisquer outros fins não expressamente autorizados então Eh aqui e Ou seja eu não poderia se já tivesse aprovado essa resolução usar naquele modo de autorizar o treinamento né e o que eu queria colocar essa regra né de não usar a ferramenta com dados sigilosos A não ser se anonimizar né por que isso se o dado é privado se o dado tá protegido porque é uma ferramenta em fase de validação né se houver um v ou se houver por exemplo um uso indevido desses dados a culpa é nossa né também né então

como modo de precaução a gente evita inserir eh processo com segredo de Justiça A não ser anonimizado E aí você usa tranquilamente para para caso que que anonimização colocou para mim não não fé de Nira eh tá se colocando o dever de etiquetar né ou seja de rotular que foi usada a inteligência artificial na no apoio daquela decisão né E aí portanto eh quando essa regra foi aplicada o juiz o servidor que que utilizar a ferramenta tem que colocar em rodapé eh redação elaborada com auxílio de Inteligência Artificial algo assim né alguma etiqueta desse tipo

mas é uma preocupação muito muito relevante essa questão dos dados eh uma das soluções que tá se adotando quase órg quase todos os órgãos estão fazendo isso eh a ao invés de contratar diretamente a Open a ou a antropic estão contratando a a a Microsoft ou a Amazon que serve que que tem parcerias com essas empresas né a Microsoft tem parceria com a Open E aí você contrata a Open a Microsoft CoPilot E ali a mesma ferramenta chpt só que aí você tem a governança da Microsoft para garantir a proteção de dados ou seja é

mais uma questão de accountability né de garantir a transparência e responsabilização né E no caso da Amazon ela tem parceria com a com a antropic aí portanto você contrataria a Amazon para utilizar a api da antropic a Rigor né antrop É do Cloud né a Rigor você estaria aumentando o risco porque você estaria criando uma triangulação você manda os dados pra Microsoft a Microsoft manda para Open que vai fazer o processamento os dados volta e lhe dá resposta né então são aumentou o risco só que como no meio no intermediário A Microsoft é uma empresa

que tem uma política de proteção de dados mais confiável pelo seu histórico e uma responsabilidade jurídica maior aqui no Brasil né uma governança maior aqui no Brasil seria mais fácil responsabilizá-la por qualquer problema do que a Open lá nos Estados Unidos mais alguma pergunta acho que temos tempo para mais uma aí eu eh Jorge tem tem tem mais uma se você tiver selecionado aí senão eu posso indicar algum aqui para você pode dizer que eu não não tô acompanhando aqui eh deixa tem uma pergunta que foi mandada agora a pouco por Lucas eh se a

inteligência artificial ela basicamente cria o futuro e não utiliza o passado por lugares de estud dizem que a pessoa estará plando quando vem que o aluno usou ajuda de inteligência artificial para fazer atividades acadêmicas foi um levantamento de é uma expressão errada né ela não está plagiando o que existe aí é uma questão ética de autoria e não de plágio porque eh Vamos lá eh se eu peço pr pra Inteligência Artificial Escreva um texto sobre liberdade expressão ela vai escrever um texto inédito não há plágio nesse texto né ela tá copiando as ideias de outras

pessoas no sentido de que nós também copiar no sentido escreve um texto sobre liberdade de expressão a liberdade de expressão direito fundamental que garante o direito de dizer o que quiser da onde é que eu tô tirando isso de texto escrito por outras pessoas né e eu não tô citando a fonte porque é uma conhecimento comum n conhecimento geral Então o texto que que a inteligência artificial gera a mesma coisa é um texto que é inédito que não tá copiando de ninguém A grande questão é é a questão da autoria né uma questão de ética

de saber se o texto escrito pela Inteligência Artificial pertence a você no sentido moral eu acho que não eu jamais colocaria um texto escrito pela inteligência artificial com meu nome escrito por George marmel saai não foi foi escrito pela ia né E aí é uma questão de diferenciar O que é eh O que é a propriedade do texto no sentido patrimonial e no sentido moral no sentido patrimonial o texto é meu como aquela imagem que eu criei do dos Robôs andando de kid suf é minha aquela imagem é minha né a a a a antropica

a a a ao pnei Ela diz que todas as imagens geradas pela pela ferramenta pertencem ao usuário eu sou dono da imagem se eu quiser comercializar aquela imagem ganar dinheiro eu ganho Eu só não posso assim do ponto de vista ético dizer que ela foi feita por mim né foi feita pela pelo dali pela empresa do Dali então não há plágio O que há essa questão de de de autoria é diferente de um debate que aí você entra no modo interativo é algo que é mais avançado onde você escreve em eh em simbiose Homem Máquina

uma parte é seu uma parte da máquina nesse caso eu colocaria Sem problema nenhum o nome texto escrito por George marmelstein com auxílio da Inteligência Artificial né Sem problema nenhum eh Mas diferente de um texto escrito né sobretudo quase todo pela Inteligência Artificial um problema que pode haver de direitos autorais é um problema que não né não cabe ao usuário cabe às empresas é o fato de no treinamento Muito provavelmente a openi utilizou livros roteiros de filmes eh textos notíci de jornal sem autorização dos donos né Aí é uma questão de violação de direitos autorais

lá na no treinamento dos dados mas do do do output da resposta que ele cria é inédito não há plágio eh apesar disso né hoje existem ferramentas de são os detectores de a detectores de Inteligência Artificial que você consegue identificar se o texto foi produzido por ia e tá cada vez mais poderoso né esse esses detectores de ia hoje deixa eu tentar mostrar aqui um para vocês são Mega poderosos né E aí portanto é por isso que eu digo que eh o a solução hoje é dizer que eh é a transparência o texto foi criado

por e a foi com ajuda de a eu vou pegar aqui um texto deixa eu pegar aqui um texto da liberdade de expressão aquele texto que eu escrevi sobre liberdade de expressão se eu pego esse texto aqui né eu eu pedi paraa máquina escreva um texto sobre liberdade de expressão aí ela foi nesse caso detect Isso aí foi feito por EA né foi feito 100% por EA tá tudo vermelhinho feito por EA eh eu pedi aqui logo em seguida para ele escrever em estilo truncado Com erros de português frase também Universo em estilo de um

bêbado né porque muda completamente o estilo né nesse caso aqui ah eh liberdade de expressar né Essa coisa todo mundo fala o que quer quando quer mas nem sempre pode viu é aquela história tem regra tem limite não é só e fal falando então um texto completamente inocense como se fosse escrito por um bêbado né com sem muita lógica sem muita coerência que em princípio você esse texto não foi feito por máquina né tá muito fora do padrão do chpt mas se eu colocar aqui ele provavelmente vai dizer feito por ia ele consegue identificar que

esse texto da onde é que ele descobriu que isso é feito por i é muito difícil mas ele ele tem sido cada vez mais preciso eu tenho um texto que eu escrevi foi a primeira sentença que eu fiz que eu fiz usando Inteligência Artificial usando a técnica da da interação é um par parágrafo meio um parágrafo da máquina parágrafo meio parágrafo da máquina porque é uma técnica que eu utilizo né que acelera muito a produção e mantém a sua o seu estilo a sua autonomia né o seu poder e e eu fui colocando em vermelho

que era da máquina em preto meu para eu para eu próprio né saber o que é da máquina O que é meu e se eu colocar todo preto eu não sei o que é da máquina O que é meu eu não sei eu que escrevi o texto eu não sei o que é meu o que é da máquina tamanha é a simbiose dos textos é são muito muito próximos os estilos né né eu não consigo identificar o que é meu e o que é da máquina Se eu colocar nessa ferramenta o trecho da máquina ele

vai dizer da máquina é humano é da máquina hum impressionante como tá bom esses essas ferramentas o o índice de acerto aqui é de 90% 95% tá bem alto O o próprio chpt não faz N Se você pegar um texto e pedir pro chat PT dizer se foi escrito pela máquina ele vai alucinar ele não foi feito para isso né é uma das habilidades que ele não tem né e mas outras máquinas tem são estão cada vez mais poderosas então a questão hoje não é plágio a questão é autoria né se foi feito escrito por

máquina ou pelo humano né nesse caso um texto que foi feito 100% pela máquina é i é texto escrito por ia né é um texto que pertence a propriedade é minha que saiu da minha máquina mas é feito por Iá perfeito Professor agradeço mais uma vez a sua gentileza de compartilhar Tod conosco e tem colegas aqui da advocacia privada de vários estados procuradoria Mat Grosso Paraíba Pernambuco Defensoria Pública Tribunal de Contas do Estado de Pernambuco realmente um público muito interessado em aprender com certeza boa parte deles eh seguirão como seus alunos no curso de escrita

jurídica com xat pt e eu espero que a gente tenha a oportunidade pge Mato Grosso também espero que a gente tenha a oportunidade de encontrá-lo presencialmente na pge Pernambuco eh num curso do S já soube que entrarão em contato em breve Espero que e torço para que dê certo para que a gente possa aprofundar ainda mais o uso do chat chpt então com isso eh podemos encerrar o evento agradecendo a presença de todo mundo que este esteve com conosco aqui hoje Eu que agradeço Miguel muito bom adorei também essa essa conversa e quem também quiser

entrar em contato comigo deixo aqui meu Instagram George marmelstein né que que é o canal que eu tenho utilizado aí para divulgar um pouco as minhas ideias sobre chat PT além do super aprendizagem mas se quiserem me contactar lá pelo georgelin estou à disposição perfeito Obrigado pessoal nos vemos em uma outra oportunidade Até breve valeu até logo