Langchain - Crie sua Inteligência Artificial LLM

fala impressionador no vídeo de hoje eu vou ensinar vocês a usarem o leng chain uma ferramenta sensacional que surgiu pro Python que permite você construir as suas próprias inteligências artificiais seus próprios sistemas de inteligências artificiais que integram com os seus arquivos e que você vai conseguir usar paraa aplicação que você quiser você pode criar digamos assim o seu próprio chat GPT o seu próprio chatbot de mensagem inteligente que conhece sobre o seu negócio que sabe sobre as informações que você quer para responder exatamente aquilo que você precisa em tempo real e a gente vai construir

na aula de hoje ainda um servidorzinho pra gente poder testar e treinar isso por exemplo a gente vai criar na aula de hoje um tradutor de qualquer língua para qualquer língua então posso chegar aqui e falar assim Putz eu quero que você traduza para o texto que eu vou escrever aqui eu quero que você traduza ele para sei lá para francês eu vou chegar aqui e escrever galera se inscrevam no canal agora e aí quando eu clicar aqui ele simplesmente vai fazer ó Lami abon tá vendo vai escrever um negócio lá e se você souber

francês você vai entender vai ver se tá certo ou se não tá e o legal é que ele mostra para você exatamente cada etapa que tá acontecendo ali dentro você vai aprender como você vai fazer tudo isso na aula de hoje usando o leng chain de uma forma passo a passo didática o vídeo vai ficar bem completo Eu espero que você goste vamos [Música] lá bom galera se você gostou da ideia do vídeo cara esse aqui deu trabalho para montar Então senta o dedo nesse like e se inscreve no canal para continuar aprendendo e se

você quiser mais conteúdos de leng chain de Inteligência Artificial de usar Inteligência Artificial nas suas soluções e tal deixa aqui nos comentários para eu saber quem sabe eu entro mais a fundo nas soluções que a gente tem disponível para mostrar mais coisas para vocês aqui no canal bom é o seguinte galera eu vou pausar aqui todo o código a gente vai começar de um arquivo completamente Zerado Então vou criar aqui o meu arquivo Zerado que eu vou chamar ele por exemplo de sei lá l não não vou chamar ele de leng ch porque senão vai

dar um problema né vou chamar ele aqui por exemplo de código código ppy e a gente vai aqui começar a usar o leng chain beleza bom Primeiro de tudo cara o que que é esse leng chain que você tá falando lir o que que é esse cara Bom basicamente é o seguinte o l chain ele é uma um Framework tá vamos entrar no site do L chain que eu acho que isso vai ajudar a gente também mas o l chain ele basicamente ele é um Framework que ele permite você usar criar llms né usar llms

o que que é isso né os large language models né então basicamente o objetivo dele é permitir que as empresas Ou as pessoas consigam criar as suas próprias soluções de llm os seus próprios chat gpts digamos assim e como que ele faz isso tá o l chain ele essencialmente dá para você bibliotecas ferramentas códigos né pacotes de códigos que facilitam a o uso de inteligências artificiais que já existem então você pode integrar no L chain se você entrar aqui por exemplo na documentação do L chain você vai ver e a gente a gente vai seguir

o tutorial que a gente vai seguir na aula de hoje é justamente o tutorial aqui desse primeiro tutorial que eles TM aqui disponível mas ele vai permitir você olha lá integrar o seu sistema com o chat APT que é o llm da Open ai com o a inteligência artificial da antropic da aure do Google da corar do Fireworks do grog grock e assim vai e outras tá vendo Então ele tem várias soluções de Inteligência Artificial então o que que ele o que que ele faz para você basicamente ele tenta abstrair muitas coisas dessas apis você

não precisa aprender todas essas Apis individualmente prisa dominar como é que funciona os detalhes dela e tudo mais só precisa aprender o l chain quando você aprende o l chain você consegue escolher qual solução de Inteligência Artificial você quer usar para resolver o seu desafio e ela permite você passar as suas próprias informações então Putz eu tenho as minhas bases de dados os meus conteúdos que o chat GPT não conhece por exemplo e eu quero que o chat GPT responda o meu usuário final com base nos meus conteúdos o l chain permite você fazer esse

meio de campo e além disso Como o próprio nome chain diz ele permite você te criar cadeias de passo a passo como assim Lira cadeias de passo a passo sei que é um pouco difícil de explicar isso mas é o que eu vou tentar trazer para vocês aqui basicamente é o seguinte normalmente o que você pode fazer você pode falar assim al Lira eu posso chegar no chat GPT pegar um arquivo meu subir no chat GPT pedir pro chat jpt fazer uma análise desse Arquivo ele vai me escrever um texto eu quero pegar esse texto

e eu quero fazer não sei o que com ele ou seja você tá falando para mim uma série de passos que você tem que fazer para você poder o chat usar o chat GPT para Algum objetivo seu que que o lchin faz ele faz ess justamente essa série de passos para você ele cria essa chain essa cadeia de passos para você então aqui vocês vão ver que a gente vai criar o nosso modelo o nosso modelo vai ser Qual modelo de Inteligência Artificial a gente vai querer usar o chat GPT o o grock o da

Google o da aure e assim vai a gente vai escolher Beleza agora com esse modelo o que que você quer fazer ah não com esse modelo eu quero mandar uma informação uma mensagem para esse modelo baseada num template que eu tô criando você vai criar esse template e vai botar ele na cadeia então você pode criar uma cadeia de passos e simplesmente falar para ele executa Cia de passos e ao in vez de executar uma única coisa individualmente você ter que fazendo cada passo manualmente ele conecta essa cadeia toda para você basicamente é isso Espero

que não tenha ficado tão confuso pelo menos na explicação mas eu sei que na hora que a gente chegar no código isso vai simplificar um pouco a sua vida tá porque na verdade assim isso vai ficar mais claro para você porque a gente vai estar explicando e tangibilizar a criação de aplicações de Inteligência Artificial usando os large language models tá é basicamente essa a ideia do lch Bom vamos lá como que a gente vai Us usar ele essa aula vai ser divida em dois pedaços no primeiro eu vou explicar para vocês como que a gente

cria uma cadeia dessa como que funciona a base do L chain e na segunda parte da aula a gente vai criar o nosso aplicativo o nosso primeiro aplicativo de leng chain com um link que você vai poder acessar no seu computador a gente não vai fazer aqui o processo de Deploy mas o link você vai poder acessar e consumir os dados desse seu aplicativo igual eu mostrei aqui no início do vídeo Combinado então vamos lá vamos pra primeira parte como que funciona o l chain para você usar o l chain basicamente o primeiro passo é

você instalar ele e para você instalar ele eu vou abrir aqui o comando de prompt e aqui a gente vai rodar o PIP install install L chain beleza no meu caso ele já tá instalado então ele só vai dizer que já tá instalado no seu caso ele vai fazer essa instalação tá para isso o que que vai acontecer nesse exemplo que eu vou usar na aula de hoje a gente vai conectar o link chain a gente você tem que escolher alguma das inteligências artificiais que eu mostrei aqui para vocês para ser a sua inteligência artificial

que você vai usar para pro seu modelo para analisar e tudo mais eu vou usar a da Open ai por alguns motivos primeiro porque é a mais famosa né o chat PT o mais famoso e tal não sei o quê segundo porque é gratuito para você criar uma conta lá na na AP da openi e você ganha ó de crédito Então você tem até ó para você poder usar o seu crédito tá então a gente vai usar o da Open ai então basicamente O que que a gente vai precisar aqui ter agora Bom basicamente você

vai a gente vai precisar ter uma variável de ambiente no nosso arquivo que vai ser Justamente a o token da api do chat IPT então basicamente o que você vai ter que fazer você vai ter que chegar lá botar aqui ó openai API tá vai entrar lá na na api da openi Tá vendo você vai criar sua conta então você vai botar aqui ó sign up para criar sua conta e aí depois que criar sua conta você vai cair nessa telinha daqui que você criou sua conta e aí você vai vir aqui ó na nos

seus settings seu settings não desculpa no seu dashboard e você aqui ó tem a opção api Keys tá vendo e aqui em API Keys aqui você vai criar uma nova aqui tá vendo você vai clicar aqui ó Create New Secret Key Você vai dar um nome para ela vai ele vai dizer aqui o o seu projeto e tudo mais você vai clicar em Create Secret Key e ele vai dar para você uma chave da sua api e essa chave da api você vai salvar ela você pode botar ela no seu código direto né então você

pode criar token api e botar aqui a chave da api né o código todo que ele vai passar lá para você mas uma forma mais digamos assim profissional de fazer isso é você criar isso como uma variável de ambiente Ou seja você adicionar um arquivo chamado ponto env P env tá vendo que é uma variável de ambiente e aqui a gente vai criar a nossa Open api aqui tá vendo Open a api aqui eu dei esse nome para ela você pode dar o nome que você quiser eu escrevi assim e vai ser igual aqui e

aqui você vai colar aquela chave tudo tá a vantagem de fazer isso é que não fica visível no seu código isso fica como variável de ambiente é mais profissional se você quiser ver um vídeo que eu só explico sobre como é que fona variável de ambiente eu vou deixar ele na descrição então basicamente você vai colar ela aqui como você tá usando variável de ambiente para você usar variável de ambiente Você tem que usar uma biblioteca do Python também que é PIP install a biblioteca python.env beleza PIP install python.env no meu caso ele já tá

instalado E aí a gente vai importar ela então fromen Import load E aí a gente roda a função load o que que essa função faz basicamente ela disponibiliza pra gente essa variável aqui dentro do nosso código por meio a gente vai precisar da biblioteca os também para usar ela então a gente vai poder chegar aqui e sempre que a gente quiser usar o valor que tá nessa chave aqui de api a gente vai usar o comando os.get para pegar uma variável de ambiente e passar aqui o nome da variável tá vendo Então isso daqui nada

mais é do que o valor que vai tá na sua chave de api Beleza vai ser o valor que vai estar aqui obviamente eu não vou disponibilizar para vocês a minha chave de api você tem que criar a sua chave de api tá então cria a sua cola ela aqui depois de colar ela aqui instala o python.env depois instalar o python.env faz aqui ó from dmv Import l. importa biblioteca os carrega as suas variáveis de ambiente ali e a gente vai pegar a sua chave da api por meio desse token aqui então vou chamar aqui

ó chave api vai ser esse daqui e agora a gente vai usar essa chave de api ao longo do nosso código sempre que a gente quiser beleza show de bola com isso a gente pode partir agora sim pro uso do L chain então pra gente usar o l chain eu vou até abrir aqui o tutorial que eles mesmos recomendam eles falam basicamente Olha lá instala o l chain é o primeiro passo e depois de você instalar o l chain ele fala você tem que instalar o pacote daquela inteligên artificial que você tá usando Então se

você for usar entropic você tem que instalar o leng chain entropic se você for usar a Ager você tem que instalar o leng chain eh Open ai e assim vai tá vendo cada um aqui no nosso caso a gente vai usar o chat de APT que é o da leng chain openi Então a gente vai instalar o da leng chain Open por sinal da aer eu acho que não deveria ser leng open não ah não óbvio que é porque da Microsoft é tudo igual é o mesmo sim tá bom então leng openi então vamos instalar

esse cara aqui também porque a gente tá usando esse específico então PIP install L chain traço Open ai beleza pronto fez a Instalação feita essa instalação agora assim a gente vai partir pras importações que estão aqui então vamos lá como é que funciona a estrutura do L chain a estrutura do L chain o primeira a primeira base dele é a estrutura de uma conversa no chat pensa que você vai estar criando a lógica aqui para você fazer uma conversa no chat Então a primeira coisa que a gente vai importar Aqui é do l& Core pon

messages a gente vai importar um System message e um Human message então basicamente é o seguinte toda a mensagem que um usuário for enviar ela vai ser enviada por meio de um Human message toda mensagem que o sistema for enviar ou seja você tá passando uma orientação pro chat GPT de como que ele tem que responder aquilo por exemplo Ah o usuário vai escrever um texto responda eh traduza esse texto paraa língua tal isso você tá passando aa orientação pro chat GPT paraa Inteligência Artificial o usuário ele tá passando a mensagem dele no R message

então todas as mensagens dos usuários ficam dentro de R message toda mensagem que você quer enviar pro sistema fica dentro de um System message então para você usar leng Chin basicamente você vai criar uma lista de mensagens Então vou escar aqui ó nossa lista de mensagens e ela vai ser uma lista onde Dentro dessa lista você vai ter vários desses caras aqui então por exemplo se você tiver falando com uma você tiver criando uma conversa Ah o usuário escreveu isso o sistema respondeu isso usuário escreveu isso sistema respondeu aquilo usuário escreveu isso sistema respondeu isso

você vai botar toda essa lista de mensagens aqui no nosso caso como o usuário vai mandar a primeira mensagem dele eu vou colocar aqui um System message que é basicamente a orientação que eu vou passar pro chat do que que ele tem que responder também Inteligência Artificial e a Human message que é justamente a mensagem que o que o usuário vai enviar então System message que eu vou passar aqui vai ser por exemplo traduza o texto a seguir para inglês sei lá beleza foi o que eu coloquei aqui e aí o Human message vai ser

o texto que eu quero que ele traduza então isso aqui pensa que é um usuário que tá escrevendo esse hum message aqui depois a gente vai aprender a tornar isso aqui disponível para um usuário efetivamente mandar mas a gente vai escrever um texto aqui mas imagina que é um usuário que vai mandar isso então aqui no her message eu vou colocar o texto por exemplo se inscrevam no canal para aprender Python beleza é isso aquii que a gente mandou então a gente criou Nossa lista de mensagens agora que a gente criou a nossa lista de

mensagens a gente precisa mandar essa lista de mensagens lá pro chat ept para ele fazer essa dar resposta disso aqui pra gente pra gente faz isso a gente tem que criar o nosso modelo tá e bom o nosso modelo vai vir lá daquele L chain openi que a gente instalou então from L chain underline Open a Import o chat Open a que é o cara que permite você fazer um chatz lá com chat APT né o chat do Open Então a gente vai usar aqui o chat do openai passando para ele quem simplesmente o modelo

que a gente vai usar o nome do modelo E aí o nome do modelo vai depender de se você tá na versão gratuita do chat GPT ou na versão paga na versão gratuita do chat GPT o melhor modelo que dispon disponibiliza para você se você entrar lá na documentação da api do chat GPT que era o que tava aberto aqui ó e você entrar aqui no e você entrar aqui ó no chat você vai ver aqui os modelos que ele disponibiliza para você no meu caso eu tenho uma API com a versão paga então eu

posso acessar o chat pt4 se você tiver só na versão gratuita da api se eu não me engano o melhor modelo que ele vai disponibilizar para você é o 3.5 Turbo Beleza se Então abre Vê se não sei qual aqui o seu tá mais disponível porque senão ele vai dar problema eu vou usar o 4 o porque ele é o melhor modelo e eu tenho acesso a ele se você não tiver acesso a ele porque sei lá no seu só tá aparecendo aqui o chat GPT 3.5 Então vai chat GPT 3.5 Turbo que tá aqui

então ou você vai botar aqui GP como é que f escrito lá GPT traço 3.5 Turbo traço 3.5 traço Turbo ou você vai botar aqui no meu caso 4 o beleza que é o que eu tô aqui ó GPT 4 o então ele vai usar o modelo do GPT chat GPT 4 o para me responder isso e agora Sempre que você quiser usar o modelo Sempre que você quiser usar qualquer função do L chain né ou seja mandar ele Executar a função dele você vai escrever o item que você criou né então o objeto que

você acabou de criar ponto invoke essa função invoke ela vai existir e vocês vão ver de agora paraa frente da aula várias coisas que ela consegue criar para você em vários lugares que a gente vai usar ela essa função invoke nada mais é do que eu quero invocar esse cara que eu usei aqui ou seja eu quero usar esse modelo que eu cria aqui para você usar esse modelo que você criou basicamente que você vai fazer é passar para ele as mensagens que você quer que ele responda beleza isso daqui vai dar pra gente uma

resposta então eu vou armazenar essa resposta numa variável só pra gente visualizar e vou printar printar essa resposta beleza vamos ver rodei o código aqui parã olha lá ele tá consultando lá o modelo de chat ept e ele me respondeu Olha lá subscribe to the Channel to learn Python tá vendo Então ele conseguiu fazer isso daqui seguindo as orientações que eu passei pro sistema Ele respondeu essa mensagem daqui e me trouxe aqui essa essa resposta aqui pra gente então galera essa daqui é a forma mais básica de você usar o l chain que é por

enquanto nisso que você tá vendo aqui isso não é muito diferente de você usar api do chat GPT diretamente Se você usar api do chat GPT diretamente você vai ver que ele vai pedir para você uma lista de mensagens você vai escolher o modelo que você tá passando Você vai precisar da sua chave de api e você vai pedir para ele dar uma resposta você vai printar essa resposta então até aqui você tá usando a forma mais básica da básica do leng Chang que é você usar um dos modelos de Inteligência Artificial mas aqui você

ainda não tá usando o potencial do L chain o que que o l chain começa a facilitar a nossa vida começa agora porque olha só essa resposta que ele dá aqui para você ela tem várias informações ela tem um conteúdo ela tem um a quantidade de tokens que você usou tanto na pergunta quanto na resposta o nome do modelo ela tem várias informações o l o que que a galera quando criou o lchin fez eles basicamente foram tentando abstrair o máximo de coisas possíveis para quase que todo uso da Inteligência Artificial seja um único comando

então por exemplo eu quero nessa minha resposta conseguir extrair o texto cara você pode pensar como que eu faço para extrair o texto de um negócio desse se for um dicionário eu posso extrair assim se não for um dicionário eu posso fazer assado e tal não sei o quê cara o Lin não quer que você faça dessa forma basicamente o que eles disponibilizaram é o seguinte Tá bom a gente qu extrair o texto Então a gente vai disponibilizar para vocês aqui dentro do do lchin core que onde tem as funções cores dele um parser que

vai justamente fazer essa tradução para você que é esse aqui ó esse STR output parer ou seja string output parser Ou seja eu vou pegar a resposta que a gente vai receber da Inteligência Artificial e vou transformar ela em texto para você ver só o texto dela é isso que eu quero fazer então a gente vai criar esse cara agora a gente criou aqui o nosso modelo eu vou criar aqui agora o nosso parser que é o nosso o nosso digamos assim não sei traduzir exatamente parcer mas essencialmente é o nosso extrator ele que vai

extrair o texto dessa resposta que vem cheia de informação pra gente a gente vai criar ele então o nosso output parer beleza e agora ao invés eu simplesmente printar minha resposta direta eu vou falar o seguinte o texto da minha resposta vai ser eu chamar esse parcer eu passar para esse parer a minha resposta então tá vendo agora ao invés então repara eu queria simplesmente extrair o texto dessa resposta ao invés de eu precisar saber como que funciona essa resposta por dentro dela para saber se ela é um dicionário se ela é não sei o

qu qual o método dela que me permite extrair tá não sei o qu você importa um cara que já faz essa extração para você então importei esse cara daqui que é o meu parer e esse cara já faz a extração do texto ali para mim então se eu printar agora esse texto você vai ver que eu vou rodar o código e ao invés de vir agora isso aqui tudo ele vai printar para mim só aquele texto tá vendo subscribe to the Channel to learn Python tá vendo Então ele trouxe esse cara aqui para mim e

agora a gente começa a conseguir criar as nossas cadeias porque agora a gente já tem duas coisas acontecendo aqui eu tô consultando o modelo o modelo ele me dá uma resposta mas dessa resposta eu só quero pegar o texto dela então você já tem duas funções que você tá fazendo com leng Chain a função um de consultar o modelo e a função dois de extrair o que veio nessa resposta do modelo em formato de texto para eu poder exibir isso para usuário então eu quero isso daqui eu quero que isso aqui tudo seja executado de

uma vez só então o que que eu posso fazer eu posso chegar aqui e eu posso criar uma cadeia uma chain o que que é essa cadeia Eu quero primeiro executar o modelo e depois executar o meu parer então você pode fazer assim ó meu Modelo E aí você usa o operador da barra vertical beleza a barra vertical é o operador que cria uma cadeia para você então eu quero primeiro executar o modelo e depois executar o modelo eu quero executar o meu parcer beleza então repara o seguinte o input que você vai dar pra

sua cadeia funcionar é o input desse primeiro cara aqui automaticamente o que o l vai fazer é ele vai passar o input para esse cara aqui que você passou para ele ele vai pegar o resultado desse cara vai passar para esse segundo cara daqui e vai te dar como resposta o resultado desse último cara que você passou aqui só que essa cadeia aqui tem dois passos você pode criar uma cadeia com vários e vários Passos você pode criar uma cadeia de várias e várias coisas onde basicamente esse você passa o input do primeiro cara ele

pega o resultado do primeiro cara passa pro segundo ele pega o resultado do segundo passa pro terceiro o resultado do terceiro passa pro quarto passa para esse e te dá como resposta esse resultado final então você pode ir aumentando essa cadeia a medida que você for precisando por exemplo eu poderia agora criar umas novas mensagens para eu chamar de novo o chat GPT para agora pedir para ele pegar essa mensagem que ele deu como resposta e fazer outra coisa com ela você só passa aqui para ele o próximo modelo que você quer chamar e bum

ele vai pegar a resposta do par e passar pro próximo modelo depois ele vai pegar isso e vai passar pro próximo modelo depois ele vai pegar isso vai passar para o próximo cara e assim vai e a gente vai criar uma cadeia um pouquinho maior daqui a pouco tá mas só para você entender Qual é a lógica da cadeia você passa o input do primeiro cara e ele te responde o output do último cara tá Então nesse nosso caso aqui como é uma cadeia de dois itens eu quero executar essa cadeia ao invés de eu

fazer isso aqui agora separadamente igual a gente fez aqui eu posso chegar aqui e falar o seguinte meu texto que é o output final que eu quero ele vai ser a minha cadeia chamando a minha cadeia Então tudo é ponto invoke todas as coisas no L chain são ponto invoke eu quero usar um cara ponto invoke tá vendo Então eu quero usar esse cara e quem é o input que eu vou passar pra minha cadeia é o input do primeiro item pro modelo eu preciso passar de mensagens para ele funcionar então aqui eu vou passar

o input do mensagens e olha lá se eu rodar o código agora ele vai conseguir fazer a mesma coisa e vai me dar a resposta já direto olha lá subscribe to the Channel to learn Python tá vendo ele vai conseguir fazer a mesma coisa agora Só que ele já tá tá executando todo o passo a passo de uma vez eu não preciso eu pegar o valor que vem do modelo armazenar numa variável pegar esse cara passar pro parser e assim vai que parece muito simples porque que eu tô falando de duas linhas de código mas

imagina que você tá fazendo processos mais complexos e mais coisas na Inteligência Artificial e mais comandos e tal isso começa a ficar muito grande então o que o Lenin vem fazer é simplificar esse processo para você em meio de uma cadeia E aí ele vai te dando outras funcionalidades para você tentar simplificar ainda mais esse processo por exemplo por enquanto as nossas mensagens elas são fixas eu só posso escrever isso e eu não consigo permitir um usuário editar isso daqui eu tenho que eu por conta própria pensar em nossa como que eu vou fazer para

esse texto aqui ser um texto dinâmico para eu disponibilizar pro usuário pro usuário poder preencher lembra o Lenin dá isso pronto para você então o que que a gente vai usar agora o leng chain ele permite que você crie prompts de mensagens para você passar pro seu sistema Então a gente vai usar esse sistema agora então vamos criar esse esse prompt como a gente vai fazer assim ó from l Core que é dos principais a gente vai pegar os nossos a gente vai importar um prompt que é o nosso chat prompt templates Ou seja eu

quero pegar eu quero criar um template de um chat pro usuário poder se comunicar E aí as nossas mensagens Olha só eu vou até eu vou deixar aqui essas mensagens aqui tá vou deixar essas mensagens aqui mas eu vou aqui embaixo criar o nosso template a gente vai criar um template de mensagens e como é que vai ser o nosso template de mensagens ele vai ser justamente um chat pront template from messages Ou seja a gente vai passar para ele aqui uma lista de mensagens e ele vai dessa lista de mensagens criar um template Como

assim Lira criar um template vocês vão entender isso já já então basicamente o que a gente vai fazer aqui é o seguinte Olha lá a primeira mensagem que eu quero que ele mande que ele tem aqui é a mensagem do sistema Então tudo vão ser tuplas agora tá e a segunda é a mensagem de um humano que tá se comunicando então aqui vai ser a mensagem do System tá do System então aqui esse aqui vai ser o template do System e esse esse aqui vai ser o template do Human tá que é o usuário que

tá escrevendo Human não desculpa user do usuário tá é user Beleza então aqui é o template do sistema aqui é o template do user E aí aqui galera você pode fazer o seguinte eu posso passar um texto fixo só que se eu passar um texto fixo não tem vantagem nenhuma porque eu não tô criando um PRP Mas que que você pode fazer você pode fazer o seguinte Olha só traduz o texto a seguir para e aqui ao invés de você passar inglês Você pode passar uma variável você pode botar ele entre Chaves tudo que você

colocar entre chav no texto aqui então esse aqui é o comando que você tá dando para ele tudo que você botar entre Chaves no comando aqui ele vira uma variável que você pode passar para ele como parâmetro pro código funcionar ele usar esse template então agora quando a gente for chamar esse template quando a gente for usar esse template ao invés de eu precisar passar para ele a lista de mensagens que ele tem que que ele tem que ter você não vai passar para ele a lista de mensagens você vai passar para ele olha só

eu quero que você use esse template de mensagens onde inglês onde a língua que tá aqui a língua para onde você tem vou botar idioma né língua é meio fake vou botar idioma onde o idioma é o inglês e o texto do usuário aqui por exemplo vou criar só uma variável que vai ser o texto do usuário Mas você poderia botar aqui o texto que você quiser quero traduzir isso e o texto tá vendo você poderia botar assim também mas no nosso caso como eu eu tô passando para ele olha traduza o texto a seguir

pro seguinte idioma e aqui eu simplesmente quero passar para ele o texto que eu quero traduzir eu aqui vou passar para ele só a variável do texto então repare o seguinte quando você cria um um prompt um template de um chat né um prompt template basicamente O que você tá fazendo é o seguinte você já tá dando para ele todos os textos do que ele precisa só que você torna esses textos adaptáveis a partir do momento que você torna esses textos adaptáveis eles não são mais fixos como eles eram aqui antes nas mensagens beleza isso

aqui é o nosso template de mensagens agora Sempre que você quiser Como que você usa esse template de mensagens aqui usando o invoke Então olha só se eu fizer um template mensagem ponto invoke eu tenho que passar para ele quais informações para esse template de mensagem aqui poder funcionar Qual é o idioma e qual é o texto Então você vai passar para ele um dicionário dizendo o idioma é o sei lá francês e o texto é dê like no vídeo e comente o que você tá achando tá vendo Então você vai passar para ele pro

template agora você tem que passar para ele quais são os valores das variáveis que você quer preencher nesse template de mensagens é isso que você tem que fazer então eu vou passar o idioma eu quero que você preencha com francês e o texto eu quero que seja esse texto aqui obviamente esse texto aqui se você tiver criando isso num aplicativo seu esse texto pode ser o texto que o seu usuário tá tá digitando ali e aí você vai passar ele pro seu template de mensagens e vai usar isso quando você faz um template pon invoke

a única coisa que ele vai dar para você olha só vou printar aqui o nosso template pon invoke presta atenção a única coisa que ele vai dar para você ele vai a partir desse template criar uma lista de mensagens Então olha só se eu printar para vocês o template de mensagens vou rodar o código aqui ó rodei T Opa cometi um errinho aqui de sintasse aqui ó chat prompt template from messages e a lista de mensagens obviamente tem que est entre parênteses né porque você tá passando o método from messages abre parênteses para você passar

para ele a lista de mensagens que você quer tá então você pode criar ou essa lista de mensagens separadas e passar aqui ou criar ela já aqui dentro direto Mas agora ele vai funcionar Olha lá rodei o código agora t tá lá ó Repara você cria um prompt template para ele tornar digamos assim personalizável a sua lista de mensagens e aí ele tornou personalizável a sua lista de mensagens como ele tornou personalizável sua lista de mensagens agora quando você usa um prompt template PR template ele fala olha suas mensagens que você tá mandando é traduza

o texto a seguir para francês e a mensagem do usuário é dê o like no vídeo e comente o que você tá achando tá vendo Então ele CONSEG ele traduz o seu template o seu prompt template que você criou aqui paraa lista de mensagens que ele vai ter que passar pro modelo então agora a minha cadeia a minha chain quem ela pode ser agora a minha chain a minha chain ela pode ser isso daqui a minha chain vai ser o meu template de mensagens combinando ele passando a as mensagens que vão sair aqui como resultado

pro meu modelo e passando o resultado do meu modelo pro meu parcer Então essa aqui é a minha chain essa aqui é a minha chain que eu quero executar E aí então eu vou passar para ele com como parâmetro Qual é o idioma e qual é o texto que eu quero que ele traduza e repara aqui eu passei o idioma e o texto Mas você poderia passar o idioma e uma variável dentro do texto aqui não precisa ser o idioma e o texto completo entendeu Essa é a diferença de você passar isso ao invés de

você passar assim né uma mensagem completa porque se quando você passa a lista de mensagens você tem que construir cada uma das mensagens de forma completa usando a forma que você quiser quando você passa um template de mensagens essas mensagens que você tá passando aqui elas já podem ser pré construídas Ou seja no código você já pré construiu elas você já criou vários tipos de template que o seu usuário pode interagir seu usuário final pode interagir com esse tipo de template template para ele pedir para traduzir alguma coisa não template para ele pedir uma recomendação

de música Um template para ele pedir não sei o quê você já criou várias coisas já criou várias dessas dessas orientações Gerais para sua inteligência artificial e usuário e você pode só substituir aqui uma variável específica tá vendo Então que que a gente tá fazendo agora o nosso a gente criou uma cadeia com template de mensagem o nosso modelo o nosso parcel Então a gente tem que passar para essa cadeia agora não mais uma lista de mensagens mas eu tenho que passar esse dicionário aqui o idioma e o texto que eu quero que ele traduza

texto que eu quero que ele US ali então é isso que a gente vai passar aqui para ele a gente vai passar para ele o input do primeiro item e ele vai dar pra gente como resposta o output do último item que é o parcer se eu rodar o código agora olha lá eu nem preciso mais do print do template de mensagem vou até ocultar isso aqui mas olha lá emila video e comant se aqui panc tá vendo mandou aqui os dois pra gente então ele mandou você dar o like aqui no vídeo em francês

e e comentar o que que você tá achando até agora beleza então essa daqui é a lógica da nossa cadeia beleza aí você pode até falar pô Lira maneiro gostei tipo tô achando legal alguns de vocês podem estar falando pô lir achei legal mas pô eu poderia fazer isso daqui também com variáveis do Python e dá para fazer lembrando a gente tá fazendo O primeiro exemplo aqui de vocês é o exemplo mais simples mas pensa que essa cadeia pode se tornar muito mais rebuscada pensa que essa lista de que essa isso que a gente tá

fazendo aqui esses prompts aqui você pode passar vários tipos de mensagens que só precisam de duas variáveis ao invés do usuário tem que escrever mensagem inteira ele só manda dois inputs e vai funcionar o seu código mas agora a gente vai levar isso para um nível ainda maior que é o quê criei uma cadeia criei o passo a passo que eu quero que esse aqui é a forma com que eu quero que o meu usuário interaja com a solução que eu tô criando para ele então ou seja essa cadeia ela essencialmente vai ser a sua

solução de Inteligência Artificial você vai você pode passar aqui vários modelos você pode usar mais de um modelo usar o modelo do chat APT um modelo do não sei o que o modelo não sei o qu combinar eles três e ver o que que você quer fazer enfim seu critério Ah o chat GPT disse isso o grock disse isso O do Google disse isso você pode fazer a brincadeira que você quiser aqui você pode combinar com quais modelos e quantos modelos você quiser mas no final você vai ter a sua cadeia a partir do momento

que você criou agora a sua Cadeia Eu vou comentar essas linhas de texto aqui porque eu quero essa cadeia tá vendo a gente tem essa cadeia aqui agora o que que a gente vai fazer a gente vai criar um outro arquivo agora que vai ser o nosso servidor e o que que é esse o nosso arquivo que vai ser um servidor basicamente se você olhar aqui na documentação do lchin ele vai dizer para você que você tem um cara chamado Lang serve Cadê ó aqui ó L serve o que que é o l serve nada

mais é do que o l chain ele permite você criar uma API por meio disso daqui em que os usuários o seu site o seu sistema qualquer coisa consegue interagir com essa chain que você criou por meio de uma ap simples e direto ao ponto e é exatamente isso que a gente vai fazer aqui no servidor eles dão um código aqui para você de como é que pode funcionar esse servidor e tudo mais não sei o que mas eu vou criar ele aqui do zero se você quiser seguir por ali você pode seguir sen não

vem comigo que eu vou mostrar aqui para vocês agora como é que ele vai funcionar basicamente o l chain ele vai usar aqui nessa funcionalidade de do L serve né primeiro você vai ter que instalar ela tá então vamos instalar ela exatamente do jeito que ele manda aqui tá PIP install L serve All tá vendo Então vamos chegar aqui lá no nosso terminal vamos lá no nosso comand prompt Eita comand prompt e vamos fazer um PIP install L serve entre colchete zinhos All beleza na dúvida pode botar isso aqui entre aspas também que não vai

dar problema não ele vai fazer a instalação de todas as funcionalidades do L serve pra gente tá no meu caso ele já estava instalado Então tudo certo no seu caso ele vai instalar tá bom deixa eu fechar tudo aqui show de bola e aí agora o que que ele faz ele usa o fast api que é uma ferramenta do Python né de construção de apis de forma eficiente e e robustas para criar o l server então L server ele integra muito bem com Fast api tá então quando você fez a instalação do lank server aqui

é que eu é que eu fechei mas quando você fez a instalação do L server ele instala para você também o fast api Beleza então o que que a gente vai fazer o primeiro passo é que a gente vai ter que importar daqui a nossa cadeia que a gente já criou Então vou importar do nosso arquivo de código então from código Import chain a gente vai importar essa cadeia que a gente criou porque essa cadeia que eu quero disponibilizar na minha api só que a gente vai criar uma uma API do Fast api então from

Fast api Import Fast api aí e aqui galera eu não vou entrar em tantos detalhes de como que funciona o f api se você quiser ver mais detalhes de como é que funciona o f api eu vou deixar um vídeo aqui também na descrição para vocês tá sobre o Fest api mas basicamente você pode olhando aqui o código você consegue mais ou menos visualizar basicamente para você criar uma API no Fest Api Super Simples você vai criar o seu aplicativo tá vendo e você vai adicionar as rotas do seu aplicativo e vai executar ela por

meio do yvc tá então são esses três esses três passos aqui finais é o que você vai ter que fazer porque esses Passos aqui em cima são basicamente você criar a sua chain de a sua sequência de informações do do modelo de intelig artificial que a gente já fez tá então o que a gente vai fazer a gente vai importar do L serve ó a gente vai importar do L serve as rotas que ele tem que adicionar então a gente vai fazer assim ó from L serve Import AD routes tá a gente vai criar o

nosso aplicativo que é o fast api passando para ele um título que vai ser por exemplo meu App de Inteligência Artificial e a gente vai passar para el também uma description de é traduza o texto que você quiser para qualquer língua tá esse aqui é o nosso app de Inteligência Artificial basicamente é isso aqui que a gente tá criando e aí que que a gente vai fazer agora a gente já tem aqui o nosso chain e aí a gente vai ter que adicionar uma rota nesse aplicativo E aí o l serve né a galera do

L chain disponibilizou no L serve a função add routes que facilita a nossa vida então basicamente para você adicionar essa rota para ele funcionar ou seja que que adicionar uma rota é adicionar um link no seu site Então por ex exemplo #treinamentos pcom barboglio caso aqui eu vou querer por exemplo que o nosso link chain mostre o nosso sistema ou então o nosso link aplicativo ou link tradutor vou chamar de link vai ser o nosso a rota que eu vou adicionar é a rota tradutor quando usuário no nosso site entrar no tradutor ele vai acessar

esse aplicativo que a gente tá disponibilizando é isso que quer dizer adicionar uma rota Então a gente vai usar a função add routes passando para ele primeiro Qual o aplicativo do Fast api foi esse aplicativo que a gente criou aqui em cima a segunda coisa é qual é o runnable ou seja qual é o o elemento do L chain que ele vai executar runnable é um elemento um objeto que o l Chen criou que ele vai executar então só para você entender todos os objetos que a gente bota ponto invoke são runb são objetos que

são rodá né que ele consegue executar no nosso caso é a cadeia é sentee a cadeia de coisas que a gente quer executar o que que você quer executar é basicamente isso Então a gente vai passar a nossa cadeia de ações tá a nossa cadeia de ações ali para ele e por fim você vai passar para ele Qual é o pef ou seja em qual endp ele vai acessar isso a gente falou de colocar no endp bar tradutor beleza pronto adicionamos a nossa rota é isso aqui galera é muito direto é isso aqui que você

precisa configurou a sua api agora só precisa botar essa api no ar para botar api no ar a gente vai usar aquele comando if underline underline name igual a underline underline M isso daqui Lembrando que que significa isso daqui ele só significa o seguinte Olha eu só vou executar o comando que tá dentro do IF se você tiver executando esse código do servidor de forma direta ou seja se você chegar aqui e clicar em executar se você tiver importando ele por meio de um outro código eu não vou executar isso que tá dentro do IF

aqui beleza é isso que esse if quer dizer tá E aí aqui dentro a gente vai importar uvicorn para colocar o nosso servidor no a e aí a gente tá seguindo exatamente aqui ó a gente vai importar o uvicorn que nada mais é do que uma ferramenta do Python que também foi instalada junto com o l server quando você instalou que permite você criar um servidor colocar um servidor no a no nosso caso aqui é um servidor local Então você vai fazer o seu computador disponibilizar esse link aqui para ser acessível dentro da sua máquina

Beleza então você tá meio que simulando um servidor mesmo se você fosse fazer o processo de Deploy desse projeto botar ele num site mesmo aí isso daqui vai ser gerenciado por esse servidor tá E aí agora para você colocar ele no ar você vai fazer um ycorn Run exatamente do jeito que ele mostra aqui ó uvicorn.run passando o seu aplicativo qual vai ser o host né ou seja o onde você vai hospedar isso que é no local host você tá colocando isso na sua máquina e qual é a porta que você Vai disponibilizar para isso

então é basicamente qual é o link final lá que vai ter no seu site Então é isso que a gente vai fazer ó app o nosso host vai ser o local host local host a porta você não é obrigado a passar tá normalmente ele cria uma porta para você automaticamente Mas você pode definir sendo a porta alguma porta normalmente a gente usa porta 8000 que é uma porta que não é normalmente usada pelo seu computador para nada e a gente ente teste os nossos códigos na porta 8000 é é um processo bem padrão você vai

ver isso em muitas documentações tá bom feito isso nosso código Tá salvo nosso servidor Tá salvo se você rodar o código esse servidor agora que você acabou de criar que que vai acontecer Olha lá ele vai disponibilizar para você uma API nessa ap agora se você fizer uma requisição pro tradutor para esse endp do Tradutor você consegue consumir as informações desse cara ou seja você consegue usar essa inteligência artificial no endp do tradutor Então se Se você pegar um comando Python por exemplo até ele até dá para você aqui se você quiser um exemplo ali

ó que você pode fazer ó eu quero pegar essa você consegue pegar essa chain aqui por meio de um outro código Então imagina que você tem um outro código em outro lugar essa P tá no ar você consegue simplesmente importar essa chain que você criou aqui por meio de um outro código porque a sua api tá disponibilizando ela você consegue fazer isso rodando esse código aqui tá vendo se você quiser você pode criar um arquivo com esse código para rodar isso e eu vou mostrar para vocês ou então um negócio super legal que você pode

só clicar no link ó cliquei no link Cadê ele abriu não clicar aqui no link ó abriu e aí a gente vai entrar ó se você entrar no no endp tradutor que é o seu endp barra playground o que que é o playground o playground ele vai dar para você uma interface visual para você ver essa essa a interação da sua api quando você entra no Barra playground ele dá uma interface visual do que seria você interagir com essa api aqui que você tá fazendo que é exatamente aquilo que eu mostrei para vocês no início

do vídeo então se eu chegar aqui agora e passar aqui pro idioma por exemplo eu quero que você traduza para italiano eu não falo nada de italiano então não sei se ele vai traduzir de forma correta e eu falar aqui para ele se inscreve no canal tá no final Estamos no Fim do vídeo e eu mandar aqui executar que que ele vai fazer Olha lá ele vai mostrar aqui para mim ó se inscreve ao canaline del ví sei lá Ou seja faz aí o que ele tá mandando que eu não sei exatamente a tradução aqui

na verdade eu sei porque eu escrevi mas ele executou isso para você e o que que é legal você teve três intermediates steps Quais foram os três intermediate steps um prompt template que você criou aí ele mostra aqui o que que foi a execução do seu prompt template um chat do openi que é o seu modelo ele mostra o que que foi a execução do seu modelo e a tradução pro texto e ele mostra qual foi o resultado do seu texto tá vendo Então ele mostra aqui para você dentro do playground toda a cadeia de

ações que ele foi fazendo então para você testar o seu sistema isso daqui é muito bom você pode compartilhar isso aqui com outras pessoas tá vendo e aí você pode enfim ir brincando e resetar aqui testar de novo fazer outros exemplos e tudo mais cada vez que você faz uma execução dessa ele executa a sua cadeia inteira beleza e aí exatamente imagina que você tem essa api pronta agora eu quero que usar essa api num aplicativo que eu tô criando agora eu criei uma inteligência artificial Por meio dessa api e eu quero usar essa api

agora no novo aplicativo meu o que que eu preciso fazer você vai simplesmente criar um arquivo de cliente que vai importando do L server um remote rable que que é um remote runnable nada mais é do que você vai pegar lá do seu tradutor tá vendo meu servidor tá no ar tá no ar tá no ar ó ele tá rodando aqui ainda eu isso aqui galera esse código aqui é simplesmente esse código copiado eu vou explicar ele agora exatamente para vocês que que é isso daqui olha lá eu from L serve importei o Remote runnable

e o que que eu posso fazer imagina que esse esse arquivo cliente aqui é como se ele fosse um outro aplicativo seu então você criou a api e nessa api você criou a sua inteligência artificial agora eu quero que o meu aplicativo Eu tenho um aplicativo de sei lá de viagens eu quero que no chat do meu aplicativo de viagens uma a pessoa consiga acessar essa minha inteligência artificial que que você vai fazer no seu aplicativo de viagem no código do seu aplicativo de viagem você vai importar um remote Run E aí você vai criar

uma chain você vai importar essa chain que tá aqui no seu servidor essa sequência de passos que usam uma inteligência Aral que tá aqui no seu servidor você consue importar ela pelo seu aplicativo simplesmente executando o comando remote runnable no endp que você criou aqui no endp que você criou aqui tá vendo a gente não criou endp tradutor ó lá no local host tradutor então naquele link que que ele vai fazer quando ele executar Esse comando aqui É como se você tivesse lá no seu aplicativo inteligence artificial importando a sua chain remota a sua chain

essa chain aqui como se você tivesse nesse outro arquivo importando aquela chain por meio da internet por meio da api você importou ela da api agora que você importou ela da api você pode dar um invoke nela passando os parâmetros o parâmetro do idioma e o parâmetro do texto e aí ó executar ela como se você tivesse criado tudo aquilo no seu o código só que aquilo já foi criado na sua api e não no seu aplicativo tá vendo o cliente é o seu aplicativo a sua api é outra coisa o cliente que é o

seu aplicativo Ele simplesmente precisa ter esse código aqui porque todo o trabalho de criação desse sistema Você já fez por meio da sua API de Inteligência Artificial então agora quando você quer usar isso no seu aplicativo você simplesmente importa nesse formato aqui e usa se eu executar esse código aqui agora deixa eu executar ele por meio do meu comando prompt aqui para executar por meio do meu comando de prompt é só digitar Python né porque é um código em Python e o nome do arquivo client.py olha lá tá vendo ele traduziu para espanhol esse texto

que eu dei aqui para ele tá vendo ele traduziu como que ele traduziu isso porque ele importou a Chin desse link aqui que é o nosso site que tá no ar então agora já não precisa ser tudo no mesmo computador esse código aqui você poderia rodar num outro computador porque você disponibilizou a sua api no ar ou no outro aplicativo Ele consumiu essa api a api deu para ele a ch a de passos que ele pode executar e você pum executou aquela ch executou aquele sequência de passos no que se executou Ele usou aquilo dali

de uma forma bonitinha bem direto ao ponto então você consegue criar uma API e o seu aplicativo consumir os dados dessa API de uma forma completa beleza bom galera sei que foi uma aula bem mais difícil do que o normal aqui do canal mas a estrutura do leng chain realmente é um pouco mais difícil quando você tá no início assim pegando eu vou disponibilizar todos esses arquivos para vocês aqui na descrição assiste o vídeo reveja o vídeo assista as explicações de novo dê uma olhada na documentação da L chain se você quiser mais conteúdo sobre

L chain mais detalhes mais coisas cara só pedir aqui no no nos comentários que eu tô sempre de olho sempre aprendendo e trazendo para vocês grande abraço e até a próxima aula l