O que é Agente de IA RAG e como usar?

Oli pessoal B aqui vou trazer para vocês hoje uma nova técnica para você poder estruturar muito melhor os seus agentes de a em suas automações e esse formato essa técnica se chama rag é uma técnica que eu até já trouxe aqui em uns vídeos anteriores porém eu tô fazendo esse vídeo aqui para poder me aprofundar um pouco mais para poder te explicar e ficar mais claro o que que é esse rag e se você deve ou não utilizar esse formato e quais são as outras técnicas diferentes da reg e qual que é a melhor opção

para você utilizar nos seus agentes de a para poder consultar informações no seu banco de dados para poder consultar pdfs consultar textos consultar informações sobre a sua empresa quando vai fazer algum atendimento ou alguma outra tarefa que precise dessa consulta de dados e esse reg ele é um formato é uma técnica onde você utiliza uma forma mais estruturada de vetorização e fica tranquilo que esses nomes confusos aqui eu vou deixar tudo muito mais simples muito mais didático para você entender inclusive vou te mostrar aqui como ele funciona na prática tá então vai ficar muito claro

para você essa aqui é uma automação onde eu criei um agente de a que faz agendamento automatizado dentro do WhatsApp e aqui ele utiliza o reg para poder consultar informações de forma estruturada lá no meu super base que eu banco de dados que eu tô utilizando então aqui são informações que a gente tem lá no meu superp base que são informações referentes a empresa ó tá vendo que cada linha dessa daqui tem algumas informações diferentes sobre a empresa ó sobre a empresa sobre os serviços que ela oferece perguntas frequentes e tá tudo estruturado aqui e

cada linha dessa aqui é um embedding e eu vou te explicar como isso tudo funciona na prática Olha só quando eu vier aqui no chat eu tô utilizando aqui agora ele dentro do ntn mesmo mas você pode usar dentro do WhatsApp como eu disse né Mas vamos fazer um teste rápido aqui vou falar assim ó oi qual o telefone da Clínica é uma informação que o agente não sabe ele precisa consultar o meu banco de dados Então tá vendo aqui que ele veio no no meu vetor aqui no Vector Store e foi no superbase através

da inteligência artificial para poder saber Localizar onde isso aqui tava lá no meu no meu banco de dados E aí respondeu ó oi o telefone da Clínica Odontológica sorriso ou seja ele buscou o nome da clínica e ainda buscou o telefone é esse daqui posso te ajudar com mais alguma coisa então isso funciona na prática dessa forma aqui ó o meu agente recebeu uma solicitação de uma mensagem e ele foi lá no meu banco de dados comparou aqui a a pergunta da do usuário lá do meu cliente com as informações que estão nesses embeds diz

aqui ó e aí encontrou essas informações por exemplo ó aqui ele buscou ele encontrou o nome e o telefone provavelmente tá em outro embed aqui então ele utilizou dois embeds tá E para você entender melhor como isso funciona eu vou te explicar o que que é reg o reg é traduzido ao pé da letra é uma geração aumentada de recuperação que em inglês é retrieval augment Generation que é o processo de otimizar a saída de um grande modelo de linguagem de forma que ele faça referência a uma base de conhecimento confiável fora das suas fontes

de dados de Treinamento antes de gerar uma resposta beleza então ó quando a gente utiliza uma engenharia de prompt que é uma instrução que a gente dá pro nosso agente a gente tem aqui Um PDF e Geralmente as pessoas utilizam essa técnica aqui para poder ã para poder utilizar em agentes de a para fazer consulta de informações aqui a gente tem um PDF e aqui a gente tem outro PDF imag no seguinte então a gente tem dois pdfs aqui ó certo esse aqui o que que normalmente as pessoas fazem todas as vezes que um cliente

faz uma solicitação para um agente de a ele vai consultar um PDF beleza e aí as pessoas fazem isso daqui ó elas utilizam uma engenharia de prompt onde aqui o agente vai buscar todas as informações nesse PDF imagina que que aqui o pdf tem várias linhas né várias linhas aqui ó então cada pergunta que uma pessoa fizer o agente de a vai ler todas as informações aqui ó uma por uma independentemente de onde esteja né Isso vai consumir muitos muitos dados isso vai consumir muitos tokens pro a gente utilizar isso gera um custo maior para

você ou pro seu cliente né se você for implementar isso para alguma empresa agora com a gente reg Ele separa isso em embeds a gente chama de embed e esses Ed eles são todos separados eles são todos estruturados então o que que ele faz ele pegou o pdf que eu joguei para ele e separou ele ele tira as informações ele extrai as informações do PDF e coloca em Campos separados que são os embeds né então fica dessa forma aqui ó imagina então que cada embed cada Campo desse aqui aqui no meu super base é uma

informação dessa ó tá vendo aqui o embedding e aqui tem o endereço do embed Ó cada embed tem um endereço e cada endereço tem uma informação referente ao que eu treinei aqui para o meu agente consultar no meu banco de dados tá E aí todas as vezes que um agente de a vai receber uma mensagem e vai precisar consultar informação no meu banco de dados ele vai fazer diferente da da outra situação lá o que que ele vai fazer ele vai vir aqui e comparar ele compara as a mensagem que que ele tá solicitando para

por exemplo uma pergunta que o cliente fez lá no WhatsApp e ele compara se ele se parece com as informações que estão aqui nesse embed se sim beleza ele aqui mesmo ele já vai me retornar a resposta pro meu cliente ele já volta daqui mesmo ó e ele não vai ler todas esses outras embeds aqui isso gera uma economia de dados de tokens muito maior porque ele vai ler muito menos informação para dar resposta pro meu cliente tá então se caso ó ele comparou que não tá aqui ele vai vir aqui ele já retorna daqui

entendeu então isso gera uma economia de dados e uma velocidade muito mais rápido na entrega porque ele não tem que ler muitas informações de uma vez só Diferentemente do da engenharia de prompt porque a engenharia de prompt ele vai ler todas as instruções independentemente de onde esteja essa informação tá e o fan também o fan é a gente é um treinamento que um aprimoramento que a gente faz dentro da llm para que ele entregue uma uma resposta mais rápida e seja mais preciso tá ela melhora a resposta porém mesmo assim ainda gera um custo maior

porque ela tem que ler mais informação aqui no reg não no reg como eu expliquei ele busca informaçõ muito informação muito mais precisa Então respondendo aquela pergunta lá no início né Qual que é a a a a técnica que você deve utilizar que eu sugiro que eu indico é a de todas essas que eu falei de engener de prompt de f o reg é melhor porque ela vai te dar mais economia e mais velocidade tá E nessa automação aqui eu mostrei como ele consulta e também tem essa automação aqui que ele insere a informação ele

ele pega aqui ele faz exatamente isso que eu mostrei aqui ó ele vai extrair a informação do PDF e vai separar em vários embeds aqui e aí a gente tem uma a gente reg Vai consultar informações vetorizadas beleza e se você quer ver mais sobre essa automação aqui do agente de a que faz atendimento e que consulta uma base de conhecimento reg tem um vídeo aqui só mostrando S sobre essa automação e tem uma mostrando só sobre essa daqui de como você insere um um informações de um PDF numa base de conhecimento vetorizada que no

caso é o superp base vou deixar como iação aqui no final desses dois vídeos e se você quer aprender a dominar o ntn para poder criar qualquer tipo de automação que você precise vou deixar o link da minha formação Inn aqui embaixo para você também aprender qualquer dúvida deixa nos comentários se inscreva para não perder nada sobre a automação e até o próximo vídeo