CrewAI - FastAPI Streamlit - Criando uma aplicação com Agentes inteligentes

[Música] fala pessoal mais um vídeo para vocês aqui sobre multiagent System vou falar um pouquinho mais sobre cre e como que a gente cria uma aplicação inha um pouquinho mais elaborada tá só para recapitular no último vídeo se você ainda não assistiu eu falei um pouquinho sobre CR como que a gente cria uma equipe de Agentes para trabalhar fazendo tarefas do nosso dia a dia né no exemplo que eu dei na semana passada eu criei um um sistema de Agentes né quatro agentes trabalhando para mim para gerar uma documentação baseada no vídeo tá esse aqui

foi o resultado do da desse sistema multiagent por exemplo um dos resultados né ele pegou uma transcript que eu passei para ele esse transcript aqui e transformou uma documentação com esse nível aqui né venhamos e convenhamos muito mais elaborada e sinceramente muito melhor talvez até do que eu faria né com esse nível de detalhe referências e conteúdo complementar com os links PR pessoa poder se aprofundar então eu achei bem legal né Essa documentação gerada por Agents daqui do QI e eu vou eu decidi trazer algo mais elaborado algumas pessoas estão se perguntando Beleza então tem

o script Python que vai separar alguns agentes mas é algo muito muito código né prisar de o código ser muito simples a gente vai ver criar algo mais visual talvez algo como que eu posso produtizar isso né então aqui eu vou trazer para vocês duas coisas diferente a gente vai utilizar o QI né para fazer uma pesquisa na internet de candidatos algo bem simples também e agora eu vou colocar na frente desses nossos agentes uma API né Então vou utilizar aqui o fast api esse componente aqui para criar uma API de acesso aos nossos agentes

então eu vou conseguir liberar uma requisição get uma requisição post ali para qualquer aplicação se comunicar com os meus agentes via apepi is se já é um ponto bem legal e depois eu vou criar uma aplicação Zinha gráfica para chamar minha apepi passando alguns parâmetros n utilizando stream leit Então veja que aqui já tem assim uma v1 mais legalzinha né um un produto que você já pode começar a pensar em produtizar ele então vou assim a gente tem um pouquinho mais a lei do que só olhar pros agentes tá beleza vamos aqui pro cenário de

hoje primeiro a gente vai falar dos nossos agentes depois um pouquinho de como que a gente vai rodar uma Fest api e criar um api utilizando fpi dentro do docker aqui e depois o streamate tá vamos aqui pro nosso código tá esse aqui é o meu projeto novs code tá então aqui tem os arquivos Não se preocupe em detalhes de código porque depois eu compartilho com vocês Ah esse código no github tá vamos aqui pros Highlights desses códigos aqui primeiro arquivo que a gente tem a Main né do nosso projeto aqui dentro do nosso app

EH muito parecido com o que a gente já viu no outro a grande diferença aqui que eu já tô embed os meus agentes dentro de uma Fest api Então veja que eu tô importando aqui a biblioteca Fast api a p Idêntica pra gente tratar alguns dados e aqui a mesma coisa que a gente já usou nos outros parte de agente Task Crew e proxess pra gente poder disparar a nossa nossa equipe tá as chaves eu mascarei aqui a chaves para que não fique disponível né mas as chaves fica dentro do do do arquiv Minho ou

você pode fixar aqui diretamente e então aqui eu já tenho uma classe de job requirements que é o que eu vou passar de requisito de de parâmetro para meu agente fazer uma busca de candidatos no Linkedin na internet onde for que seja então aqui eu tô definindo um padrãozinho mínimo né então eu tenho um parâmetro de entrada do tipo string isso aqui é legal você definir esse essas classes com esse base Mod para que já fique na documentação ali do a do F IC swager e também que você tenha um tratamento de dados ali mínimo

né vamos dizer assim tá então isso aqui é um padrão bem interessante para você começar a analisar e aqui sim eu tenho o meu agente tá então vamos aqui pegar o meu agente pesquisador ele é um recrutador de cro de dados né então ele vai fazer um recrutamento eu quero eu vou passar um requisito de vaga para ele ele vai fazer uma busca e me trazer alguns perfis e o seu objetivo é encontrar os melhores perfis de dados para trabalhar baseado nos requisitos da vaga tá então a gente vai passar para ele os requisitos da

vaga verbos T pra gente poder acompanhar os logs durante a execução e os logs aqui vão sair lá no docker tá a gente vai ver um pouquinho Memory th pra gente poder salvar a memória isso aqui ajuda muito a performance nas próximas execuções ele já usa a a memória que ele tem salva ali para poder responder a gente modelo GPT 4 ou mini né lembra de usar sempre o Mini para que você economize e o backstory dele é como se fosse o background né o histórico de experiência que ele tem né então eu falei que

ele é um cara experiente em dados ele também tem especialista em LinkedIn para fazer pesquisas domínio e e tem um dom domínio principal aqui nas táticas de busca tá então esse aqui é é o meu agente tá ele vai trabalhar sozinho hoje não vai ter parceiros aqui e aqui entra a nossa parte de fast api né Tem várias formas de você criar um api tem Fast api tem outras frameworks que são legais ah flask por exemplo que você pode utilizar para criar seu api eu utilizei o fast api que é uma forma um Framework bem

comum e bem conhecido bem Popular que você pode utilizar tá então vou criar uma rota aqui que vai chamar research candidates research candidates que é onde eu vou chamar minha apepi e passar os parâmetros nesse caso vai ser um post tá tá descend aqui que vai ser um post Por que um post porque eu vou enviar parâmetros para essa api não vai ser um get o get seria eu vou mandar uma requisição e vou receber dados de volta sem passar n um parâmetro de entrada tá então eu vou fazer uma requisição do TIP post e

aqui defino aqui o a minha função né ela vai receber o job requirements de entrada e aqui a minha task do meu agente tá a minha Task é bem simples tem aqui a descrição da Task e dentro da task já passo para ela aqui ó requisitos da vaga ela vem do parâmetro Job requirements tá então eu vou detalhar ali depois no texto a gente vai ver como que funciona isso o que que o que que eu espero dessa Task uma lista de top cinco candidatos potenciais separado por Bullet points isso aqui é bem interessante porque

ele já já quebra e pra gente bonitinho aí a forma que você quiser organizar você já especifica aqui para que ele possa devolver no final e cada candidato deve conter informações de contato e breve descrição do perfil dest a qualificação para vaga tá isso aqui é bem interessante e também trazer junto a URL para encontrar ele no na internet né Se for uma busca no ledin trazer o link do lin se for em outro site trazer o link junto ali da do resultado tá então essa aqui é Nossa Task eu vou atribuir uma ferramenta para

ela de procura na internet que é search to e o vai ser aquele resarch que a gente criou tá então estrutura bem simples de cre aqui nada muito avançado a outra que a gente fez era um pouquinho mais complexa que envolvi quatro agentes essa aqui é muito mais simples a questão é que a gente tá colocando ela dentro de uma API né dentro do F Api para que a gente faça requisições de fora tá E aqui eu disparo a minha Crew né Crew na verdade aqui eu junto todo mundo né passo aqui me gente tasco

o processo que vai ser sequencial um cara só e aqui sim eu disparo ela com kick off tá passando para dentro dela o parâmetro de job requirements no final devolvo result então return result Então essa aqui é a minha função Zinha e de de pesquisa tá bem simples muito simples mas você vai ver que o o trabalho que a gente faz utilizando o GPT 4 Omni é bem legal é muito legal ele faz um trabalho bem bacana E eu vou mostrar alguns pontos aqui que você tem que tomar atenção tá no final e por fim

eu disparo aqui né eu uso aqui o processo do uvicorn para disparar e rodar minha aplicação dentro do docker tá então esse código aqui ele vai rodar uma um um um CR ey dentro de uma fest jpi pra gente eu decidi rodar isso aqui dentro do docker para facilitar a minha vida tá Então como que eu fiz Criei um docker file obviamente tem o o o docker na minha máquina instalada vou utilizar aqui a versão do Python 3.12 defini o meu diretório de trabalho copiei os meus arquivos de instalação lá das das dependências para lá

né então tem várias dependências aqui deixa eu mostrar para vocês a Fast api pent mcn CR CR Tools é tudo isso aqui ele vai instalar dentro do docker para mim dentro da minha imagem tá então eu buei uma imagem nova e vou rodar essa imagem no meu docker poderia publicar essa imagem para rodar no kubernet onde onde quer que seja e aqui eu rodo um PIP install para rodar todas as dependências dentro do requirements copio o código né que são esses arquiv minhos aqui para dentro do meu contêiner e disparo ele aqui né eu faço

ele rodar na porta 80 tá então quando eu rodar esse contêiner quer dizer que ele já vai eu já consigo mandar requisições da porta 80 ele já vai estar respondendo eu já deixei ele rodando aqui a gente pode dar um docker p só para ver ó tenho aqui um contêiner chamado fast QI rodando há dois dias já tá um bom tempo rodando esse contêiner aqui tá então eu tô rodando em docker só para facilitar você poderia rodar na sua máquina mesmo né mas para você produ isar é mais fácil criar uma imagem docker e depois

você pode pegar essa imagem publicar para um servico nuv para cobnet algo do tipo tá ou mesmo modar no próprio docker tá perfeito até aqui estamos junto então com isso a gente já pode testar Nossa api certo a gente pode testá-la de várias formas posso fazer uma requisição eh via código Ou posso fazer via swager vamos fazer via código primeiro então vou vir aqui no no scriptz em pyon Bem Simples então eu vou fazer aqui ó como tá rodando o local eu vou passar o IP local da minha máquina é o local host e vou

passar aqui a rota que é research candidates tá no headers basicão aqui application Jon E de data eu vou passar aqui ó Job requirements e aqui eu vou especificar Qual que é o o a busca que eu quero fazer tá então eu tô falando aqui ó me traz todo mundo que data Engine data architect e tem tem certificação professional dat Bricks seja Brasileiro né para filtrar R de pessoas brasileiro e que Residem são dos Campos eu vou trocar aqui vou colocar que resid em Boituva né que eu não moro emit aí só para ver se

se ele vai me achar né um filtro mais seletivo ali aí eu faço uma requisição bem simples com a biblioteca requests tá chamando aqui post passando RL e no final eu devolvo aqui ó status code e e o json aqui no formato bonitinho Tá então vamos rodar esse código aqui para testar Nossa iepi dá um play aqui e repare que assim eu não fiz nenhum tratamento de eh de loading aqui né por exemplo para Ger gerenciar expectativa e cidade do usuário né aqui eu tô rodando um código eh síncrono né então ele manda chamada na

api espera a resposta e me devolve então o tempo que ele tá rodando lá por trás dos panel Se eu vir aqui no docker Ah já começou a rodar ó Então tudo tá rodando aqui no docker ó os logs então eu esqueci de mostrar aqui né a aplicação Zinha do Fast jpi então tem aqui a aplicação inha rodando aqui no meu docker e aqui ele startou né que eu mostrei para vocês rodando na porta 80 e o que que é legal ele na porta 80 eh no na rota doc ele gera pra gente uma documentação

com sweger já nativo do Fast api tá então quando eu disparei a requisição na porta 80 lá ele já começou a rodar aqui aqui ó tá vendo aqui é os logs lá do do nosso do nosso QI Tá então vamos ver se ele já terminou ó já terminou então se eu voltar para cá veja que eu ten aqui um resultado e bem grande eu vou copiar isso aqui só pra gente ver o formato Jon tá copiar aqui no carare então aqui eu tenho a resposta né tenho aqui os candidatos ó ele traz aqui dentro de

um res dentro do r a resposta final aqui estão os top cinco candidatos primeiro tá Reginal Silva bacana legou legal achou eu ali e depois ele traz aqui outras informações por exemplo aqui embaixo o tokin zage então ele tá falando que ele utilizou 28.000 tokens eh sendo que foi oito chamadas isso aqui é um detalhe bem importante que a gente vai falar mais pra frente tá então uma forma de chamar por aqui legal né mas é um um resultado assim bem cru que você tem que tratar é bem PR para Dev mesmo para programador isso

aqui tá Então vamos fechar isso aqui e vamos para uma chamadinha mais elegante né que aí utilizando eh o DOC aqui que eu falei né que é a rota que o próprio FP libera para que você acesse esse carinho aqui então eu vou vir aqui no navegador e vou vir aqui no f api na parte de Doc dar um refresh aqui tá ó que legal aqui a gente já tem uma um swager pra gente que documenta a nossa api lembra aquele Bas mod que falei se você documentar bem ali ele já vem bem estipulado aqui

ó Qual que é o esquema que você tem que mandar Qual que é o esquema que vai ser retornado e d aqui vários detalhes Quais são os status code que é possível você retornar então isso depende da documentação que você fizer dentro do seu da sua IPI tá então para mim testar aqui eu venho dou TR out aqui e vou preencher aqui ó sei lá colocar databricks boit só para ver e vou dar aqui um Execute tá então aqui na telinha gráfica do F api a gente já vê que ele tem um loading aqui obviamente

o tempo vai ser o mesmo ali 15 20 segundos mas já Ger já Gerencia um pouco da expectativa do usuário né não fica uma tela estática você não sabe se tá rodando se não tá aqui ele já bota um load pra gente se eu vir aqui no docker a gente vai ver que tá focando de mensagem aqui né ele tá executando ó bateu aqui e finalizou né então se eu voltar para cá por que que foi mais rápido aqui já tá em cash tá eu fiz uma pergunta bem parecida tá em cash então se eu

vim aqui ó ele me retornou status cod 200 e o respons b tá aqui ó Então beleza tem uma API né chegamos nesse primeiro ponto aqui tem uma API rodando em docker que disponibiliza para mim um end Point uma rota né Eu chamei Eli de research que vai vai acionar o meu meu crei né A minha equipe que vai fazer esse trabalho de busca na internet né então ele vai fazer uma busca no Linkedin qualquer site que seja para trazer para você os melhores candidatos baseados na vaga você você vai perceber que el tá trazendo

bastante coisa do LinkedIn porque meio que já viciei ele ali mas eu posso podir para el buscar em qualquer site que ele vai trazer referências de outros sites também tá então chegamos até o f api como que a gente deixa isso mais legal né como que eu deixo esse isso aqui mais visível pro usuário para poder fazer uma chamada o usuário não vai ficar chamando api na vida real né usuário que é uma TR linha mais bonitinha então agora a gente vai pra parte mais legal então se eu vir aqui na parte do nosso código

eu criei também Um test api stram leit tá que que é isso aqui o stram leit é uma Framework Python que deixa você criar a interface gráfica e manipular código de forma bem simples tá então streit é uma biblioteca bem legal e para que você crie ali coisas simples não dá para fazer algo muito robusto tá obviamente talvez não que eu conheça eh se quiser algo mais robusto mesmo você vai ter que falar com alguém de front o node uma linguagem um pouco mais robusta para isso Tá Mas para coisas simples triviais no seu dia

a dia o strit é bem legal qual que é o ponto aqui eu vou criar aqui dentro do meu stream leit uma função search Jobs essa função vai chamar minha api el na minha rota tá então tô defendendo aqui os parâmetros e ela essa função recebe aqui o requirement que eu passo PR minha epi n que é a mesma coisa que a gente fez ali via script Python que eu passei aqui com data vou fazer aqui também passar um data de parâmetros pro post a mesma coisa que oer fez tá então criei uma funz bem

simples né Peguei aquele código ali joguei aqui e aí entra a parte do tá não vou entrar em detalhes de todos os componentes aqui mas aqui entra a parte de interface gráfica então tô criando aqui um título chamado pesquisa Jobs vou criar aqui um um input de texto para você digitar né vou chamar aqui de os requisitos do Job e aqui eu vou criar alguns botões eu fiz alum controle de botões aqui de status de botões porque eu criei mais de um botão Então você precisa gerenciar alguns status ali eu não vou entrar em detalhes

aqui dessa questão de status para não ficar muito complexo mas eu criei dois botões E aí eu um botão vai ser de você fazer a pesquisa e o que que é legal enquanto ele pesquisa ele vai fazer um Spinner aqui fazendo buscando candidatos para gerenciar expectativa do usuário e eu também coloquei uma gif aqui de loading né então eu peguei uma gif da internet aqui essa por exemplo ó ela vai ficar ali carregando enquanto roda minha api tá isso é bem legal já inici a expectativa já algo mais visual pro usuário tá então coloquei uma

gif E aí eu faço toda a chamada depois eu posso explicar melhor aqui o código no final de tudo quando finaliza ele bota ali uma mensagem de busca finalizada aqui eu tô usando utilizando markdown deixando a mensagem verde tá e depois aqui eu boto também o total de toquin utilizados que vem lá da meu do meu json né então já extraio o json bonitinho pego total de reedições e o tempo de execução também né o tempo de execução é Python basicão eu pego aqui o o start e da aplicação e o end faço P menos

o outro boto o tempo em segundos aqui tá Isso aqui é bem legal cara isso aqui é uma telinha bem basicona de stream late utilizando Python chamando a nossa iepi e devolvendo fazendo a interação tá então outro botão que eu criei aqui é o botão de enviar e-mail tá então depois no final eu pego esse resultado e envio por e-mail para alguém eu queri um código bem simples aqui de e-mail eu não vou abrir ele aqui porque tem minha senha lá dentro depois eu compartilho com vocês você sem senha mas é um código muito simples

Tá então vamos pra prática lá deixa eu limpar aqui e v rodar minha aplicação tá aqui Run tá isso aqui tudo eu vou colocar para vocês o passo a passo al de instalação tal V dar Run aqui e a gente vai cair nossa página aqui então temos uma página mais gráfica aqui bonitinha né tem o botão aqui de buscar e botão de e-mail primeira coisa que gente vai fazer é vitar aqui os requisitos um histórico aqui ó Então vou colocar datak e buscar então quando eu faço isso aqui ó já aparece aqui em cima Running

que é do próprio stre e aparece aqui ó buscando os melhores candidatos e o nosso gif lá então eu sei que tá rodando alguma coisa né já a expectativa do usuário ali para ele saber que tá sendo executado poderia colocar uma barra de progresso dependendo da sua seu tipo de requisição ó muito mais rápido tá então aqui vamos ver o que que ele trouxe algumas pessoas que não faço ideia Parece que deu uma alucinada mas ele me trouxe aqui ó Reginaldo Silva e o que que é legal el trou a descrição que eu coloquei lá

tá no meu perfil o que que inclui ali que faz sentido para essa vaga tá então aqui no final das contas eu trago tokens usados 35000 tokens Por que que é tanto token usado porque ele é um cara que faz várias requisições na Open ele faz requisições no ledin faz requisições em vários sites para poder chegar no melhor melhor resultado Então você tem que tomar cuidado você pode fazer um promp para que limite isso aqui porque senão ele pode girar F assim na mesma requisição 500.000 tokens por exemplo se você não limitar isso aqui tá

então ponto de atenção o seu prompt Especifique muito bem a a busca para que ele não gaste muito token se você tiver utilizando PNI por exemplo vez no futuro eu faço aqui uma uma mesma demo utilizando Lhama local na minha máquina tá então tokens utilizados total de requisições ou seja ele fez 13 requisições para chegar nesse resultado aqui tá e o tempo de execução 14 segundos eu vou rodar de novo aqui e vou especificar melhor é datab brasileiro e que reside em boit sei lá eu não Boituva mas tem muito histório de Boituva no meu

no meu perfil vamos ver se ele vai achar aqui tá rodando de novo deve ser bem rápido porque tá em cash então assim essa questão do do dado que ele vai trazer do refinamento é tudo prompt tá não tem não tem im você tem um pouquinho de prompt especificar bem O Agente o objetivo do agente a ta que o resultado esperado então tudo que você vai refinar aqui na na busca é prompt tá então você vai trabalhar no prompt então trouxe aqui calile que é do grupo de dat Breaks nosso lá a gente tem um

grupo dat Breaks WhatsApp com um monte de gente O legal que eu rodei isso aqui várias vezes testei de várias outras outros parâmetros de entrada Ele trouxe uma galera do grupo de dat Breaks lá né várias pessoas que estão lá eles trouxe aqui para mim de referência então o Alisson também trabalha comigo ele é de Boituva né trabalha na dataside é de Boituva então aqui ele pega e traz o perfil da pessoa né então se eu abrir aqui por exemplo o meu ele vai pro meu perfil do LinkedIn né Então veja que ele traz o

formato que eu pedi no prompt n pedindo para trazer o link tudo mais então ele traz aqui o o perfil profissional e o que que o que daquele perfil que encaixa pra vaga que eu tô pedindo né então quanto mais eu especificar aqui também na na proma de entrada melhor o seu resultado e também mais detalhes você vai trazer Então posso especificar bem né todas as as ferramentas requisitos e no Prom você pode deixar ele mais R para que só traga quem dê o Mat de fato por exemplo ou que seja próximo daquilo tá então

uma vez finalizado isso aqui né que linha bem gráfica bem legal ó essa aqui deu 40.000 tokens já foi um pouquinho mais de tokens como eu tô utilizando GPT ou mini então é muito mais barato tá E aqui eu vou colocar o meu e-mail botãozinho de enviar e-mail Tá ele deve ser bem rápido tá aqui ó que ele tá executando Então pronto o e-mail enviado tá aqui ó mandei para mim mesmo uma mensagem verdinha aqui que o e-mail foi enviado vamos olhar aqui na minha caixa de entrada é Reginaldo mandei de mim para mim mesmo

e pronto tá aqui ó os top candidatos que eu mandei Alisson Reginaldo Henrique obviamente a formatação do e-mail não tá bacana porque eu não especifiquei nada para ele formatar poderia pedir para formatar em HTML para ficar mais bonitinho tal mas é outos 500 o importante é que assim você tenha a o conhecimento que isso aqui existe você pode fazer uma busca avançada com agentes que você pode trabalhar com interface gráfica utilizando api algo mais robusto para que você consiga liberar por exemplo uma interface pro seu a sua área com o seu time já começar a

automatizar as suas rotinas né então é isso a ideia a ideia principal é essa que além de você já conhecer o Ci e poder rodar na sua máquina alguns agentes para trabalhar para você você possa pegar esse seu produtinho que você desenvolveu os seus agentes a sua equipe e publicar ela para que outras pessoas possam utilizar seja com Fast Api para liberar via api mesmo para que outras pessoas utilizem Inclusive a plataforma crei tá criando né uma plataforma e visual para que você possa criar api né você pode entrar na na fila de espera então

aqui eu tô usando fash api com doc na minha máquina e utilizando streamit para fazer uma interface gráfica tá então um exemplo bem simples para que vocês comecem a aguçar aí a a imaginação possam pensar em Novos Produtos aqui é algo bem simples bem trivial mas que para muitas pessoas já funciona no dia a dia né eu mostrei um exemplo de busca clássica aqui lembra sempre eh pontos principais prompt ele é muito importante então você precisa entender muito de prompt para que você consiga chegar numa curcia boa então quanto melhor o seu prompt mais específico

ele for melhor vai ser o resultado dos seu seus agentes né outra coisa Tá utilizando e o o openi utilize o mini que é muito mais barato e e monitora de perto né como eu falei como você tá utilizando agentes eles fazem tem várias pesquisas na internet várias buscas então ele utiliza muito mais token do que você fazer uma requisição via api normal bem mais eh uma aplicação que faz chamada napi do openi que já é mais específica não aqui ele faz várias ele vai fazendo testes ele manda devolve trabalha no texto Manda de novo

então você vai ver que perceber ali que se você não controlar ele pode fazer até 50 100 requisições bater uma pancada de tokens então monitore de perto o seu custo melhora o seu property para que ele me eh faça menos tokens né Gere consuma menos tokens tá então dois pontos importante aqui e parte de tokens e parte de prompts tá o prompt ele ainda acaba sendo mais importante apesar dos modelos estão evoluindo muito para GPT 4 ou próprio liama o próprio Claudio eles estão evoluindo muito a ponto de que o prompt vai chegar a ser

relevante em algum momento mas ainda não o prompt ele ainda é muito importante então entra na página lá da do Open e leia todo ação de prompt Ah quero fazer um Prom específico leia a documentação do do tipo de Prom que você quer fazer que você vai conseguir extrair melhor resultado D desses carinhas aqui tá então isso Pessoal espero que vocês tenham gostado vou dispar esse código para vocês e até as próximas aí