Como usar a API da IA llama3 em seus projetos?

6.92k views2170 WordsCopy TextShare
Thi Code
Ter uma IA localmente em seu terminal é disruptivo! Agora imagina se você puder usar em algum projet...
Video Transcript:
Inteligência Artificial só se fala em outra coisa hein galera brincadeiras a parte é um assunto que enfim é o Hype a galera tá surfando Eu tenho um conteúdo aqui sobre Como eu utilizo ia no meu dia a dia eu vou deixar o Card aqui para vocês mas o que eu quero mostrar para vocês aqui é uma notícia que eu vi aqui no YouTube no código fonte TV que é sobre a oyama e sim se chama oama eu perguntei para ela como pronunci o nome dela e ela falou que é assim é uma intelig artificial que
a Microsoft tem investido bastante onde você baixa os modelos pro seu computador e ela já tá treinada ali e você consegue utilizá-la no terminal do seu computador Linux Mac ou Windows é sensacional E além disso tem um modelo dentro dela que tem uma API que a gente pode utilizar para colocar dentro dos nossos projetos e enfim criar aí coisas incríveis né enfim assim cara é sério eu utilizei aqui eu achei sensacional óbvio que tem alguns probleminhas de velocidade o pessoal vai aprimorando isso com tempo mas dependendo do projeto que você tiver às vezes Educacional às
vezes para você aprender alguma coisa algum projeto de escola ou enfim um teste ali no seu trabalho Eu Acho super válido você aprender isso aqui bora então pra tela do meu computador para vocês verem esse cara eu tô obviamente com meu vs code aberto porque a gente vai fazer aqui uma API mas se você entrar no site aqui da ama.com O que que você precisa fazer para utilizar essa inteligência artificial tá você precisa fazer fazer o download dela E aí pra Mac Linux Windows E aí ele vai ter um pelo menos pra Mac né eu
já baixei aqui não tá mais no meu histórico Mas enfim eh você vai abrir e vai instalar com aplicativo a partir desse momento você pode abrir depois que você instalar Você pode abrir o seu terminal aí tranquilamente e digitar aí o Yama Run que é o Yama 3 ou o Yama Run que é o pai ou ph3 não sei como a gente pode chamar são duas e dois modelos diferentes os principais aqui né e no vídeo do código fonte TV eles testaram principalmente esse mas eu fiquei com a pouco atrás a orelha sobre a api
da Yama 3 que é a queridinha aí desse projeto da Microsoft porque ela traz pra gente essa api que a gente pode utilizar enfim se você quiser utilizar por aqui a primeira vez que você der o enter nisso ele vai baixar o modelo aí pra sua máquina eu no caso Já baixei então ele já abriu ali então vou falar para ela aqui ó ô lá quem é você vamos perguntar quem é ela e vamos vamos sa ver se ela consegue falar com a gente então eu sou Yama é um modelo de linguagem treinado para conversar
e responder perguntas em português e em qualquer outra língua sou uma inteligên artificial desenvolvida pela meta ai com objetivo de aprender e melhorar constantemente estou aqui para ajudar a conversar e conversar contigo sobre qualquer tema que Queira discutir cara sensacional isso tá então se você quiser sair tem vários comandinho que você pode dar aqui ó se eu colocar qualquer coisa er ele vai me falar ó só barra interrogação ele vai trazer pra gente alguns comandos que a gente pode fazer e um deles é o buy que é o que eu vou fazer agora com vocês
aqui ó vamos sair desse cara porque eu não quero acessar ele aqui Ah enfim o código Font TV fez vários test com com ele no terminal eu quero mostrar algo diferente se a gente entrar aqui no site em models a gente tem uns modelos que existem tá e o mais recente é esse cara aqui o Yama 3 e se você olhar aqui né ele mostra o Model li pá Ah se você descer mais um pouquinho você vai ver aqui o cli para você usar aí no seu terminal ou a api também você pode usar como
api E aí você pode fazer a aquisição pelo terminal eu quero criar uma API realmente mostrar para vocês ali com Express simplesinhas E axos como você pode acessar se a gente entrar na documentação é uma documentação bem massa porque a gente tem o generate compation né que ele vai ser vai gerar aí uma uma um prompt que a gente gera o prompt ele responde e também tem o chat da pra gente como um chat ept mandar ali algumas coisas para eles por padrão ele responde como streaming né ele vai mandando pequenas pedaços da resposta para
você mas existe solução para isso para ele responder né o texto completo é óbvio que Queen streaming é mais rápido e aí você enfim pode tratar isso eh esse essas respostas aí no seu api mas eu vou mostrar aqui sem se com stram e vai ser bem massa tá então Ó a stram of Jason Object R return então você perguntou aqui ó por o céu é azul aí ele manda partes por partes nessa response Ah e eu vou ver eu vou usar essa generate request tá bom para começar né Vamos criar a nossa api e
bater nesse cara aqui ó em local host tá nessa porta aí no seu computador depois que você instalou então para criar essa pzinha rapidamente eu vou dar npm nit aqui para iniciar o meu projeto no node e já vou instalar também o Express para facilitar nossa vida e e o axius tá só esses dois não vai ser uma grande api vai ser algo bem simplesinho tá vamos criar o nosso index PJS e já V importar o o Express E aí eu tô aqui com com CoPilot ligado Óbvio para ele facilitar a minha vida na hora
de escrever esse código aqui para você não ficar cansativo também aí para vocês então con app Express app. use use Express json pra gente conseguir fazer a nossa rotinha de post ele cria aqui uma rota de get mas eu vou criar minha rotinha de post onde eu vou bater aqui na minha ia Ok E aí o que que a gente precisa fazer né eu vou pegar o texto lá do do b e vou bater na minha api aqui que eu copiei né que tá local ruso aqui na minha máquina e você pode perguntar pô Tiagão
e se eu quiser é subir isso para um servidor e tal Provavelmente você vai ter que usar aí o ec2 da da da aws que aí você tem uma máquina Realmente você consegue instalar no Linux ou Yama lá lá nessa máquina e aí você utiliza local host também enfim é uma opção tá bem legal bom Beleza então tenho response aqui né axus post eh e mandando text Na verdade o objeto que eu preciso mandar não é esse né é um objeto um pouquinho mais complexo que ele mostra aqui na na documentação para mim então ten
que mandar Ahã cadê cadê cadê request no stream eu tenho que mandar ele já tava bem aqui né mas enfim eu quero no stram ele tem que mandar Model prompt e stream aqui então vou mandar esses caras aqui dentro Deixa eu formatar para ficar bonitinho aqui ah e o prompt vai ser o meu texto que vai vir lá do meu Body tá então vai ser o text aqui bom a resposta dele precisa ser transformado para string tá então a gente vai fazer o seguinte ó lá em response P deira eh ele vai responder aqui dentro
de response ele vai responder aqui dentro response tá E aí a gente vai colocar deira P response pon string beleza só para ele transformar para string ele tá devolvendo como Jason perfeito Sem problema nenhum e agora vamos fazer o nosso app e ligar né Vamos criar Nossa nosso servidor realmente tá então basicamente é isso só para a gente poderia evitar erros aqui né colocando um try Cat Mas vamos deixar assim mesmo para ficar bem simplesinho a gente ver a utilização desse cara bom vou rodar aqui o Node Node index ele já deu um erro aqui
bonito para mim bom ele tá reclamando do Import porque eu esqueci obviamente de colocar aqui o meu Type como modul Pronto agora ele Não Vai Mais Chorar com Import server Running e agora a gente pode abrir aqui o thunder client o Postman o cliente que você quiser mas tem que ser um postom thunderc porque é uma rota de post tá você poderia fazer uma rota de get Mas aí você não conseguiria mandar um bor diferente né você teria que chumbar aqui esse prompt enfim choices aí bom o que que eu preciso fazer aqui eu preciso
bater em local host local host 2 p 3000 e Barra I A tá mandando o meu Body que é o text né a gente tem que enviar aqui o text e o texto vai ser um Diga oi para a galera do canal do tcode no YouTube Beleza então vamos rodar ah Beleza deixa eu ver que que eu errei aqui e a post na porta 3000 porta 3000 tá rodando listening que que ele tá chorando aqui right Open SSL internal wrong inversion rapaz que erro estranho bom vamos tentar de novo ainda não funcionou bom muito simples
tá com https aqui né tá aqui ó é SSL não tem SSL local Rush então dois pontos barra barra send e aí ele vai demorar um pouquinho né na verdade aqui ele vai dar até um erro eu acho porque é ih deu bom hein ele retornou legal Oi galera do canal do T code aqui estávamos esperando por vocês Fique com a gente vamos aproveitar o tempo juntos ele não formatou muito bem aqui PR PR stream acho que é porque eu mandei como Jason Talvez mas vamos ver vamos ver se agora vai funcionar deixa eu mandar
um send aqui Ele demora um pouco é normal E aí ele tem aqui na documentação é veio na mesma ele tem aqui na documentação como você pode melhorar ó duração Total duração de loading prompt tem várias configurações que você pode fazer para deixar esse prompt melhor tá e depois você pode eh explorar ou ele explica a linha linha qual que significa que que significa o qu isso é muito legal muito legal mesmo e E aí deixa eu só tentar arrumar isso aqui const resp deira response um cont contr C aqui vou colocar aqui dentro e
vamos ver se fica legal para ver essa modificação tem que parar que eu não tô usando no nenhum outro watch a watcher para ficar vendo o meu código ele vai processar boa agora funcionou é só porque tava mandando direto no sing ali não táa conseguindo fazer o true string então aí ó oi galera do canal T code seja muito bem-vindo ao mundo da Inteligência Artificial linguagem natural estou aqui para ajudar e aprender com vocês fica à vontade de participar dos meus desafios e ele poderia ter falado uma coisa que é super importante né aqui no
nosso canal que é você se inscrever se inscrever curtir assinar o Sininho assinar o Sininho É ótimo né clicar aqui no Sininho e me ajudar a fazer esse canal crescer cada vez mais eu conto com você eh mas vamos lá que mais dá para você fazer com esse com esse cara tá Então mostrei para vocês lá embaixo que ele tem o chat também né então ele tem o chat mas isso aqui é sensacional você pode criar um modelo você mesmo de int de Inteligência Artificial e é aqui ó P Create modifi E aí você vai
criando o modelo eh com as informações que você quer né tipo falando ó você é o Maro do Super Mario Bros E aí você tipo vai vai moldando esse modelo de acordo com o que você quer tá tudo aqui gente é sensacional assim a documentação é bem detalhada e tá crescendo eu acho que esse tipo de linguagem aí vai democratizar bastante o uso de inteligência artificial para você que usa aí o chat ept gratuito né para você que não tem o pago eu acho que pode te ajudar bastante e enfim não esquece de curtir compartilhar
eu com com você quanto com a sua ajuda aqui no canal e me diz aí que que você achou dessa linguagem dessa desse modelo se você já utilizou se você já pensou aí em utilizações poderia inclusive utilizar direto num front end aqui sem precisar de um backend local host funcionaria também super bem te espero nos próximos vídeos com mais dicas aí de programação até lá h [Música]
Related Videos
CUSTOMIZAMOS O LLAMA3 E AGORA ELE É UM ASSISTENTE PARA PROGRAMAÇÃO
13:04
CUSTOMIZAMOS O LLAMA3 E AGORA ELE É UM ASS...
Código Fonte TV
17,204 views
Use GRATUITAMENTE o Llama3 a nova IA DE TEXTO da META!
13:25
Use GRATUITAMENTE o Llama3 a nova IA DE TE...
Wesley Paulino Coelho
2,057 views
Como usar o GPT com seus próprios dados?
27:42
Como usar o GPT com seus próprios dados?
Asimov Academy
71,656 views
GEMINI da Google com AI Studio | Melhor Ferramenta de IA
8:26
GEMINI da Google com AI Studio | Melhor Fe...
Inteligência Mil Grau
6,636 views
LLAMA 3 + Ollama + API
13:43
LLAMA 3 + Ollama + API
DavidBU
3,984 views
INTELIGÊNCIA ARTIFICIAL - COMO USAR O OLLAMA PARA TESTAR VÁRIOS MODELOS DE IA !
22:41
INTELIGÊNCIA ARTIFICIAL - COMO USAR O OLLA...
Espaço Digital
1,253 views
5 Projetos Que Criamos Usando a API ChatGPT Que Facilmente Viram Negócios / Startups
29:21
5 Projetos Que Criamos Usando a API ChatGP...
Código Fonte TV
95,323 views
Novo LLama 3.1 da Meta de Mark Zuckerberg Promete Ser O Maior Sucesso Das IAs e É Grátis
13:22
Novo LLama 3.1 da Meta de Mark Zuckerberg ...
Inteligência Mil Grau
9,236 views
Earn $1,350/Day with ChatGPT & Google Drive for FREE
17:03
Earn $1,350/Day with ChatGPT & Google Driv...
Chad Kimball
385,021 views
Como CRIAR AGENTES de IA com CrewAI - com ANIMAÇÕES!
22:29
Como CRIAR AGENTES de IA com CrewAI - com ...
CANAL SANDECO
25,317 views
Melhores ferramentas para criar Agentes de IA (sem programar)
23:31
Melhores ferramentas para criar Agentes de...
NoCode StartUp
19,713 views
Como usar seu próprio conteúdo em Inteligência Artificial no GPT3.5 - RAG - (PASSO A PASSO)
21:41
Como usar seu próprio conteúdo em Inteligê...
tech mumus
4,456 views
Como Criar Agentes IA Sem Código (a forma mais simples)
8:51
Como Criar Agentes IA Sem Código (a forma ...
Alan Nicolas
20,406 views
Conheça o Anything LLM a ferramenta que te permite treinar sua IA em ambiente local
23:57
Conheça o Anything LLM a ferramenta que te...
dcode
8,710 views
Make X N8N X Zapier X Buildship | Melhor ferramenta de Automação
18:05
Make X N8N X Zapier X Buildship | Melhor f...
NoCode StartUp
11,810 views
FINALLY! Open-Source "LLaMA Code" Coding Assistant (Tutorial)
7:21
FINALLY! Open-Source "LLaMA Code" Coding A...
Matthew Berman
139,839 views
Como CRIAR uma API com PYTHON [DO ZERO]
22:28
Como CRIAR uma API com PYTHON [DO ZERO]
Dev Aprender | Jhonatan de Souza
111,454 views
Meta Lança Llama 3.1, e Bate em GPT-4o e Claude 3.5 Sonnet (Comparações e Benchmarks)
19:37
Meta Lança Llama 3.1, e Bate em GPT-4o e C...
Sancler Miranda | IA Revolution
7,673 views
Como criar um Time de Agentes IA para Automatizar seu Trabalho em menos de 10 minutos
11:50
Como criar um Time de Agentes IA para Auto...
Well Pires
9,926 views
API do Gemini AI da Google Grátis em Python - Assistente Falante
9:06
API do Gemini AI da Google Grátis em Pytho...
Inteligência Mil Grau
12,101 views
Copyright © 2024. Made with ♥ in London by YTScribe.com