Rode modelos de IA direto no seu PC - @CursoemVideo Inteligência Artificial

durante todo esse curso a gente vai falar sobre vários tipos de inteligência artificial inclusive algumas que até te cobram por mês mas como aqui é curso em vídeo eu vou mostrar uma maneira de rodar uma ia sem limitação de graça diretamente no seu [Música] computador Olá pequeno gafanhoto seja muito bem-vindo muito bem-vindo a mais uma aula aqui do seu curso em vídeo de inteligência artificial o meu nome é Gustavo Guanabara meu nome é Ramiro lobo e Ramiro agora a gente vem trazer uma solução muito legal que a gente descobriu aqui para a pessoa utilizar ia

de uma maneira gratuita e sem limitação diretamente da casa dele né Sempre é o objetivo do curso em vídeo né e a gente sabe que a grande maioria das Ferramentas G atualmente elas te oferecem algum recurso gratuito mas para que você tenha um recurso a mais você tem que pagar uma mensalidade e aqui com essa ferramenta que o Guanabara descobriu e que a gente vai mostrar para vocês você consegue utilizar as e as que são Open sources através de um de um software que é é um estúdio Onde você consegue eh utilizar mais de um

tipo de a inclusive e que vai te permitir muita coisa né Guanabara primeiro sim a a sensação de você ter a a sua ia chamar de sua tá no seu computador Isso é uma uma coisa bem bem bacana concorda comigo sem dúvida e Outra vantagem muito importante Ramiro quando a gente usa essas inteligências artificiais né online né Essas que não dependem só da gente a gente pode est entregando a gente não sabe a gente pode estar entregando dados para outras viagens para outras empresas e desse jeito não vai tá rodando tudo na máquina né certeza

é que você vai vai est ali com a tua privacidade ali tranquila tá rodando na tua máquina você imagina agora agora você teve uma grande ideia de um produto in nova E aí você quer utilizar I para te ajudar a desenvolver essa ideia se você faz isso na tua máquina né esses dados não estão indo pra nuv nem pro Google nem PR PR meta nem para openi Então tá tudo aqui na tua máquina eu acho que você vai se sentir mais seguro exatamente não é só a questão da privacidade da tuas ids você imagina o

seguinte muitas vezes com muita gente você tá trabalhando tá fazendo aqui o teu trabalho escolar ou sei lá tá escrevendo um artigo tá usando a i auxiliar no desenvolvimento de um software e a internet simplesmente caiu você perdeu acesso ao chat PT ao gni perdeu acesso a qualquer ia que esteja na nuvem dessa forma se você tiver essa ia rodando na tua máquina Você vai continuar trabalhando continuar utilizando uma ia se você tiver desenvolvendo um software localmente na tua máquina ou um site localmente na tua máquina você continuar trabalhando eu tô escrevendo um um um

artigo ou um trabalho escolar localmente na minha máquina eu vou trabalhando então então assim e isso é uma uma outra questão e nem nem é isso também você resolveu lá ah chegou nas férias tua família tem um sítio e resolveu ir pro sítio passar uma semana e nesse sítio a internet é muito ruim você não tem ainda a antena lá da da do El musk você vai conseguir utilizar É se quem tem de repente já vai ter internet lá até melhor do que o que a gente tem quem tem a starlink né não tô fazendo

papaganda da Starck não viu galera tô vendo você patrocinou não chegou aqui no meu bolso não chegou aqui né só eu que recebi o patrocínio brincadeira então você tá lá num sítio numa região que não tem internet consegue trabalhar de boa então eu acho que essa questão de rodar offline é muito bacana também lógico às vezes você quer que a ia consulte a internet por algum motivo aí já era né aí não tem jeito tá então a tua privacidade Tá salvo não tem limitação e uma coisa que as pessoas não sabem Guara mesmo as versões

pagas das viagem tem limitação Eu já fui quando eu usava a versão Pro do shpt um dia que eu usei com muita intensidade o chat PT falou Calma aí volta daqui a 3 horas e me congelou ali aqui você não vai ter ess n entendeu Você vai conseguir mhor dos Mundos né Ramiro você vai conseguir na tua casa rodar pode estar online pode estar offline tua privacidade tudo aquilo que você digitar tá dentro da tua máquina e você pode testar vários modelos de diar né a sua vontade sem limite nenhum Car Isso é uma Isso

é uma outra e eh possibilidade aqui o Guanabara vai mostrar você tem vários modelos de a de repente você pesquisa você descobre assiste um vídeo Faz uma pesquisa e descobre que um modelo é melhor para escrever texto sim que o outro modelo é é melhor para código então você baixa aqueles modelos que te interessa você pode usar o modelo adequado para aquela finalidade e eu eu eu não conheci essa ferramenta vou conhecer agora com vocês eu cheguei a baixar algumas iis localmente e eu tinha que rodar em terminal que aquele comand que você coloca lá

no dos né aquela preta letra branca que não tem é que não tem essa interface que elegantérrima que o Guanabara vai mostrar pra gente então vamos lá para vocês conhecerem a ferramenta que a gente vai usar que é o LM Studio o o LM Studio né essa ferramenta aqui ela é gratuita tá você consegue baixar gratuitamente Então olha só para você baixar o LM Studio não baixe de outro lugar que não do site oficial deles que é lmst do.ai do jeito que tá aparecendo aí na sua tela por favor não faça besteira né e e

acabar pegando adicionando um vírus no teu computador do do do fornecedor né que você vai ter certeza que você vai você baixando do fornecedor Guanabara você a chance de você ter um vírus é muito menor é quase zero e você vai est sempre baixando a última versão sim sim verdade faz muito mais sentido se alguém diss ah não tem um LM Studio melhor aqui não é LM studio.ai a gente só recomenda você baixar Se for desse endereço aqui outra coisa olha só muito maneiro Ramiro tem para quem usa Linux tem para quem usa Windows e

tem para quem usa Mac então assim tipo tá liberado pra grande maioria das pessoas eu vou eu tô aqui dentro do Windows você pode vir aqui ó download pro Windows no meu caso aqui como eu tô utilizando um processador da Apple então ele tá já detectou que é arm mas e na tua casa provavelmente ele vai mostrar aqui a versão que que que tá atual cara é muito Ramiro mais simples impossível clicou aqui ele vai te perguntar se quer baixar você clica aqui ele vai fazer o download do arquivo quer ver ó cliquei aqui ele

já tá fazendo download não tem mistério eu vou até parar aqui porque eu já tenho ele baixado vou vir aqui no meu na minha aba de downloads olha como é difícil instalar Ramiro clicou duas vezes aqui e espera 15 segundos que ele vai já ter instalado na tua máquina ó aparece isso daqui ele tá instalando no seu computador é coisa rápida ó já abriu LM Studio já criou o iconz aqui na área de trabalho se você clicar aqui em iniciar você consegue procurar o LM Stúdio ó LM aí você já pode abrir o LM Stúdio

então enfim a ferramenta tá aqui gratuitamente todo dia que você entrar tá cara tá atualizando com uma velocidade muito grande vem aqui em cima ó atualizar cheque updates outra coisa importante que já tá aqui na minha máquina porque eu já tinha instalado previamente Tem vários llms ah Ramiro Ramiro o que que é llm a gente vai ensinar né vai ensinar no curso né você vai prosseguir assistindo as aulas né essa aqui é é apenas uma das aulas e você vai aprender a a a utilizar todos esses termos a gente não vai fazer isso agora porque

não é o objetivo desse vídeo nada mais é do que a vamos dizer assim a a aqui neste caso né a o modelo de a que você precisa baixar para continuar utilizando aqui o LM Studio você vai ter que escolher um desses exatamente na verdade vou te falar você pode usar até mais de um mas isso a gente não vai usar agora não a gente vai por exemplo eu escolhi usar nesse vídeo o Lhama que é da foi lançado assim na semana que a gente tá gravando Esse vídeo foi lançada a versão 3 Pode ser

que quando você tá assistindo na tua casa já tem a versão 4 ou 3.5 enfim baixa a versão mais mais refente sempre baixa mais atualizada exatamente sempre baixa mais atualizada na verdade Ramiro você pode por exemplo pegar Até uma versão dois que é um pouquinho menor que consome menos memória por exemplo você pode pode optar por isso tá Ah eu vou eu vou usar um exemplo aqui ó uma outra um outro llm bem famoso né dois bem famosos né tem o Mistral que é da Mistral ai tem o herm Né o Hermes né como a

gente fala aqui existem vários o o Google gema tá aí que tem o gema do Google tá então por exemplo eu vou pegar aqui o hermz eu clico aqui em download aqui embaixo ó se você olhar aqui embaixo editou dá um zoom aqui para mim eu posso vir aqui ó em downloads e tá lá ó mostra aqui que eu já baixei o Lhama no caso e ele tá baixando aqui o hermer eu vou parar tá eu vou cancelar aqui porque não faz sentido eu baixar aqui só para demonstrar mas você consegue baixar quantos modelos você

quiser aí ol o seguinte como que você usa essa ia como é que você vai usar a ia na sua máquina Você vai clicar nesse balãozinho aqui ó que é o ai chat e aqui em cima de tudo você escolhe o modelo Quando você clicar aqui Ramiro ele vai mostrar todos os modelos que estão baixados na sua máquina muita paciência Você vai clicar e ele vai carregar o modelo E aí a velocidade vai depender da tua máquina por exemplo o o Lhama aqui ele tá com Acho que são 4 GB tá ele tá ocupando lá

4.73 GB da minha memória tá então tem que ter memória para ter para para rodar e ah no caso da memória né memória RAM sim sim a memória RAM se você tiver uma placa de vídeo melhor ainda enfim na verdade você vai poder utilizar em qualquer máquina se ela tiver os requisitos tá inclusive Ramiro se a se a máquina se você tentar baixar uma máquina que ele o o LM Studio fala assim Putz sua máquina não vai rodar isso ele vai te avisar tá ele vai falar olha não recomendo você tentar usar o Lhama porque

a tua máquina não tem configuração para isso então beleza coloquei aqui em cima aí nós vamos pra direita aqui editor por favor seguinte ó aqui você pode dar um prompt de como o o a ia vai se comportar A então por exemplo vou botar aqui ó responda apenas em português é um prompto de de de de inicialização vamos vamos chamar assim S inclusive o chat GPT a maioria você que tá aí na tua casa você vai deixar o like se você não soubesse disso tá Se você não souber disso já vai deixando o like e

deixa um comentário dizendo se você sabia ou não muita gente Ramiro não sabe que o chat GPT também tem essa configuração sim você pode configurar lá no seu perfil né dizer já Como que você quer que a gente se comporte ó eu tô aqui no chat GPT rapidinho só um parênteses eu posso clicar aqui em cima no teu usuário e tem aqui ó personalizar chat GPT E aí você consegue configurar instruções personalizadas de como ele vai se comportar e como você como ele quer que ele te conheça é aí é é interessante né você se

apresentar por ele pra gente saber se você é um profissional de ti Provavelmente você vai qu que ele que ele entenda dessa área E como que você quer que ele se comporte ali muita gente Gu já coloca ali o p de inicialização sim ah eu quero que você como eu trabalho com marketing eu quero que você seja especialista em marketing eu não gosto eu não uso aqui né por quê Por qu porque em algum momento eu vou querer que ele se comporte de uma maneira diferente às vezes eu quero que ele se comporte como especialista

em marketing às vezes eu quero que ele se comporte como um programador às vezes eu quero que ele se comporte como um gerente de atendimento então eu gosto de fazer um PR de inicialização ou utilizar um assistente GPT Mas isso é um papo para outra hora então eu procuro não usar Mas não tem problema nenhum utilizar o recurso tá aí Show Beleza então assim isso tudo que o Ramiro que eu tô falando que o Ramiro tá falando você vai aprender durante o curso tá vai assistindo não é isso aqui não é só assistir esse vídeo

e acabou não então eu botei aqui ó responda apenas em português Vamos fazer uma brincadeira Ramiro Vou botar aqui use muitas gírias vamos Escolher uma região das gírias qual qual que você recomenda votar aqui jas cariocas Mineiro mineiras mineiras caramba muito bom mineiras a que não vai entender giras de Minas Gerais e chame todo mundo de moço porque né em Minas o cara fala moço já fiz a configuração essa é uma configuração prévia não é o promp que ele vai executar tá E e eu eu eu não tô rodando que tá rodando a g eu

acho que nem é obrigatório preencher isso não então se eu não preencher isso ele vai me responder sempre em inglês o mínimo que você vai colocar aí é que responda em português senão você vai ter que adicionar essa informação no teu pró sempre né sim é então coloquei aqui e outra coisa a gente não vai entrar nisso agora você pode vir aqui em configurações avançadas e configurar por exemplo a janela de contexto a gente vai explicar o que que é janela de contexto durante o curso temperatura quantos tokens ah quantas quantas trads de CPU enfim

cara tem um monte de configuração aqui o uso da sua GPU enfim você vai poder configurar tudo aqui da suia e tem umas coisas bacanas né O Guanabara porque janela de contexto quando você tá numia como chpt ou j9 você não tem controle sobre ela tudo depende do teu plano entendeu sim aqui você tem controle eu quero gastar memória do meu computador e e e aumentar essa jela do contexto entendeu outra coisa que tem aqui em cima Ramiro eu nem tinha te mostrado isso antes que tipo de resposta você quer você quer em texto comum

quer em markd que a gente vai citar também no curso ou em monospace tá então eu vou botar aqui markd porque é mais vantajoso você vai aprender durante o curso eu vou dar um simples bom dia para ele vou botar aqui Olá tudo bem Olha só a respondendo a Yak tá na minha máquina Tudo bem moço Tô aqui bem obrigado por perguntar tô aqui só aguardando sua pergunta ou seu problema para resolver você tá com pé atrás não tá vamos lá me conta o que que te traz aqui hoje moço então assim cara é é

muito maneiro esse tipo de coisa porque por exemplo volar aqui de onde você é eu sou da Terra das garrafas de leite em pó moço falo de Belo Horizonte capital do Estado de Minas Gerais para você saber é um sutaque bem mineiro sabe cara muito maneiro Ramiro então assim nada disso tá usando a web nada disso tá usando o chat GPT deem isso está sendo usado o Lhama que é um modelo gratuito criado pela meta né criadora do Facebook também e que você tá rodando diretamente na sua máquina então is Cara isso aqui é maravilhoso

você pode usar tudo que vai ser ensinado no curso daqui pra frente você pode usar no chat GPT você pode usar no Gini mas esses dois modelos se você não pagar eles são muito limitados então você pode utilizar direto na tua máquina né Ramiro show de bola hein Eu eu assim que a gente terminar de gravar aqui eu vou baixar na minha máquina porque eu tenho a a é a versão que eu tenho aqui né eu tenho que rodar lá no doos eu não quero isso Quero rodar assim bonitinho né com essa interface o Window

bacana e ó também não vou mostrar como fazer mas olha aqui ó se você vi aqui do lado você consegue criar um local server você consegue criar um servidor local na sua rede da tua casa você dá um start server aqui e você consegue de outras máquinas da sua rede acessar perguntar para esse modelo para esse llm e ele vai responder né diretamente via api então assim basicamente você tem um um um serviço completo aqui no llm studio que nossa isso aqui é maravilhoso cara então brinquem à vontade se você não conhecia é se você

não conhecia cara deixa um comentário deixa um like manda esse vídeo paraas pessoas e fala assim cara olha só o curso de a que esses caras estão dando tem teoria tem mão na massa tem ferramenta nova e tem inteligência artificial tem modelo de Inteligência Artificial rodando da sua própria a máquina cara é a melhor coisa e você pequeno gafanhoto Pequena gafanhota já me segue já segue a gente do curso em vídeo e eu mesmo Gustavo gabara nas redes sociais pois se você não segue tá perdendo a oportunidade de ver o dia a dia de trabalho

eu nem posto tanta coisa nem é tão chato me acompanhar mas é muito importante que você me siga porque é com esse público que a gente consegue os patrocinadores e os contatos que a gente tem para poder trazer ainda mais cursos para você então vai na descrição desse vídeo procura lá todas as redes sociais minha e do curso em vídeo vai lá segue todas e me manda uma mensagem então é isso Ramiro fechamos mais um vídeo aqui espero sinceramente que todos vocês tenham gostado bastante e que ó agora a caminhada é longa V embora que

o módulo um do curso de do curso em vídeo tá caprichadão Valeu galera um grande abraço para todos abração [Música] [Aplausos] [Música] [Aplausos] h [Música]