PROGRAMAR COM I.A. COM CONTEXTO TOTAL!

Nós já mostramos várias ferramentas de Inteligência Artificial específicas pra programação aqui no canal sabe qual é o grande problema delas a contextualização claro que Elas costumam dar sugestões assim bem legais né e com o chat tudo ficou mais fluído mas o problema é que se você tem um code base um pouco maior ou se ainda precisa seguir certos padrões de desenvolvimento Ainda mais quando se você tá programando em equipe essas ferramentas falham miseravelmente nós já falamos várias vezes que no momento que essas ferramentas começarem de alguma forma ali a aprender com o seu próprio código o jogo muda e é isso que tá acontecendo agora em 2024 então a ia pra programação realmente tá indo para outro patamar esse ano e é claro que isso não tá acontecendo só com programação se você acompanha o nosso podcast eu compilado Você viu que a Nvidia cresceu e superou todas as expectativas do mercado se tornando a terceira maior empresa dos Estados Unidos já há alguns anos ela vem investindo pesado em soluções de inteligência artificial para nós que trabalhamos com tecnologia é importantíssimo ficar sempre de olho no que essas gigantes estão investindo E é assim que nós aqui nos mantemos atualizados e um passo à frente nas mudanças do nosso mercado e NVIDIA atualmente é uma das empresas que tem o maior número de ferramentas de sdks apis frameworks to kit voltados pro uso de Inteligência Artificial e machine learning nós já falamos aqui no canal sobre cuda rapids e estamos sempre de olho no que tem de novo e você deveria fazer o mesmo nossa dica então para você i a fazer isso através da conferência de desenvolvedores da NVidia o NVIDIA GTC 2024 que vai rolar agora entre os dias 18 e 21 de Março as inscrições são completamente gratuitas Além disso você também pode sair de lá com o certificado da NVidia pois eles têm cursos Alguns são pagos Ok mas vai ter muito conteúdo relevante para todos os níveis de conhecimento Essa é a hora de fundo na Inteligência Artificial Depois não adianta voltar aqui em 202 C para chorar as máguas pois deixou essa oportunidade passar a gente vai deixar o link para você se inscrever aqui na descrição do vídeo sem desculpem e olha só essa novidade do github CoPilot a maior mudança que essas ferramentas de geração de código por EA vão fazer é justamente aprender a partir do seu próprio código e elas fazem isso com a seguinte abordagem ao editar com o github CoPilot Ele só sabe o conteúdo do seu arquivo atual e possivelmente algumas outras guias abertas ou seja Possivelmente tornando o cego para definições de tipos importantes padrões e maiores conexões com a sua base de código queremos deixar o github calot ver todo o seu repo quando ele apresentar suas sugestões Esse é o grande gargalo hoje dessas ferramentas aqui nessa página eles dizem já que esse estágio está concluído que isso pode ou não tá vendo ó O github pode ou não liberar produtos relacionados a essa pesquisa no futuro então eles já concluíram essa funcionalidade mas aqui eles diz dizem que ela pode ou não ser liberada em produtos relacionados em pesquisa eh no futuro o github copar que a gente tá acostumado a usar que a gente paga lá as 10 doleta por mês não tem esse recurso né é um outro um um outro nível de assinatura E aí na página Ele explica em termos técnicos até como Quais são as estratégias que eles usam para tentar entender o repositório Imagina você tem um repositório local ele não tem como você criar um modelo próprio local ali rapidamente temes E aí eles USG que eles cham de retriever como fosse um índice pré compilado que ele permite procurar rapidamente itens de dados relevantes para determinar a consulta e aí ele tenta determinar alguns pedaços de códigos que são relevantes e a cada vez que você vai fazer ou vai buscar uma sugestão ele meio que anexa isso no prompt sem você perceber ele pode realmente dar uma contextualização maior pro seu código mas para uma base de código grande fazer essa seleção já é mais complexa e de certa forma cada vez que você vai fazer uma solicitação você vai est com aquele prompt muito grande né gigante né meio que ele automatiza o que você poderia fazer do seu lado então ah se eu quero aqui uma resposta sobre o meu código contextualizado É como se você tivesse passando ali as informações do seu código para ele e ele automatizou isso um pouco mas realmente não é um modelo treinado específico né ele tá utilizando o prompt naquele momento e a outra forma é de criar um novo modelo né que ele pode usar como base o Code Bert ou o Unix code que é um modelo pré-treino pra programação e linguagem natural da Microsoft você vê que é open source você consegue utilizar também com o Python você consegue e o py Thor né você consegue trazer esse repositório e treinar o seu próprio modelo local aí sim fazer essa integração mas o que realmente está sendo usado para esse tipo de solução não só o Git rcar mas muitas outras que a gente vai mostrar nesse vídeo é o tal do haag não sei se você já ouviu falar ele significa retrieval argument Generation ou geração aumentada por recuperação e essa é uma técnica que é utilizada na Inteligência Artificial especialmente em Sistemas de processamento de linguagem natural que combina a busca por informações relevantes com a geração de texto só para você entender então de forma bem simplificada ela funciona assim imagina que você tá tentando escrever uma carta para um amigo sobre um assunto do qual você sabe pouco ou quase nada para escrever essa carta uma boa carta você primeiro procura informações sobre o assunto em livros ou na internet coleta os fatos ou opiniões mais relevantes e Então usa essas informações para escrever a sua carta adicionando o seu toque pessoal o processo do hag é semelhante a essa abordagem e aqui tá a solução que a gente falou é o github CoPilot enterprise você tem que habilitar a nível de organização dentro do repositório se você nunca fez você pode criar uma organização e lá você aglomera ali os repositórios dessa organização Então quando você faz essa assinatura do enterprise que é $9 por usuário é você tem acesso a outras ferramentas que se a gente olhar aqui ó é o CoPilot chat no github. com esse cara aqui que é o responsável que eles fazem no fim das contas eles fazem esse processo de um modelo da sua organização do seu código dá para você configurar ó esse repositório não isso aqui não isso aqui sim mas eles fazem esse treinamento não local né na sua máquina mas eles fazem lá no no próprio github Isso é uma ideia bem legal inclusive né interessante eu acho até que é é algo que outras empresas e outras ferramentas vão seguir por esse caminho também né E aí como funciona no fim das contas você vai ter o github. com chat você vai ter uma funcionalidade para você justamente gerar código e perguntar código e Contex atualizar com o seu próprio código no seu repositório então essa sim é uma uma solução utilizando aí todas essas abordagens essa abordagem do haag inclusive eh para fazer com que você consiga no github ter acesso a todas essas ferramentas e essa contextualização que a gente tanto tá dizendo aqui no vídeo mas obviamente Nem só de github CoPilot nós vivemos né então a gente trouxe aqui também por exemplo a pesquisa do stack overflow que perguntou justamente Quais são as ferramentas que estão sendo mais utilizadas pros pesquisados github C tá com 54% então é praticamente é quase todo mundo usa o github CoPilot diferente da nossa pesquisa tá a gente tá rolando a pesquisa de 2024 a gente daqui a pouco vai falar sobre ela vou mostrar como que tá pros brasileiros o uso da Inteligência Artificial tá é um preview aí um um spoilerzinho do que que já está rolando Então nesse caso aqui ó temos o tab 9 o Code Whisper vem com 5% mas tá aí na terceira colocação né e um outro também que particularmente eu acho muito top que a gente vai falar também dele aqui é o codum tá ele não tem uma participação tão grande mas olha só o tab 9 que é das antigas até exatamente veio antes né já foi foi se atualizando com o llm E hoje é um dos melhores também uma das melhores ferramentas para uso de inteligência artificial no código outra solução muito interessante é da própria NVIDIA que é o chat com rtx e essa daí você consegue treinar um modelo local na sua máquina só que ela não é específica paraa programação embora sirva perfeitamente né e mas dá para fazer e o visual dela você olha aqui na página é tão simples quanto tá ali aparecendo você escolhe o modelo que você quer qual é a pasta que você quer treinar ele vai atrás dos arquivos que estão ali pode ser PDF pode ser arquivo de programação também e ele aprende com isso O interessante é tudo local ele usa assim um modelo público Bic né de modelo de linguagem mas as informações elas estão todas locais para você ter esse tipo de de coisa dentro do seu seu computador você vai ter que usar as placas rtx se eu não me engano as séries 30 40 já estão habilitadas e pelo menos 8 GB de Ram na na placa é precisa ter uma máquina mais parruda porque exige da máquina fazer esse tipo de treinamento né o visual ali é é simples então qualquer usuário realmente consegue utilizar e depois que você tem treinado você tem um um assistente em chat super n dentro do teu computador é uma solução também muito útil pro mercado a gente ainda vai fazer vídeo sobre isso a gente estamos aqui atualizando a nossa placa da NVidia para poder fazer esse treinamento e em breve vai ter vídeo no canal sobre isso e o chat com rtx também usa o rag é realmente um avanço que a gente tá tendo nessas ferramentas como Gabriel falou nós temos aqui uma quedinha um carinho especial pelo codum que a gente realmente acha ele muito bom né nos testes que nós fizemos aqui surpreendeu codeon também tem essa funcionalidade ele aprende também com o seu repositório e você pode usar aqui github gitlab aws outras outras bases também de código e ele é muito top para para gerar review de de po request e para você criar os seus próprios testes para quem precisa fazer refatoração de código para quem precisa fazer migração porque o processo de migração muitas vezes é você escrever código pra linguagem novo pra stack Nova para conseguir passar nos testes do que você tá fazendo então o Code nisso é um dos melhores e o tab n que também faz essa leitura na sua base de código e ele deixa assim muito claro em vários pontos aqui na documentação se você analisar de que todo o código seu continuará sendo somente seu mesmo estando nos servidores dele né então ele não permanece lá né A partir do momento que ele treina você descarta você ele descarta as soluções Pelo menos é é o que ele diz é uma das soluções também mais antigas até que o g CoPilot muito utilizada e com aquela eh seente colocar com uma eficiência muito grande tebin foi o primeiro até que a gente testou há muitos anos atrás e continua sendo uma das principais ferramentas para isso é bom você conhecer e eles têm várias eles usam também a indexação usando o o hag como todos estão estão utilizando se você olha a a página deles você vai ver a quantidade de soluções ali que eles têm para te ajudar na hora de você de ler sua base e e contextualizar os seus pedidos e o outro que tava né na lista da pesquisa é o justamente o aws Code Whisper ele é um pouco mais específico para quem trabalha com as soluções daws nós já testamos eles ele também na em outros vídeos né e ele tem uma área muito legal que é de customização Então você consegue criando arquivos de customização você consegue realmente mandar para ele informações que ajudam ele a a te dar mais relevância nas sugestões e assim como outras ferramentas eles também dão ênfase de que a sua base de código está devidamente protegida e separada né ela não é compartilhada com outros usuários e os administradores têm o poder até de dizer o que que os desenvolvedores podem ter acesso ou não né Na hora que você envia as informações para lá agora tem um que tá meio esquecido aí né que pessoal fala pouco que é o Code Lhama da eles também lançaram esse modelo lançaram o Code lama que é justamente pra programação mas eu não vejo muita gente usando apesar do próprio benchmark deles colocarem eles lá em cima né bom né é o próprio benchmark também fica suspeito mas existem ferramentas até que utilizam o lama como base né Então temos que dar aí o voto de de crédito pro Lhama A meta já anunciou que em julho vai ter atualização né vai ter o lama 3 sendo lançado mas a gente tem visto muito pouco disso na comunidade de desenvolvimento a gente não tá vendo tão forte assim se você usa o Lhama ou já testou ou usa no seu dia a dia diz aqui pra gente pelo menos nessas pesquisas ele não tem Aparecido né não aparece em destaque Vamos mostrar então a prévia da nossa pesquisa eu se que você tá curioso né olha só a gente perguntou qual a principal ferramenta de Inteligência Artificial generativa você costuma usar e aí a gente já começa Ó 11,5 por nenhuma então tem muita gente ainda que não adotou isso é bom isso é ruim isso a gente vai avaliar daqui H algum tempo na nossa visão as pessoas têm que incorporar essas ferramentas no seu dia a dia mesmo que elas falar ah eu uso Git Hub CoPilot e às vezes ele me atrapalha às vezes eu desligo mas eu tenho tentado ligar ele a mais porque eu preciso entender como essas ferramentas estão funcionando ex fazer com que elas me deixem mais produtiv exatamente perceber como é que elas estão evoluindo então às vezes você teve aquela primeira experiência com ele lá atrás achou que tava muito ruim e resolveu não dar uma segunda chance vale a pena dar a segunda chance e aí a gente tem que dar o grande destaque que esse aqui fica diferente da pesquisa do stack overflow com 66% não 66,6 número suspeito nós temos justamente quem o chat GPT na pesquisa do stack overflow provavelmente eles não perguntaram por chat GPT não tava na lista mas muito Dev usa o chat GPT eu tento aqui com o chat do Git do github CoPilot e às vezes eu acho meio meio estranho às vezes é melhor tá mas no no chat Às vezes o a conversa flui melhor então muita gente usando sim o chat GPT E aí esses 13,5 que tá ali é porque tem três pagin zinhas aqui né de de ferramentas né é justamente o github CoPilot tá então os outros ali a gente não vai mostrar por enquanto isso é só um um spoiler do que tá rolando na nossa pesquisa se você ainda não compartilhou nossa pesquisa ai ai ai para você vai lá em pesquisa.

cig fonte. com.