TUTORIAL da AMAZON BEDROCK para INICIANTES: crie aplicações de IA

E aí pessoal bem-vindos e bem-vindas a mais um episódio da websérie sobre ias generativas aqui no canal da lura eu sou Fabrício Carraro E hoje é um episódio especial onde a gente vai falar sobre uma ferramenta que muita gente tá comentando né muita gente tá usando no dia a dia de trabalho delas isso aqui vai ser basicamente um tutorial Inicial né de como do que que é essa ferramenta na verdade e também de como utilizá-las né um passo a passo inicial dela que é o Amazon Bad [Música] rock e para esse papo aqui eu trouxe

uma pessoa mais do que especial uma especialista da área que é a Erika nagamini que ela é arquiteta de soluções Sênior especialista em dados e ia lá na Amazon aws tudo bem Érica Tudo ótimo Fabrício bom obrigado pelo convite pessoal aí Espero que vocês gostem do conteúdo do que eu preparei aqui com todo carinho para vocês maravilha então Érica o palco é seu Fique à vontade para apresentar pra gente o Bedrock legal gente olha que eu preparei aqui é uma dinâmica um pouco assim diferente no caso pra gente ver tá não vai ser tão assim

aquela coisa meio massante sabe de aula não a gente vai fazer num estilo um pouco mais livre então eu tô aqui com essa tela em Branco e a ideia a proposta dela é que eu vou explicar as funcionalidades primeira aqui do bed rock depois a gente vai pro mão na massa pra console mesmo para ver como é que e essa funcionalidade aqui dentro daquele seu sua caixinha de ferramentas pode ser utilizado então gente o Amazon badrock ele é a nossa o nosso serviço de funcionalidades digamos assim de Framework Onde você consegue usar e a generativa

no fim do dia né você vai conseguir com ele por exemplo usar várias FMS né que são as nossas foundation models Vou colocar aqui ó até Vou escrever bem grande aqui pra gente guiando e aí lá no final a gente vai recapitular tudo isso aqui que eu tô escrevendo tá bom então A ideia é que você consiga com ele interagir com as chamadas api e usar esses foundations models éca que foundations models são esses exemplos bem conhecidos assim a gente tem por exemplo os modelos da antropic eles faz fazem parte aqui desse bolso de modelos

né então tem da antropic tem da Meta né então tem n outros lá daqui a pouquinho a gente vai ver na prática tem da própria Amazon também outra funcionalidade que o Bedrock tem além dessa parte aqui de FMS a gente vai ver que ele tem a funcionalidade também de trazer aqui um playground e para que que esse playground ele é tão importante pensa o seguinte se a gente pode pegar o poder de todas essas essas foundations mods essas llms que foram treinadas ali com uma grande conjunto de dados como é que a gente pode experimentar

na prática né então e comparar né então o playground ele serve para isso para ser o seu parque de diversões ali na hora que você vai experimentar essas FMS na prática você também pode construir os famosos agentes e os Agentes eles podem te ajudar no seguin em tarefas né Você pode dedicar tarefas para eles passando ali pelas foundations models e eh ele vai te responder inclusive o que eu trouxe aqui um exemplo na prática é de uma empresa né então onde a gente vai ali consumir vários tickets a gente vai criar um agente ali também

para para assim para vocês poderem experimentar um pouquinho mais nessa funcionalidade que é utilizado em muitas outras empresas né pensa o seguinte uma empresa que tem a necessidade de controlar ali seus tickets de acesso né vamos supor Ah olha eu requisitei eu sou um grande Marketplace de produtos sei lá sou uma empresa de varejo né então eu comercializo ali produtos como é que eu vou interagir com os meus clientes de uma maneira mais natural para saber se eles gostaram ou não daquele produto se aquele produto deu algum problema onde eles podem abrir ali aquele chamado

né então esse agente ele vai servir ali com esse papel bacana outra outra questão que a gente pode fazer dentro do badrock é justamente a parte de a gente fazer o fine tuning de modelos né então vou colocar aqui fine tuning de modelos né e para que que serve essa operação aqui de F tuning ela é muito importante principalmente para você refinar né e melhorar aquela resposta que ela vai te dar né então como é que você faz isso pode ser pelos paros né parametrizando ela então adequando ali as respostas então a gente consegue usar

essa funcionalidade aqui para adequar ali para uma necessidade que você venha a ter ali do mercado fora isso a gente pode trabalhar o que a gente chama de otimizações E aí as otimizações além do F tun a gente pode fazer ela também na inferência né então o b rock ele tem funcionalidades para atuar ali em cima da dos modelos legal então a gente também vai passar um pouquinho por isso e falando de algo que é muito importante nesse contexto o badrock você consegue também especializar para quem Poxa eu não conheço tantos modelos ali os foundations

modos as llms e eu preciso especializar ela numa maneira digamos assim mais robusta né com os meus dados porém eu não preciso conhecer Aquele modelo a Fundos parâmetros que eles usam para poder refinar Esse modelo fazendo ali um fine T eu posso trabalhar com o que a gente chama de knowledge bases bases Então as bases de conhecimento né ou knowledge bases permitem você colocar ali seus dados né Então pegando ali seus dados você vai pegar ali dados armazenados e estruturados de diversas maneiras podem ser de bancos de dados pode ser de histórias de objeto como

o Amazon S3 e você consegue passar para ele né Aí você vai ter um modelo específico que consegue transformar esse essa base de conhecimento em uma algo que o próprio modelo vai conseguir entender né que a gente chama assim eu sei que é uma definição existe n outras técnicas transformar em vetores Mas essa é a parte do hag Então você vai transformar isso aqui em hag com algum modelo para que os outros modelos que estão ali dentro aquele arcabouo consegir entender né porque no fim do dia o que que ele vai conseguir entender para fazer

aquela proximidade né e entender aquele contexto prever o que você vai falar na prática né que é isso que os modelos fazem Ele vai tentar eh verificar quando eu começo a digitar ali ele vai tentar predizer o que que eu vou falar na sequência né então para fazer eh essa base de conhecimento e eu passar todo esse meu conhecimento aqui pro meu modelo Eu preciso de uma de bases legal então essa é uma maneira mais simples agora se eu sou super Expert conheço ali uns modelos a fundo sei como parametrizar ele para melhorar as respostas

para mim tem o fine tuning legal e a parte de inferência por exemplo eh dentro do do do Bedrock né eu consigo pegar um modelo H muito maior e retreinar ali fazendo algumas inferências por exemplo trazendo um modelo customizado também existem aqui então bem bacana a gente consegue ã usar essa funcionalidade aqui para trazer mais valor ali pro meu dia a dia então você vê que tem várias Vertentes deja para quem que conhece muito ou para quem quer algo mais rápido ali que já esteja pronto vou especializando com os meus dados né a gente consegue

trazer dentro desse Arc bolso aqui do amazon Bedrock fora isso vamos falar de outra funcionalidade muito importante tem o viés de segurança pensa que segurança a gente tem que pensar desde o momento zero como é que eu faço isso para não por exemplo vazar nenhum tipo de dado eu consegui deixar isso restrito ali aos a minhas informações dentro do meu contexto né dentro da minha empresa que esse dado não vá para fora né então tem vários mecanismos ali de segurança que o badrock oferece um deles por exemplo são os guard rails né então você consegue

ali fazer guard rails para que aquele determinado modelo por exemplo não responda de em algumas palavras que sejam digamos restritas ali a minha empresa né não vaze nenhum tipo de informação bacana fora tudo isso né O que que eu acho que é legal e Ele oferece também e formas de você consumir imagina que ele é um serviço de nuvem então todo serviço de nuvem quando a gente consome a gente vai pagando conforme o uso e se eu quiser pagar mais por exemplo eu sei o quanto eu vou utilizar e eu quero pagar um pouco mais

barato porque eu já sei então eu falo assim olha a WS eu vou usar x vou fazer x chamadas ali vamos supor 10.000 chamadas ao Bad Brock né Por um ou TR anos por exemplo né eu consigo fazer a capacidade de reserva para inferência tá então isso é um algo importante para quem quem quem já tem uma certa previsibilidade que vai de utilização desse serviço isso você consegue fazer e essas inferências eu vou colocar aqui preço inferência né então reserva de capacidade Então você consegue fazer isso justamente para você ter um um custo ali um

pouco menor né então eu quero pagar um pouquinho menos por aquele serviço é importante a gente saber todos esses pormenores fora isso né Eh tem mais outras duas funcionalidades que a gente vai passar aqui e a ideia é deixar isso aqui escrito para que a gente revis ali ao final você também pode fazer o quê a comparação dos modelos comparação dos modelos Lembra que eu falei que o no playground aqui você conseguir usar ele ali na prática e a gente vai experimentar um pouquinho desse playground mas a comparação dos modelos ela é muito importante porque

a ideia e a proposta aqui do Bad rock como um todo é que você não fique restrito a um modelo só você pode utilizar aquele Arc bolso e o melhor eh modelo que lhe servir né imagina que tem modelos que foi foram treinados com uma quantidade maior de dados Pode ser que pela estrutura de construção daquele modelo ele seja um pouquinho mais caro poxa será que um modelo menor ali ele já não vai me atender naquele meu caso de uso pode ser que sim né Eh o que que você pode levar em consideração aqui quando

a gente fala de comparação de modelos a quantidade de tokens né a quantidade de dados que eles foram treinados fora isso o suporte dele né Tem modelos que ainda não respondem tão bem por exemplo na língua que eu tô falando aqui em português e aí para fazer essa comparação você pode né ter ali dentro do seu Framework né da sua caixinha ali várias opções de escolha e é essa proposta aqui do Bad rock né e por último né pra gente recapitular aqui eu vou colocar até aqui no cantinho é integração com serviços da WS então

Imagina eu citei aqui até como knowledge bases né eu citei aqui por exemplo a parte aqui de banco de dados de do amazon S3 mas tem outros serviços que podem utilizar o bed rock né fazendo ali chamadas de api tá então eu preciso dessa integração para facilitar meu dia a dia Então seja você ali e já usuário de ambientes em nuvem dentro da WS seja você não ele pode atender essa proposta Então pensa no badrock lá como o nosso Supermercado né lá dentro do supermercado como é que a gente faz eh eu quero comprar um

produto por exemplo sabão e pó sabão e pó eu vou ter várias opções ali como é que eu escolho sabões os diversos sabões em pós às vezes eu posso ir pelo preço Ai Olha eu quero pagar mais barato por esse sabor pó mas eu quero às vezes um sabão em pó mais especializado pensando assim ah olha eu quero escolher esse porque ele é mais preparado pro tipo de roupa que eu uso sei lá uma roupa Escura então esse aqui vai atender melhor não vai desbotar minhas roupas ou eu uso muitas roupas Claras então eu vou

pegar um que atenda ali a parte de roupas Claras Então essa é a proposta como um todo pensa de Bad rock como esse grande supermercado onde você vai conseguir escolher ali o melhor sabão e pó né o melhor modelo que vai te atender no fim do dia tá bom então isso aqui é é o que a gente vai revisitar e o que a gente vai vai ver hoje vamos lá pra prática porque senão vai ficar muita falação e eu quero mostrar para vocês eu tô ansiosa para esse momento Vamos lá gente para quem nunca viu

uma console da WS tá então essa aqui é a console da WS Aqui é onde você consegue experimentar os diversos serviços né experimentar mesmo porque a proposta da nuvem é você vai usar Você vai pagar por aquilo que você tá utilizando quando você utilizar não é porque o serviço tá disponível aqui você vai conseguir Ali vai estourar a conta do seu cartão de crédito não não é essa proposta Eu preciso daquele serviço eu posso utilizar naquele momento né serviços eles ficam aqui organizados de uma estrutura que a gente chama de categorias então nessas categorias eu

tenho os diversos serviços que vão me atender aquela necessidade por exemplo o Bedrock ele tá na categoria de machine learning então aqui eu tenho badrock né eu poderia chegar com essa maneira né que é a maneira aqui que eu vou consultar ali os diversos serviços se eu não souber para que para que que aquele serviço é dedicado né eu posso vir aqui e ver as descrições bacana Ó tem serviços de Analytics de Database enfim não vou entrar muito nessa questão uma outra forma de chegar através dos serviços é justamente por essa barrinha de pesquisa essa

barrinha de pesquisa ela é mediante ao que você tá pensando ali em utilizar né se eu souber o nome do serviço eu vou lá e digito Qual que é a vantagem da Barrinha ela tem acesso a documentações artigos tá então tudo que envolve aquele serviço como um todo então eu vou vir aqui no Bedrock e pensa que o Bedrock ele pode ser utilizado eh de acordo com aquele eu não vou passar muito pelos detalhes mas só explicando um pouquinho né ele pode ser utilizado num numa região específica numa localização dentro do do Globo n aonde

eu vejo essa localização dentro do Globo aqui em cima tá eu vou usar aqui que por exemplo lá em Oregon poderia usar por exemplo em São Paulo sim né só que eu teria aqui tá aqui ó essa não né eu posso vir aqui e alterar para São Paulo por exemplo né então eu conseguiria ter acesso ao Bedrock em São Paulo só que essa conta que eu preparei para mostrar para vocês aqui eu pedi as liberações dentro de Oregon legal então por isso que eu vou usar Oregon mas vale a pena você pensar aí quando você

for implementar em que região você vai utilizar já que o preço varia de acordo com a região Isso é uma um um requisito por quê porque cada região cada parte ali do Globo cada país cada espaço geográfico vai ter a sua coleta de impostos específicas Então imagina quando eu consumo o serviço eu tô englobando não só a infraestrutura que eu tô utilizando mas tudo né que ah que está ali satélite a esse serviço né que a gente não vê Às vezes a a gente não vê o consumo de energia enfim entre outr imposto então por

isso que o preço valia ali por região Bacana Então foi um bom overview pra gente chegar aqui no nosso bed rock chegando aqui no Bedrock olha só que interessante né a gente tem aqui uma barrinha aqui do lado que é um menuzinho onde a gente tem as diversas capacidades que eu fui citando aqui para vocês assim a gente citou obviamente para conhecer essa ferramenta a fundo assim a gente levaria ali mais um tempinho mas a ideia aqui é deixar um gostinho de quero mais para vocês Então pensa que ao chegar a Band rock o que

que eu preciso fazer eu preciso pedir acesso às aos meus foundations models as minhas llms como é que eu faço isso dentro aqui do menu se a gente for descer um pouquinho a gente tem aqui a parte de Model access né então é aqui que eu vou requisitar a o acesso aqu aquela e aquela llm específica E por que que tem essa parte aqui de eh de acesso ao modelo né justamente porque pensa que não é só modelo da aws não é só modelo da Amazon que você pode consumir aqui nesse seu supermercado de modelos

não você pode consumir de terceiros então cada um tem os seus termos de aceite por isso que a gente tem que colocar aqui ã esse acesso aos modelos né Então imagina ó eu vou só fazer assim ó só para vocês terem uma ideia quais ex estão disponíveis aqui agora né Então a gente tem já para consumo né os os próprios da Amazon né então a gente vai ter modelo olha só que interessante aqui não acesso de modelo e isso a gente pode conhecer aqui tem modelos que respondem somente por texto Então a gente vai ver

que a modalidade aqui por exemplo é text agora tem modelos por exemplo que conseguem gerar imagens né então a gente tem modelos preparados para isso outros modelos que geram os embeddings né ali a parte de hag por exemplo né então Você conhece ali a sua estrutura do knowledge bases ele vai transformar ali em em tokens né ele faz essa parte de embeddings Para justamente a gente especializar o modelo com o nosso dado bacana e tem modelos que a gente meio que chama de multimodais que tem múltiplas capacidades por exemplo texto e visão texto e imagem

texto e vídeo né então aqui a gente consegue eh conhecer um pouquinho ã das modalidades e os termos de aceite de cada um tá aqui do lado Legal tem os famosos da antropic Então os ó Claude 3.5 haik Sonic Sonic V2 eles estão aqui legal que já tem ali as descrições né Tem da corar Luma e muito legal esse aqui ele é bem indicado para vídeo eu mesma já testei bem bacana então aqui a gente tem o nosso Arc bolso de modelos legal E aí o que que eu tenho que fazer aqui se o modelo

por exemplo eu não tenho acesso ele eu posso vir aqui nesse botãozinho aqui e requisitar o acesso né eu venho aqui clico aqui e requisito aquele determinado acesso legal já pedimos os acessos tá aqui os acessos concedidos né O que que a gente vai fazer primeiro eu vou experimentar o playground só para mostrar para vocês né eu vou experimentar no modelo de chat por exemplo você poderia ser um single prompt ou chat né então é mais para você interagir o que que é legal ele vai te dar os parâmetros né quanto você colocou de input

output a latência né então para você comparar aí os modelos ó por exemplo vou pegar um exemplo nova pro aqui da Amazon e eu tô tô sem uma ideia aqui eu vou pensar aqui uma ideia na hora pensando aqui eu queria saber quem descobriu Brasil por exemplo quem descobriu Brasil vamos ver como é que esse modelo responde eu não testei essa pergunta Tá bom aí a gente vai ver como é que ele responde eu quero comparar modelos então ele vai fazer ali ó a uma a de acordo com a base de conhecimento ele vai responder

E aí ó legal Quem descobriu o Brasil ó descoberta do Brasil foi Pedro alcab baral legal olha só então o modelo nova pro Ele respondeu dessa determinada maneira legal agora vamos testar outro modelo só pra gente ver E aí como é que a gente faz esse teste né entre modelos a gente pode ah esqueci de mostrar aqui ó tá vendo que aqui ele mostra a latência qual que foi o input e o output né então para você tem métricas de parametrização né se ele tá respondendo bem ou não bacana eu vou trocar o modelo aqui

ó vamos pegar o o Son da da Claude aqui da da antropic vou fazer a mesma pergunta tanto que eu peguei copiei e colei né então vamos ver olha só tá vendo aqui ele já fala que tem outras is olha só que bacana né então ele oficialmente ele falou que foi o Pedro Calel com os dois modelos Olha que olha só que interessante né então a data aqui tá correto né 22 de abril de 1500 né Mas aí tem algumas teorias então ele já dá uma base um pouco maior então isso tudo depende da maneira

e dos dados com que cada modelo foi treinado e olha só tá vendo a diferença ele é aqui a gente gastou assim quase semelhante ele deu uma outra resposta Bacana Então dá para fazer essas comparações aqui fora isso Lembra que eu falei que dava para fazer fing t n que seria mexer nas parametrizações de cada modelo né então eu consigo fazer isso aqui do lado dentro até próprio aqui do playground e o playground ele só acessa eh texto não gente tem aqui ó paraa imagem para vídeo faço a mesma coisa né eu posso vir aqui

selecionar aqui um modelo específico e pedir aqu ele só fala assim olha vai ter um custo a mais para armazenar o vídeo no caso para vídeo né que você precisa ali o custo do S3 né porque ele vai gerar aquele vídeo vai persistir no S3 só para mandar ali para você fazer o download legal então aqui é a mesma coisa eu posso vir aqui de fazer um prompt e ele vai me gerar o vídeo bacana então playground ele serve para isso pra gente conseguir brincar aqui um um pouco mais com essa solução Legal vocês viram

ali que eh eh ele me deu respostas óbvio que é de acordo com o conhecimento dele mas e se eu quero especializar com os meus dados aí você pode usar a técnica que a gente chama de knowledge bases né então ah a knowledge bases é a base de conhecimento que a gente vai ofertar ali pros nossos modelos né Então pensa que eu posso vir aqui criar uma knowledge bases que vai providenciar para aquele modelo ser mais especialista ali com os meus dados posso criar isso de três formas ali eu posso criar uma base já com

Vector Store se é uma base mais estruturada eu posso selecionar aqui com os dados já mais estruturados ou até mesmo eh para haag né então a gente tem ali o o Vector Store né E essa é uma opção aqui do Kendra né que o Kendra também é um é um digamos assim é um serviço da WS que tem a capacidade de armazenar ali como index né para a gente fazer fazer as nossas perguntas Então são dessas três formas eu vou mostrar aqui rapidinho como é que cadastra uma knowledge Bases na parte mais estruturada por exemplo

a gente pode trazer aqui ao head shift que é um serviço de data Warehouse Tá mas eu vou pegar outra opção aqui só para mostrar para vocês as diversas capacidades aqui que a gente tem com o produto Olha só n então o que que pode servir como um fonte e de algo que é com Vector hisor posso pegar o do próprio S3 né então ele vai varrer ali o nosso Bucket aquele balde de informações que a gente consegue fazer upload né a gente consegue carregar os nossos arquivos eu posso fazer um crawler da web tá

preview né Mas pensa que esse web crawler eu crio ali um crawler que vai varrer páginas web para trazer aquele conhecimento muito específico exemplos que eu posso utilizar isso aqui justamente ali às vezes eu tenho uma a minha intranet a página ali da minha empresa interna então eu posso mandar fazer um crawler ali para poder varrer aquelas informações e especializar meu modelo Posso trazer ali eh algo mais customizado tem também de terceiros né então citando aqui ó por exemplo a gente tem até a parte do do se Force que tá em preview n Então essas

fontes de dados aqui elas vêm aumentando ao longo do tempo lá tem outras parametrizações como é que a gente configura como é que vocês escolhem tá mas aqui só para mostrar para vocês eu já trouxe uma base de conhecimento já específica e aonde eu tirei a as minhas fontes de dados para essa base de conhecimento justamente de alguns dados que eu tenho persistidos dentro deste Bucket deixa eu até abrir aqui para vocês né Então olha só essa aqui é as minhas fontes de dados eu tenho fonte de dados aqui de duas empresas basicamente né uma

é uma empresa de de tecnologia ali que atende vários chamados e essa empresa de tecnologia ela atende chamados de outra empresa que é de varejo tá então os clientes compram Eh esses produtos e a empresa de tecnologia basicamente eh ajuda ali na na parte de logística de entrega né Tem softwares para isso e também tem ali uma parte preparada ali para você pros clientes interagir né poxa se eu não recebi aquele determinado produto como é que eu faço essa interação se eu quero fazer alguma reclamação tá então tem dados dessas duas empresas aqui que eu

que foi carregado tá vendo ó dados de produtos Olha só então não são Dados que não não estão estruturados né Tem dados aqui ó por exemplo de arquivos do Word né então tem várias informações aqui e aí o que que é legal né aqui eu vou ã ele vai varrer né Eh a ideia aqui é que seja varrida essas informações Ó tem até até de jons pra gente especializar um modelo específico então eu mostrei ali aonde tá persistido legal ã para tudo isso tudo tudo funcionar né a gente poderia vir aqui sincronizar eu já fiz

isso para vocês porque a sincronização ela é com base eh digamos assim nos dados que você tem então demora ali um pouquinho mais né mas a ideia é é que você tem que sincronizar para quê né para que ele vá colocar isso dentro de um Database que tem suporte a vetores tá então ele vai fazer com que o modelo consiga entender através desses vetores que nada mais são que tokens numéricos por exemplo onde ali dado a um contexto que a gente passar o modelo vai entender tá então existem formas da gente fazer isso tá então

detalhadamente como é que eu fiz isso aqui né Eu usei um modelo que é preparado para fazer os embeddings né então ele vai quebrar tudo aquilo que eu falar tudo que estiver dentro da minha base de conhecimentos em vetores tá eu usei o Titan text embeddings V2 para fazer isso e persistir esses esses dados por exemplo no open search Serv isso significa que eu preciso sempre usar os as mesmas formas assim tanto de fazer embeddings quanto a persistência de vetores não tá eu fiz isso aqui apenas para mostrar para vocês mas vocês têm a opção

de escolh Ah eu quero armazenar meus vetores em uma base por exemplo ex post que tenha suporte abtes Poxa pode fazer tá então é você é livre no fim do dia e o que que é legal depois que eu especializo ali o meu modelo né Eu posso escolher qual modelo eu quero utilizar para se beneficiar ali do conjunto dessas informações desses embeds então eu posso vir aqui selecionar o modelo específico e eu consigo interagir com ele né Então essa é uma forma da gente conseguir testar aqui um pouquinho na prática de como ele funciona legal

eu vou testar com algumas perguntas até elas estão em inglês mas é mais pra gente ver tá significa que isso aqui não possa ser respondido em português não a gente vai fazer testes também tá bom mas vai ser de acordo com o modelo então selecionei ali um modelo específico Claud 3.5 né então eu vou pedir ali um determinado produto daquela empresa de varejo né Então olha só eu perguntei para ele quais os principais os problemas mais comuns que eles têm num num em um alguns plugs tá olha só baseado nas na na no na minha

base de conhecimento o mais o problema mais comum desses plugs é e terem consistência ali no wi-fi Olha só então múltiplos clientes eles estão reportando isso que esses plugs ali T algum tipo de problema agora eu posso interagir de uma maneira que ele me responda por exemplo em português me responda vamos fazer esse teste responda em português vou dar um executar aqui e olha só vamos ver se ele vai responder para mim olha só al já traduziu bacana né Então olha só que mais bacana ainda n na base aqui em português ele também já me

trouxe ali as fontes de dados da onde ele conseguiu essa determinada posta né ele agrupou ali e me deu as fontes de dados Então as fontes estão aqui ó tá vendo em arquivos Jon Olha só então ele localizou de acordo com a minha base de conhecimento e ele já trouxe aqui Quais foram os objetos os arquivos que tem ã aqueles dados né da resposta dele e se vocês quiserem Dá para vocês moverem aqui a resposta né de como ele agrupou né esse todo esse dá para ver e dá para fazer inferências por exemplo na configuração

das queries né então ele quebrou aqui em diversos pedacinhos para me dar ali aquela resposta e aqui você consegue ver como é que aquele modelo respondeu o que que ele fez por trás para me responder no fim do dia bacana E aí mais outra funcionalidade então aqui a gente testou ali as knowledge bases Mas vamos supor que eu queira criar ali alguém uma pessoa que vai lá naquele meu supermercado e eu vou escolher um determinado tipo de sabão em pó que era o nosso exemplo lá no passado e eu vou especificar para essa pessoa como

é que lava a roupa Primeiro ela vai ter que separar ali a roupa né entre cor clara cor escura depois que ela separou ela vai usar o determinado tipo de sabão e pó para cada uma dessas roupas né roupas escuras devem ser lavadas com algo que não desbotem ali o modelo ros spotem ali a roupa no fim do dia roupas Claras podem ter um certo tipo de componente como Arante né então quem faz isso no fim do dia a gente pode transformar ali ah a parte de Agentes né então os agentes basicamente eh você consegue

especificar para ele né de acordo com algumas instruções o que que ele vai ã executar né na prática n então aqui eu já Criei um agente que Lembra daquela empresa né que tenha das das empresas fictícias que a gente tá usando o dado aqui empresa de varejo com ali as os nossos produtos e os atendimentos dos clientes né então eu criei aqui um ã um agente de suporte que ali no fim do dia vai me responder sobre como é que h vai responder ali pro cliente de acordo com os meus dados o que que aquela

minha a empresa ali pode atender como que ela pode atender melhor os nossos nossos clientes tá então as instruções para esse agente eu coloquei aqui e notem eu também posso fazer a seleção de modelos tá aqui tá eu deixei aqui o modelo já mas eu já coloquei aqui que ele é um assistente pessoal para suporte então ele vai auxiliar o cliente e se ele não souber por exemplo ele vou falar assim que eu não tenho informação suficiente tá e eu coloquei sempre para responder em português Érica essas instruções elas poderiam ser também ser feitas em

português podem tá E por que que eu fiz em inglês aqui porque eu uso essa demonstração aqui no meu dia a dia de trabalho e às vezes eu não faço só isso em português Eu Faço em espanhol por exemplo ou até mesmo em inglês tá então coloquei em inglês mas eu quero que as respostas sejam sempre em português então eu interligue tudo isso com aquela minha base de conhecimento Que Eu Já criei já treinei ali né já distribuí ali meus clientes enfim ele já conhece né então interligue isso e o que que é legal Dá

para você parametrizar né o como ele vai fazer isso e você pode fazer inferências por exemplo na orquestração né o pós-processamento também você pode criar uma colaboração entre agentes né entre essa figura que vai ali no nosso Supermercado Vai lavar a nossa roupa vai colocar ali para estender enfim né então você pode construir aqui na prática legal eu vou testar esse nosso agente aqui né então eu só abri aqui mais pra gente eh ter certeza né que a gente vai conseguir utilizar Então eu mandei aqui Olá então ele vai calcular ali e é a mesma

coisa né você vai vai conseguir colocar aqui fazer por exemplo ver como é que esse modelo respondeu tá então você tem todas as partições aqui legal então você consegue traquear isso aqui no fim do dia então boa eu vou deixar aqui do lado e aí eu vou interagir aqui nesse promt eu falei olá pro meu modelo e ele responde deu aqui em português como eu pedi né ele perguntou assim olha como é que eu posso te ajudar hoje né eu posso perguntar para ele eh por exemplo eh um cliente específico né E aí esse cliente

específico depois eu posso mostrar ali aonde eles estão né eles estão ali persistidos dentro de uma base que é uma base do dynam Deb mas eu já separei aqui alguns números e aí nos materiais de referências que eu vou deixar para vocês Vocês podem tar até com mais eu vou perguntar sobre um determinado cliente que tem uma numeração Então posso assim ó posso falar para esse modelo aqui ó por exemplo para esse Agente né Por favor me dê mais detalhes sobre o cliente tá então eu coloquei aqui um número de cliente vou dar um Run

aqui vamos ver o que que ele encontra né O que que é legal aqui ó tá vendo ele tá mostrando ali o passo a passo do do que como é que ele está fazendo essas chamadas então eu deixei aqui para mostrar aqui para vocês né então ele tá tá encontrando as informações e olha só ele encontrou as informações daquele cliente específico aqui que eu dei aquela numeração né esse Michael Schneider né então ele tá aqui é é bem bacana porque você consegue mostrar ali tudo que foi feito naquela sessão como um todo né então eu

consigo ir identificando né esse cliente olha e aí de acordo com o o cliente né que a gente tem aqui o histórico de pedidos dele ele pode ter tido problema eh em algum determinado produto né pode ser esse P Pet feeder né que seria aquele alimentador de de animal de estimação então eu posso falar para ele por exemplo que a maior parte dos clientes que estão tendo esse eh problemas com esse Pet feeder por exemplo ele pode estar reclamando ali que tá mandando mais comida né para aquele meu bichinho para aquele meu cachorrinho que é

aquele gatinho tem a capacidade de comer e eu não consigo fazer nenhuma configuração nesse sentido né então eu digitei ali o o problema que eu tô tendo né novamente eu coloquei aqui em várias outras linguagens para você ver como ele sempre vai me responder de acordo com o que eu parametrize ali então ele vai me dar então algumas alternativas Olha só o modelo falou assim olha eu entendo que esse Smart fitter aqui tá despejando mais comida que o necessário E aí ele te dá todo o passo a passo do que você pode fazer Poxa mas

eu já chequei tudo isso e ainda tô tendo problema né como é que eu posso ainda conseguir arrumar né Aí ele vai me dar algumas alternativas que pode ser por exemplo a calibração desse alimentador E aí o que que é interessante com essa calibração né ele vai me dar ali o passo a passo de como eu posso fazer essa calibra Então olha só reconfigure o dispositivo a partir do zero Poxa mas já fiz isso já tirei o cabo de energia né como é que eu posso recalibrar ele né então aqui ele eu vou colocando de

acordo com o que ele me deu aqui né Então olha só ele vai me dar a resposta e aí vamos supor se sou se funcionar ou não né obviamente se aqui aqui vai funcionar né Porque eu peguei um cliente que eu já tinha previamente testado né então ele tá respondendo aqui Poxa vamos supor que esse passo a passo aqui funcionou então eu posso agradecer simplesmente né olha isso aqui funcionou agora tá dispensando ali o a quantidade correta de comida né vamos ver o que que esse modelo aqui ele vai responder então o que que é

legal Você viu que é uma interação bem humana né Então olha só ele agradece fala que resolveu o problema mas PR garantir ele ainda te dá é mais alguns passos aí eu vou colocar aqui ó Não obrigada né Ele pergunta aqui se pode ajudar com mais alguma coisa de acordo ali com os meus dados eu consegui especializar para que ele responda de uma determinada forma e eu ali criei esse agente para ser meu minha interface ali que vai interagir com aquele modelo sem eu dar muitas instruções eu dei instruções em linguagem naturada né então aqui

olha só que legal ele respondeu aqui agradecendo no fim do dia bacana né Então as capacidades aqui do Amazon rock né provê ali as as foundations models de vários provedores a gente viu ali a listagem a gente conferiu ali a parte ali de como é que a gente faz acesso então envolveu um pouquinho de segurança navegamos ali pelo playground pelos agentes Vimos que dá para fazer fing T de modelos inferências reservas de capacidade as no bases paraa especialização e também a comparação desses modelos né e a inte a de na de serviços aws como exemplo

o Amazon S3 que a gente usou aqui um pouquinho na prática Quero Agradecer então e trazer aqui novamente o Fabrício né pra gente falar ali um pouquinho sobre a Talk de hoje muito legal obrigadíssimo éca e e eu acho que deu uma visão geral bem legal né sobre como funciona o Bedrock o que que o pessoal de casa vai poder fazer vai poder como eles vão poder utilizar essa ferramenta aí né deu para ver que não é tão difícil né eu tinha fiz até uma pergunta Érica aqui se vocês já fiquem de olho aí ela

vai ser uma das próximas entrevistadas lá no nosso podcast o ia sob controle então se você quer escutar esse papo vai lá e escuta a gente já se inscreve no feed que ela vai aparecer por lá daqui a pouquinho alguma quarta-feira aí nas entrevistas e uma das perguntas que eu fiz para ela já adiantando dando um spoiler foi se para começar a utilizar o bad rock seria uma coisa realmente complicada né se tinha uma curva de a muito íngreme e deu para ver aqui que na verdade não né tudo muito bem muito claro é muito

Óbvio você clicar no lugar e já começar a brincar com ele né exato até você me lembro muito bem que eu falei que eu ia deixar uma referência aqui para vocês e para quem quiser experimentar o badrock eu vou colocar aqui um endereço de um workshop que a gente chama de dat strategy na prática né é esse endereço aqui depois eu passo para ficar na descrição desse vídeo né então o que que é esse esse data estrateg na prática né você interage ali com aqueles bancos de dados né que é o que eu fiz aqui

lembra que eu falei que tinha toda todos os documentos por trás né mas a gente consegue interagir ali com Bedrock de com algumas Vertentes Tá bom eu vou passar isso aqui pro Fabrício para vocês ficarem com esse passo a passo então que eu fiz ali por exemplo criando ali o agente criando knowledge base ele tá bem descrito aqui nesse passo a passo e os dados das empresas ele fala o modelo que ele usou Então tá tudo aqui para vocês experimentarem também aí na casa de vocês maravilha então agradecer aqui a Érica por essa essa Talk

né essa aula que ela deu pra gente aqui do amazon Bedrock e você aí de casa se você gosta de a gosta de saber mais sobre inteligência artificial continua Seguindo aqui se inscreve aqui no canal da lura no YouTube sempre tem vídeo vos todo mês sobre algum tema algum tópico alguma ferramenta nova de ia segue a gente lá no podcast ia sob controle que também tá disponível em todos os agregadores de Podcast e se você também quer começar a mexer com outras coisas nesse mundo né desde o mais básico saber como é A Iá o

que que ela faz por trás dos panos como ela funciona tem os cursos e as formações aqui da Escola de Inteligência Artificial da lura como fazer um hag também e também se você quer ir mais a fundo ainda começar a criar seus próprios modelos de machine learning clássico ou até de Deep learning tem também os cursos e formações da escola de ciência de dados né escola de data Science de dados aqui com muita coisa bastante legal você vai se tornar um especialista ou um profissional em t como a gente gosta de propagar lá no Tech

guide até a próxima pessoal tchau tchau até tchau tchau [Música]