Vieses em IA: Desvendando Preconceitos na I.A! - @CursoemVideo Inteligência Artificial

continuando aqui na série de armadilhas dos llms vamos falar Principalmente nesse vídeo sobre viés das inteligências [Música] artificiais Olá pequeno gafanhoto seja muito bem-vindo muito bem-vinda a mais uma aula aqui do seu curso em vídeo de Inteligência Artificial o meu nome é Gustavo gabara e daqui a pouquinho o Ramiro Lobo tá chegando pra gente continuar essa série de cinco vídeos que eu falei né sobre armadilhas das llms armadilhas que os large language models podem dar a nossa vida a gente tem que tomar cuidado o vídeo anterior a gente falou sobre falhas mais comuns das iais

e citações de fonte que a gente nem sempre pode confiar e agora nós vamos começar a falar sobre viés e viés é uma coisa meio humana né tu fala pá a sua resposta Tá en viesada Será que a ia pode dar uma resposta enada é exatamente para isso que eu vou trazer o Ramiro pra gente começar falar sobre esse assunto boa aula para você interrompo aqui a sua aula para mais um recadinho do estudonauta que é um dos patrocinadores aqui do curso de Inteligência Artificial e o recado da vez é apresentar o curso de produção

de conteúdo paraa Internet pois é no curso em vídeo tem um monte de gente que me pergunta ah como é que você consegue gravar esses vídeos como é que faz a edição dos vídeos como é que faz esses componentes visuais que ficam aparecendo aí na tela pois lá no estudonauta a gente criou módulos específicos que mostram dicas de iluminação dicas de câmera organização de conteúdo edição de vídeos tudo para você aprender a construir conte conteúdo assim como eu tô construindo para você então se você tem alguma curiosidade de como que a gente faz as coisas

aqui no curso em vídeo pode se tornar agora mesmo estudonauta e fazer essa sequência de módulos do curso de produção de conteúdos e assim como todos os cursos exclusivos que a gente tem lá no estud donal você tem certificado Garantido e se ficar com alguma dúvida é só entrar em contato que um dos nossos tutores vai te ajudar Obrigado estudonauta pelo Patrocínio e você volte à sua aula amiro vamos dar continuidade aqui às falhas comuns que a gente tem utilizando as llm e agora nós vamos falar sobre viés então muito cuidado com essa armadilha chamada

viés vamos ver o que que significa isso daí seguinte os llms podem apresentar viés em suas respostas gerando frequentemente conteúdo estereotipado ou Precon ramira eu tenho uma um case para te contar aqui que depois a gente fala isso ocorre porque são treinadas em grandes conjuntos de dados que podem conter informações tendenciosas apesar das medidas de seguranças implantadas para prevenir isso o L lms às vezes podem produzir conteúdo sexista racista ou homofóbico E aí Ramiro É eu imagino né Vamos pensar juntos aqui o tamanho da da base de dados que um shat GPT que um g9

processa para para conseguir ter essa base de conhecimento dele sim e cara é impossível conseguir detectar provavelmente a gente Tent detectar por software né e os os conteúdos que eles devem eliminar mas é muito complicado fazer isso então ah eu eu acredito que dentro de poucos anos isso isso realmente vai ser resolvido eu acredito que eles vão conseguir através da própria ia identificar esses conteúdos e eliminar aham mas faz parte da da evolução né é você você na sua casa como a gente já falou um milhão de vezes nesse curso sempre valide verifica lê o

que a ia gerou para você para não falar só chat GPT né porque você pode est usando Gemini e ele não tá livre disso também né Ramiro eu eu vou fazer que nem o gabara eu sei que você que tá aí tá criando trabalho no chat GPT e não está lendo Então passe a ler antes de entregar pro seu professor pelo amor de Deus ó eu vou contar uma história aqui rapidão o Ramiro sabe não sei nem se eu te contei essa exclusivamente mas eu tô eu tava até nos últimos meses preparando uma palestra e

essa palestra ela fala bastante de Inteligência Artificial e e uma característica que eu queria era que todas as imagens que aparecessem na tela fosse nos slides né da palestra fossem geradas por ia E aí eu fiz lá um prompt né seguindo o que o Mestre Ramiro está me explicando né maravilhosamente ao contrário do que muita gente pode pensar Cara você não tem noção do quanto eu tô aprendendo com Ramiro do quanto a gente tá compartilhando fora das aulas entendendo Eh aí eu fiz esse prompt o que que eu me preocupei no prompt Ramiro inicialmente a

primeira versão falei ó eu quero a imagem tem essa proporção 16x 9 tem a resolução horizontal e vertical de tantos por tantos pixels e tal e eu quero que você siga o desenho realista mas que faa ela parcer uma pintura com pincelada Me preocupei em fazer aquilo que normalmente as pessoas fazem E aí eu comecei a pedir coisas do tipo gera uma imagem de uma pessoa programando eu não falei de um programador falei de uma pessoa programando Ramiro 99% das vezes era homem e branco e aí eu falei assim nossa mas el não tá fazendo

isso E aí eu falava assim ele ele só ele só fazia uma mulher programando quando eu pedia não não agora eu quero uma foto de uma mulher programando era sempre mulheres loiras sempre sempre sempre E aí eu comecei assim cara olha olha isso querido aluno é complicado né isso não corresponde com a minha opinião estou eu estou relatando foi o chat chpt mas foi o doi né quem Quem gera a imagem quando a gente paga o chat chpt aí eu pedi o seguinte Olha só faz um um uma imagem onde tenha um homem programando uma

mulher programando e uma pessoa Servindo um cafezinho dentro do escritório Você consegue imaginar o que aconteceu tenho certeza não vou falar para não estragar surpresa a o cafezinho era a mulher o programador era um homem branco a mulher uma mulher loira branca e quem tava servindo o cafezinho era uma mulher negra então Caraca né pensando naquilo que você me ensinou falei assim como é que eu vou gerar esse prompt de uma maneira né Aí eu pedi Olha só sempre que eu pedir pessoas na na imagem na geração da imagem tente ser o mais variado possível

considere que nós temos pessoas de sexos diferentes de pessoas de raça e origens diferentes Então me Gere pessoas brancas negras orientais e não sei qu Bá sempre homens e mulheres não existe essa diferença na área de tecnologia entre homens cara eu tive que fazer um texto Sabe aquela uma descrição eu tive que explicar tudo para ele do que que uma pessoa normalmente inteligente faria hoje em dia né e e e aí ele começou a Gerar mas ainda assim estatisticamente era muito mais homens brancos e mulheres loiras então eu tive que todas as vezes que eu

precisava de uma imagem aí você teria que colocar que que ele gerar na mesma proporção entendeu É porque na verdade eu gerava várias versões do mesmo do mesmo da mesma imagem ele algumas vezes ele variava mas depois de muito tempo ele foi melhorando um pouco mas porque o meu prompt dizia especificamente isso é ele foi extremamente tendência o viés esse esse exemplo é um exemplo típico e claro desse tópico que a gente tá falando que é o viés das I exatamente Pois é guanab uma coisa que a gente sempre tem falado e e e que

eu insisto muito com as pessoas que eu tenho conversado Que Tem me procurado sobre a inteligência artificial hoje nesse momento que a gente vive você tem que ser o máximo o máximo eh específico dentro da daquilo que você quer possível descritivo quando você fala descritivo quando você fala uma pessoa é que nem quando a gente estuda orientação a objeto uma pessoa é muito genérica exatamente você pediu algo muito genérico tá então a gente não eu sei eu entendi a tua colocação mas na na Iá de hoje você tem tem que especificar eu quero uma mulher

com os com os cabelos pretos com os olhos castanhos com assim assim baixa alta você tem que fazer a descriçãoo fe eh antes de começar a aula a gente viu aqui juntos aqui um CL que que eu tinha escrito para achar plugin lá na no repositório lá do do wordp Você viu o tamanho do PT sim gigante gigante ali todo passo que ele tinha que fazer tava de escrito al tava cada ação que ele tinha que cumprir e assim que tem que ser escrito entendeu é e eu tô percebendo lendo os seus prompts né que

a gente tá avançando obviamente todo Professor quando vai ensinar uma coisa avança muito mais do que o aluno tá ouvindo agora e eu percebi que quando conforme você vai evoluindo o teu teu texto teus prompts eles são extremamente repetitivos né tio não seria uma linguagem que a gente falaria a gente falaria muito mais resumido você usa muito mais ó eh lembre daquele padrão aquele você consegue contextualizar aá você vai lá e fala assim é tipo o cabelo pode ser cabelo preto cabelo loiro cabelo não sei qu você repete muito por exemplo repetiria muito a palavra

cabelo tu fala ah eu não falaria assim escreve desse jeito eu vou eu eu vou te explicar como é que eu vejo A Iá hoje aham A Iá é uma criança superdotada sim super inteligente mas ela é uma criança a linguagem dela que você tem que tratar ela quando você tá agora você você começou nessa fase de ser pai agora mas quando a tua filha crescer você vai ver que você tem que repetir Tem que repetir entendeu ela vai você vai ensinar uma coisa ela não vai da primeira e às vezes na na mesma interação

você repete repete repete no final para ela entender o que que é mais importante do que você tá comunicando na não é diferente eu sou pai de primeira viagem tem poucos meses no momento que eu tô gravando esse vídeo minha neném tá com 3 meses mas eu já vivo isso com didática quando eu estudei didática uma das coisas que dentro de uma mesma aula o aluno no mesmo encontro o ideal é que você bote a mesma ideia pelo menos três vezes em momentos diferentes não é não é não é falar uma vez repetir e falar

de novo não não você vai falar uma vez lá na frente fala assim e lembrando que tal coisa isso é uma grande crítica que a gente recebe às vezes no curso em vídeo Pô o Guanabara Enrola para caramba fala a mesma coisa quatro cinco vezes aí logo em seguida F assim nossa a didática dele é muito boa esse procedimento de repetição faz parte da didática então use isso com aá a gente enrola mesmo vamos falar a verdade não faz parte faz parte esse é o processo mas olha só Aí você tocou num ponto muito importante

você tem que pensar o seguinte eu não tô falando gente de prompt que você faz que pompt muito simples né quem descobriu o Brasil por exemplo isso não mas quando é quando é um pompt que você quer um resultado que é complexo o resultado que nem o prompt que a gente tava eh eh testando aqui antes de gravar com vocês que o prompt basicamente ele eu fazia uma descrição do Plugin que eu preciso e ele tinha que ir no repositório do WordPress comparar com todas as descrições e trazer os os PR o a lista de

promos que poderiam resolver meu problema eu tô ensinando o chat GPT a fazer aquilo como eu tô ensinando o processo é o mesmo que você faz com Teus alunos sim eu tenho o PR fica muito extenso eu tenho que repetir confirmar olha lembra do que eu falei na na na no item um das instruções Ah no final lembra do que tem que ser em português o resultado Bel Então você você tá ensinando você tá tem que que ser muito descritivo o máximo de descritivo possível tem que ser claro uma linguagem muito clara e às vezes

você tem que repetir sim e vou te dizer corre o risco de ainda repetindo dentro de mesmo prompt ele não seguir aquilo que você pediu eu tenho criado muito GPT Às vezes o GPT tá tá funcionando cara tá redondo Redondo Redondo todo dia Aí tem dia que ele não te obedece Hoje aconteceu isso is por isso que eu falo que às vezes parece uma criança entendeu Criança é assim tem já eu não quero não quero fazer o que você pediu várias vezes eu botei assim aquele da imagem que eu citei ainda agora lembre-se das regr

quando ele começa a fugir falei ó lembre-se das regras que eu te passei Você lembra Aí ele ah tá bom então tem as regras lá é isso então acostume-se com isso quando você tiver interagindo com o seu llm Favorito com seu chatbot Favorito o canal do curso em vídeo surgiu lá em 2013 para ensinar programação pras pessoas logo logo ele cresceu e entrou em outras áreas a gente fala sobre infraestrutura sobre redes sobre hardware e há algum tempo atrás nós começamos um curso de inglês Completão aqui dentro do canal se você não sabia vai lá

nas nossas playlists e acessa os módulos do curso de inglês eu tenho certeza que você vai gostar muito e se por acaso você já sabe a base do inglês e esse curso não é tão útil para você mostre pros seus familiares ajuda a divulgar o curso em vídeo e aí pequeno gafanhoto gostou dessa aula Gostou das armadilhas de llm a gente dá continuidade falar sobre vieses agora você sabe que iis podem sim dar respostas enviesadas por conta de todo o treinamento que ela teve Então a gente tem que sempre tomar cuidado na hora de conversar

com os chatbots ficar atento a esses pequenos detalhes beleza inclusive no próximo vídeo é mais um vídeo dessas armadilhas de llm e nós vamos falar sobre uma coisa que é muito citada por aí que são as alucinações não se esquece de se manter inscrito no canal habilita o Sininho e compartilha com o maior número de pessoas inclusive com pessoas comuns pessoas que não são da nossa área de tecnologia se você é uma dessas pessoas que nem é da área de tecnologia mas tá curtindo aqui o curso de a seja muito bem-vindo muito bem-vinda e a

gente te espera no próximo vídeo pra gente falar sobre alucinações das ias um grande abraço e até a próxima tchau tchau [Aplausos] [Música] [Aplausos] [Música]