Revelando as 'Mentiras' das IA's! - @CursoemVideo Inteligência Artificial

Provavelmente você assistiu algum vídeo de Inteligência Artificial nos últimos meses falando sobre eá que alucinam que que seria Alucinação Será que há realmente alucina vamos entender um pouquinho mais sobre isso nesse [Música] vídeo olá pequeno gafanhoto seja muito bem-vindo muito bem-vinda a mais uma aula do seu curso em vídeo de Inteligência Artificial o meu nome é Gustavo Guanabara e já já tá vindo o Ramiro Lobo aí pra gente falar sobre alucinações Será que a ia tem inteligência suficiente para inventar uma história para inventar uma resposta que nem é verdade e se ela tem por que

que ela faz isso quais são os mecanismos que ela usa para conseguir entre aspas mentir pra gente de forma tão descarada exatamente para isso que a gente vai falar sobre alucinações em mais um vídeo dessa série das aulas de armadilhas dos llms seja bem-vindo aí vem o Ramiro pra gente poder falar sobre alucinações interrompo a sua aula só um minutinho para falar de uma grande e nova parceira aqui do canal do curso em vídeo que é a FIAP E como você deve saber eu sou professor há 30 anos eu já passei por muitas instituições de

ensino e eu posso te afirmar com conhecimento de causa que a FIAP tem vários diferenciais muito positivos que vão fazer com que você escolha ela como a sua graduação em ti para começo de conversa eles são nota C no Mac e se você não sabe o MEC é o Ministério da Educação e Cultura do Brasil e eles avaliam constantemente As instituições de ensino do país a nota da FIAP é cinco e não pense que isso é ruim cinco é a nota máxima que o Mac dá então escolhendo a FIAP você vai tá estudando numa instituição

que tem nota máxima No MEC e para você que tá entrando agora na área de tecnologia eles têm graduação em várias áreas como por exemplo área Tech área de cybersegurança Inteligência Artificial e áreas de negócios e apontando o seu celular pro QR Code que tá aparecendo aí na tela ou clicando num dos links que tá aqui na descrição do vídeo ou no comentário fixado você vai conhecer tudo aquilo que é FIAP tem para te oferecer e fica ligado fica ligada nas datas dos vestibulares também são divulgadas nesse q code que tá aparecendo na sua tela

eu tenho certeza que escolher uma boa graduação é um ótimo próximo passo pra sua carreira Obrigado FIAP por apoiar o nosso curso de Inteligência Artificial e você se prepara que a aula tá começando o próximo assunto a próxima armadilha que a gente tem para te passar aqui conversar sobre são as alucinações cara Realmente foi um dos primeiros assuntos que eu levantei lá num vídeo que eu gravei sobre há muito tempo aqui no canal alguns meses aqui no canal e as llms os chatbots usando as llms eles têm alucinações né Ramiro ão tá me dizendo que

A Iá é meio loucona é isso é ela é viciada em mentir às vezes às vezes e ela não te conta que tá mentindo Esse é o grande problema e tem e tem dia que é difícil tu fazera parar de mentir tá aconteceu comigo verdade é verdade seguinte ó oos llms podem às vezes alucinar ou gerar informações falsas quando questionados sobre algo que não sabem a resposta em vez de declarar que não sabem a resposta frequentemente produzem uma resposta que soa confiante porém é incorreta vamos lá o pior é é essa questão de de de

te dar uma resposta que sua confiante Você acredita sim sim ele Ó eu costumo dizer eu tô falando isso muito em palestra ela mente olhando no teu olho é impressionante é impressionante e aí tem um monte de gente que fala assim por exemplo quando quando eu gravei eu falei assim poxa eu fiz um chp tem uma versão tava na 3.5 se eu não me engano ou uma versão anterior a 3.5 eu falei ah você conhece o professor Gustavo Guanabara ele Ah conheço Guanabara criou o projeto do curso em Vida da aí eu perguntei qual é

a formação dele onde que ele estudou e tudo mais e ele ele começou a fazer tudo errado né Eh ele infelizmente fala assim olha eu não tenho base suficiente para te responder isso com precisão Mas provavelmente é isso é isso isso não ele fala assim olha o Guanabara estudou na UFRJ que não é verdade fez isso fez o curso de Ciência da Computação na UFRJ e conseguiu não sei que é assim tipo é é E aí essa mentira ela não é uma mentira vamos dizer assim Ramiro eh consciente no intuito de te enganar é porque

tudo nas eis é tudo nas eais são estatísticas então por exemplo ele chegou à conclusão de que eu sou um profissional de tecnologia e que eu sou do Rio de Janeiro Qual é a melhor faculdade do Rio de Janeiro segundo o teu conhecimento lá que você tem no seu no seu grande né na sua grande base de conhecimento pô as grandonas aqui do Rio de Janeiro São por exemplo a UFRJ PUC Então vamos se se eu não souber a resposta exata seria e e a pessoa tá me perguntando qual é a resposta assim se o

chatbot considerou que eu sou um professor sei lá de uma qualidade muito boa se eu sou um profissional de ti e um professor de qualidade muito boa pô vamos colocar ele estudando nas melhores estatisticamente é isso estatisticamente é grande é bem provável que ele estude numa boa Universidade também E aí ele vai lá e mente na tua cara sem pensar duas vezes né É isso que tem se discutido muito aí na questão de Às vezes você Quem produz conteúdo de você tá produzindo um conteúdo que você não conhece que você não não domina sim e

você se você não domina o conteúdo que você tá criando e tá deixando tudo por conta da Inteligência Artificial você corre o risco de tá criando um conteúdo que não é verdadeiro Então você tem que tomar cuidado você tem que validar Tudo Que Você Faz É então E a e aí um disclaimer aqui a gente não tá de forma alguma te desincentivando a usar e a o porém como a gente já disse 1 milhão de vezes vai continuar falando nunca aceite como Verdade Absoluta aquilo que ela te dá como resposta pega essa resposta vai no

Google vai no Bing vai na internet pesquisa vê se tá correta vê se tá certinha essa informação não vai acreditar porque tem tem duas situações tá a criação de conteúdo é uma que aí ela é quando eu acho que ela alucina mais e tem uma outra que é diferente que a a possibilidade del a luciin é muito menor que é eu eu te dar por exemplo eu dou um conteúdo e peço um resumo Uhum Ela vai pegar esse conteúdo e vai rescrever a a chance dela tá de ela ter uma Alucinação ali é muito menor

agora eu pedi isso principalmente quando quando eu tô criando conteúdo sobre uma coisa que é muito comum e que tem conteúdo demais na internet ela tem uma chance menor agora quando eu peço uma coisa que tem pouco conteúdo que talvez ela não tenha tido acesso ela vai na cara dura ela ela vai criar e ela não vai te dizer que tá inventando ela não vai te dizer verdade não não vai não vai e aí isso que você falou foi perfeito Ramir foi exatamente o que eu conversei com algumas pessoas depois que vieram conversar comigo falam

assim poxa mas quando eu pergunto sobre a guerra fria quando eu pergunto sobre a história do Brasil ele me responde quase certinho foi aquilo que o Ramiro acabou de falar é para esse tipo eu não sou um cara tão conhecido assim mas se você perguntar por exemplo do Celso Portioli Provavelmente tem muito mais coisa do Celso Portioli na internet do que sobre mim então Steve Jobs né Steve Jobs Bill Gates B GES exatamente então assim eh entenda que talvez você esteja perguntando alguma coisa até por exemplo vou perguntar alguma coisa sobre o Bill Gates que

não tem nenhuma resposta sobre por exemplo Qual é a cor de camiseta preferida do Bill Gates as quartas-feiras tu acha que ele vai falar assim eu não sei ele vai dizer assim é verde sabe ele vai mentir para você há uma grande probabilidade se eu tô perguntando uma coisa muito específica que não tem registrada em lugar nenhum ele não vai dizer não tem informação sobre isso provavelmente ele vai dizer ele vai chutar estatisticamente ele vai olhar sei lá ele vai analisar todas as imagens do Bill Gates que foram na base de conhecimento vai vai chutar

continuando aqui Ramir ainda falando sobre alucinações provavelmente ae vai dizer o que a gente já disse que é isso pode levar a disseminação de informações erradas isso é importante e deve ser considerado a utilizar llms em tarefas que exigem informações precisas assim é crucial Estar atento a essa limitação a utilizar essas ferramentas para tarefas que demandem a precisão e confiabilidade nas informações fornecidas É isso aí né então cuidado com isso porque assim ah não mas as pessoas eu só consumo dados informações de sites verificados e tudo mais cara olha só às vezes uma mentira que

é gerada num site pequenininho vira uma bola de neve e vai crescendo vai evoluindo tanto que até as as quem dá notícia acaba sem consultar hoje em dia que a velocidade da da divulgação é mais importante do que a verificação infelizmente pode ter esse tipo de armadilha Combinado então muito cuidado com isso E aí tá gostando do seu curso de Inteligência Artificial pois a gente tá caprichando bastante e eu não sei se você sabe no final desse módulo você consegue tirar um certificado só que para isso você não pode fazer Ele diretamente pelo YouTube você

precisa acessar o site do curso em vídeo então acessa agora gratuitamente www.cursoemvideo.com faz a sua inscrição faz esse curso de Inteligência Artificial e qual qualquer outro curso que exista no curso em vídeo diretamente pela plataforma e no final sendo aprovado você tem certificado disponível para você só que para gerar esse certificado você tem uma pequena taxa nossos certificados são reconhecidos em território nacional e inclusive possui um código de validação onde você seu chefe ou sua instituição de ensino podem entrar no nosso site usar esse código de validação e constatar que realmente o seu certificado é

válido E aí Você sabia que a podem mentir pra gente podem inventar uma história com certeza se você assistiu esse vídeo Você sabe qual é o mecanismo que as Iá fazem por conta das alucinações né Por que elas alucinam a gente viu que Alucinação não é bem uma Alucinação como nós humanos mas eá também é máquina não é humano então espero que agora você conheça e saiba reconhecer Ou pelo menos já fique com o pé atrás com uma resposta porque ela pode ser uma resposta proveniente de uma Alucinação no próximo vídeo a gente vai falar

sobre uma coisa muito curiosa porque as Iá elas às vezes são identificáveis como pessoas muito inteligentes como substituindo um aluno de pós-graduação mas acaba errando matemática básica Então no próximo vídeo sobre armadilhas do llm nós vamos ver como as iais se comportam matematicamente e quais falhas elas podem ter a gente tem um encontro marcado no próximo vídeo não se perde aí vai acompanhando o curso de I com a gente que ele tá bem legal um grande abraço e até a próxima k [Música] [Aplausos] [Música]