🔴 Os perigos do ChatGPT na Educação

não é possível banir mais o chat GPT ou as inteligências artificiais Então vamos aprender sobre os limites especialmente os perigos dessas tecnologias [Música] fala Professor vídeo Diamantina e nesse vídeo eu quero falar com você sobre os limites e os perigos relacionados às inteligências artificiais especialmente ao chat GPT que é provavelmente a tecnologia mais em voga nesse momento aqui na educação né nós sabemos que não é mais possível a banir o chat de PT assim como não foi possível banir o Google e é o Wikipédia quando eles foram lançados a mais de 20 anos atrás mesmo

com a baixa a baixo acesso à tecnologia da época né lembre-se que naquela época muito menos gente tinha computadores e as pessoas não tinham smartphones que podiam acessar a internet de qualquer lugar a qualquer momento super rapidamente se naquela época a gente não conseguiu proibir os alunos de usarem as tecnologias graças a Deus porque a gente tem mesmo que usar as tecnologias Então agora que todo mundo tem celular na palma da mão não tem mesmo a menor chance de você proibir tá é a gente vê algumas escolas que estão tentando proibir o uso do GPT

nas aulas e tal a gente isso não é possível tá os alunos vão acessar pelo celular e você nunca vai conseguir pegar todo mundo então já que não é possível banir e Que bom que não é porque não é para banir mesmo é tecnologia para aprender Então vamos entender como é que ela funciona e nesse vídeo especialmente vamos entender até onde ela vai e Em que momento eu preciso ter eu preciso ter é Cuidado com o que está acontecendo um primeiro limite no caso do chat GVT é que ele só produz textos né o chat

de PT ele não produz imagens áudios vídeos Apesar de que já tem muitas outras inteligências artificiais plataformas e as que já produzem imagens textos imagens áudios e vídeos tá Inclusive a Open Ai que é a própria empresa criadora né detentora do chat de PT ela tem também uma outra ferramenta chamada dollying né Doll letra e número dois né que gera imagens a partir de textos mas esse vídeo quero me focar aqui no chat de PT né que é o foco nosso aqui agora e ele só produz textos Isso significa que você não consegue a partir

somente do GPT criar imagens áudios ou vídeos Apesar de que você consegue gerar textos ali que você pode usar para colocar em outras ferramentas de Inteligência Artificial e que podem funcionar muito bem um segundo limite é que o chat GPT neste momento que eu estou gravando esse vídeo eu estou no início de maio de 2023 o chat PT ele tem um limite de conhecimento para eventos que aconteceram até o final de 2021 2021 ou seja ele não sabe o que aconteceu durante o período de 2022 e 2023 se você perguntar pro GPT pro chat de

PT Qual é o Quem é o presidente do Brasil o atual presidente do Brasil ele vai dizer que é o bolsonaro e não o Lula porque ele não está atualizado com o que aconteceu nas eleições 22 perguntar quem é o atual monarca da Inglaterra ele vai dizer que é a rainha Elizabeth não o Ray Charles porque ele ainda não está atualizado com a morte da rainha tá então neste momento ele funciona só com informações até o final de 2021 porém hoje hoje mesmo exatamente hoje antes de gravar esse vídeo eu vi uma atualização da própria

Open e dizendo que já estão testando de forma pública que o chat de PT possa ter acesso à internet Isso significa que ele vai poder buscar informações mais recentes e trazer esses dados para nós isso ainda não existe tá isso ainda não é possível usando somente o chat GVT existem outras ferramentas que fazem uma gambiarra junto com chat GPT e acesso à internet que tenta fazer isso de forma terceirizada mas de forma Nativa do chat de PT E isso ainda não é possível mas será muito em breve tá inclusive pra você ficar sempre é ciente

tá do que tá acontecendo na na educação na tecnologia e de que forma isso pode se juntar acompanha aqui o nosso canal tá clica no Sininho ali embaixo você acompanhar aqui de prova para prova que tem um escrever e tem um Sininho no canto direito embaixo do vídeo é clica lá para você acompanhar o canal e saber tudo que tá acontecendo tá isso é bem importante o próximo ponto que é um ponto bem problemático tá é que o chat GPT ele foi treinado a partir de 300 bilhões de palavras tá o próprio GPT responde isso

se você perguntar para ele ele foi criado a partir de aproximadamente 300 bilhões de palavras que vieram de textos da internet do da Wikipédia de jornais de livros de artigos de blogs de muitas coisas de muitos lugares diferentes Isso significa que ele foi treinado a partir de informações de pessoas reais de pessoas comuns como eu e você que talvez sei lá escrevemos um artigo na Wikipédia o que colocamos um artigo no blog alguma coisa do tipo ele pode muito bem ter lido informações como as nossas tá E todos nós todos humanos somos pré dispostos a

possuirmos vieses né possuímos pontos de vista preconceitos E se o chat de PT foi treinado a partir das nossas informações ele acaba também passando essas esses vieses esses pontos de vistas esses preconceitos em alguns dos prontos em algumas das respostas que ele que ele escreve para gente logo esse é um primeiro grande perigo é preciso é obrigatório checar as informações que são geradas pelo chat GPT tá isso é muito importante e isso é muito caótico Porque neste momento que eu tô gravando esse vídeo aqui os nossos alunos estão eu estou te afirmando os seus alunos

estão usando o chat de PT para responder às suas perguntas para fazer a tarefa de casa para estudar para prova para fazer qualquer coisa eles estão usando eu te garanto que eles estão usando o chat de PT porém a grande maioria dos alunos está usando o chat de PT como se ele fosse sempre correto como se ele fosse assim como uma calculadora que nunca erra que sempre qualquer cálculo que você for colocar na calculadora ela sempre vai dar uma resposta correta eles estão utilizando o GPT como se fosse uma calculadora e não é eu já

tinha PT entrega informações erradas de vez em quando entrega informações preconceituosas de vez em quando então é fundamental é obrigatório que se cheque todas as informações que o chat de PT coloca para gente tá não acredite cegamente no que está escrito ali e ensine isso para os seus alunos mostre para eles use exemplos coloca coisas lá para eles pedirem pro GPT o GPT entregar respostas você pode olhar e falar olha aí tá vendo ele escreveu um negócio errado o GPT erra erra bastante Vocês precisam checar é a gente tem que ensinar que os alunos precisam

checar as coisas um outro problema do chapéu que na verdade é uma característica dele né é que ele é um robô né o chá de PT ele funciona através de um monte de algoritmos ele é basicamente chatbot né que é um robô de chat sendo um robô Ele tem muita dificuldade em gerar empatia os textos ali ainda que na versão mais atual nesse momento que eu tô falando com você a versão mais atual dele é o gpt4 mesmo da versão 4 ele tem uma certa dificuldade de trabalhar empatia Então dependendo do que você tiver pedindo

ali para ele gerar para você toma muito cuidado porque ele vai escrever textos que não são muito empáticos ainda que você peça dentro do teu pronto de forma bem parametrizada para que ele esteja empático para que ele use palavras assim assim assado para que ele tem um tom de voz de tal coisa no estilo de tal coisa como se ele fosse Sei lá uma pessoa muito empática mesmo assim ele não é tão bom assim de demonstrar empatia então cuidado quando você for pedir eu vou ensinar os seus alunos para gerar informações que trabalham com esse

tipo de coisa inclusive enquanto eu tô falando tudo isso tá isso daqui é uma das aulas que a gente entrega lá no curso chat GPT para provas e escolas tá é um que eu acabei de fazer e é um curso que eu estou sempre atualizando Eu terminei de fazer ele agora recentemente e já tem coisas novas que eu já estou atualizando é o curso mais completo no Brasil para falar sobre chat GPT sobre prompts sobre tudo que você precisa saber desde o basiquinho ali tipo que é o chat PT até prompts com parâmetros especiais tá

que são parâmetros que eu fui lá na gringa comecei a estudar bastante a galera em inglês em outros países Peguei toda a ideia que eles estão trabalhando assim atualmente lá e trouxe para nós no curso tá é um curso específico para especialmente para professores e escolas se você é professora escolar trabalha com educação e de qualquer forma esse é um curso muito importante para você aprender a usar o chat PT da melhor forma possível e com os devidos uma outra coisa que é um limite do chat de PT é que ele é ele foi treinado

para limitar informações que sejam relacionadas a temas psicologicamente perturbadores conteúdo sexuais ou criminosos o potencial criminoso tá se você pedir para o GPT assim me ensine a me ensine a fazer uma bomba caseira ele não vai te ensinar ele vai te mostrar uma mensagem padrão lá dizendo que ele não pode fazer isso se você falar para ele mim crie uma sei lá crie uma música para humilhar a pessoa x ele vai dizer isso é errado não vou fazer isso sabe então ele foi treinado para não fazer isso porém é possível enganar o robô é possível

enganar o GPT e contar toda uma historinha para ele ali que no final ele acaba fazendo uma coisa que ele não deveria fazer tá então a cada atualização que sai do chat GVT a operar tenta fechar mais o circo e tenta fazer ficar mais difícil para que isso não aconteça mas isso continua acontecendo então cuidado em relação a esses temas psicologicamente perturbadores essas coisas pode ser que aconteça hoje em dia isso só acontece se o aluno quiser muito e conseguir ali enganar o robô tá então ensina o seu aluno que isso é errado né ensina

o aluno que é errado fazer esse tipo de coisa e que por isso ele não deveria fazer-lo enfim é uma ideia ética uma prática ética básica que educadores precisam ensinar para os alunos E em último lugar o chat PT não está salvando as suas informações pessoais tá ele não precisa disso tá ele não está salvando essas informações pessoais Mas é uma boa prática na internet você não colocar informações pessoais no chat de PT ou e nenhum outro lugar então pelo amor de Deus não vai escrever a senha do banco não vai escrever o cartão de

um código do cartão de crédito não vai escrever entendeu é o teu nome completo CPF endereço que você não tem necessidade disso o chat de PT não vai mostrar para ninguém mas vai que alguém consegue hackear o chat de PT que inclusive já aconteceu uma vez vai que alguém consegue vai que você aberto e alguém vai lá e usa o seu o seu computador ou entra na sua no seu login do chat PT vai lá no seu histórico de conversa e pega os seus dados nunca nunca é uma boa prática colocar dados pessoais em lugares

que não são obrigatórios tipo você Tá acessando o aplicativo do banco tem que pôr senha Óbvio mas se não não coloque ensine isso para os seus alunos Isso é um problema enorme é um grande furo de internet que a gente tem que deixar os alunos cientes desde o comecinho assim como você ensina usar o Google tem que ensinar a usar o chat de PT tem que ensinar boas práticas de internet então é isso por hoje para você estar sempre autorizado com vídeos clica no botão aqui de se inscrever e eu te vejo lá no próximo

vídeo e no nosso curso hein o link do nosso curso está aqui na descrição do vídeo ó até mais tchau tchau