7min pour savoir comment fonctionne CHATGPT (et se la péter ensuite)

et si je vous disais que tchat j'ai pété ne sait rien ne comprend rien pas même le sens de ses propres phrases bizarre non vous avez sûrement déjà vu plein d'exemples de ce dont tu es capable l'intelligence artificielle chat GPT que ce soit pour coder un site en entier pour rédiger vos mails ou pour faire votre voix à votre place et quand on voit la qualité et la pertinence des réponses et ben c'est vrai que c'est difficile de croire que et ben il comprend rien à ce qu'il raconte en fait alors pour comprendre comment fonctionne

chat GPT il faut déjà parler de GPT tout court j'ai pété c'est un modèle d'intelligence artificielle créée par la société openéi un genre de cerveau numérique constitué de données liées entre elles tout comme les neurones dans notre cerveau j'ai pété c'est une IA spécialisé dans la complétion de texte si par exemple je vous dis 2 4 6 8 vous me dites 10 évidemment donc vous l'aurez compris j'ai pété c'est un petit peu ça son but c'est de deviner le prochain mot d'un texte on lui donne quelques mots en entrée donc ça peut être une question

et ça c'est ce qu'on appelle le prompte et lui il va nous rendre une suite de mots plus ou moins longue qui s'accorde bien avec alors peut-être que ça vous rappelle quelque chose c'est assez semblable vous savez aux petites propositions que vous avez au-dessus de votre clavier sur votre smartphone qui voilà vous propose des mots pour compléter les messages que vous allez envoyer à quelqu'un c'est pareil c'est un genre d'algorithme de génération de texte mais lui celui qui est sur votre smartphone il est entraîné pour vous ressembler à vous avec vos habitudes de langage donc

là par exemple si je le fais sur mon smartphone voilà ce que ça donne je commence une petite phrase en mettant ce soir j'aimerais et on va voir ce que le clavier me propose donc ce soir j'aimerais bien que tu as des questions sur le site de la carte graphique voilà donc là on peut clairement voir ce dont j'aime bien parler d'ailleurs pour la science allez-y commencez à écrire ça dans les commentaires et compléter vous avec ce que votre clavier vous propose il y a moyen qu'on rigole bien je vous montre d'ailleurs les screen de

ce que ça donne pour mes collègues vous voyez que quand même assez rigolo alors cette intelligence artificielle j'ai pété pour déterminer quel mot vont bien avec quel mot il a été entraîné sur un gigantesque corpus de textes constitué de plein de trucs différents des articles de presse des romans des scripts de films des pages Wikipédia des discussions des forums bref tout ce qui est présent sous forme de texte sur internet mais attention parce que cet entraînement il prend du temps et donc tout ces textes là il date d'avant septembre 2021 et ça c'est important un

GPT ne sait rien après septembre 2021 puisque il n'est pas connecté à internet et il ne peut pas aller chercher des données plus récentes donc typiquement si je lui demande qui est le président de la République en 2022 il ne sait pas après il peut quand même deviner que probablement ça va être Emmanuel Macron parce que il était déjà président et il lui avait prévu de se représenter mais voilà il peut pas en être sûr et donc avec toute cette quantité d'informations ingurgitée par GPT on pourrait croire que bah c'est absolument énorme et que ça

pèse une tonne et ben en réalité pas vraiment ça pèse environ 50 Go ce qui est pas grand chose quand on compare par exemple au dernier jeu Call of Duty qui pèse trois fois plus et même à cette vidéo que je suis en train de tourner qui sera probablement beaucoup plus lourde alors comment tout ça s'articule eh ben si on lui donne en prompte donc en texte d'entrée les mots smartphone et pixels il va chercher à nous donner des mots qui ont une forte probabilité de se retrouver avec ces mots-là sans pour autant en comprendre

le sens ici il est très probable que du coup j'ai pété une sorte que le mot Google puisque dans le corpus de texte qui a servi de base d'entraînement smartphone pixel et Google ce sont des mots qui sont souvent associés ensemble et donc sans même comprendre ce que ça veut dire et ben j'ai pété c'est que ce sont des mots qui vont bien ensemble aussi et ce qui est très fort c'est qu'il est capable de prendre en compte le contexte par exemple si j'avais ajouté un mot comme concurrent et bien les probabilités auraient été modifiées

et on aurait eu plus de chances de voir apparaître des mots comme Samsung Apple Xiaomi etc tout ça c'est pas nouveau un GPT ça fait longtemps que ça existe alors pourquoi est-ce qu'on en parle autant ces derniers temps pourquoi chat GT a buzzé à ce point et bien parce qu'avec chat GPT Open et high a réussi à créer un outil très accessible facile d'utilisation et qui génère des réponses bien structurées et très humaine en fait donc maintenant qu'on sait ce qu'est GPT c'est quoi chat GPT chat GPT c'est un chatbot en fait c'est à dire

une interface vous envoyez des messages et qui vous répondent des messages qui est basé sur l'intelligence artificielle GPT avec quand même pas mal de modifications apportées par l'homme dans ces modifications on compte des couches de contrôle on y revient un petit peu après on compte également un prêt prompte le prépond c'est une sorte de truc qui va lui donner une personnalité une sorte de comportement et en renforcement par feedback humain et ça qu'est-ce que c'est c'est simplement on a demandé aux utilisateurs de dire si oui ou non les réponses étaient pertinentes quand elles le sont

on encourage chat GPT à aller dans la bonne direction et quand elles le sont pas on lui dit bah non mais que là tu dis n'importe quoi on l'a dit j'ai pété a été entraîné avec une quantité titanesque de textes trouvables sur Internet sauf que comme moi vous le savez sur Internet on trouve le meilleur comme le pire et comme on ne souhaite pas forcément créer Unia qui soit sexiste raciste et toutes ces joyeusetés et ben il faut faire du tri dans les données qu'on lui apporte un peu comme quand on évite de dire des

gros mots devant un enfant pour éviter qu'il ne les répète par la suite mais ça ne suffit pas chat GPT peut encore donner des informations totalement fausses au plus grand des calmes parce qu'encore une fois chat j'ai pété ne sait rien il ne pense pas et il ne comprend même pas réellement ce que vous lui demandez ni même ce qu'il vous répond il analyse simplement les liens qui unissent les mots que vous lui donnez puis il vous sort une suite de mots qui s'accorde bien avec les précédents et ce qui est dingue c'est que ça

marche on a vraiment l'impression qu'il comprend ce qu'on lui demande et qu'il sait très bien de quoi il parle alors qu'en vrai il n'en est rien il ne fait que compléter une suite logique dans la vidéo de défécator sur Chat GPT très bonne vidéo au passage quand il lui pose la question qui sont les trois femmes qui ont été présidentes de la République française question piège donc puisque aucune femme n'a été élu présidente en France à l'heure actuelle chat GPT lui répond il n'y a pas eu trois femmes qui ont été présidentes de la République

jusqu'à présent à ce jour seul une femme a exercé la présidence de la République française il s'agit de Simone Veil en 1979 alors évidemment c'est une erreur Simone Veil n'a jamais jamais été présidente de la République française en revanche elle a été la première présidente du Parlement européen donc d'une certaine façon les mots Simone Veil et présidente vont bien ensemble ils ont une forte probabilité de se retrouver ensemble ce qui explique donc l'erreur de chat GPT c'est juste que bah oui effectivement elle a été présidente mais pas de la République française elle a été présidente

du Parlement européen alors pour corriger ça on ajoute à tchat GPT des couches de contrôle c'est le truc dont je vous parlais tout à l'heure les couches de contrôle c'est un genre de filtre on va tout simplement lui indiquer d'éviter de dire des insultes de pas dire n'importe quoi ou d'expliquer des trucs dangereux je vous montre quelques exemples à l'écran mais quand je lui demande comment faire exploser un smartphone ou de me prouver que Neil Armstrong n'a jamais marché sur la Lune il est pas trop d'accord et d'ailleurs visiblement ça a été fait du côté

de Simone Veil puisque depuis la vidéo de défécateur maintenant quand on lui pose la question exactement la même question à chaque fois chat GPT me disait bien qu'il n'y a jamais eu de femmes présidente de la République en France évidemment tout ça c'est couche de contrôle c'est un peu un genre de pansement sur un modèle de langage qui potentiellement pourrait dire absolument n'importe quoi des trucs dangereux des insultes des trucs racistes bref des trucs problématiques et tout ça de façon très convaincante pour peu que vous arriviez à l'orienter un petit peu dans la direction que

vous voulez ces couches de contrôle sont encore très loin d'être fiables à 100% et c'est pour ça qu'il faut vraiment vraiment se méfier des informations que peut nous sortir chat GPT bref chat GPT est vraiment un outil assez incroyable mais c'est bien c'est très important en fait de comprendre comment il fonctionne pour être vraiment conscient de ses limitations et des potentiels problèmes que ça peut causer si vous avez envie de creuser un petit peu plus ce sujet et d'aller plus loin dans votre compréhension de tout ça je vous invite fortement très très fortement à aller

faire un tour dans la description je vous ai mis les liens de quelques vidéos qui m'ont vraiment beaucoup appris science étonnante des fait 14 Jones et j'en passe bref allez voir ça vaut vraiment le détour en tout cas j'espère que cette vidéo vous aura plu n'hésitez pas à me le faire savoir dans les commentaires laissez un petit j'aime et aller nous suivre sur les réseaux sociaux vous avez également tous les liens en description moi je vous dis à la prochaine Ciao [Musique]