"l'IA va s'échapper et nous tuer" : les Prix Nobel 2024 nous mettent en garde.

Geoffrey Hinton vous vouliez comprendre le fonctionnement du cerveau humain comment fonctionne-il exactement nous ne le savons toujours pas mais nous avons fait beaucoup d'efforts pour comprendre comment le cerveau modifie la force des connexions entre deux neurones nous avons beaucoup appris de ces grands systèmes que nous avons construit notamment qu'il suffit de trouver un moyen de savoir s'il faut augmenter ou diminuer la force des connexions en appliquant ce principe à toutes les connexions soit environ 100 milliard et en continuant à ajuster légèrement leurs force avec de nombreux exemples nous obtenons des systèmes remarquables comme GP T4

ces grands chatbot apprennent des milliers de fois plus qu'un être humain ils peuvent donc compresser toute la connaissance humaine dans seulement un milliard de connexions nous avons 100 milliards de connexions et pourtant nous ne savons pas grand-chose c'est intéressant il dit parler pour vous-même lol vous le présenteer comme le meilleur ordinateur jamais créé dont nous ne comprenons pas vraiment le fonctionnement et pourtant vous affirmez que l'intelligence artificielle et les réseaux neuronaux artificiels pourrai surpasser l'intelligence humaine je pense que nous sommes déjà dépassés si vous regardez gpt4 il en sait beaucoup plus que n'importe qui c'est

comme un expert moyen dans tous les domaine avec beaucoup plus de connaissance et beaucoup moins de connexion que nous écoutezig dans le domaine de l'IA on s'est beaucoup inspiré de l'architecture du cerveau notamment avec les réseaux neuronaux et un algorithme appelé apprentissage par renforcement nous sommes maintenant dans une phase d'ingénierie où nous développons ces systèmes à grande échelle avec tous ces grands modèles de fondation ou modèles de langage il y a maintenant de nombreux modèles leaders et je pense que dans la prochaine phase nous commencerons à utiliser ces modèles dia pour analyser nos propre cerveau

et aider la neuroscience c'est un retour aux sources la neuroscience a inspiré li moderne et maintenant liya va nous aider à comprendre ce qui rend le cerveau si spécial l'intelligence artificielle va-elle surpasser l'Ain dans quelle est-ce déjà fait en terme de quantité de connaissance dans un seul système c'est déjà fait gpt4 en sait beaucoup plus que n'importe quel humain il invente parfois des choses mais il reste très savant concernant le timing je pense que tous les experts leaders que je connais comme deis croi que cela va arriver ils pensent que ces machines vont dépasser l'intelligence

générale humaine ils divergent simplement sur le délai alors les machines et les robots vont commencer à nous commander c'est ce que vous suggérez la question est peut-on garder le contrôle sur des entités plus intelligentes que nous une fois qu'elles seront plus intelligentes qui sera au command je pense que nous devons faire beaucoup de recherche maintenant sur la façon de rester au commandes vous n'avez pas vraiment répondu à cette question demiabis pensez-vous que l'intelligence artificielle pourrait nous surpasser au point de prendre le contrôle non écoutez je ne suis pas d'accord avec Jeff sur le fait que

les systèmes actuels sont encore limités ils sont impressionnants ils peuvent communiquer avec nous et possède beaucoup de connaissance mais il sont encore faibl dans de nombreux domaines la planification le raisonnement l'imagination et la créativité cependant ils vont s'améliorer rapidement tout dépend maintenant de la façon dont nous concevons ces systèmes et dont nous décidons en tant que société de les déployer et de les construire d'accord nous examinerons ce que nous devons faire à ce sujet mais Messieurs c'est une question fondamentale très importante je pense que vous surestimer les humains nous inventons aussi beaucoup de contrevérités il

y a tellement d'exemples de fausses idées qui se P et cela empire avec les réseaux sociaux les standards pour que lia réussisse sont assez bas l'humanité est largement surestimé ok mais avant de voir ça très rapidement j'aimerais vous parler du nouveau projet que j'ai en ce moment comme vous le savez sur cette chaîne on analyse toutes les sorties et toutes les nouveauté en rapport avec lia mon but est avant tout de faire découvrir cette magnifique technologie au plus grand nombre et surtout et avant tout d'éveiller les conscience par rapport à liya comme je vous l'ai

déjà dit je ne sais pas vous mais moi quand j' parle autour de moi les gens n'ont pas vraiment conscience de ce qu'est lia ils ne se rendent pas compte de l'impact que celle-ci va avoir dans la société un impact monumental alors je l'ai déjà dit je ne fais pas de placement de produits sur cette chaîne je veux la garder la plus authentique possible alors c'est pour cela que j'ai créé une formation si vous voulez apprendre à utiliser lia dans absolument tous les domaines de votre vie d'ailleurs si vous regardez cette vidéo je pense qu'il

y a de très grandes chances que vous utilisiez déjà àya notamment chat GPT par exemple et bien si vous voulez pousser beaucoup plus loin votre réflexion et apprendre à utiliser tous les outils de Lia et savoir comment exactement les appliquer à tous les domaines de votre vie vous pouvez regarder le lien que je vais vous laisser un commentaire épinglé sous la vidéo donc n'hésitez pas à y faire un tour si vous êtes intéressé par le sujet je tiens juste à préciser que vous aurez également accès à la communauté vision Ia j'ai lancé le projet il

y a très peu et vous êtes déjà plus d'une centaine à avoir fait l'acquisition de la formation ce qui est vraiment bien c'est que vous venez de beaucoup de domaines différents et j'adore discuter avec vous régulièrement de savoir comment appliquer les outils que vous apprenez dans vos domaines précis c'est vraiment intéressant bref désolé pour la petite coupure je ne perds pas plus de temps et je vous rappelle que vous trouverez tous les liens dans la description ou dans les commentaires je vais prendre une position contraire depuis le début de la civilisation les humains ont créé

des choses qui les surpassent dans presque tous les domaines les voitures peuvent aller infiniment plus vite les avions peuvent voler les humains non depuis longtemps nous avons des ordinateurs qui peuvent faire des calculs que les humains ne peuvent pas faire demise a développer des programme qui résolvent le GO et les échecs nous sommes très à l'aise avec l'idée que les machines puissent de faire des choses que nous ne pouvons pas faire Chad GP T4 a beaucoup plus de connaissance qu'un être humain je pense que nous prenons ce genre de chose ave philosie je ne pense

pas que nous nous inquiétons de perdre le contrôle je vais prendre la position opposée à Gary je pense que les humains sont incroyablement sous-estimés en ce moment l'adaptabilité humaine la fluidité la créativité mais aussi la communauté les humains sont des animaux sociaux extraordinaires nous apprenons collectivement et en tant que collectif nous sommes capables de réaliser un grand nombre de choses très use très rapidement je m'inquièterai donc davantage des personnes qui contrôlent liya que de l'ya elle-même se retournant contre nous le plus grand ennemi de l'humanité c'est l'humanité elle-même en effet à mesure que les outils

deviennent plus puissants le danger ne vient pas des machines elles-mêmes mais des personnes qui utilisent ses outils la désinformation les armes militaires autonomes et bien d'autres choses les humains ont un excellent bilan dans l'invention de choses qui mettent en péril la race humaine comme les armes nucl légires pensez à quel point nous avons été proche d'anéantir la planète avec la crise des missiles de Cuba nous l'avons déjà fait et nous pouvons le refaire sous une forme différente je voudrais donc leur demander tout le monde dit que nous devons réguler mais qui a intérêt à le

faire les politiciens et les gouvernements sont dépassés tout va plus vite qu'ils ne peuvent le gérer et dans le secteur privé ils veulent juste faire de l'argent et diffuser ces technologies où sont les motivations pour vraiment agir sur ce problème évidemment beaucoup d'entre nous travaille sur l'IA pour apporter tous les incroyables bénéfices qu'elle peut avoir de la médecine à la productivité mais je suis d'accord qu'il y a un problème de coordination ou une forme de coopération internationale sur ces questions nécessaire je pense que nous avons quelques années pour nous organiser chercheurs et laboratoir leaders tant

dans l'industrie que dans le milieu universitaire doivent s'unir pour exiger ce type de coopération à mesure que nous nous rapprochons de l'intelligence artificielle générale je crois beaucoup en l'ingéniosité humaine et comme le dit David nous sommes incroyablement adaptables en tant qu'espèce regardez la technologie moderne que nous utilisons aujourd'hui la jeune génération s'y adapte naturellement et la considère comme acquise je pense que cela va aussi se produire avec chatbot il y a 25 ans ceux d'entre nous dans le domaine de l'IA auraient été stupéfait si on leur avait montré les technologie que nous avons aujourd'hui et

pourtant la société semble s'y être adaptée sans effort je veux distinguer deux types de risques liés à l'IA l'un est à relativement court terme et concerne les acteurs malveillants c'est beaucoup plus urgent cela concerne les armes autonomes létales que tous les grands départements de la défense développe sans aucune intention d'arrêter les réglementations européennes sur lia précisent qu'aucune de ces règles ne s'applique aux usages militaires de l'IA donc ils ont clairement l'intention de poursuivre il y a beaucoup d'autres risques à court terme comme la cyberciminalité la création de pathogènes dangereux les vidéos truqués la surveillance tous

ces risques sont très sérieux et il sera très difficile d'obtenir une collaboration sur ces questions ensuite il y a le risque à long terme que ces systèmes deviennent plus intelligents que nous qu'ils agissent dans le monde et décident qu'ils peuvent mieux atteindre leurs objectif que nous leur avons donné en nous écartant simplement pour ce risque particulier la menace existentielle les gens vont coopérer parce que nous sommes tous dans le même bateau personne ne veut que ces prennent le contrôle même le Parti communiste chinois ne veut pas que les zas soient au commande il veut que

ce soit le Parti communiste chinois qui contrôle pour quelqu'un qu'on décrit comme le parrain de la vous SEM assez pessimiste à bien des égards c'est potentiellement très dangereux c'est potentiellement très bon et potentiellement très dangereux je pense que nous devrions faire un effort énorme maintenant pour nous assurer d'obtenir les aspect positifs sans les possibilités négatives cela ne se produira pas automatiquement comme nous l'avons discuté les technologie puissantes sont en elles-mêm neutres elles peuvent être bonnes ou mauvaises selon ce que nous en tant que société décidons d'en faire l'intelligence artificielle n'est que le dernier exemple en

date dans ce cas c'est peut-être la chose la plus puissante et la plus importante à bien faire mais du côté optimiste je pense que c'est le seul défi que je peux imaginer qui pourrait être utile pour résoudre les autres défis si nous le faisons correctement c'est la clé je ne sais pas la démocratie et d'autres sujets sont peut-être hors sujet c'est peut-être aux économistes d'en parler je dirais simplement que l'intelligence artificielle est un outil informationnel et elle sera plus utile et plus enrichissante pour nous à tous égards si elle est utilisée à bon ciant une

information fiable et accessible pour tous pas seulement pour quelqu'un au sommet qui manipule les autres mais qui donne du pouvoir aux citoyens et aux travailleurs de différents niveaux de compétences pour accomplir leurs tâches ce sont tous des aspects de la démocratisation mais nous avons encore un long chemin à parcourir pour que ce type d'outil soit largement et non manipulur en fait avec les avancées de l'intelligence artificielle nous devrons mieux comprendre ce qui nous rend conscient et humain il y aura peut-être des obstacles qui nous pousseront à approfondir certaines de ces questions même si les progrès

de l sont très rapides nous devrons nous interroger sur notre propre existence et ce qui la rend plus [Musique] significativeous av mais je pense que nous n'avons pas besoin de philosophes qui parle de conscience de sensibilité et d'expérience subjective comprendre ces concepts est un problème scientifique et nous nous en sortirons mieux sans les philosophes je pense que c'est une opportunité extraordinaire pour la science tout ce que nous pouvons utiliser pour améliorer le processus scientifique peut avoir pas nécessairement aura mais peut avoir de grands avantages mais cela ne change pas la teneur de notre conversation précédente

les grands outils créent aussi de grands risques Fritz Haber lauréa du prix Nobel pour des travaux dont nous dépendons quotidiennement avec les engrais synthétiques a aussi fabriqué des armes chimiques pour l'armée allemande pendant la Première Guerre mondiale causant directement la mort de centaines de milliers de personnes la responsabilité des scientifiques disposant d'outils puissants n'en est donc pas moindre je suis d'accord avec cela et dans le domaine de l'IA je pense qu'un des avantages de l'air des chatbots l'IA est bien plus que des chatbot ce sont aussi des outils scientifiques et autres chos c'est qu'elle a

sensibilisé le public elle a aussi rendu les gouvernements plus conscients et la sortie du domaine de la science-fiction c'est positif car ces dernières années j'ai vu beaucoup plus de rassemblement entre gouvernement société civile et institut universitaire pour discuter des questions plus larges au-delà des technologies cela inclut des questions comme quels nouveaux institut nous avons besoin et comment distribuer largement les bénéfices c'est un problème sociétal pas technologique et nous devons avoir un large débat à ce sujet et nous commençons à le voir nous avons eu plusieurs sommets mondiaux sur la sécurité de l'IA un au Royaume-Uni

un en Corée du Sud et le prochain en France je pense que nous avons besoin d'une discussion plus intense et plus rapide sur ces le moteur des économies occidentales ces 50 dernières années a été la technologie la science et la Silicon valallé si vous êtes un ennemi de l'Occident vous voulez déstabiliser cela je pense que toute cette méfiance envers la technologie et les entreprises n'a pas évolué naturellement je pense que c'est manipulé par de mauvais acteurs je pense que c'est la Russie et l'Iran [Musique] ce n'est pas stupide de le dire il y a d'autres

mauvais acteurs aussi bien sûr l'industrie énergétique voudrait que vous ne croyez pas au changement climatique tout comme l'industrie du tabac savait très bien que les cigarettes caus le cancer mais ils ont caché ce fait pendant longtemps si nous ne pouvons pas faire confiance aux compagnies énergétiques pharmaceutiques et du Taba pouvons-nous faire confiance aux entreprises technologiques qui sont extrêmement concentrées et si l'intelligence artificielle est si importante qu'en est-il du pouvoir des entreprises technologiques je ne sais pas pourquoi vous me posez la question je ne travaille pas pour une entreprise technologique donc vous avez une opinion objective

non mais c'est un aspect des risques de la dont nous n'avons pas parlé et bien c'est fou nous parlons d'une énorme augmentation de la productivité il devrait donc y avoir plus de biens et services pour tout le monde donc tout le monde devrait être mieux lootti mais en réalité ce sera l'inverse c'est parce que nous vivons dans une société capitaliste ce qui va se passer c'est que cette énorme augmentation de la productivité va rapporter beaucoup plus d'argent aux grandes entreprises et aux riches et va creuser l'écart avec ceux qui perdent leur emploi et dès que

vous augmentez cet écart vous créz un terrain fertile pour le fascisme c'est donc très effrayant nous sommes peut-être à un point où nous ne faisons qu'ampirer les choses c'est fou parce que nous faisons quelque chose qui devrait aider tout le monde qui aidera évidemment dans les soins de santé et l'éducation mais si les profits ne vont qu'au riches cela va dégrader la société si vous êtes assez passionné par le domaine vous allez le faire quoi qu'il arrive je ne peux pas imaginer quelque chose de plus intéressant que de travailler sur la nature de l'intelligence et

s principes computationnels quand nous avons créé deep mind en 2010 presque personne ne travaillait sur l'IA sauf quelques personnes comme le parrain ici présent dans le milieu universitaire maintenant 15 ans plus tard ce qui n'est pas très long le monde entier en parle nous avions déjà prévu en nous appuyant sur le excellent travail de personne comme le professeur que ce serait l'une des technologies les plus conséquentes et transformatrices au monde si elle pouvait être réalisée et quand vous voyez quelque chose comme ça ça vaut la peine de le faire pour ce que c'est