Le B.A.-BA de l'intelligence artificielle | Une leçon de géopolitique | ARTE

Chaque citoyen doit devenir un soldat malgré lui.  Nous sommes tous potentiellement aujourd'hui une cible et donc il va falloir qu'on ait de nouveaux  réflexes cognitifs. Ravie de vous retrouver pour une nouvelle Leçon de géopolitique.

Aujourd'hui,  le B. A. -BA de l'intelligence artificielle et ses répercussions sur notre vie politique et  géopolitique.

La guerre de l'information, les élections, la guerre des idées et des modèles  culturels. De tout cela, on en parle avec vous Asma Mhalla. Bonjour, bienvenue !

Bonjour Émilie  Aubry, merci beaucoup ! Merci à vous d'être en ligne avec nous. Vous êtes spécialiste des enjeux  politiques de la tech et vous publiez ces jours-ci cet ouvrage "Technopolitique : comment la  technologie fait de nous des soldats" aux éditions du Seuil.

Alors je vous propose comme  toujours, dix questions clés. Première question, basique, chronologiquement, on a eu Internet au  début du XXIᵉ siècle, puis les réseaux sociaux en gros dans la décennie suivante et aujourd'hui  l'intelligence artificielle. En quelques mots, dites-nous c'est quoi et ça change quoi?

Ce  sont en fait des super systèmes. En gros, si je fais de façon très schématique, on prend  beaucoup de données, ça peut être tous vos usages sur Internet, ça peut être les données militaires,  les communications, les télécommunications, ça peut être des données industrielles, et qu'on  va injecter dans les modèles d'entraînement pour les entraîner de façon massive pour en sortir des  outputs, c'est-à-dire en fait de l'information. En résumé, est-ce que l'on peut dire que c'est  nourrir une machine à grand coup de data et que cette profusion de data va donner à la machine  les moyens de produire un raisonnement qui ressemble à un raisonnement humain ?

C'est assez  spécifique à ce qu'on va appeler les intelligences artificielles génératives, par exemple Chat GPT  ou Gemini de Google. En fait, c'est l'idée qu'on va avoir des systèmes algorithmiques qui en fait  vont vous aider selon des consignes et que vous allez mettre dans votre petite application. Vous  allez dire ce que vous avez envie de chercher.

Peu importe. Et en fait, elle va vous générer du  contenu. Ça peut être du texte, ça peut être du code, de l'image et ça peut être bienveillant ou  malveillant.

Merci pour cet effort de définition préliminaire. Deuxième question à présent, avec  vous, on a envie de comprendre qui sont les grands acteurs de l'intelligence artificielle, les grands  industriels? On va évidemment retrouver les géants technologiques, ce qu'on appelle les big tech. 

Et aujourd'hui, la grande, La grande bataille se joue entre Sam Altman, qui est le patron  de Open AI et qui est cette startup qui a mis sur le marché Chat GPT, le fameux qui a relancé,  disons, la troisième grande vague d'intelligence artificielle de ces 20 dernières années et qui  est lui même financé par Microsoft. Et en face, on va avoir par exemple un Elon Musk. Ce qui se  joue entre ces grands acteurs technologiques, c'est aussi une bataille culturelle parce que  la technologie, l'intelligence artificielle, par les systèmes algorithmiques, les algorithmes  dont on parlait tout à l'heure, véhiculent des valeurs, véhiculent une vision du monde.

Précisément, quelles sont ces différences de valeurs entre un Elon Musk et le système de  valeur Meta par exemple? Aujourd'hui, la vraie bataille culturelle qui est en train de se jouer,  c'est plutôt entre Open Ai/Microsoft et Elon Musk, avec évidemment les modèles de Meta, LlaMA, et les  modèles de Google, Gemini, dans l'écosystème. Avec cette bataille des géants technologiques  autour de l'outil qui va, si vous voulez, préempter nos usages.

Mais ce qui est fondamental  à avoir en tête et qui est très peu connu, c'est la bataille culturelle qui est en train de  se jouer autour des intelligences artificielles parce que vous avez une partie de l'élite  technologique américaine, de la Silicon Valley, dont Peter Thiel, de Palantir et de Paypal, dont  Elon Musk, qui sont en train en fait de pencher vers l'Alt-right, la droite radicale, la droite  extrême américaine avec ce programme, c'est-à-dire qu'on va utiliser nos outils technologiques pour  véhiculer une espèce de "Make America great again" par la technologie. Pour qu'on comprenne bien,  précisément, expliquez-nous. Donnez nous peut-être un ou des exemples.

Comment des algorithmes  peuvent aider l'extrême droite à gagner sa bataille des idées sur ces réseaux sociaux  d'Elon Musk? C'est très simple. Si on prend par exemple Twitter, c'est un espace qui est en  fait un espace public où se joue, où se fixe une partie de l'agenda international.

Où communique  aujourd'hui, dans un premier réflexe, tous les gouvernants ? Sur Twitter, Emmanuel Macron, Joe  Biden : Tous. Donc c'est un espace d'influence, mais l'algorithmie derrière, ou les intelligences  artificielles qui sont derrière, vont vous aider à survisibiliser certains contenus par la viralité  ou invisibiliser d'autres par de la surmodération.

Et la grande difficulté qu'on a, c'est d'essayer  de trouver la bonne gouvernance de ces outils-là. Dans le cas de Elon Musk, et j'en terminerai  là, c'est assez intéressant de voir un peu l'agenda politique qu'il y a derrière. Son sujet  avec X/Twitter, c'est d'en faire un espace de démocratie, dit-il "direct".

Où finalement c'est  le pouvoir au peuple, mais dans une version très romantique de la chose, mais en détruisant, et  ça, c'est une vraie obsession chez Elon Musk, ce qu'il appelle lui les corps intermédiaires. Donc  vous, les journalistes, et les contre-pouvoirs. Il y a les grands industriels de l'IA, on  en a cité quelques-uns, les principaux.

Et puis il y a aussi les États face à l'intelligence  artificielle. Je voudrais qu'on commence peut-être par cette phrase fameuse de Vladimir Poutine :  "Celui qui dominera l'intelligence artificielle, dominera le monde, dominera le XXIᵉ siècle".  Est-ce que vous pouvez nous parler du rapport qu'entretient la Russie de Vladimir Poutine  avec l'intelligence artificielle?

Il avait dit ça en effet en 2017 et à ce moment-là, il y avait  cette vision de se dire : il va y avoir un Etat, une entité qui va contrôler cette technologie et  qui va en effet dominer le monde. Or, ce qu'on est en train d'observer, c'est tout autre chose.  C'est même une balkanisation, une fragmentation.

Vous avez plein d'acteurs et dans ce jeu là, la  stratégie russe a davantage été. Et pour terminer, pour répondre à votre question initiale, a  davantage été mais par tout un ensemble de lois d'ailleurs, sur une forme de souveraineté dite  informationnelle. Ils ont réussi à développer un écosystème relativement autonome qui s'appelle  le RuNet.

Je voudrais bien vous entendre aussi sur cette capacité qu'a su développer la Russie de  Vladimir Poutine à venir troller le débat public mondial ou en tout cas européen. Est-ce que ça, ça  passe par l'intelligence artificielle? Et si oui, expliquez-nous concrètement comment.

La question  que vous posez, qui est éminemment géopolitique, c'est toute la question de la désinformation  et des ingérences, notamment russes, pour déstabiliser les démocraties occidentales.  Absolument, et c'est bien antérieur à la guerre d'Ukraine. C'est une stratégie qui consiste par  des fermes à trolls, par tout un tas de bottes automatisées.

Ça, c'était la première phase à  venir, si vous voulez, inonder nos réseaux sociaux avec de la désinformation, avec des récits, avec  des récits qui vont promouvoir le discours russe, ou plutôt d'ailleurs déstabiliser nos démocraties  mais par leur intérieur, en polarisant, en brutalisant le débat public, en donnant  de la matière à des groupes complotistes ou séparationistes pour augmenter la dissension,  pour augmenter l'impossibilité de la conversation démocratique. Et l'intelligence artificielle  est fondamentale là-dedans puisqu'en fait, tout d'un coup, vous allez pouvoir industrialiser  la fabrication de contenus faux, mais de bout en bout, la fabrication de faux-sites, de sites  d'informations mais de sites dit miroirs, vous allez pouvoir industrialiser, mais en quantité  extraordinaire, les deepfakes, les fameuses vidéos qui vont simuler du faux. Et comme ça vous pouvez  créer des univers de faux de bout en bout et qui et qui vont devenir à force de sophistication, de  plus en plus difficilement débunkables.

Ça veut dire : trouver des algorithmes pour contrer  d'autres algorithmes ou trouver des citoyens qui ont envie de passer beaucoup de temps sur les  réseaux sociaux pour venir justement dénoncer des deepfakes ? Les deux mon capitaine ! Évidemment  que ça va être des IA avec des contre IA et donc on va essayer, si vous voulez, d'industrialiser  la captation des campagnes de désinformation.

En France, on a la Viginum qui aujourd'hui essaie  d'avoir un effort de communication de plus en plus fort sur justement l'identification de  ces campagnes larges de désinformation. Les tiers de confiance, disons la société civile qui  va essayer d'identifier les contenus pour aider le régulateur, c'est fondamental aussi. Mais  moi ce que je disais, c'est que chaque citoyen doit devenir un soldat malgré lui.

Nous sommes  tous potentiellement aujourd'hui une cible et donc il va falloir qu'on ait de nouveaux réflexes  cognitifs. Dès l'instant où je suis exposée à un contenu, je prends deux minutes, je prends deux  secondes, je prends trois secondes pour juste me demander qui me parle et pourquoi on me pose ce  contenu-là parce qu'on ne va pas pouvoir mettre un flic ou un militaire derrière chaque citoyen,  ça ne va pas être possible. Donc si je résume, à ce stade de notre entretien, on est dans une  véritable guerre cognitive et guerre tout court qui se joue entre des industriels, entre des  Etats, avec évidemment un grand bras de fer principal et, vous l'avez évoqué, celui qui  se joue entre une démocratie et aujourd'hui, c'est une démocratie, les Etats-Unis et un  système qu'on peut qualifier de dictatorial, la Chine.

Comment résumer cette confrontation-là  sur le plan précisément de l'intelligence artificielle? Alors une partie de la rivalité  géostratégique États-Unis/Chine se joue en effet sur l'intelligence artificielle et pourquoi  ? C'est une vraie stratégie de politique de puissance des deux États.

Parce que dès 2017, le  PCC va annoncer dans ses fameux plans quinquennaux qu'il a l'ambition de devenir l'une des premières  puissances militaires mondiales d'ici 2049. Vous ne pouvez pas le devenir sans une forme de  suprématie technologique, donc via l'intelligence artificielle. Pour peut-être répondre plus  précisément encore à ma question est-ce que vous pouvez essayer de nous expliquer en quoi le  recours à l'intelligence artificielle diffère ou non selon qu'on a affaire à un État démocratique  ou à un État autocratique en l'occurrence, bien sûr, l'État chinois, celui du PCC.

Aux États-Unis  aujourd'hui, l'axe de la régulation - et ça va répondre à votre question - l'axe de la régulation  est très axé sur la question de la sécurité nationale, avec un écosystème d'innovation, les  fameux géants technologiques mais pas uniquement, qui sont dans un marché, disons libéral. Sur les  questions de valeurs par exemple, aujourd'hui, sur la question des réseaux sociaux, vous avez  une forme de liberté d'expression. C'est même le premier amendement de la Constitution américaine. 

Ce qui d'ailleurs pose d'autres problèmes. Sur la question de la modération des propos. Disons  qu'ils sont dans une zone grise, mais qui ne sont pas pénalement répréhensibles.

Ce qui pose  donc la question de la gouvernance, de Meta, d'Instagram, de Twitter, etc. Côté chinois, et  vous allez voir que la question des valeurs, là, est fondamentale, c'est l'inverse. Aujourd'hui,  il y a une même une petite difficulté à développer leur propre système d'intelligence artificielle  à cause de la censure.

Parce que dès l'instant où vous avez des lois qui vont censurer le  discours politique, donc la création de données, que vous allez homogénéiser ce qui sort sur les  réseaux sociaux et sur l'ensemble des plateformes, eh bien automatiquement, vous allez avoir des  modèles d'intelligence artificielle beaucoup moins performants parce que vos données se  ressemblent et à tel point que récemment, ce qui a été annoncé, c'est que Alibaba, qui  est l'un des grands géants technologiques chinois, utilise LlaMA qui est la plate forme  d'intelligence artificielle d'open source de Meta, puisque précisément, ils ont besoin de niveau  performatif un peu plus élevé. Est-ce que vous pouvez nous rappeler plus précisément comment  l'intelligence artificielle est l'outil préféré des dictateurs d'une certaine manière, puisque  pour pratiquer le contrôle social, au fond, c'est le meilleur adjuvant ? Le cas d'école,  c'est la Chine.

La censure fait que ça empêche d'avoir une forme d'hétérogénéité des données  et donc une meilleure performance des systèmes algorithmiques et d'intelligence artificielle.  Ça, c'est le premier élément de réponse. Le deuxième élément de réponse, c'est que donc les  investissements ont beaucoup basculé vers la techno surveillance.

Les systèmes d'intelligence  artificielle aujourd'hui en Chine sont en fait vont venir dopés, boostés tous les outils de  contrôle social. Vous avez le crédit social, bien entendu. Vous avez le quadrillage de  l'espace public par la reconnaissance faciale, le contrôle des réseaux sociaux et avec en  fait une forme d'amende extrême pour les géants technologiques qui ne respecteraient pas  les règles de promotion des valeurs socialistes.

Et l'intelligence artificielle, de ce point de  vue là, est un outil de contrôle de la population, de contrôle de ce qui est dit, de contrôle  de vos opinions politiques. Et ce que je relèverai enfin, et qui est sur lequel il  faut vraiment être vigilant, c'est que, et à raison d'ailleurs, nous essayons, nous, de  défendre nos valeurs d'État de droit en démocratie libérale occidentale. Eh bien, il y a une  tentation d'un certain nombre d'Etats, mais même en France, de commencer à, disons, industrialiser  aussi l'usage de technologies d'hyper surveillance qui sont dopées à l'intelligence artificielle. 

Il faut que donc ceci fasse vraiment l'objet d'un vrai débat public éclairé. A présent, avec  vous Asma, on a envie de comprendre en quoi l'intelligence artificielle pourrait faire courir  un risque majeur aux deux grands scrutins qui sont devant nous, en Occident du moins, les élections  européennes en juin et bien sûr la présidentielle américaine en novembre prochain. Il va y avoir  deux grands axes, mais on les voit déjà en réalité.

Bien sûr tout le champ des cyberattaques  pour déstabiliser le fonctionnement des élections, le service des administrations, des portails  d'administrations pour en fait créer de la dissension. Donc ça, c'est le premier volet.  Puis le deuxième volet peut-être le plus délicat, c'est évidemment la question informationnelle,  c'est-à-dire en fait toutes les campagnes de désinformation, d'ingérence, de micro ciblage et  qui vont évidemment être dopées à l'intelligence artificielle parce ce qu'on évoquait : les  deepfakes, les faux sites, les faux contenus, les faux profils, mais en quantité industrielle. 

Et je terminerai sur le retour d'expérience de l'Argentine qui est ultra intéressant parce  qu'en Argentine on a eu ce qu'on a appelé les cheapfakes, c'est-à-dire, ce sont des deepfakes,  donc vous avez donc ces fameuses vidéos fausses qui manipulent des paroles, qui manipulent des  leaders d'opinion à qui on fait dire tout et n'importe quoi. Et en fait en Argentine ça a été  fabriqué de très basse qualité et ça se voyait que c'était bidouillé et que c'était faux. Et  pourtant.

Et pourtant ça a été extrêmement viral. Pourquoi? Parce que d'une certaine façon,  peu importe que ce soit crédible ou pas, l'essentiel est que ça devienne un support de  colère et ça vous permet de décrédibiliser le camp d'en face.

Merci infiniment d'avoir été  en ligne avec nous, c'était passionnant. Je rappelle que vous êtes spécialiste des enjeux  politiques de la tech et que vous publiez ces jours-ci "Technopolitique : comment la technologie  fait de nous des soldats ? " C'est aux éditions du Seuil.

Merci à vous de nous avoir suivi. Merci.  Merci pour votre fidélité et rendez-vous bien sûr la semaine prochaine.

Même endroit, même  heure pour une nouvelle leçon de géopolitique.