Le livre Algoritmocracia, où est abordée la manière dont l’intelligence artificielle (IA) transforme les démocraties, est né de la constatation de la situation politique actuelle, selon l’auteur.
« La politique est bien plus polarisée, plus radicalisée, plus binaire et manichéenne, où l’espace de modération se rétrécit et les populistes gagnent beaucoup de force électorale, voire remportent les élections », affirme-t-il.
Dans ce contexte, il a étudié pourquoi cela se produit un peu partout en Europe, y compris dans son propre espace politique, de droite et centre-droit, et en est venu à la conclusion que l’écosystème algorithmique aide à expliquer beaucoup de ce diagnostic : « Le livre est le résultat de cette réflexion ».
« Il est important de comprendre que nous avons quelque chose de nouveau entre les mains et de réfléchir à ce sujet », car « la porte d’entrée dans le monde », le processus de formation de notre opinion, est « plus passif qu’actif », déclare Adolfo Mesquita Nunes.
Auparavant, « nous achetions un journal, regardions un journal télévisé, cherchions des informations. Aujourd’hui, elles nous parviennent tous les jours, même dans des contenus qui ne sont pas informatifs », comme des vidéos, des parodies ou des articles, entre autres, explique-t-il.
La manière dont ces articles et vidéos nous parviennent n’est pas aléatoire : « Elle est programmée par des algorithmes qui déterminent pour chacun de nous quels vidéos nous allons voir, lesquels nous ne verrons pas », dans quel ordre et à quelles heures et c’est un point de départ « important pour cette réflexion », avertit l’avocat.
« C’est comprendre qu’il existe une structure que nous ne connaissons pas, que nous n’avons jamais demandée, que nous ne savons pas qui contrôle, que nous n’avons jamais définie, que nous n’avons jamais personnalisée et qui nous dit exactement quels vidéos nous verrons, quels articles nous lirons, quand et où », constate le partenaire dans le domaine du droit public au cabinet d’avocats Pérez-Llorca.
« Cela signifie que notre processus de formation de l’opinion est médié par des algorithmes, et non par des journaux, la télévision, des professeurs ou des amis », souligne-t-il.
Avant, « nous pouvions critiquer les professeurs, les journalistes, choisir un autre journal, nous pouvions chercher à contrer les choix éditoriaux qui étaient faits », mais maintenant, rien de tout cela n’arrive, affirme-t-il, pour conclure qu’aujourd’hui, ce n’est plus possible.
« Si nous voulons contrer l’algorithme, nous ne pouvons pas ; si nous voulons savoir comment il fonctionne, nous ne pouvons pas ; si nous voulons savoir pourquoi il nous a proposé un certain vidéo et non un autre, nous ne pouvons pas », avertit-il.
Par exemple, « si on nous disait que le gouvernement choisissait chaque jour les nouvelles que nous lisons et (…) celles que nous ne lisons pas, les vidéos que nous voyons et celles que nous ne voyons pas (…) et si le gouvernement choisissait l’information qui n’arrivait pas sur nos téléphones, nous penserions que c’est une autocratie », déclare-t-il.
« Eh bien, c’est ce qui se passe : ce ne sont pas les gouvernements, mais bien les algorithmes », conclut Adolfo Mesquita Nunes.
« Il existe une structure algorithmique qui est déterminante pour ce que nous voyons et, par conséquent, aussi pour notre processus de formation d’opinion », affirme-t-il, expliquant que les études montrent que la nature humaine est très sensible à certains types de contenu.
C’est ce processus qui, selon Mesquita Nunes, « façonne lentement notre opinion, nous conditionne et nous pousse vers certaines idées. Personne n’est derrière cela – et il est important de le dire – il n’y a pas une structure qui veut que Adolfo pense A et que António pense B », souligne-t-il.
Les algorithmes ne cherchent pas à convaincre de quoi que ce soit, ils veulent juste capter l’attention car plus de temps ‘en ligne’ signifie plus d’argent.
Ces « algorithmes sont également planifiés et conçus par des scientifiques qui connaissent bien le fonctionnement du cerveau » et les humains sont « particulièrement activés et attirés par ce qui choque », ce qu’ils ne comprennent pas, ce qui fait peur, indigne ou suscite du ressentiment, explique-t-il.
« Cela ne signifie pas que les émotions, les préjugés, les perceptions ne sont pas présents en nous, indépendamment des algorithmes », mais « il n’y a aucun doute que les algorithmes intensifient toutes ces choses, parfois de manière disproportionnée », souligne-t-il, l’ancien secrétaire d’État.