J’ai lu « Toxic data – Comment les réseaux manipulent nos opinions » de David Chavalarias. J’ai beaucoup aimé son livre, qui est riche d’une analyse précise de la manipulation orchestrée par les Big Tech (comme il les désigne lui-même). L’ouvrage est illustré de quelques pages intérieures présentant de magnifiques cartographies issues des analyses politiques de Twitter.
Cette note de lecture n’engage que moi. Les phrases entre guillemets sont de l’auteur. Le livre est édité en 2022 chez Flammarion.
Toxic data – Comment les réseaux manipulent nos opinions
David Chavalarias est directeur de recherche au CNRS, directeur de l’Institut des Systèmes Complexes de Paris Île-de-France et ancien vice-président de la Complex Systems Society. Il est titulaire d’un doctorat de l’École Polytechnique en sciences cognitives et est diplômé de l’École Normale Supérieure de Cachan en Mathématiques et Informatique. Ses recherches portent sur les dynamiques sociales et cognitives, notamment à partir de l’analyse de données web à grande échelle.
David Chavalarias est intervenu dans plusieurs émissions de Radio France lors de la sortie de son livre. Voici par exemple le lien vers l’émission Esprit de Justice, animée par Antoine Garapon, avec Jean-Gabriel Ganascia (auteur de Servitudes virtuelles)
Toxic data
Dans l’avant-propos « Toxic data – Comment les réseaux manipulent nos opinions », David Chavalarias avance que nos démocraties, mal préparées, sont devenues malades du numérique. Il nomme « illibéralisme » la maladie des démocraties qui voit l’État de droit, la séparation des pouvoirs et la protection des libertés fondamentales bafouées. Son livre vise à montrer les mécanismes en jeu et à proposer des solutions. Il s’appuie sur une vaste collecte de données issues de Twitter, via le projet Politoscope.
En bon mathématicien, il avance une conjecture : « le modèle économique de la big tech, fondé sur la manipulation de l’influence sociale, est incompatible avec la pérennité de nos démocraties. » Son livre est une démonstration de cette conjecture. C’est parti …
Chapitre 1. La France dans le collimateur de l’alt-right
David Chavalarias base en grande partie sa réflexion d’une collecte et d’une analyse de Twitter. Le mathématicien est bien sûr parfaitement conscient des bais d’avoir une source unique de ce genre. Mais Twitter offre l’avantage d’une collecte très riche de données. Il analyse d’abord le phénomène des #MacronLeaks :
– Il souligne d’abord que l’extrême droite américaine était à la manœuvre, ainsi qu’environ 18000 bots qui ont amplifié la diffusion des messages par des retweets automatiques.
– L’extrême droite française a aussi amplifié le phénomène.
– En revanche, la responsabilité du vol des fichiers et leur mise à disposition incombent aux services de Poutine.
Ces trois forces, qui peuvent paraître au premier abord antagonistes, regroupent en réalité des acteurs qui veulent tous affaiblir les démocraties européennes. Le ton est donné.
Chapitre 2. Que se passe-t-il derrière l’écran ?
Nous sommes des êtres sociaux. Nous sélectionnons nos partenaires (interlocuteurs) lorsque l’on retrouve chez eux des caractéristiques similaires aux nôtres (homophilie). En parallèle, on subit l’influence sociale de ces mêmes personnes. Ce sont deux concepts très entremêlés l’un à l’autre.
L’homophilie peut être de statut ou de valeur :
- L’homophilie de statut est par exemple liée à l’âge, au sexe ou à la position sociale.
- L’homophilie de valeur repose sur … (bin justement) les valeurs, les croyances… Les interactions numériques encouragent la formation de groupes sociaux centrés sur les valeurs.
Chapitre 3. Nos réseaux sociaux vus du ciel
Les médias sociaux nous regroupent sur l’homophilie de valeur. Mais « passé un certain seuil d’entre-soi numérique, un groupe social est … susceptible de se transformer en ce que l’on appelle une chambre d’écho » … et contribue à la décohésion sociale. C’est ainsi que Twitter peut devenir un vrai champ de bataille.
Chapitre 4. Quand les algos partent en vrille.
Mais l’homophilie de valeur n’est pas la seule mécanique en cause. La décohésion est aussi encouragée par la « structure » même des médias sociaux, les « algorithmes de dépersonnalisation ». L’auteur rappelle l’expérience édifiante de Mat Honan qui a liké volontairement tout ce qui se présentait automatiquement sur son fil Facebook. Il s’est rapidement trouvé enseveli sous des messages extrémistes, présentant des dilemmes simplistes : soit on est « pour » soit on est « contre ». Il n’y a pas de juste milieu, de finesse, de place pour la réflexion pondérée.
Ajoutons que Facebook apprend de nos actions. Et que Facebook a, pendant longtemps, cherché à maximiser notre temps d’utilisation de l’outil. Mais en 2018 Facebook a changé de stratégie, et a cherché à maximiser nos interactions. Ce qui aura des conséquences funestes.
Chapitre 5. Libres de se laisser enfermer
Toxic data et The Truman Show
David Chavalarias fait le parallèle entre notre vie numérique et le film « The Truman Show » sorti en 1998. Dans ce film, le héros est la « victime » d’une émission de téléréalité qui a commencé avec sa naissance. Lui-même ne comprend pas qu’il est dans une émission, car il n’en est jamais sorti. Il ne connait rien de la vie extérieure. Il est dans une gigantesque opération de manipulation qui lui fait voir une fausse réalité… On voit où l’auteur veut en venir !
Le piégeage des réseaux sociaux
Est-ce que les médias sociaux font de nous des Truman ? On peut le craindre. Le piégeage des réseaux sociaux se fait via trois phénomènes :
– Le renforcement, qui fait que le réseau nous donne ce qui nous intéresse.
– La contagion algorithmique, qui fait que ce qui a plu à un de nos contacts nous sera servi.
– La création de bulles de filtre, qui fait que l’on reçoit des éléments personnalisés. Les bulles de filtre et le biais de confirmation se renforcent dans une boucle rétroactive.
Se rajoutent à cela d’autres phénomènes :
– Le biais de négativité, qui fait que l’on est plus attiré par ce qui est négatif.
– Le fait que nous fonctionnons avec un système1 (plus rapide) et système 2 (plus lent). Et que le système 1 est plus mobilisé sur les médias sociaux.
Tout cela peut être exploité politiquement. Et comme le dit avec humour David Chavalarias, les Hommes politiques ne sont pas « égaux face à l’algo ». Ceci pour introduire l’idée que « Twitter n’est absolument pas neutre politiquement » et que « la parole conservatrice est amplifiée »
Chapitre 6. Toxicité à tous les étages
France Haugen
Dans ce sixième chapitre de Toxic Data, David Chavalarias déchiffre Facebook et rappelle les alertes de France Haugen : « Les algorithmes de Facebook hyperamplifient les contenus négatifs et poussent des groupes entiers dans des rabbit holes ».
Or, Facebook, comme d’autres médias sociaux, se posent en intermédiaires des échanges sociaux et modèlent « à leur avantage les piliers de la cohésion sociale ».
Conséquence : cela déchire le tissu social. On peut par exemple souligner que le mouvement des gilets jaunes s’est développé peu de temps après que Facebook ait décidé de donner plus de poids aux informations locales. Ce n’est pas un hasard.
Attisé les conflits
Facebook s’est bien rendu compte que ses changements algorithmiques ont attisé les conflits. Mais comme cela augmentait les profits, cela a été entériné au plus haut niveau. Voir sur le sujet mon interview sur France Inter.
Il rappelle la citation de McLuhan « Nous façonnons nos outils, et, par la suite, nos outils nous façonnent ». Cela rentre en résonance avec la pensée de Jacques Elul « nous sommes les outils de nos outils ».
Suite de la note de lecture 2 et 3.
Jérôme Bondu
