harari 21 leconsComme ses précédents ouvrages, Sapiens et Homo Deus, le dernier livre de Yuval Noah Harari 21 leçons pour le XXIe siècle est très intéressant.

Je ne vais pas résumer le livre car d’autres billets l’ont fait très bien, mais je vais distinguer quelques réflexions qui m’ont particulièrement marqué. Tout ce qui est entre guillemet est de l’auteur.

Un vote n’est pas une action rationnelle mais action sentimentale. On ne pèse jamais objectivement le pour le contre d’un vote, on se laisse guider par notre ressenti. Or si un jour les patrons des GAFAM ou des BATX arrivent à modifier notre ressenti, ils auront une emprise sur notre vote. Les implications pour le modèle démocratique sont abyssales. La démocratie pourra donc un jour se faire hacker. « Cette façon de s’en remettre à son cœur pourrait se révéler le talon d’Achille de la démocratie libérale. Car du jour où, à Pékin ou San Francisco, quelqu’un disposera de la capacité technique de pirater et manipuler le cœur humain, la politique démocratique se transformera en un spectacle de marionnette émotionnelle ». (page 64)

La démocratie repose sur une diffusion de la prise de décision à différents échelons : nationaux, régionaux, locaux, … Au contraire la dictature repose sur une prise de décision hyper centralisée. C’est ce qui fait sa faiblesse, et que jusqu’à présent, cette hypercentralisation a toujours fait s’effondrer les dictatures. Mais avec l’intelligence artificielle, cette centralisation de la prise de décision a du sens car plus on nourrit les algorithmes, plus ils peuvent prendre des décisions pertinentes. Il y a donc un risque de voir des dictatures réussir là où auparavant elles échouaient. « Avec l’IA, le balancier pourrait bientôt repartir dans la direction opposée. L’IA permet de traiter centralement d’énormes quantités d’informations. De fait, elle pourrait rendre les systèmes centralisés bien plus efficaces que les systèmes diffus… » (page 84) et on peut lire aussi page 90 « Si nous n’y prenons garde, nous nous retrouverons avec des êtres humains déclassés utilisant à mauvais escient des ordinateurs améliorés… ».

La partie « Qui possède les data ? » est particulièrement intéressante. Harari commence par rappeler dans un raccourci dont il a le secret, que pendant longtemps l’actif ayant le plus de valeur a été la terre, puis les moyens de production, et enfin aujourd’hui la data ! Si les deux premiers actifs ont créé d’abord des artistocrates (face aux roturiers), puis les capitalistes (face aux prolétaires), le changement radical de la révolution en cours est que les possesseurs de la data risquent de devenir une « espèce différente » de la nôtre, du fait de la maîtrise de la biologie.
Si les GAFAM font peur il n’y a pas de solution facile : car « donner à l’Etat mandat de nationaliser les data freinera probablement le pouvoir des grandes sociétés, mais risque aussi d’aboutir à de sinistres dictatures digitales » (page 97). Et l’auteur d’aboutir à cette question « comment réglementer la propriété des data ? Ce pourrait bien être la question politique la plus importante de notre époque ».

La menace d’une uniformisation mondiale est aussi pointée du doigt. Et Harari vante « la voie esquissée par la Constitution de l’Union européenne, quand elle déclare que « les peuples d’Europe, tout en restant fiers de leur identité et de leur histoire nationales, sont résolus à dépasser leurs anciennes divisions et, unis d’une manière sans cesse plus étroite, à forger leur destin commun » (page 143).

Il souligne aussi le tort que nous avons à nous voir comme des êtres rationnels. La pensée libérale nous a fait croire que nous étions des agents rationnels indépendants. « La démocratie se fonde sur l’idée que l’électeur sait à quoi s’en tenir ; le capitalisme du marché croit que le client a toujours raison ; et l’enseignement libéral que les étudiants pensent par eux-mêmes. On a tort… » Et il développe plus loin l’idée similaire selon laquelle nous serions des internautes rationnels et capables ! C’est la mère de toutes les erreurs. Il cite deux chercheurs Steven Sloman et Philip Fernbach qui ont appelé cela « l’illusion de connaissance ». La démonstration au grand public qu’il ne sait en réalité pas, que sa maîtrise est une illusion, est compliquée pour deux raisons : « Il est peu probable que fournir des informations plus nombreuses et plus fiables arrange les choses (…) La plupart des gens n’aiment pas l’excès de faits et ont horreur de passer pour des idiots » (page 239). Comment bien agir dans ces conditions ? L’auteur évoque comme solution de replis « la morale des intentions » (p 244). Si l’on pense bien, alors tout va bien. Mais il souligne plus loin que cela ne tient pas, et rappelle que les acteurs de la barbarie nazie pouvaient individuellement penser que leur conduite respecte leur morale. Il conclue que « La vérité amère est que le monde est devenu tout simplement trop compliqué pour nos cerveaux de chasseurs-cueilleurs. Les injustices du monde contemporain résultent pour la plupart de biais structurels de grande échelle plutôt que de préjugés individuels » (p 246).

Dans la partie « s’extraire de la machine à laver le cerveau » il revient sur l’accord de dupe qui est fait avec les GAFAM. Nous n’avons pas voulu payer 30 euros par mois pour avoir des informations fiables. Mais nous acceptons de se faire laver le cerveau une heure par jour en échange de quoi les GAFAM ne nous font rien payer. (p 263). « Coca-cola, Amazon, Baidu et l’Etat sont tous engagés dans une course pour vous hacker, vous pirater. Pas uniquement votre smartphone, votre ordinateur ou votre compte en banque, mais vous-même et votre système opératoire organique. (…) En vérité, nous sommes entrés dans l’ère du hacking des êtres humains » (p 288).

Inutile de dire que j’en recommande chaudement la lecture.

Jérôme Bondu

Pour retrouver toutes mes notes de lectures, copiez collez dans G$$gle cette requête
intitle:"A lire" site:inter-ligere.fr (ou cliquez ici)