J’ai lu et beaucoup apprécié « Bonjour ChatGPT » de Louis de Diesbach. Sous-titré : Comment l’intelligence artificielle change notre rapport aux autres.
Avertissement : J’ai repris quelques extraits du livre. Cette note de lecture ne reflète pas mes idées, et encore moins celles des structures avec lesquelles je travaille. Les phrases entre guillemets sont issues du livre.
Bonjour ChatGPT
Louis de Diesbach est éthicien de la technique et consultant en stratégie au sein du cabinet de conseil BCG. Il est également auteur, conférencier et chroniqueur sur les sujets de l’Intelligence artificielle et de l’éthique de la technologie.
Louis part d’une réflexion simple : pourquoi avons-nous tendance à dire « bonjour » à ChatGPT ? Nous savons pourtant que ce n’est pas une personne humaine. Pourquoi cet anthropomorphisme ?
Comme on peut lire en 4e de couverture : « Derrière le simple et à priori superficiel échange avec ChatGPT se cachent en réalité des enjeux fondamentaux et un projet de société bien plus vaste. Car dialoguer avec l’intelligence artificielle n’est pas neutre et derrière l’importance croissante des enjeux financiers, les machines influent sur le débat sociétal. (…) Cet ouvrage interroge et analyse les conséquences de ce phénomène qui met en jeu des questions d’ordre éthique, mais également légal, économique, politique et sociologique. »
Dès l’introduction, le ton est donné « Quand on aperçoit les diverses conséquences d’un projet technique des plus vorace – isolement, dépression suicide, mais aussi perte de dignité, effritement de notre liberté ou de notre rapport à autrui -, il apparait crucial d’apporter une réponse à cette étrange inversion : en traitant les robots comme des humains, ne finissons-nous pas par traiter les humains comme des robots ? » La réponse à cette question est donnée dans l’ouvrage !
Je reprends le plan, et mets en exergue quelques idées.
1 D’où viens-tu ChatGPT ?
Depuis que Nietzsche a déclaré que « Gott ist tot » (dieu est mort) l’Humain a cherché à prendre sa place. Les « êtres Humains se rêvent en insuffleur de vie ». ChatGPT est « notre création ». Mais à l’image du monstre de Frankenstein, elle risque de nous échapper.
2 Qui es-tu ChatGPT ?
L’anthropomorphisme est un réflexe qui apparait beaucoup souvent que l’on pourrait le croire. En écrivant « Bonjour ChatGPT » on « révèle notre humanité dans toute sa complexité ».
Et l’on aurait tort de donner à l’IA, pour l’instant, plus de puissance qu’elle n’en a réellement. Comme le dit Yann Le Cun « avant de rêver à une God-like IA il faudrait que l’on soit capables de créer une dog-like IA »… Mais qu’en sera-t-il demain ?
« L’anthropomorphisme, finalement, n’est qu’une conséquence. D’abord, celle d’une dissonance cognitive entre une machine inerte et son comportement apparemment téléologique (…). Mais elle est également la conséquence d’une société qui a perdu, notamment à cause de la technologie, son rapport à l’altérité – quelle ironie que ce soit en échangeant avec un chatbot que cette dernière tente, désespérément, de retrouver son lien avec autrui ».
3 Que fais-tu ChatGPT ?
Louis cite à plusieurs reprises Gérald Bronner dont j’ai chroniqué plusieurs ouvrages (La démocratie des crédules, Apocalypse cognitive, La planète des hommes, et qui est intervenu au Club IES) . Gérald Bronner a soulevé comme bien d’autres que les internautes étaient « abandonnés à d’obscures logiques algorithmiques et à un marché de l’attention qui les enferme dans leurs obsessions ».
Louis se fait plus précis à mesure que l’on avance dans l’ouvrage « Quand nous parlons à des machines, s’agit-il d’une nouvelle forme de compagnie ou d’un renoncement ? » « Sommes-nous en train de renoncer à ce qui fait notre humanité ? »
4 Que faire de toi ChatGPT ? »
Louis détaille la doctrine utilitariste (sacrifier une personne aujourd’hui pour en sauver deux demain), décrit les apôtres du long-termisme (investir dans la tech pour maîtriser la tech), et l’idéologie de l’altruisme efficace. Il est évident que ces visions du monde bénéficient en premier aux géants de la tech, et visent à « perpétuer leur monopole qu’on nous présente comme salvateur de notre humanité ». Les BigTech ont un projet politique. « La technique ne serait que l’effet extérieur d’une mutation de la pensée animée par une volonté de puissance et de maîtrise universelles ».
Conclusion : Au revoir ChatGPT …
Finalement, la compréhension de ce qui se joue quand on dit « Bonjour ChatGPT », nous a permis de nous recentrer sur nous-mêmes, et sur ce qui fait notre humanité. « Quand on dit au revoir à ChatGPT, on met de côté cette volonté inhumaine de surhumanité, on abandonne nos rêves d’hégémonie ou de divinité pour embrasser une vie centrée sur l’humain dans son sens le plus fragile qui soit ».
La préface est de Luc de Brabandere (dont j’avais beaucoup aimé l’ouvrage « Homo informatix »
Il a écrit « Avec l’arrivée des objets informatiques, c’est comme si brusquement un seuil avait été franchi. Nous serions tout à coup projetés dans une relation d’égal à égal avec les machines ou, pire encore, nous passerions d’un statut d’utilisateur à celui d’utilisé. »
« Bonjour ChatGPT » de Louis de Diesbach est édité chez Margada. C’est à lire …
Jérôme Bondu
