Entendez ceux qui souhaitent vous influencer au travers de nouvelles formes de tromperie qui se développent à l’ère des réseaux sociaux omniprésents et des IA conversationnelles, où la frontière entre l’humain et la machine s’estompe dangereusement. Dans son nouveau livre Imposture, Aurélie Jean, docteure en science numérique, offre les clés pour identifier huit catégories d’usurpateurs et révèle notamment comment le modèle économique de l’attention s’est mué en modèle de l’attachement, créant une société de l’émotion au détriment de la raison.
Docteure en science numérique et entrepreneure, Aurélie Jean est une des figures de la science algorithmique. Elle est l’auteure d’un premier livre à succès, De l’autre côté de la Machine (L’Observatoire, 2019) et chroniqueuse pour Le Point.
Son essai Imposture, qui vient de paraître aux Éditions de l’Observatoire, décrypte les mécanismes de la manipulation moderne et offre les clés pour identifier les usurpateurs du débat public. De l’essayiste autoproclamé à l’expert de plateau, du théoricien complotiste au prophète des réseaux sociaux, elle analyse huit dimensions de l’imposture qui gangrènent notre espace démocratique, sujet qui prend une acuité singulière à l’ère des IA conversationnelles, où la frontière entre l’humain et la machine s’estompe dangereusement.
Ni fataliste ni naïve, Aurélie Jean invite le lecteur à une gymnastique intellectuelle salutaire : cultiver l’effort de penser, confronter les idées, et construire collectivement des défenses contre la désinformation. Car si l’imposture existera toujours, notre vigilance et notre esprit critique restent les meilleures armes pour préserver l’intégrité du débat public.
Voici quelques extraits remarquables de ce manuel de résistance intellectuelle permettant de naviguer entre Charybde et Sylla dans le chaos informationnel de notre époque, et de mieux percevoir certains enjeux de notre évolution sociétale généré par l’essor de l’IA dans notre vie quotidienne, et même intime.
Chapitre « L’imposture de l’expert »
« Cet argument du consensus a trouvé dans les réseaux sociaux son terreau idéal, sur un sol entretenu – même sans le réaliser – par tous les utilisateurs de ces outils. Un effet moutonnier, alimenté par des algorithmes de recommandation qui mettent en exergue des contenus populaires sans condition de véracité, associé aux phénomènes de bulles de filtres 1 qui tendent à enfermer les utilisateurs dans des bulles d’opinion, renforce l’argument du consensus. On rappelle ici que ces bulles filtrent automatiquement des contenus du réseau social en question auprès d’utilisateurs segmentés en fonction de leurs comportements 2. Par un biais de confirmation, nos croyances, ou tout simplement nos idées, sont renforcées. Dans le cas de l’argument du consensus, à force d’approuver majoritairement – voire uniquement – ce à quoi on adhère (comme l’idée que l’immigration serait la cause du chômage ou que l’IA détruirait tous les métiers du monde) et de ne voir que des contenus allant dans ce sens, on finit par penser que le propos en question est une vérité consensuellement reconnue. S’y ajoute une distorsion cognitive qui nous fait croire que bien plus de gens partagent notre opinion qu’en réalité. »
Chapitre « L’imposture de la parole »
« Le modèle économique de ces réseaux (sociaux) évoqué en introduction, met l’accent sur la forme et non le fond, par la viralité des contenus transgressifs et polémiques, mais aussi par tous ces contenus qui nous confortent dans nos opinions et parfois dans nos croyances. Ces machines à ressentiment nous amènent trop souvent à n’aimer un contenu que sur la base de son apparence : un gros titre, une photo attirante, un grand nombre de likes qui donne envie de liker à son tour. Vous avez bien lu : la popularité apparente d’un contenu serait pour beaucoup une marque de légitimité de son auteur sur le propos tenu. »
Chapitre « L’imposture de l’opinion »
« Tout porte à croire que les réseaux sociaux ont instauré un dangereux quiproquo : réagir y est assimilé à penser, et commenter à argumenter. Ce mécanisme rassurerait l’individu en lui donnant le sentiment de participer au débat, alors qu’il ne fait que céder à une réponse instinctive parfois épidermique, dénuée de tout recul critique. »
Chapitre « L’imposture de l’émotion »
« Vous pouvez aussi analyser le profil des utilisateurs qui aiment et partagent leurs contenus et examiner la nature de leurs commentaires. On peut en effet observer que les utilisateurs éblouis et affaiblis ont tendance à ne pas dérouler la moindre pensée dans leurs commentaires. Ils avalent au contraire les paroles de l’imposteur en le complimentant sur la forme de son post au lieu d’en valider le fond ou de le confronter en argumentant. L’émotion passionnée des utilisateurs devient alors un outil puissant que l’imposteur emploie à outrance. »
Même chapitre, à propos de l’intelligence artificielle
« Notre rapport à nos propres émotions évolue également. Force est d’observer que nous tendons à devenir plus narcissiques, plus susceptibles et à fleur de peau, nous rendant ainsi plus vulnérables aux tactiques des manipulateurs du débat public. Cette tendance risque de s’accentuer à l’avenir avec l’émergence des nouvelles générations d’IA génératives dites conversationnelles. En effet, aux réseaux sociaux largement utilisés aujourd’hui (près de 80 % des Français utilisent au moins un réseau social 1) s’ajoutent depuis quelques années les IA génératives qui permettent de générer des textes, des photos, des vidéos ou encore des sons. Intéressons-nous ici aux IA génératives conversationnelles comme ChatGPT, Gemini, Le Chat, Claude ou encore DeepSeek, qui interagissent avec les utilisateurs pour répondre à des requêtes sous la forme apparente de conversations entre humains. De fait, par la manière dont ces IA génératives conversationnelles sont conçues, les utilisateurs peuvent avoir l’impression d’échanger avec un être humain en chair et en os, donnant toute leur confiance et leur temps à ces technologies. Le simple fait de posséder des éléments de langage anthropomorphiques (c’est-à-dire très similaires à ceux maîtrisés par un être humain), comme “Vous avez raison”, “Pardon de ma réponse imprécise” ou “Quelle excellente question vous posez”, laisse croire qu’on échange avec un être humain. Vous avez aussi sûrement remarqué l’apparition de petits points pendant que l’algorithme génère une réponse, qui donnent l’étrange impression qu’un individu tape sur un clavier de l’autre côté de l’écran. Sans l’ombre d’un doute, les propriétaires de ces IA sont conscients de cet effet, qu’ils recherchent afin de créer chez l’utilisateur cette dépendance à la machine. Au risque de vous surprendre, chers lecteurs, ce phénomène est connu depuis les années 1960. On parle d’effet ELIZA, du nom du premier chatbot à l’écrit conçu en 1966 par l’équipe du professeur Joseph Weizenbaum au Massachusetts Institute of Technology. Durant l’expérience menée par ces chercheurs, des patients en psychothérapie qui échangeaient avec ELIZA – simulant un psychothérapeute dont ils savaient qu’il n’était qu’une simple machine – ont déclenché une empathie spontanée envers elle. Et pourtant, ELIZA ne faisait que deux choses : reformuler les déclarations du patient sous forme de questions 1 (à la déclaration « Petit, je ne m’entendais pas avec mon frère », ELIZA répondait “Petit, vous ne vous entendiez pas avec votre frère ? ”), et écrire à fréquence régulière “Je vous comprends…”. Depuis, on parle d’effet ELIZA pour traduire une émotion spontanée que l’utilisateur déclenche vis-à-vis d’une machine, d’un algorithme, d’une IA, qui a des caractéristiques anthropomorphiques, similaires à un être humain. L’effet étant bien évidemment plus rapide et intense à mesure que le niveau d’anthropomorphisation augmente. Imaginez les proportions de cet effet au temps d’IA génératives conversationnelles bien plus performantes, qui créent toujours plus de difficulté chez l’utilisateur à distinguer l’humain de la machine !
Aujourd’hui, nous serions plus d’un quart à nous être déjà confiés à une IA sur des sujets que nous n’osions pas aborder avec un autre être humain, et ce nombre continuerait d’augmenter. D’une certaine manière, ces IA nous plairaient davantage qu’un humain, par leurs fonctionnalités consistant à ne jamais nous contredire ou à nous rassurer par les réponses consensuelles qu’elles génèrent, jusqu’à, pour quelques-uns d’entre nous, entretenir une « relation » sentimentale apparente. Cette relation étant, vous l’avez compris, entièrement artificielle. »
Photo ci-dessus : ©Géraldine Aresteanu
Partager cet article
