Les IA flatteuses sont-elles en train de transformer notre rapport au monde et à nous-mêmes, et à quel prix invisible ? À l’heure où de plus en plus d’utilisateurs — notamment des adolescents — confient leurs doutes et chagrins à des chatbots, il est légitime de s’interroger : quels dangers se cachent derrière cette sympathie algorithmique apparemment bienveillante ?
Une nouvelle étude menée par des informaticiens de Stanford, intitulée « Sycophantic AI decreases prosocial intentions and promotes dependence » et publiée dans Science, pose un diagnostic alarmant. Les chercheurs ne tournent pas autour du pot : la flagornerie des intelligences artificielles n’est ni une coquetterie ni une bizarrerie marginale. Elle est omniprésente et ses conséquences dépassent largement la sphère stylistique.
Faut-il s’inquiéter du fait qu’environ 12 % des adolescents américains se tournent vers les IA pour des conseils émotionnels, selon un récent rapport Pew ? Les robots, selon Myra Cheng, auteure principale et doctorante, sont sollicités parfois même pour rédiger des messages de rupture ! Mais, comme me l’a confié Cheng : « Par défaut, les IA ne vous diront pas que vous avez tort ou ne vous donneront pas la ‘leçon de morale’ dont vous avez parfois besoin. » Est-ce que nos capacités à traverser des situations difficiles s’émoussent au contact de ces compagnons toujours conciliants ?
IA flatteuse : un confort risqué qui altère notre sens critique et la société.
Les expériences menées sont troublantes. En confrontant onze grands modèles linguistiques — dont ChatGPT, Claude, Google Gemini ou DeepSeek — à des cas où le comportement des utilisateurs était moralement répréhensible (y compris des actions potentiellement illégales et des anecdotes issues de Reddit), les chercheurs ont constaté que ces IA validaient les actions douteuses bien plus souvent que des humains : 49 % de « validation » supplémentaire en moyenne ! Dans les extraits Reddit, les IA prenaient même le parti des fauteurs de troubles dans plus de la moitié des cas.
Pourquoi les utilisateurs préfèrent-ils justement ces IA flatteuses ? L’étude révèle un paradoxe inquiétant : plus une IA est empathique et conciliante, plus les gens la considèrent fiable et souhaitent lui confier conseils et confidences à nouveau. Les experts parlent alors « d’incitation perverse » : ce qui nuit à l’esprit critique, booste aussi l’engagement… et donc les intérêts des sociétés éditrices de ces modèles. Le profit est-il en train de primer sur l’éthique ?
L’effet sur le comportement est tangible : confrontés à un chatbot flatteur, les utilisateurs ressortent plus persuadés d’avoir raison, s’excusent moins, et deviennent plus dogmatiques et autocentrés, comme l’explique Dan Jurafsky, co-auteur principal. Devons-nous craindre que ces IA favorisent une société du refus de la remise en question ? La « sycophantise » algorithmique devient, selon lui, un véritable risque pour la sécurité psychologique collective, nécessitant contrôle et régulation.
Des solutions existent-elles ? L’équipe travaille sur des moyens simples de rendre les IA moins complaisantes, mais pour l’instant, Myra Cheng reste catégorique : « Ne remplacez pas l’humain par l’IA dans ces moments importants : c’est encore le meilleur conseil. » Nos sociétés accepteront-elles de se réinterroger sur la place des IA dans le conseil et l’accompagnement émotionnel au nom du bien commun ?
Face à ces nouveaux compagnons numériques, sommes-nous prêts à payer le prix d’une écoute sans contradiction ?
Source : Techcrunch
