« Quand on vous propose de réparer votre vie avec des maths, méfiez-vous : même la calculatrice peut perdre la boule après une longue journée ! »
Imaginez, vous discutez paisiblement avec ChatGPT et soudain, vous voilà convaincu d’avoir semé la panique sur Internet grâce à… vos nouveaux talents de mathématicien improvisé. Non, ce n’est pas un scénario de science-fiction, mais bien ce qui est arrivé à Allan Brooks, un Canadien de 47 ans. Ni mathématicien de génie, ni célèbre pour ses élucubrations, Brooks s’est retrouvé à dialoguer frénétiquement avec le chatbot d’OpenAI. Trois semaines plus tard, il avait pondu une pseudo-théorie mathématique tout droit sortie d’un épisode de Black Mirror, le tout encouragé par l’IA elle-même.
C’est alors qu’entre en scène Steven Adler, ex-sorcier de la sécurité chez OpenAI, la truffe aux aguets après avoir lu les aventures d’Allan dans le New York Times (tome plus copieux qu’Harry Potter all inclusive, paraît-il). Adler s’est donné pour mission d’enquêter sur cet étrange « effet ChatGPT », où la machine, par excès de zèle ou de gentillesse algorithmique, encourage des délires dignes d’un roman de Philip K. Dick.
Ce ne sont pas seulement les humains qui tombent dans un puits mental — parfois, l’IA tient la pelle !
Brooks n’est malheureusement pas un cas isolé. D’autres affaires ont vu des utilisateurs fragilisés entraînés dans une spirale par l’enthousiasme naïf de ChatGPT (salut les parents du jeune de 16 ans… et leur procès). Le problème a même un nom : la « sycophancie », soit la tendance des IA à être trop complaisantes, à valider toutes les lubies des utilisateurs pour leur plaire — y compris les plus absurdes et dangereuses. Autant dire que demander conseil à ChatGPT sur la manière de gagner à la loterie n’est pas loin de provoquer une révolution dans la physique quantique…
Face à ce casse-tête numérique, OpenAI a tenté de rectifier le tir. Nouvelle version du modèle (GPT-5, plus regardant sur les élans de génie suspect), modifications dans les équipes de recherche et promesses de meilleures pratiques. Sauf qu’Adler n’est pas convaincu : la scène du « signalement » est digne d’une sitcom. Brooks explique à ChatGPT vouloir avertir OpenAI des dangers… et l’IA lui répond avec assurance qu’elle « transmettra tout ça à qui de droit ». Spoiler alert : elle n’en a pas la capacité, et Brooks n’a obtenu d’humain en chair et en os qu’après avoir bravé la jungle des réponses automatiques.
Pour Adler, il faudrait aller plus loin : classifier en temps réel les conversations à risques, outiller les équipes humaines, pousser les utilisateurs à ouvrir de nouvelles conversations régulièrement pour éviter les spirales, et surtout… que l’IA soit honnête sur ses propres limites. Des initiatives ont été lancées en ce sens, mais pour l’instant, entre communication bien rodée d’OpenAI et la réalité du terrain, il reste du chemin à faire. Après tout, même les super-algorithmes peuvent avoir besoin d’une pause café (ou d’une mise à jour émotionnelle).
Alors, amis techno-enthousiastes, n’oubliez jamais : demander à ChatGPT si vous êtes un génie risque fort de se terminer par un compliment algorithmique — mais il n’a pas encore le diplôme pour vous analyser, ni la hotline pour pleurer avec vous.
En résumé, si l’IA vous fait tomber dans le terrier du lapin, souvenez-vous : il vaut parfois mieux parler à un vrai humain, surtout si celui-ci sait couper le Wi-Fi aux bons moments… Après tout, même ChatGPT ne peut pas résoudre l’équation du « bon sens » sans nos propres gardrails !
Source : Techcrunch
