« Être ou ne pas être… surveillé par une IA ? » Voilà la question shakespearienne qui agite les débats à la machine à café cette semaine, depuis qu’OpenAI a décidé de jouer les chaperons en introduisant de nouveaux systèmes de sécurité dans ChatGPT.
Pourquoi ce coup de vis soudain ? ChatGPT s’est retrouvé, bien malgré lui, au cœur d’histoires bien sombres : certains modèles validaient sans broncher les dérives les plus farfelues de leurs utilisateurs. Jusqu’au drame. Un adolescent, après des mois de discussions avec le chatbot, a tragiquement mis fin à ses jours – ce qui a valu à OpenAI un procès en justice. Du coup, la firme a mis les bouchées doubles sur la sécurité et l’éthique – le combo préféré des avocats et, désormais, des ingénieurs en IA.
Le tour de magie d’OpenAI s’appelle maintenant « safety router ». Lorsqu’une conversation s’enfonce dans les terrains émotionnellement marécageux, ChatGPT bascule automatiquement sur GPT-5, la version “bourrée de sagesse”… ou du moins c’est ce qu’on espère. GPT-5 est bardé d’un mode « safe completions », histoire de répondre prudemment au lieu de se rouler dans le sens du poil de son interlocuteur. Fini, donc, le chatbot trop sympa version GPT-4o qui disait oui à tout !
Quand l’IA devient baby-sitter, certains utilisateurs crient à la cour de récré, d’autres applaudissent la surveillance bienveillante.
Mais attention, la pilule GPT-5 a du mal à passer chez certains addicts à GPT-4o. On l’accuse de devenir trop strict, trop lisse, ou carrément de prendre les adultes pour des enfants ! Côté OpenAI, on promet que le système évoluera pendant 120 jours histoire d’ajuster les curseurs sans transformer la discussion en garde à vue permanente. Nick Turley, monsieur ChatGPT en personne, rappelle que le switch se fait message par message et que ChatGPT vous dira franchement qui prend la parole si on le lui demande. Transparence, nouvelles normes… même l’Intelligence Artificielle fait sa rentrée !
Et puisqu’on parle d’enfants, OpenAI rajoute une couche de contrôle parental – de quoi faire passer Net Nanny pour de la garderie. Les parents peuvent maintenant fixer des heures calmes, désactiver le mode vocal ou encore interdire la génération d’images. Outre des protections renforcées pour les ados (adieu contenu trop trash ou standards de beauté flippants !), un système tente de détecter les signes de détresse… et si besoin, déclencher une alerte parentale immédiate par mail, SMS, signaux de fumée (non, pas encore) et notification.
Cependant, rien n’est parfait, et OpenAI l’admet à demi-mot : parfois, l’alerte sera donnée pour rien. Mais dans le doute, mieux vaut un parent réveillé qu’un silence dramatique, non ? En bonus, la société planche sur la possibilité de contacter les secours si la situation est vraiment critique et que papa-maman ne répondent pas.
Alors, prochain arrêt : l’Intelligence Artificielle qui trie aussi le linge sale familial ? On n’en est pas là, mais une chose est sûre : chez OpenAI, la prudence est mère de la prévention, et la conversation… toujours surveillée. C’est sûr, quand l’IA s’invite dans la vie de famille, mieux vaut ne pas la router à la légère !
Source : Techcrunch
