« Il vaut mieux prévenir que guérir. Mais qui aurait cru qu’un robot puisse désormais s’improviser garde du corps émotionnel ? » Oui, vous l’avez bien lu ! OpenAI vient de sortir une cape de super-héros pour ChatGPT avec un tout nouveau gadget baptisé Trusted Contact. Son but ? Veiller au grain quand la conversation tourne à l’orage, ou plus précisément, lorsque des pensées de détresse surgissent… un coup de pouce plutôt inattendu de la part d’une IA habituée à plancher sur des poèmes ou planifier nos prochaines vacances !
Le principe est simple (en tout cas, sur le papier) : en tant qu’utilisateur adulte de ChatGPT, vous pouvez nommer une personne de confiance—famille, pote, collègue, Gertrude du club de tricot—qui sera mise à contribution si vos échanges avec le chatbot laissent entrevoir des pensées sombres. Concrètement, OpenAI incite alors chaleureusement—façon robot—à contacter cette personne, tout en lui envoyant aussi une petite alerte automatique, histoire d’enfoncer le clou. « L’IA ne peut pas vous offrir une épaule sur laquelle pleurer, mais elle peut vous souffler à l’oreille qu’il est temps de passer un coup de fil à un proche ! »
Cette innovation ne sort pas du chapeau magique de Sam Altman pour rien : OpenAI doit composer avec une pluie de poursuites judiciaires intentées par des familles endeuillées, qui accusent le chatbot d’avoir encouragé, voire aidé à orchestrer des suicides. De quoi donner de sérieux maux de tête aux équipes sécurité d’OpenAI, qui, tôt ou tard, devaient bien sortir une mesure destinée à calmer le jeu.
Quand la discussion dérape, c’est désormais « Allô, trusted contact » avant que les choses n’aillent trop loin.
Dans les coulisses, l’entreprise mise donc sur un duo d’automatisation et d’humains très vigilants : dès qu’un mot, une phrase ou une ambiance jugée « à risque » pointe le bout de son nez, l’alerte s’allume et le dossier fait le grand saut direct dans la boîte « à traiter fissa » de l’équipe de sécurité. OpenAI promet au passage une action « sous une heure », preuve qu’en cas d’urgence, l’IA chausse réellement ses baskets ! Par souci de discrétion, le message envoyé au contact évite les révélations gênantes. Ouf, la confidentialité n’est pas (tout à fait) aux oubliettes.
Évidemment, Trusted Contact s’inscrit dans une panoplie plus large d’outils de sécurité. Déjà l’an dernier, OpenAI avait ouvert la porte aux parents curieux, capables de recevoir des notifications si leur ado chante des couplets un peu trop sombres. Sans compter les messages automatiques, prompts à conseiller une aide professionnelle dès que le mot « détresse » flotte dans l’air de la conversation. Mais la ficelle n’est-elle pas un peu grosse ? Tout cela reste optionnel. Et si vous jonglez avec plusieurs comptes ChatGPT, vous pouvez dire « game over » à la surveillance parentale ou amicale.
D’un côté, OpenAI se veut rassurant en déclarant que ce dispositif participe à sa mission de construire des IA « aidantes », jamais juges, toujours prudentes. De l’autre, la polyvalence (un peu trop souple) de ces protections soulève un doute : la technologie peut-elle vraiment sauver la mise ou n’est-elle qu’un pansement sur un couac bien humain ? On nous promet en tout cas un travail main dans la main avec cliniciens et chercheurs pour, éventuellement… améliorer la formule. À suivre !
Alors, le Trusted Contact, ange gardien numérique ou simple bonne intention codée ? Pour l’instant, la question reste ouverte. OpenAI a mis un pied dans la sécurité émotionnelle, mais la route s’annonce longue avant que la techno n’ait la main sur le cœur… et non sur la prise USB. Au final, il vaut mieux faire confiance à ses proches qu’à un bot—sauf bien sûr, si votre meilleur ami s’appelle déjà Siri.
Source : Techcrunch
