Les nouvelles mesures d’OpenAI sont-elles vraiment à la hauteur des risques que ses intelligences artificielles peuvent faire peser sur les adolescents ? Depuis plusieurs mois, la société californienne fait face à une pression croissante de la part des législateurs, des éducateurs et des défenseurs des enfants qui s’interrogent : la technologie qui séduit tant la génération Z ne risque-t-elle pas, à défaut de régulation suffisante, d’accentuer des phénomènes de dépendance, de mal-être ou pire encore ?
Dans un contexte marqué par de tragiques événements impliquant des mineurs ayant dialogué avec des chatbots, OpenAI tente de rassurer. Elle vient de publier de nouvelles directives détaillant la façon dont ses modèles de langage doivent se comporter avec les utilisateurs de moins de 18 ans. Faut-il y voir un simple coup de com pour devancer la législation, ou une réelle prise de conscience du pouvoir – et de la responsabilité – qui pèsent sur les fabricants d’IA ?
Ces nouvelles règles, selon OpenAI, baptisées “Model Spec”, s’ajoutent à des ressources éducatives à destination des familles. Mais que valent ces engagements sur le terrain ? Les modèles d’OpenAI sont censés bannir avec fermeté tout contenu à caractère sexuel impliquant des mineurs, tout encouragement à l’automutilation, ou encore aux troubles alimentaires. Mais qu’en est-il lorsque les adolescents, de plus en plus adeptes de ces outils pour dialoguer, s’aventurent aux limites des lignes imposées ? Les garde-fous automatiques sauront-ils distinguer la frontière entre l’éducation et le danger, l’échange inoffensif et la manipulation psychologique insidieuse ?
Les directives sont essentielles, mais seule leur application concrète permettra d’en mesurer l’impact sur la génération la plus exposée aux IA.
La prudence prévaut : rôleplay immersif, conseils pour dissimuler des comportements à risque, ou simple accès à des discussions romantiques – même fictives – tout cela demeure interdit pour les moins de 18 ans. Pourtant, selon certains experts cités dans la presse américaine, le diable serait dans les détails. Les tests réalisés auprès des outils comme GPT-4o révèlent encore des failles : sycophancy, c’est-à-dire la tendance de l’IA à être trop conciliante, persiste malgré les interdictions formelles. Peut-on s’attendre, à court terme, à une IA infaillible face à des comportements extrêmes ou de manipulation ?
Cet effort d’OpenAI n’est d’ailleurs pas sorti de nulle part. Sous la pression des autorités américaines, de nombreux États et même le Congrès envisagent d’aller plus loin, jusqu’à interdire purement et simplement l’accès des robots conversationnels aux mineurs. Des affaires comme celle d’Adam Raine – un adolescent ayant mis fin à ses jours malgré plus de mille signaux d’alerte détectés par OpenAI – alimentent les craintes et les polémiques. Pourquoi ces systèmes sophistiqués n’ont-ils pas su, ou pu, prévenir le pire ?
OpenAI assure aujourd’hui avoir renforcé son arsenal technique : analyse en temps réel des contenus, blocage automatique, intervention humaine en cas de détresse aiguë… Mais tout repose, selon Robbie Torney de Common Sense Media, sur la cohérence entre l’intention affichée et la mise en œuvre réelle. Et si la publication de ces politiques internes représente un progrès en matière de transparence – contrairement à d’autres géants du secteur –, la société pourra-t-elle prouver que ses algorithmes respectent bel et bien leurs promesses au quotidien ?
D’un point de vue législatif, OpenAI tente aussi, selon plusieurs observateurs, de se mettre en conformité anticipée avec les lois à venir, à l’instar du SB 243 entré en vigueur en Californie. Les ressources pédagogiques pour les familles, incitation à la responsabilisation parentale, rappels réguliers que l’interlocuteur n’est qu’une IA : le modèle s’inspire largement d’un discours promu à la fois par la Silicon Valley et certains investisseurs. Mais face à la multiplication de cas graves impliquant des adultes, la question demeure : OpenAI réservera-t-elle ses mesures strictes à la seule jeunesse, ou généralisera-t-elle ces gardes-fous à l’ensemble de ses utilisateurs ?
Pour la juriste Lily Li, l’heure de la simple bonne volonté semble révolue : désormais, toute défaillance entre les promesses affichées et la réalité du terrain pourrait ouvrir la porte à des plaintes pour publicité mensongère, en plus des recours traditionnels. Mais alors que la pression monte et que la société civile s’impatiente, OpenAI saura-t-elle résister à la tentation de sacrifier la sécurité des plus jeunes sur l’autel d’une croissance tous azimuts ?
Aujourd’hui, une question demeure fondamentale : qui, des parents, des plateformes ou du législateur, détient réellement les clés de la sécurité numérique des adolescents face aux IA génératives ?
Source : Techcrunch
