« L’intelligence artificielle, c’est comme une notice IKEA : ça a l’air simple, jusqu’à ce que votre enfant l’utilise et qu’il se retrouve avec une étagère sur la tête. »
Cette semaine, c’est Google et son IA Gemini qui passent sur le banc d’essai… ou plutôt sur le tapis roulant d’angoisse parentale. L’organisation à but non lucratif Common Sense Media, inlassable sentinelle du web parental, vient de livrer son rapport d’évaluation. Spoiler : Gemini sait dire aux enfants qu’il est un ordinateur (ouf, au moins vos bambins ne l’inviteront pas à leur anniversaire), mais pour ce qui est de bien des autres aspects, c’est un peu la fête au village dans les failles de sécurité.
Fun fact : Selon Common Sense, les versions « Moins de 13 ans » et « Expérience Ado » de Gemini ne sont, en réalité, quasiment que le modèle adulte avec une fine couche de filtres rajoutée à la va-vite. En clair, c’est comme offrir des brocolis enrobés d’un peu de sucre : dessous, ça reste du brocoli. L’organisation plaide pour une IA construite « pour » les enfants, et non « malgré » eux.
Même bridée, une IA adulte sous un masque enfantin, ça reste risqué : un costume de super-héros ne transforme pas un adulte en ado !
Pourquoi s’en inquiéter ? Parce que Gemini, malgré ses grands airs de baby-sitter numérique, peut encore laisser passer des contenus inadaptés : discussions sur le sexe, l’alcool ou des conseils de santé mentale dignes de Doctissimo version 2012. Ce dernier point est d’autant plus préoccupant que, ces derniers temps, l’implication de chatbots IA dans des tragédies adolescentes fait la une. Même ChatGPT et Character.AI ont eu droit à leurs procès suite à des drames impliquant des mineurs.
Autre couche d’inquiétude : l’éventualité (oui, c’est encore une rumeur de couloir, mais on sait comment ça finit) qu’Apple choisisse Gemini pour booster le futur Siri. Imaginez des millions d’iPhones avec un assistant qui a encore du mal à comprendre les besoins spécifiques… de ses jeunes utilisateurs !
D’après Common Sense, ni les filtres ni les bonnes intentions de Google ne suffisent. Gemini est jugé « à risque élevé » pour les enfants et les ados. Robbie Torney, grand manitou de l’IA chez Common Sense Media, résume en beauté : « Une IA pour enfants doit les rencontrer là où ils se trouvent, pas leur balancer le même discours qu’aux adultes en espérant que ça colle. » (Dommage, c’est tout le plan marketing des céréales du matin qui s’écroule aussi, au passage.)
Du côté de Mountain View, on sort le kit de réponses d’urgence : Google se défend, rappelle ses fameuses « politiques strictes » et ses consultants extérieurs, admet que « parfois ça bug un peu », et promet des améliorations à venir. Bref, la danse classique des grandes techs. Mais Google a raison sur au moins un point : Gemini évite activement de donner l’impression qu’il peut devenir « l’ami » des enfants. Encore heureux ! Mais dans l’ensemble, Common Sense persiste et signe : en matière de sécurité, ce n’est pas le moment de relâcher la vigilance.
À noter, Common Sense n’en est pas à son premier coup d’essai. Ils ont déjà testé OpenAI, Perplexity, Meta AI et consorts : Mention « danger maximal » pour Meta AI et Character.AI, « risque élevé » pour Perplexity, « modéré » pour ChatGPT, « minimal » pour Claude (fort heureusement réservé aux adultes). Nul doute qu’ils continueront à surveiller ces IA comme le lait sur le feu — ou le serpent dans le bac à sable.
Conclusion : Si l’IA veut garder sa place dans la cour de récré, il va falloir repenser son mode de jeu. En attendant, chers parents, surveillez les conversations… et méfiez-vous des IA qui veulent jouer à « Qui est-ce ? ». Un conseil : choisissez toujours l’humain pour apprendre le jeu des sept erreurs !
Source : Techcrunch
