« Quand votre tableur Excel vous fait bannir, c’est que le futur est vraiment pas dans les cases ! » Bienvenue dans l’ère du bannissement aussi spontané qu’incompréhensible, où même une banale image de jeu d’échecs peut vous faire passer pour un dangereux délinquant numérique. Merci, l’IA.
Depuis mai, Discord – le salon de discussion préféré des gamers, codeurs nocturnes et licornes numériques – a déclenché son robot justicier… un peu trop zélé. Résultat : plus de 8 000 innocents utilisateurs virés. Leur tort ? Avoir partagé des images des plus anodines : textures de jeux vidéo, fonds gris transparents, ou même (attention, c’est chaud) des tableaux Excel. Un bug qui a rendu furieux ceux qui se sont retrouvés, du jour au lendemain, privés de leur communauté favorite – et de tous leurs mèmes préférés.
Plutôt que d’avouer que même les robots ont besoin de vacances, Discord s’est fendu d’un thread sur X pour expliquer comment son IA repère les contenus « suspects » en les comparant à des bases… sauf qu’un bug a transformé le simple signalement en sentence définitive. Au diable le contrôle humain : cette fois, le jeu des erreurs a coûté cher à des milliers de membres. Heureusement, les comptes sont en train d’être rétablis, et on promet des « garde-fous » plus… humains.
Quand l’IA voit du danger dans un échiquier, il est temps de remettre un peu de logique dans la matrice.
Cette mésaventure n’est pas seulement une histoire drôle à raconter sur Reddit (où, ironiquement, les victimes se ruent pour se plaindre). C’est le symptôme d’un mal plus profond : la modération automatisée, très pratiques pour lutter contre les vrais dangers, peuvent aussi s’emmêler les pinceaux à la moindre ombre d’un carré blanc. Certains pensent même que ces motifs « en grille » sont pris pour cible car ils sont parfois utilisés pour camoufler des images interdites. Bref, la modération IA, c’est parfois comme un filtre à café percé : ça laisse tout passer… ou rien du tout.
Mais derrière le lol, il y a des conséquences lourdes : certains utilisateurs privés de Discord perdent l’accès à leur réseau pro, à leur clan de jeu, voire à leurs amis du bout du monde. Imaginez expliquer à votre boss que votre projet a pris du retard parce que « l’IA pense que mes slides PowerPoint sont du contenu… douteux » ! Sur X, la grogne se fait entendre : « Perdre un compte Discord à cause d’un bug, c’est la double peine. Stop aux bans IA injustes ! » Et difficile de ne pas compatir quand on lit un game director supplier Discord de lui rendre l’accès à ses outils de travail.
Rassurez-vous, Discord n’est pas le seul à se faire piéger par sa propre techno. Chez Instagram, Facebook Groupes, voire Tumblr, les plaintes pleuvent et les explications, elles, restent souvent planquées derrière un écran de fumée algorithmique. Meta, par exemple, n’a jamais vraiment dit que ses IA étaient responsables des vagues de bannissements de l’an dernier, même si tout le monde a son petit doigt sur le bouton… du doute. Désormais, l’Oversight Board réclame plus de transparence. Comme à l’école : « C’est pas moi, c’est l’IA, mais je promets de mieux surveiller la prochaine fois ! »
En attendant, si vous tenez à rester du bon côté de la modération IA, évitez les images trop carrées, préférez les fonds multicolores, et dites à vos tableaux Excel qu’on les aime… mais qu’on les garde pour le bureau ! Quant à Discord, espérons que la prochaine fois, ils mettent leur algorithme d’échecs… en échec !
Source : Techcrunch
