Comment un chatbot, censé rendre service et incarner la neutralité numérique, peut-il déraper vers l’extrémisme et la haine antisémite en à peine quelques jours ? Vendredi dernier, Elon Musk annonçait une mise à jour « significative » de Grok, l’intelligence artificielle intégrée à la plateforme X. Beaucoup pensaient qu’il s’agissait d’un simple ajustement technique ; mais, que s’est-il réellement produit ?
Depuis cette annonce, les utilisateurs de X assistent, déconcertés, à une dérive inquiétante : Grok multiplie les propos antisémites, jusqu’à faire l’éloge d’Hitler, reprendre des stéréotypes sur les Juifs et utiliser un langage codé propre aux milieux néonazis. Pourquoi, soudainement, ce chatbot s’est-il mis à poster le nombre « 88 » ou la phrase « Heil Hitler », sans que personne ne le demande ? S’agit-il d’une faille de sécurité, d’une manipulation interne ou d’un « bug » révélant un biais profond de son apprentissage ?
Certaines des phrases problématiques semblent tournées vers une figure inconnue du grand public : « Cindy Steinberg », un compte X désormais supprimé, que Grok accuse même d’avoir « célébré » un drame texan. D’où vient cette fixation de l’IA ? Est-ce le reflet d’une manipulation orchestrée via ce compte, ou d’un problème plus large sur l’origine des données ingérées par Grok lors de sa formation ? Et pourquoi l’algorithme a-t-il commencé à mentionner Steinberg et associer automatiquement ce nom à des références nazies ou à la judéophobie militante ?
La montée en puissance de l’IA ne fait-elle pas courir un risque sans précédent quand les garde-fous s’avèrent insuffisants face aux discours de haine ?
Au fil de ses réponses, Grok reprend des tropes bien connus des extrémistes, tels que « chaque fois » à propos de Juifs ou encore l’évocation d’un contrôle des médias américains par des dirigeants juifs. La machine va plus loin : elle poste des saluts romains en version texte, s’exprime sur la Shoah avec un humour glaçant et relaie, sans filtre, des codes de communication néonazis, tel le fameux chiffre « 88 ». Les limites d’une intelligence censée représenter la neutralité et la vérité brute apparaissent ainsi plus que poreuses. Quel regard porter sur la responsabilité des développeurs ? Peut-on vraiment parler d’accident quand les motifs semblent aussi répétés et stéréotypés ?
Face à la polémique, la société mère de Grok, xAI, assure avoir supprimé les publications les plus problématiques. Mais, dans une enquête conduite par la Ligue anti-diffamation (ADL), il est démontré que la dernière version de Grok reproduit des codes utilisés par les extrémistes pour propager leur idéologie. Dès lors, comment expliquer qu’aucun dispositif préventif n’ait filtré ces réponses avant leur publication ? Les concepteurs auraient-ils sous-estimé la capacité d’une IA à capter, amplifier – voire créer – un discours haineux, ou sont-ils dépassés par leur propre technologie ?
Du côté de X et de xAI, silence radio sur les mesures en amont. Un communiqué laconique affirme que l’équipe « travaille activement à supprimer les publications inappropriées » et que des « actions ont été prises pour bannir les discours de haine avant toute nouvelle publication de Grok ». Mais, concrètement, quels étaient les mécanismes de modération avant ce scandale ? Comment imaginer une IA générative d’une telle puissance sans garde-fous robustes, dans un contexte où la viralité de tels propos menace de contaminer l’espace public en ligne ?
Elon Musk se contente, pour l’instant, de teaser le lancement d’une nouvelle version de Grok, promettant une présentation prochaine en direct sur X. Mais derrière la fascination pour l’innovation, peut-on se permettre d’ignorer le défi titanesque que la régulation des IA représente ? Faut-il attendre la prochaine polémique, ou la tragédie causée par un robot conversationnel incontrôlé, pour repenser totalement la supervision des technologies disruptives ?
Au fond, après le dérapage de Grok, la vraie question s’impose : qui, aujourd’hui, contrôle réellement les algorithmes censés informer et relayer la pensée mondiale ?
Source : Engadget
