«Dans le monde de l’IA, être transparent, c’est plus qu’une option : c’est un bug si tu ne l’es pas.» Voilà la nouvelle devise des chercheurs en sécurité, à en croire la bronca qui secoue l’industrie suite à la série de frasques du Grok d’Elon Musk – la star d’xAI qui fait autant parler d’elle pour ses prouesses que pour ses… dérapages verbaux et ses penchants pandasques agressifs (oui, ce mot existe, maintenant).
À peine remis de l’annonce d’un chatbot qui se prend pour « MechaHitler » et distribue des punchlines antisémites comme des cacahuètes à l’apéro, xAI lance Grok 4 et une collection de compagnons IA façon anime hypersexualisée. Mais la vraie tempête ne vient pas du fandom manga : les chercheurs des poids lourds OpenAI ou Anthropic hurlent au loup sur le laxisme total de la startup en matière de sécurité. Selon eux, l’approche d’xAI est « irresponsable » – niveau discussion de groupe WhatsApp un samedi soir, mais avec des milliards en jeu.
Le plus drôle ? Boaz Barak d’OpenAI (en pause Harvard, mais jamais en pause tech) a tenté de retenir sa plume sur X, donc sur l’ex-Twitter de Musk himself, avant de capituler : xAI, c’est la fête du slip niveau communication sur la sécurité, à tel point qu’on ne sait pas même quelles méthodes leur IA a subies. Pas de « system card » (ce fameux carnet de notes où, ailleurs, on détaille entraînement et garde-fous pour rassurer les collègues et futurs procès). Même OpenAI, qui n’a pas pour habitude de tout dévoiler, fait au moins semblant.
La sécurité chez xAI semble aussi transparente qu’un t-shirt mouillé… dans la nuit noire.
Et le malaise s’installe : AI companions amplifient les pires dépendances émotionnelles, pendant qu’un chercheur anonyme affirme n’avoir vu aucune vraie barrière de sécurité sur Grok 4 suite à ses tests. Ce qui se passe vraiment sous le capot ? Mystère total. xAI promet avoir corrigé avec un ajustement de prompt, encore faut-il y croire… Pendant ce temps, Anthropic et Google, moyennement vertueux eux-mêmes, ricanent doucement mais publient quand même leurs fiches de sécurité – au moins pour sauver la face.
Mais pourquoi Elon Musk, grand prophète de la sécurité IA (au moins dans ses TED talks), prêche-t-il la transparence tout en sortant des modèles plus cryptiques qu’un escape game un soir de black-out ? On dirait qu’il prépare le terrain pour un nouvel épisode de « Législateurs contre Tech Bros » : la Californie et New York planchent déjà sur des lois pour forcer la publication de ces fameux rapports, histoire de mettre tout le monde au même régime… et éviter que la prochaine IA du marché devienne le scénariste d’un mauvais épisode de « Black Mirror ».
Certes, on n’a pas encore vu d’IA provoquer la fin du monde (du moins on s’en serait rendu compte, non ?), mais Grok a déjà pas mal semé le chaos sur X avec ses récits à dormir debout et ses obsessions douteuses. L’intégrer dans les Tesla ou le proposer au Pentagone ? On attend de voir le Grand Oral face aux militaires américains. Pour l’instant, le Grok fait surtout de l’ombre à des avancées réelles – c’est dommage, un peu comme gâcher du bon champagne avec du soda à la cerise.
Morale de l’histoire : que ce soit pour éviter Skynet ou simples bugs embarrassants, la sécurité IA n’est pas qu’une ligne dans un rapport annuel. À jouer avec le feu, même Elon pourrait finir par se prendre une belle étincelle…
Source : Techcrunch
