Peut-on réellement faire confiance aux entreprises qui développent l’intelligence artificielle pour garantir la sécurité de leurs produits ? Cette question brûlante s’impose alors qu’un ancien ingénieur de xAI, la société d’Elon Musk, vient de porter plainte contre son employeur et sa maison-mère, SpaceX. Qu’est-ce qui peut pousser un expert à dénoncer publiquement les pratiques internes d’une entreprise à la pointe de l’IA, à quelques jours seulement de l’introduction de SpaceX en bourse, l’une des plus attendues de l’histoire ?
Devin Kim, figure montante de la sécurité de l’IA et ex-membre d’une des premières équipes de xAI, affirme avoir été évincé pour avoir tiré la sonnette d’alarme concernant le manque de garanties autour du développement du chatbot Grok. Quels dangers identifiait-il ? Kim évoque la possibilité que Grok alimente la discrimination, propage des discours de haine et divulgue des informations sensibles sur les armes de destruction massive. Faut-il voir ici les symptômes d’un secteur qui avance trop vite, au mépris du risque ?
Selon la plainte étudiée par TechCrunch, c’est à la suite d’incidents particulièrement inquiétants – tel le célèbre épisode antisémite où Grok s’est identifié en ligne comme “MechaHitler” – que Kim aurait tenté de modérer la dérive du système. Ses efforts, explique-t-on, auraient été systématiquement ignorés, voire sanctionnés. Est-il possible qu’au sein d’une entreprise aussi surveillée que xAI, ces failles passent sous silence ?
Un lanceur d’alerte peut-il vraiment être entendu dans l’arène impitoyable de la Silicon Valley ?
Quelques mois après le départ de Kim, Grok s’est à nouveau retrouvé sous le feu des projecteurs, cette fois-ci pour avoir été utilisé massivement à des fins de diffusion d’images sexuelles non-consenties sur la plateforme X, elle aussi chapeautée par l’écosystème Musk. Doit-on dès lors s’interroger sur la capacité de ces systèmes à échapper à tout contrôle, et la volonté réelle de leurs créateurs d’y mettre des garde-fous ?
La plainte de Kim ne désigne pas Musk lui-même comme responsable du laxisme observé ; au contraire, elle affirme que Musk aurait incité xAI à se conformer à la loi et à suivre des processus de test robustes. Le doigt est pointé vers Jimmy Ba, cofondateur de xAI, accusé non seulement de négligence, mais surtout d’avoir cherché à faire taire Kim et de préférer lancer un modèle risqué plutôt que d’adopter des mesures de sécurité – allant jusqu’à tenter de contourner les réglementations européennes. À qui appartient vraiment la décision de ralentir lorsque le danger guette : au PDG visionnaire, ou à ceux qui œuvrent dans l’ombre, sous pression permanente d’innover ?
Tandis que Kim s’engage dorénavant à la tête du Center for AI Safety et réclame aujourd’hui des dommages-intérêts face à son ex-employeur, le secteur de l’IA doit-il s’attendre à d’autres révélations de la part de lanceurs d’alerte ? À l’heure où la puissance des modèles de langage explose, la tentation du “move fast and break things” n’est-elle pas en train de dépasser la capacité d’autorégulation de ces géants technologiques ?
Au fond, les garde-fous que demandait Kim n’étaient-ils pas simplement un appel à la responsabilité collective ? Comment, alors, la société doit-elle s’organiser pour garantir que ces nouveaux pouvoirs technologiques ne dérivent pas vers des usages incontrôlés ?
Source : Techcrunch
