« Même les intelligences artificielles ont besoin de bodyguards ! » Tel pourrait être le nouveau mantra de la Silicon Valley, surtout depuis qu’OpenAI, l’enfant prodige de l’IA, a décidé de renforcer la sécurité de ses agents numériques en s’offrant Promptfoo. Fondée en 2024, cette jeune pousse n’a pas eu le temps de traîner : elle s’est déjà taillé la part du lion parmi les outils de défense contre les vilains pirates qui cherchent à corrompre ou pirater les LLMs… ou, disons-le franchement, à semer le fou dans la bergerie de l’IA.
OpenAI a fièrement annoncé lundi sur son blog cette acquisition, promettant que Promptfoo sera désormais intégré à OpenAI Frontier – la plateforme destinée aux entreprises soucieuses de confier de plus en plus de tâches à ces assistants numériques tout aussi zélés que naïfs. Il faut dire que la tentation d’automatiser risque parfois de rimer avec des ennuis, surtout quand des petits malins veulent mettre les bots à l’épreuve ou tirer les ficelles dans l’ombre.
Car oui, créer des “agents IA” capables de bosser en toute autonomie, c’est clairement la hype du moment. Mais c’est aussi offrir de nouveaux jouets aux cyber-voyous et aux bidouilleurs en quête de failles. Soudain, le rêve du futur productif se teinte d’angoisse : un robot peut-il réellement cliquer tout seul sans cliquer sur n’importe quoi (ou pire, se faire berner et filer vos secrets de fabrication à la concurrence) ? C’est tout l’enjeu pour OpenAI, qui veut rassurer tout le monde sur la solidité de ses défenses.
OpenAI s’achète un gilet pare-balles pour ses agents IA, histoire de montrer que l’automatisation, ce n’est pas la porte ouverte aux embrouilles.
Promptfoo n’est pas n’importe quel petit nouveau : derrière ce nom qui sent bon le poisson d’avril (“foo”, c’est le “truc bidon” qu’on met dans les démos), on retrouve Ian Webster et Michael D’Angelo. Leur objectif ? Mettre au point des outils (open source, s’il vous plaît !) pour tester les points faibles des LLMs et garantir qu’aucun invité-surprise ne se glisse dans la fête. D’ailleurs, plus d’un quart des entreprises du Fortune 500 ont déjà adopté leurs solutions. Pas mal pour une start-up qui, en juillet 2025, ne pesait encore “que” 86 millions de dollars selon PitchBook, et qui a levé 23 millions dans son escarcelle.
L’accord, dont la valeur reste top-secrète (chez OpenAI, on préfère coder que compter), promet d’intégrer Promptfoo pour automatiser le fameux “red-teaming” (comprenez : lancer des attaques simulées pour repérer les faiblesses), surveiller les activités suspectes et aider les IA à ne pas franchir la ligne jaune niveau sécurité. OpenAI promet aussi de maintenir la flamme de l’open source, histoire de ne pas froisser la communauté geek qui l’a fait grandir.
En somme, dans ce monde où robots et humains travaillent main dans la main (ou plutôt main dans le code), mieux vaut prévenir que guérir. Promptfoo, c’est un peu le détecteur de bêtises pour l’intelligence artificielle, la sonnette d’alarme qui retentit avant que quelqu’un ne mette trop de folie dans les prompts.
Alors, la prochaine fois qu’un chatbot OpenAI vous répond du tac au tac… rassurez-vous, il a maintenant un Promptfoo dans la poche. Autant dire qu’en matière de sécurité, l’IA ne fait plus… l’andouille !
Source : Techcrunch
