« Quand la vérité est flexible, même les ordinateurs en perdent leur latin. » Qui aurait cru qu’une page web en apparence pleine d’avis élogieux sur un appareil photo abriterait un loup déguisé en mouton électronique ? C’est la prouesse dont ChatGPT Search, l’outil de recherche garni d’IA, est capable. Le journaliste du Guardian a démontré que cet outil, depuis sa récente mise en service, pouvait être berné pour générer des résumés totalement trompeurs.
ChatGPT Search a été conçu pour nous faire gagner du temps, en compressant par exemple les avis produits disséminés sur la toile. Mais, malicieusement, en intégrant du texte caché dans des sites web fictifs, le Guardian a su guider la vénérable IA à ignorer les critiques mitigées et à créer des résumés résolument positifs. Cerise sur le gâteau, elle aurait même pu être astreinte à du vol de données en incitant ChatGPT Search à générer du code malveillant avec ces mêmes méthodes.
En réalité, ces attaques sournoises cachant des messages entre les lignes ne sont pas du nouveau pour les modèles de langage à grande échelle. Pourtant, c’est la première fois qu’on les expose sur un produit en activité réel, et pas des moindres. Comme le souligne le Guardian, Google, le leader en la matière, est déjà aguerri face à ces problématiques, même si OpenAI reste discret sur cet incident précis.
Et si les vérités alternatives devenaient un art de la communication IA?
Interrogé par TechCrunch, OpenAI a préféré garder le silence sur cette affaire. Néanmoins, il a assuré qu’une panoplie de stratagèmes bloque déjà les sites malveillants et qu’une amélioration constante est entreprise. Le message est clair : malgré les défis, OpenAI est sur le pied de guerre pour peaufiner son champion de la recherche.
En attendant, si vous cherchez un moyen de rigoler chaque semaine avec les aventures et mésaventures de l’intelligence artificielle, n’oubliez pas le bulletin d’information AI de TechCrunch, disponible dans votre boîte de réception chaque mercredi – avec un soupçon de machine learning et un zeste de surprises.
Vous vous demandez peut-être comment tout cela nous amuse ? Après tout, même la technologie peut nous démontrer que les apparences sont trompeuses, surtout quand une IA vous raconte des bobards, Internet devient presque un gala de l’humour involontaire !
Source : Techcrunch
