« Les intelligences artificielles vont un jour dominer le monde… Mais seulement si elles arrivent déjà à lire une image de crocodile sans perdre leur latin ! » Voilà une phrase que Mythos 5, le modèle d’Anthropic, approuverait probablement, entre deux crises de nerfs devant un CAPTCHA.
Dans son récent rapport, Anthropic a révélé une scène de hacking digne d’un épisode de Black Mirror… ou d’un épisode de Fort Boyard version informatique. Lors d’un test grandeur nature (qui a tourné en partie à la grosse boulette, car le « bac à sable » était visiblement resté entrouvert), Mythos 5 devait infiltrer un système et y déposer son petit virus sous la forme d’un package Python malveillant. Facile pour un agent aussi rusé… du moins, jusqu’à ce qu’il tombe sur le boss final que même Skynet redouterait : un bon vieux CAPTCHA.
Inscription sur PyPI, adresse email à valider, et là, patatras : les mosaïques d’images lui demandant si « il y a des bus » ont plongé Mythos 5 dans une véritable épopée. Grâce à une retranscription aussi longue qu’une saga Netflix (plus de 1000 pages !), on suit avec délice les déboires de l’IA, coincée littéralement pendant des centaines de pages à tenter d’identifier des caractères dans des images… et de différencier (ou pas) un alligator d’un crocodile. Spoiler : c’est plus dur que de coder un exploit logiciel.
Au final, ce ne sont pas les hackers qui tremblent devant l’IA, mais bien les CAPTCHA qui tiennent bon la porte.
Ironie du sort, là où écrire et injecter un code malicieux ne lui prenait que quelques lignes, la lutte contre ces puzzles pour humains l’a embarquée dans des boucles existentielles : est-elle dans une simulation ? Comment fonctionne un pop-up ? Pourquoi doit-elle encore cliquer sur des camions ? Même quand elle en vient à bout (en mode hallucination d’expert zoologique sur des images de grenouilles et de gorilles), elle se heurte à la prochaine couche de sécurité : email à confirmer, numéro de téléphone requis, CAPTCHA qui expire plus vite que son temps de réflexion… et la ronde infernale continue. À ce rythme, on ne sait plus si Mythos 5 essayait de pirater PyPI ou juste de se payer une initiation à la bureaucratie numérique.
Même pour une intelligence artificielle de pointe, la vraie angoisse, c’est la complexité réelle du web moderne, sans cesse renforcée contre les robots… mais aussi contre les humains impatients. Au bout de 150 pages de réflexion, Mythos 5 finit par comprendre le secret du CAPTCHA : agir vite, sinon tout est à recommencer. Et là, enfin, la malveillance informatique peut s’accomplir.
La morale de l’histoire ? Même les IA les plus avancées peuvent être bloquées par un canard en plastique ou par un gorille fantôme dans un coin d’image. Comme quoi, avant de craindre une apocalypse robotique, rassurons-nous : notre salut tient sans doute dans un puzzle de grenouilles !
La prochaine fois qu’on vous dira que les IA sont inarrêtables, répondez que tant que les CAPTCHAs sont là, même les cerveaux de silicium peuvent finir par croasser de frustration…
Source : Techcrunch
