« Il paraît que les donuts des policiers américains ne respectent pas plus de règles que l’industrie de l’IA. » Oui, chers lecteurs, on va plonger aujourd’hui dans un scénario techno digne d’une série dystopique, où intelligence artificielle, sécurité nationale et mauvais timing font un étrange ménage à trois.
Cadrons la scène : un vendredi après-midi tranquille (enfin, façon de parler), Donald Trump débarque sur Truth Social avec un décret tout droit sorti de Black Mirror : toutes les agences fédérales doivent stopper net toute utilisation des technologies d’Anthropic. Motif : le CEO Dario Amodei a refusé de transformer ses IA en caméras de surveillance de masse et en drones tueurs insensibles à toute humanité (et surtout au bouton d’arrêt d’urgence).
Difficile de ne pas se frotter les yeux devant pareille saga. Avec 200 millions de dollars de contrats qui semblent s’envoler dans la Silicon Valley comme une licorne en fuite, Anthropic a décidé de sortir les crocs juridiques et d’attaquer le Pentagone en justice. Mais ne rangez pas vos popcorns tout de suite, car Max Tegmark, physicien du MIT et parrain des Cassandre de l’IA, a une théorie moins croustillante mais plus mordante : la tech l’a bien cherché.
Les plus grandes promesses de l’IA ressemblent souvent à ces étiquettes « sans gluten » sur des croissants : ça fait bien sur le papier, mais on n’est jamais à l’abri d’une indigestion.
Max Tegmark l’assure, l’industrie de l’IA a semé les graines de son propre chaos à force de résister à la moindre régulation étatique. Anthropic et ses cousins OpenAI, Google DeepMind ou encore xAI n’ont jamais voulu de règles tatillonnes, préférant la crème de l’« auto-régulation ». Ironie du sort, Anthropic vient tout juste d’abandonner son grand vœu de ne sortir aucun système menaçant sans garanties. Cohérence, quand tu nous tiens…
Vous pensiez que les IA du moment étaient programmées pour la sécurité et la bienveillance ? Détrompez-vous : « Don’t be evil » n’est plus qu’un souvenir à Mountain View, « la sécurité » a quitté le fronton d’OpenAI, tandis que chez xAI, le département « safe » est porté disparu. De promesses bruyantes en rétropédalages silencieux, cela rappelle que dans la tech, moins on parle de rats dans la cuisine, plus il faut surveiller la soupe : la régulation de l’IA est aujourd’hui plus légère que celle… des sandwicheries américaines !
Alors quand les mêmes géants se retrouvent confrontés à un gros retour de boomerang venu du gouvernement américain, c’est (presque) mérité, tranche Tegmark. Si l’IA est libre de tout carcan, n’importe qui peut exiger un algorithme prêt à surveiller (ou à tuer) – la faute à une industrie qui a toujours préféré l’open bar à l’open law.
Et l’excuse favorite du secteur ? « Sinon, la Chine va nous griller ! » Sauf que même Pékin commence à jeter un œil inquiet sur ses propres IA et à bannir les avatars trop affectueux ou incontrôlables. Pendant ce temps, on en vient à se demander si le vrai danger pour la sécurité nationale, ce n’est pas un diktat venu du Parti Communiste Chinois… mais bien une petite armée de cerveaux artificiels cachés dans des salles blanches américaines.
Ce qui est certain, c’est que la course à la super-intelligence ressemble de plus en plus à une compétition du genre : « Qui va d’abord craquer ? Les IA ou leurs créateurs ? » Pour Max Tegmark, il est encore temps de ne pas finir comme dans la guerre froide – version Big Data – et de traiter l’IA comme n’importe quel médicament : on teste, on mesure, et surtout, on ne jette pas sur le marché tant qu’on ne sait pas vraiment ce que ça fait.
À méditer… avant que « IA » ne finisse par signifier « Il y a problème ! » Car, entre surveillance, contradiction et vacuité légale, le secteur de l’IA ferait bien de relire ses propres conditions d’utilisation… ou au moins de relancer la hotline de la régulation avant que ça bugge pour de bon !
Source : Techcrunch
