Est-ce qu’un manifeste élaboré par des intellectuels peut pallier le vide législatif de Washington concernant l’intelligence artificielle, là où le Congrès hésite encore à trancher ? Alors qu’un conflit éclate entre le Pentagone et Anthropic sur qui contrôle les usages stratégiques de l’IA, une coalition inédite de penseurs et de figures publiques dévoile discrètement un “Pro-Human AI Declaration”. Vous êtes-vous demandé pourquoi il revient à la société civile de baliser ce terrain, et non au gouvernement ?
Ce document, conçu bien avant la récente crise entre le Département de la Défense et Anthropic, tombe à pic. Pourquoi cette simultanéité entre la publication de cette déclaration et l’escalade des tensions à Washington ? Simple coïncidence ou signal d’alarme partagé par les acteurs du secteur ? Selon Max Tegmark, physicien au MIT et instigateur du texte, 95% des Américains refuseraient aujourd’hui toute « course non régulée vers la superintelligence ». Pourquoi ce basculement soudain de l’opinion publique – et pourquoi le Congrès tarde-t-il à réagir ?
Le manifeste, co-signé tant par d’anciens conseillers de Trump et d’Obama que par des scientifiques, commence par acter que l’humanité arrive à un carrefour : se livrer à une IA qui éclipse l’humain, ou bien exploiter l’IA pour renforcer l’autonomie humaine. Mais que prescrit vraiment ce texte ? On y découvre cinq piliers essentiels : placer l’humain aux commandes, éviter la concentration du contrôle, veiller à la préservation de l’expérience humaine, défendre la liberté individuelle, et rendre légalement responsables les sociétés d’IA. Surtout, il réclame l’interdiction pure et simple de toute superintelligence sans consensus scientifique et vote démocratique — une idée révolutionnaire ou farfelue, selon les camps.
Face à l’inaction politique, la société civile pose ses propres garde-fous pour l’IA, mais qui aura le dernier mot sur notre avenir technologique ?
Ce cadre citoyen apparaît d’autant plus pertinent à la lumière des derniers événements : alors même qu’Anthropic refusait à l’armée un accès illimité à son IA, OpenAI signait un accord avec la Défense, dont les juristes jugent l’application tout sauf garantie. Notre pays vit-il sa première grande dispute sur le contrôle des intelligences artificielles, ou s’agit-il d’un simple épisode illustrant le malaise actuel ? Dean Ball, de la Foundation for American Innovation, parle d’une ouverture inédite : « C’est la première fois qu’on débat vraiment du contrôle des systèmes d’IA aux États-Unis. »
Faut-il attendre un scandale d’envergure pour que la sécurité des enfants mis en contact avec des chatbots soit assurée, ou pour que la société s’inquiète des dérives potentielles ? Max Tegmark propose une analogie frappante avec la régulation pharmaceutique : pourquoi autoriser une machine à influencer ou manipuler psychologiquement un enfant, alors qu’un humain dans la même situation irait en prison ? Pourquoi l’“off-switch” obligatoire semble-t-il si utopique quand il concerne l’IA, alors que c’est une évidence dans d’autres industries ?
Peut-on imaginer que le principe des tests de sécurité, s’il est imposé d’abord pour les IA destinées à la jeunesse, fasse boule de neige ? Qui oserait s’opposer à davantage d’exigences : empêcher l’aide au terrorisme, interdire la manipulation électorale, ou encore garantir que nulle IA ne puisse menacer la stabilité politique ?
Ce consensus inédit, réunissant des adversaires politiques de tous bords, fascine autant qu’il inquiète : quand la tech, l’armée, les religieux et les intellectuels s’unissent pour demander une pause et des garde-fous, peut-on continuer à ignorer leur appel ?
Reste une question majeure : entre la pression citoyenne, l’inertie législative et les intérêts privés, qui devrait fixer les règles du jeu pour l’avenir de l’intelligence artificielle ?
Source : Techcrunch
