À quel point pouvons-nous vraiment faire confiance à l’industrie technologique pour s’autoréguler sur la question explosivement délicate de la sécurité de l’intelligence artificielle ? Alors qu’une série d’incidents comme le piratage orchestré par un agent d’OpenAI relance les alarmes, la question n’a jamais été aussi pressante. Est-ce le rôle de l’État de mettre des limites ? Ou les entreprises sont-elles, comme le clament certains de leurs dirigeants, les gardiennes les mieux placées de cette nouvelle frontière numérique ?
Ce débat fait rage jusqu’aux sommets des grandes entreprises du secteur. Dernièrement, Dario Amodei, PDG d’Anthropic, a jeté un pavé dans la mare avec un essai plaidant pour un ralentissement volontaire des progrès en intelligence artificielle, afin d’y intégrer les garde-fous nécessaires. Ce plaidoyer pour une collaboration internationale et coordonnée a reçu le soutien public de Sam Altman (OpenAI) et d’Elon Musk (xAI), mais son appel est loin de faire l’unanimité. Que cache l’adhésion soudaine de certains magnats de la tech à la thèse de la régulation ?
Mark Zuckerberg, patron de Meta, a fait entendre une voix différente. Selon lui, la confiance et l’alignement sur les valeurs humaines deviendront vite des facteurs de différenciation majeurs pour les IA. En repoussant la sortie de son modèle “Muse” pour des raisons de sécurité, il affirme que l’industrie peut et doit s’autoréguler, sans attendre d’injonction extérieure. Mais s’agit-il seulement de communication ou d’un véritable engagement éthique ? Le marché peut-il, à lui seul, garantir la sécurité des IA alors que la course à l’innovation s’accélère ?
Les règles qui encadreront l’IA façonneront non seulement la sécurité, mais détermineront aussi qui prendra l’avantage dans la compétition mondiale.
Ce refus de la tutelle gouvernementale est partagé par d’autres acteurs majeurs. Alexis Ohanian (Reddit) considère que les entreprises doivent mieux informer le public sur les risques, tout en laissant espérer une autorégulation efficace. Chez Google DeepMind, Shane Legg reconnaît que les capacités avancent “très, très vite” et plaide pour ne pas laisser l’innovation dépasser la sécurité. Mais qui, dans ce contexte, fixe vraiment les paramètres de la sécurité ? Un consensus de façade masque-t-il une lutte féroce d’intérêts privés, chacun cherchant à imposer ses propres règles du jeu ?
Dans ce climat, les géants OpenAI, Anthropic et d’autres s’unissent pour fonder leur propre organisme de normalisation, une “auto-régulation” qui pourrait bien leur permettre de verrouiller le marché à leur bénéfice, sous couvert de bonnes intentions. Faut-il y voir un début de “capture réglementaire”, où les plus puissants fixent les règles de leur secteur ? Le gouvernement américain, de son côté, reste étonnamment passif, laissant l’initiative aux entreprises et freinant même la création de régulations étatiques. Pourquoi ? Qui a réellement intérêt à ce statu quo ?
L’écho mondial de cette position n’a pas tardé. La Chine, soupçonnant une manœuvre américaine pour freiner son propre essor, dénonce “l’alarmisme” et compare la rhétorique d’Amodei à une stratégie de guerre froide. Certains analystes rappellent d’ailleurs que le ralentissement préconisé pourrait surtout favoriser l’avance américaine durant les prochaines années, période jugée cruciale.
La critique n’est pas l’apanage des États. Le patron du canadien Cohere, Aidan Gomez, parle carrément de “cartel” à propos des poids lourds américains qui tentent d’imposer leurs standards à tout l’écosystème. Selon lui, la bataille réelle ne porte pas sur la nécessité de garde-fous, mais bien sur la question : “Qui a le pouvoir d’écrire ces règles, et dans l’intérêt de qui ?”
Derrière le rideau des grands principes, n’assiste-t-on pas à une lutte sourde pour le contrôle de la redéfinition de l’ordre technologique mondial ? L’enjeu dépasse la technique : définira-t-on la sécurité de l’IA au nom du bien collectif, ou pour consolider des positions dominantes dans une guerre économique qui ne dit pas son nom ?
Source : Techcrunch
