Peut-on vraiment faire confiance à OpenAI pour protéger l’humanité de l’intelligence artificielle générale, ou le profit a-t-il pris le pas sur la sécurité ? C’est la question centrale qui se pose alors que la bataille juridique lancée par Elon Musk contre OpenAI met à nu les tensions entre mission d’intérêt général et logique commerciale.
Cette semaine, un tribunal fédéral en Californie a donné la parole à Rosie Campbell, ex-membre de l’équipe dédiée à la sécurité d’OpenAI, qui a souligné la dérive de la société vers la commercialisation rapide de ses produits au détriment des questions éthiques. Pourquoi les équipes axées sur la préparation à l’AGI et la super-alignment ont-elles été démantelées en 2024 ? Campbell, partie l’année de ces fermetures, décrit une transformation inquiétante d’un laboratoire de recherche ouvert à un mastodonte focalisé sur la conquête du marché.
Lors de son témoignage, Campbell a cité un exemple frappant : le déploiement par Microsoft du modèle GPT-4 en Inde sans validation préalable du conseil interne de sécurité. Si l’incident en lui-même n’était pas hautement risqué, n’est-ce pas là le prélude à des dérives plus graves à mesure que la technologie progresse ? La pression financière, nécessaire selon elle à la réalisation du rêve d’une AGI, justifie-t-elle vraiment le sacrifice des garde-fous éthiques qui étaient à l’origine du projet OpenAI ?
L’indépendance de l’organe non lucratif d’OpenAI et sa capacité à contrôler sa filiale à but lucratif sont désormais violemment remises en question.
Les témoignages révèlent également des problèmes de gouvernance interne : Sam Altman, PDG emblématique, est accusé d’avoir omis d’informer le conseil d’administration sur des décisions clés et d’avoir manipulé des membres lors de situations de crise. Est-il sain qu’un seul homme possède autant de contrôle sur le devenir d’une technologie aussi puissante ? Tasha McCauley, alors membre du board, rappelle que l’ambition était un contrôle effectif du “for-profit” par le “non-profit”, une promesse battue en brèche au fil des événements et des pressions venant de partenaires comme Microsoft.
Face à ces dysfonctionnements, la question de la régulation s’impose. L’échec du conseil d’administration à encadrer les ambitions commerciales du laboratoire donne du poids à l’argument d’Elon Musk, selon lequel OpenAI aurait rompu avec son engagement originel à privilégier la sécurité sur le profit. David Schizer, expert juridique sollicité par Musk, souligne que le vrai enjeu n’est pas seulement ce qui a été fait, mais l’absence de processus clairs et fiables pour garantir le respect des règles de sécurité.
Mais OpenAI est loin d’être un cas isolé : la course mondiale à l’IA implique désormais de nombreux acteurs pour qui la rentabilité prime souvent sur la prudence. McCauley va jusqu’à recommander l’intervention de l’État pour éviter que l’intérêt public ne dépende du bon vouloir d’un CEO ou d’un groupe d’investisseurs privés. Faut-il tout miser sur la bonne foi des dirigeants de start-up quand l’avenir de l’IA concerne l’ensemble de la société ?
À l’heure où l’alignement des IA sur l’intérêt commun semble menacé par la logique du marché, la question demeure : qui surveillera les gardiens de l’AGI – et nos institutions sont-elles prêtes à relever le défi ?
Source : Techcrunch
