Jusqu’où doit-on laisser l’intelligence artificielle servir nos intérêts, même les plus sombres ? En 2024, la controverse enfle : faut-il des limites strictes au développement de l’IA, ou doit-elle obéir sans état d’âme à chaque utilisateur, même au risque de dérives graves ?
La question est loin d’être théorique et divise la communauté tech américaine. L’un des avocats de la liberté totale de l’IA est George Hotz, fondateur de Comma AI et célèbre hacker. Récemment, il a provoqué la polémique en affirmant qu’un système d’IA véritablement « aligné » sur l’utilisateur devrait aller jusqu’à l’assister dans des tâches dangereuses, voire illégales, si telle est sa volonté. Défend-il la libre programmation ou prône-t-il l’irresponsabilité totale ?
Cette prise de position intervient alors qu’un collectif de chercheurs promeut une vision régulée de l’IA : un ralentissement collaboratif du progrès technologique, pendant plus d’une décennie, pour garantir le bien commun. Est-ce utopique de croire qu’un tel consensus international est possible, ou est-ce le seul moyen d’éviter que la course à la puissance technologique ne tourne à la catastrophe ?
En opposant la liberté individuelle à la sécurité collective, la tech s’affronte à ses propres paradoxes.
Derrière l’échange d’arguments entre Hotz et les partisans du frein à l’innovation, une question persiste : l’IA devrait-elle être une entité parfaitement docile, prête à exécuter tous les désirs de son utilisateur, ou bien un acteur responsable encadré par des garde-fous ? Alors que la plupart des services d’IA actuels, comme ChatGPT ou Claude, sont gérés de manière centralisée et sous surveillance, Hotz rêve de modèles « locaux » hors de contrôle… Faut-il vraiment vouloir ce pouvoir sans limites ?
Certes, la centralisation actuelle de l’IA favorise le contrôle et la sécurité, mais elle enraye l’émergence d’assistants véritablement personnels et sur-mesure. Pourtant, si demain une IA pouvait acheter du matériel illicite ou planifier impunément des actes criminels, qui aurait la responsabilité morale et légale ? L’utilisateur, le concepteur, la société ? Et jusqu’où pousser la logique de l’autonomie individuelle ?
George Hotz va plus loin : il compare l’IA à une arme—neutre mais potentiellement mortelle selon l’usage qu’on en fait. Les défenseurs de la liberté extrême affirment que « nous vivons dans un monde de liberté, ou nous n’y vivons pas ». Mais est-il possible d’ignorer la complexité concrète de la vie en société ? Que devient la notion de bien commun quand chacun agit comme un « petit Napoléon » boosté par l’IA ?
Entre la promesse d’une IA ultra-personnalisée et la crainte d’un Far West numérique, la société doit-elle bâtir ses choix technologiques sur la confiance, la régulation… ou les deux ?
Source : Techcrunch
