Qui dirige vraiment la prochaine révolution de l’IA, et sommes-nous prêts à en affronter les conséquences? Alors que les start-ups en intelligence artificielle se multiplient, la course à la superintelligence semble s’accélérer de manière spectaculaire. Au cœur de cette hyper-émulation, Richard Socher et son équipe de Recursive Superintelligence promettent ni plus ni moins que la création d’une IA capable de s’améliorer elle-même, sans intervention humaine. Mais que cache véritablement ce nouveau projet qui a déjà levé 650 millions de dollars dès sa sortie de l’ombre?
Richard Socher, déjà bien connu dans le milieu de l’IA pour ses précédents travaux sur ImageNet ou sa création de You.com, s’est entouré de figures de poids comme Peter Norvig et Tim Shi. Leur ambition : développer un modèle d’intelligence artificielle capable de repérer et corriger ses propres faiblesses, en boucle, jusqu’à devenir une « superintelligence » inédite. Mais pourquoi ce concept de recursive self-improvement fascine-t-il autant la communauté scientifique alors qu’il demeure difficile à théoriser, sans même parler de le réaliser?
Leur approche, expliquent-ils, consiste à automatiser l’ensemble du processus de recherche, de la génération d’idées jusqu’à leur validation. Ce « tout automatique » rompt radicalement avec l’idée répandue selon laquelle il suffit de demander à une IA de s’améliorer pour toucher au Graal de la recursion. En réalité, selon Socher, il existe un écart immense entre une IA qui s’optimise et une IA qui repense, sans relâche et sans fin, sa propre architecture et ses méthodes de recherche.
L’automatisation totale du progrès en IA pourrait bouleverser la notion même d’innovation et de contrôle humain.
Comment savoir si ces systèmes seront, un jour, vraiment « achevés »? Selon Socher, il n’y a pas de ligne d’arrivée. L’intelligence, affirme-t-il, peut toujours être repoussée — même si certaines limites, théoriquement, existent quelque part à l’horizon. Cette vision, alimentée par des pratiques d’open-endedness et d’expérimentations issues de la biologie ou de la cybersécurité (comme le « rainbow teaming »), dessine une IA qui évolue indéfiniment, à l’image d’une compétition darwinienne entre agents artificiels.
Mais Recursive Superintelligence veut-il simplement concurrencer les grands labos type OpenAI ou DeepMind, ou prétend-t-il à autre chose ? Socher conteste l’étiquette de « neolab » centrée exclusivement sur la recherche : son objectif est aussi de créer des produits « qui ont un impact positif sur l’humanité ». Mais alors, à quoi ressemblera ce premier produit – et sera-t-il seulement à la portée des utilisateurs lambda, ou réservé à une élite scientifique?
Autre enjeu majeur : la question de la puissance de calcul. Quand, une fois la roue de la self-improvement enclenchée, la progression dépendra surtout de la « compute », qui choisira quels problèmes méritent le plus de ressource ? Ce futur proche ne risque-t-il pas de transformer l’intelligence artificielle en simple forme d’arbitrage énergétique, où seul le plus riche ou le mieux connecté impose ses priorités?
Face à l’irruption annoncée de ces intelligences autonomes, pouvons-nous encore influencer leur trajectoire ou sommes-nous en passe de déléguer, une fois pour toutes, notre contrôle sur l’innovation, la science et même l’éthique?
Source : Techcrunch
