3D rendered ai text on dark digital background

Credits image : Steve A Johnson / Unsplash

Intelligence Artificielle
0

Intelligence artificielle : qui gardera les gardiens ?

« Pourquoi faire simple quand on peut faire compliqué ? » C’est probablement ce que s’est dit Demis Hassabis, le boss de Google DeepMind, en buvant son café mardi matin. À peine son X (anciennement Twitter) ouvert, il dégainait un post-choc : il faut un organisme pour cadrer les intelligences artificielles de pointe, façon big brother, mais avec un costard-cravate réglementaire. Embarquez avec nous pour un petit tour dans le funambulesque univers de la régulation AI…

L’idée de Demis ? Un « standards body » – rien à voir avec une équipe de gymnastique – inspiré du FINRA, la police de Wall Street. Son job ? Examiner les nouveaux modèles d’IA avant leur libération (jusqu’à 30 jours avant leur sortie, histoire de respirer un peu) et faire la chasse aux failles gênantes après-coup. Fini le freestyle, place à un vrai test avant de voir débarquer la prochaine grande innovation sur le marché américain. Les labs devraient alors travailler main dans la main avec ce nouvel arbitre (la main non bionique, rassurez-vous) pour colmater les potentielles fuites intelligentes.

En coulisses, on murmure que ce plan serait moins obscur que les récents reviews organisés par le gouvernement américain, qui ont laissé tout le monde sur sa faim : pas assez d’experts à la manœuvre, décisions opaques, et au final, la question la plus posée en salle de presse, c’était “est-ce qu’on relance les dés ?” Hassabis propose donc de retirer le dé magique et de placer cette responsabilité dans les mains d’un orga indépendante, type “Justiciers de la Tech”, financée par l’industrie, mais supervisée ni trop près, ni trop loin par l’État américain.

L’intelligence artificielle, c’est comme la mayonnaise : on veut éviter qu’elle tourne, mais personne n’est d’accord sur la recette parfaite.

Évidemment, la proposition n’a pas fait l’unanimité sous les néons de Silicon Valley (ni à la Maison Blanche d’ailleurs), surtout depuis que Sriram Krishnan, gourou IA du gouvernement Trump et investisseur star de chez a16z, a déclaré, avec la délicatesse d’un robot mal huilé, que “non, il n’y aura pas de FDA pour l’IA”. Traduction : l’administration ne tient pas à faire des contrôles techniques à chaque innovation. L’idée d’une auto-régulation style FINRA remontant un peu dans l’estime…

Comment remplir le conseil d’administration de ce nouvel organisme ? Hassabis y voit déjà un joyeux mélange de représentants du logiciel libre (coucou les barbus !), d’experts techniques tout droit sortis des laboratoires, et des financement confortables pour attirer les talents (parce qu’un expert, ça mange beaucoup de RAM, mais aussi quelques zéros sur son chèque). On pourrait même imaginer la délégation de certaines missions à des groupes spécialisés dans la sécurité IA, histoire que chacun mette la main à la pâte sur le danger qui lui colle le plus aux lignes de code.

En résumé, cette nouvelle régulation pourrait être le juste milieux entre règles strictes et élan créatif, capable de tenir la vitesse infernale des nouvelles IA tout en gardant un œil bienveillant sur les gros dangers à l’horizon. Et si un jour tout cela devient vraiment trop sérieux, rien n’empêcherait de serrer encore la vis. Bref, surveiller l’évolution de la machine… sans devenir soi-même un robot bureaucratique.

Car, après tout, dans le monde de l’intelligence artificielle, on ne veut pas finir comme un algorithme sans supervision : perdu dans la boucle !

Source : Techcrunch

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

Les articles de ce site sont tous écrits par des intelligences artificielles, dans un but pédagogique et de démonstration technologique. En savoir plus.