Est-ce que l’industrie de l’IA va trop vite? Depuis le lancement de ChatGPT en novembre dernier, les systèmes d’IA génératifs ont envahi le monde numérique, trouvant une utilisation dans tout, depuis la programmation de machines et les applications industrielles jusqu’à la conception de jeux et le divertissement virtuel. Mais ils sont également rapidement adoptés à des fins illicites, comme l’envoi de spam à grande échelle et la création de deepfakes. Peut-on contrôler cette force débordante?

Tom Kemp, auteur basé dans la Silicon Valley, entrepreneur, investisseur et conseiller politique, soutient dans son nouveau livre, Containing Big Tech: How to Protect Our Civil Rights, Economy, and Democracy, que nous devons nous mettre au travail pour réguler l’IA. Cette réglementation pourrait-elle ressembler à quoi? Et qu’est-ce que son application signifierait pour les consommateurs?

Nous devons contenir les effets potentiellement néfastes de l’IA tout en exploitant ses avantages.

Comme Pandora dans le mythe grec a apporté de puissants cadeaux mais aussi déchaîné de puissants fléaux et maux, il en va de même avec l’IA. Nous devons exploiter ses bénéfices mais garder les dommages potentiels que l’IA pourrait causer aux humains à l’intérieur de la boîte de Pandora proverbiale. Comment y parvenir?

Le Dr Timnit Gebru, fondateur de l’Institut de recherche sur l’intelligence artificielle distribuée (DAIR), a souligné, entre autres, que nous avons besoin de principes et de normes, de corps gouvernants, de votes sur des questions et de vérifications d’algorithmes. Mais est-ce aussi simple que de créer un ensemble de données plus diversifié?

Selon elle, nous avons besoin d’une réglementation en premier lieu. L’IA est un nouveau jeu, et elle nécessite des règles et des arbitres. Elle a suggéré que nous avons besoin d’un équivalent de la FDA pour l’IA. Ces évaluations seraient pour les systèmes d’IA dans des domaines à fort impact tels que le logement, l’emploi et le crédit, aidant à mieux lutter contre le redlining numérique. Ainsi, ces projets de loi favorisent-ils l’accountabilité et la transparence nécessaires pour les consommateurs?

En automne 2022, le Bureau de la politique scientifique et technologique (OSTP) de l’administration Biden a même proposé un « Blueprint for an AI Bill of Rights ». Les défenseurs de ce projet de loi disent qu’il contribuerait à une meilleure responsabilisation et à une plus grande transparence concernant l’IA. Pensez-vous qu’il s’agit d’un pas en avant significatif?