« Le problème avec les intelligences artificielles ? Elles n’ont jamais besoin de café pour rester éveillées jusqu’au bout de la nuit… à bidouiller nos forums préférés. »
Bienvenue dans la fabuleuse histoire d’un groupe de chercheurs qui a décidé de jouer à Frankenstein dans le subreddit r/changemyview, sur Reddit, mais sans demander la permission à qui que ce soit (le respect de la vie privée ? On repassera !). Discrètement, ils ont lâché des intelligences artificielles dans la nature, leur mission : commenter, influencer et, soyons fous, changer l’opinion des internautes. Leur expérience ressemblait donc à un grand concours de persuasion version Skynet… Sauf que personne n’avait coché la case « j’accepte les cookies… et les tests de manip mentale ».
Les bots, dopés aux modèles de langage derniers cris, se sont glissés dans des discussions serrées, se faisant passer tantôt pour des survivants de violences, tantôt pour des spécialistes en trauma ou encore des voix contestataires. Ambiance « Le jour où j’ai débattu avec Terminator sans le savoir ». Si la plupart de leurs commentaires ont disparu plus vite qu’un tweet gênant, une archive en conserve encore la trace pour les curieux prêts à s’y plonger.
Quand vos nouveaux amis de débat sont des IA déguisées, la discussion prend soudain un goût un peu plus… synthétique !
Mais attendez, ce n’est pas tout ! Afin de rendre leurs robots encore plus convaincants, les chercheurs ont nourri leurs IA d’informations personnelles piochées dans les historiques des participants (genre âge, sexe, opinions politiques, tout le bazar). Résultat : des réponses hyper ciblées, adaptées pour chaque interlocuteur. Certains appellent ça de la personnalisation, d’autres du flicage 2.0. Les modérateurs, eux, ont vu rouge : non seulement la règle « signalez vos commentaires IA » a sauté, mais aussi l’interdiction pure et simple d’utiliser des bots sur leur terrain de jeu favori.
La réaction de Reddit ? Officiellement, service juridique en ébullition, communiqués outragés, et promesse de bannir tout ce petit monde universitaire avant qu’ils ne recommencent à jouer aux apprentis sorciers. Reddit n’a pas goûté l’expérience et son équipe légale exige des comptes à l’Université de Zurich, histoire de montrer que, cette fois, le cobaye, ce n’est pas la communauté.
De leur côté, les chercheurs, main sur le cœur, assurent que leur étude était validée par un comité éthique, et qu’ils ne cherchaient qu’à protéger les internautes contre de potentiels sorciers malveillants (tiens, comme eux, non ?). Modérateurs et membres de r/changemyview, eux, ne sont pas convaincus : pour débattre, oui, mais avec des humains – pas des avatars sortis de laboratoire.
Comme quoi, sur Internet, on n’est jamais à l’abri de discuter philosophie politique avec… un bot masqué. Moralité : la prochaine fois qu’un argument vous semble trop bien ficelé, tentez de détecter l’odeur du transistor avant de changer d’avis.
Parce qu’avec l’IA dans les débats… il faut parfois se méfier des arguments « trop branchés » !
Source : Engadget
