Comment se fait-il qu’une application comme ClothOff, pourtant dénoncée depuis plus de deux ans pour avoir traumatisé des dizaines de jeunes femmes, continue-t-elle à se maintenir à flot malgré des interdictions et des poursuites judiciaires à travers le monde ? Plus étonnant encore, pourquoi le système peine-t-il autant à la mettre hors d’état de nuire ?
Depuis son retrait des deux principales boutiques d’applications et son bannissement des réseaux sociaux, ClothOff reste accessible via le web et même par un bot Telegram. Mais qui sont réellement les personnes derrière cette offensive technologique ? D’après le professeur John Langford, qui porte plainte contre l’application, elle serait gérée par un frère et une sœur en Biélorussie, mais les ramifications pourraient être mondiales. Un exemple de plus que la mondialisation du web favorise l’impunité ?
Les difficultés de retracer les opérateurs de ClothOff rappellent l’onde de choc générée récemment par la vague de pornographie non-consentie boostée par l’IA et son lot de victimes mineures, tel que souligné dans le scandale lié à la société xAI d’Elon Musk. Malgré des lois claires interdisant la production et le partage de telles images, comment se fait-il que les plateformes de ce genre échappent à une justice rapide, laissant les victimes seules face à des procédures interminables et peu efficaces ?
Les technologies évoluent plus vite que nos capacités à les réguler, rendant la protection des victimes presque impossible.
Le cas de Jane Doe, une lycéenne du New Jersey de 14 ans dont les photos Instagram ont été détournées, révèle l’échec du système : bien que la modification de ses images constitue un crime aux yeux de la loi, l’enquête s’est heurtée à l’impossibilité de réunir des preuves suffisantes sur les appareils des suspects. Où se situe alors la faille ? Du côté des enquêteurs ou des limites techniques ?
Pendant que la plainte progresse lentement, les victimes restent dans l’impuissance, tandis que ClothOff continue à trouver des utilisateurs malintentionnés. Faut-il s’étonner si l’affaire traîne, quand l’anonymat et la délocalisation du service rendent toute action judiciaire particulièrement compliquée ?
Faut-il davantage légiférer sur l’intelligence artificielle et ses dérives ? Aux États-Unis, des lois existent, comme le “Take It Down Act”, mais il s’avère bien plus difficile d’accuser une plateforme entière sans démontrer son intention délibérée de nuire. Et que dire face à un acteur comme xAI, outil généraliste qui se retranche derrière le premier amendement pour se protéger ? Où s’arrête la liberté d’expression et où commence la responsabilité pénale ?
Dans les pays où les garanties de liberté d’expression sont moindres, la riposte est plus nette : l’Indonésie ou la Malaisie bloquent l’accès au chatbot concerné, le Royaume-Uni ouvre des enquêtes et d’autres pays européens se mobilisent. Alors, pourquoi les États-Unis, premiers concernés, restent-ils à la traîne ?
Avec la vitesse à laquelle se propagent les images générées illégalement et la multiplication des plaintes, la question cruciale demeure : saurons-nous jamais ce que les géants comme X et xAI savaient réellement, et, surtout, que font-ils à présent pour réparer les dégâts ?
Source : Techcrunch
