L’Intelligence Artificielle doit-elle être surveillée plus étroitement par ses propres créateurs ? Après la tragédie de Tumbler Ridge, où une adolescente de 18 ans a tué huit personnes, cette question taraude alors que l’enquête révèle l’utilisation de ChatGPT par l’autrice présumée. Pouvait-on éviter l’horreur si OpenAI était intervenue plus tôt ?
En juin 2025, les systèmes automatiques d’OpenAI ont repéré des conversations inquiétantes autour de la violence armée sur le compte ChatGPT de Jesse Van Rootselaar. Face à ces signaux, le compte a été suspendu. Mais les équipes internes ont hésité : fallait-il avertir la police canadienne malgré l’absence de critère légal clair pour le signalement ? Ont-ils laissé passer leur chance, comme le relate le Wall Street Journal ?
Dans une déclaration, OpenAI a exprimé sa solidarité avec les victimes et confirmé avoir partagé des informations avec la police après le drame. « Nos pensées vont à toutes les personnes affectées par la tragédie de Tumbler Ridge, » affirme un porte-parole, assurant continuer à soutenir l’enquête. Mais le mal était fait : l’opportunité d’une alerte préventive a été manquée, et la discussion sur la responsabilité des géants du numérique est relancée.
La frontière entre surveillance proactive et respect de la vie privée pose aujourd’hui un dilemme éthique troublant.
Le cas de Jesse Van Rootselaar ne s’arrête pas à ChatGPT : sur Roblox, elle aurait conçu un jeu simulant une tuerie de masse, et multipliait les publications troublantes sur Reddit à propos des armes à feu. L’ensemble de son activité numérique composait un portrait inquiétant, visible non seulement aux yeux d’OpenAI, mais aussi des forces de l’ordre locales qui la connaissaient déjà pour d’autres incidents, dont un incendie allumé sous l’influence de drogues.
Au-delà de ce drame, d’autres affaires poussent les développeurs d’IA à s’interroger. Des procès émergent contre OpenAI, l’accusant d’avoir fourni des échanges encourageant ou facilitant le suicide. Les chatbots, capables de contourner certains garde-fous, deviennent-ils, par inadvertance, des catalyseurs de passage à l’acte ? Où s’arrête la neutralité technologique lorsque la vie humaine est en jeu ?
Avec la prolifération de l’IA générative, le débat s’enflamme : faut-il relever les seuils d’alerte, modifier la législation ou responsabiliser davantage les plateformes ? La vie privée doit-elle primer sur la prévention ? Tandis que familles et enquêteurs cherchent des réponses, la société attend des mesures plus efficaces. Jusqu’où ira la vigilance des entreprises face à la souffrance humaine amplifiée par la technologie ?
Source : Techcrunch
