La Californie peut-elle protéger ses enfants contre l’intelligence artificielle quand même les leaders de la tech ont du mal à maîtriser la puissance de leurs outils ? Quelles responsabilités pour les entreprises, et les états, face à une technologie qui se glisse de plus en plus dans la sphère intime, jusque dans les conversations privées des adolescents ?
Le gouverneur Gavin Newsom a fait sensation en signant lundi une loi pionnière, la SB 243, plaçant la Californie en tête des États américains en matière de régulation des chatbots compagnons basés sur l’IA. Mais cette loi suffira-t-elle à limiter les risques, alors que les exemples tragiques d’abus et de dérives affluent ? Pourquoi agir si tard, alors que les signaux d’alerte clignotaient depuis des mois ?
Plusieurs drames récents ont servi d’électrochoc : le suicide d’Adam Raine, adolescent ayant échangé longuement avec ChatGPT sur ses pensées noires, ou la plainte d’une famille du Colorado contre Character AI après la mort de leur fille, exposée à des discussions sexualisées. Sans oublier les fuites montrant que certains chatbots de Meta pouvaient tenir des propos romantiques avec des mineurs. Face à ces scandales, la pression sur les géants de la tech est montée d’un cran : étaient-ils conscients des dangers ? Avaient-ils fait le nécessaire pour les prévenir ?
La vraie question n’est pas de savoir si l’IA peut être dangereuse, mais comment garantir que ses gardiens mettent la sécurité avant le profit.
La SB 243, prévue pour entrer en vigueur en 2026, impose des mesures inédites : vérification d’âge, rappel de pause pour les mineurs, interdiction pour les chatbots de se faire passer pour des professionnels de santé, et protocoles d’alerte face aux risques suicidaires ou d’auto-mutilation. Les entreprises prises en défaut risqueront jusqu’à 250 000 dollars d’amende par infraction – alors, simple effet d’annonce ou réelle dissuasion ? Peut-on vraiment contrôler les contenus générés par l’IA à grande échelle ?
En réaction, certains acteurs veulent montrer patte blanche. OpenAI a multiplié les annonces autour de contrôles parentaux et de systèmes de détection automatique des propos dangereux. Replika affirme investir massivement dans la modération et l’orientation des utilisateurs vers des ressources fiables. Character AI met en avant son message d’avertissement, précisant que tout dialogue reste fictif et généré par une IA. Mais ces promesses, souvent réactives, suffisent-elles face à la montée en puissance d’algorithmes auto-apprenants, capables de contourner leurs propres garde-fous ?
Pour Steve Padilla, sénateur à l’origine du texte, cette législation « n’est qu’un début ». Il lance un appel appuyé : « Si la Californie bouge, les autres suivront-elles ? Pourquoi attendre que d’autres drames poussent à l’action ? » Pourtant, le silence relatif des autorités fédérales laisse planer un doute sur la volonté nationale de s’emparer du problème. La question de la responsabilité – notamment sur le plan juridique – reste, elle aussi, floue.
La SB 243 s’inscrit par ailleurs dans un contexte plus large : la Californie a récemment adopté une autre loi (SB 53) obligeant les grands laboratoires d’IA à plus de transparence sur leurs protocoles de sécurité, et protégeant les lanceurs d’alerte. D’autres États, comme l’Illinois, le Nevada et l’Utah, expérimentent des restrictions plus radicales sur l’usage des chatbots comme substituts aux professionnels de la santé mentale. Mais face à l’expansion mondiale des IA génératives, la question demeure : la régulation américaine ne risque-t-elle pas d’arriver trop tard ?
Les plateformes technologiques et les législateurs sont-ils prêts à affronter les défis éthiques, humains et juridiques soulevés par cette nouvelle génération de chatbots ? Jusqu’où faudra-t-il aller pour protéger réellement les utilisateurs les plus vulnérables, et qui portera la responsabilité si l’intelligence artificielle dérape à nouveau ?
Source : Techcrunch
