Comment les autorités peuvent-elles lutter contre les dangers des nouvelles technologies vocales générées par l’IA? C’est la question que soulève l’action récente de la FCC. En effet, la Commission fédérale des communications a proposé une amende de 6 millions de dollars à l’encontre du fraudeur qui a utilisé la technologie de clonage vocal pour usurper l’identité du président Biden lors de robocalls illégales pendant une primaire dans le New Hampshire.
Souvenez-vous, en janvier dernier, de nombreux électeurs du New Hampshire ont reçu un appel prétendant être un message du président les dissuadant de voter lors de la prochaine primaire. Bien entendu, il s’agissait d’un faux – une imitation de la voix de Biden créée grâce à une technologie aujourd’hui largement disponible. Comment une technologie si accessible peut-elle être régulée pour éviter de telles manipulations?
Depuis des années, créer une voix factice est possible, mais les plateformes d’IA générative ont simplifié cette tâche à l’extrême. Des dizaines de services offrent des voix clonées avec peu de restrictions. En quelques minutes, vous pouvez créer une fausse voix de Biden à partir de ses discours, facilement trouvables en ligne. Quel genre de garde-fous devraient être mis en place pour empêcher l’utilisation abusive de ces technologies?
La décision de la FCC de sévir envoie un message clair aux fraudeurs technologiques potentiels.
Il est toutefois interdit d’utiliser ces fausses voix pour des actes illégaux comme la suppression d’électeurs par robocall. Et les autorités ne prennent pas cela à la légère. « Nous agirons rapidement pour que les acteurs malveillants ne puissent pas utiliser les réseaux de télécommunications américains pour faussement influencer les élections ou frauder les consommateurs, » a affirmé Loyaan Egal, chef du Bureau de l’application de la FCC, dans un communiqué de presse. Mais suffisait-il de s’arrêter à des menaces de sanctions financières?
Le principal coupable, Steve Kramer, un « consultant politique », a collaboré avec la nébuleuse Life Corporation et plusieurs télécoms peu scrupuleuses comme Lingo, désormais impliquées dans diverses activités frauduleuses. Bien que Kramer soit apparemment en violation de plusieurs règles, aucune procédure pénale n’a encore été engagée. Pourquoi la coopération entre la FCC et les forces de l’ordre locales ou fédérales est-elle encore si limitée?
L’amende de 6 millions de dollars fixée par la FCC est plus un plafond qu’un montant garanti. Les sommes effectivement payées sont souvent bien inférieures. Kramer devra maintenant répondre aux allégations, tandis que des actions distinctes sont envisagées contre Lingo, pouvant conduire à des amendes ou à la perte de leurs licences. Que cela signifie-t-il pour les futurs cas de fraude technologique?
Enfin, notons que les voix générées par IA ont été officiellement déclarées illégales pour les robocalls en février dernier, à la suite de cette affaire qui a soulevé la question de leur statut en tant qu’éléments « artificiels ». Comment les régulations sur les nouvelles technologies vont-elles évoluer pour suivre le rythme des innovations?
Source : Techcrunch
