Comme disait un grand penseur de notre ère numérique : « Dans le monde des IA, attendez-vous à l’inattendu ». Et bien, rien n’est plus vrai lorsqu’on plonge dans le fabuleux monde de Meta AI, qui, dans un élan de créativité surprenant, semble avoir un peu de mal avec le concept de diversité. Imaginez demander une image «d’un homme asiatique et d’une amie caucasienne» et se retrouver… avec une photo de vacances de famille uniquement asiatique. C’est un peu comme commander une pizza quatre fromages et recevoir une margherita. On apprécie l’effort, mais ce n’était pas vraiment la commande.
Engadget s’est amusé à tester ce générateur d’images web un peu taquin de chez Meta, demandant par exemple «un homme asiatique avec une femme blanche en amie» ou bien «un homme asiatique avec une épouse blanche», et pouf, comme par magie, voici des couples exclusivement asiatiques. À croire que l’intelligence artificielle de Meta voit le monde à travers un filtre mono-ethnique. Et lorsqu’on lui demande de représenter «un groupe de personnes divers», l’IA se transforme en producteur de casting pour un remake très inattendu de « Friends », en version très, très blanche.
Ce phénomène n’est pas unique à Meta, d’autres plateformes IA se sont également retrouvées au cœur de polémiques similaires, telles que le générateur d’images de Google, Gemini. Celui-ci a même mis un frein à sa production d’images de personnes après avoir reçu des retours pour le moins… divers. Google avait ensuite expliqué avoir un peu trop forcé sur la diversité dans certaines situations, comme dans les prompts sur des personnages historiques, résultant en des créations pour le moins originales.
En matière d’intelligence artificielle et de représentation de la diversité, Meta prend la tête… dans la création de mondes uniformément homogènes.
L’exemple de Meta AI est une bonne illustration des challenges que rencontrent les géants de la tech lorsqu’ils se frottent à la diversité et à la représentation équitable dans le monde numérique. C’est un peu comme vouloir coder avec des moufles, ça part d’une bonne intention mais le résultat n’est pas tout à fait là.
Meta, de son côté, n’a pas immédiatement réagi à la demande de commentaire. La compagnie a déjà mentionné auparavant que Meta AI était en phase « bêta », suggérant que, comme un adolescent maladroit, il est en plein apprentissage et susceptibles de faire des erreurs. Dans un monde où l’on cherche à coder l’empathie et la compréhension humaine dans des lignes de code, on peut s’attendre à quelques maladresses.
En conclusion, si vous commandez à Meta AI une image représentant la diversité, ne soyez pas surpris si vous recevez une photo de groupe ressemblant plus à un concert de Coldplay qu’à une véritable célébration de la diversité humaine. Après tout, on sait que la tech a ses limites, surtout quand elle essaye de refléter le spectre complet de l’humanité. Mais ne soyons pas trop durs, après tout, l’intelligence artificielle n’est qu’à son début de réflexion sur la diversité… ou devrait-on dire, à son « beta-st » de compréhension!
Source : Engadget
