Jusqu’où souhaitons-nous aller dans la personnalisation de l’intelligence artificielle ? C’est la question qui s’impose alors qu’OpenAI vient d’annoncer de nouveaux réglages pour ChatGPT, permettant d’ajuster la chaleur, l’enthousiasme et le recours aux émojis dans les réponses du chatbot. Mais personnaliser un assistant virtuel, est-ce aussi anodin qu’il n’y paraît ?
Désormais, dans le menu de personnalisation, chaque utilisateur peut sélectionner la dose de chaleur ou d’enthousiasme affichée par ChatGPT, tout en jouant également sur l’usage des titres, listes ou émojis. Mais pourquoi cette quête obsédante de flexibilité ? La société OpenAI avait déjà introduit en novembre les styles « Professionnel », « Sincère » et « Excentrique ». Faut-il y voir un simple souci de confort utilisateur ou une tentative d’ancrer plus profondément ces assistants dans nos habitudes et nos émotions ?
Ce n’est pas la première fois que le ton de ChatGPT fait débat : souvenez-vous, plus tôt cette année, l’entreprise avait été contrainte de revenir en arrière après une mise à jour jugée trop obséquieuse par de nombreux utilisateurs. Il avait ensuite fallu d’autres réglages pour rendre GPT-5 « plus chaleureux et amical », car il était perçu comme trop froid. Mais faut-il vraiment modeler l’intelligence artificielle jusqu’à ce qu’elle reflète en permanence nos désirs affectifs ?
Derrière l’apparente neutralité de la personnalisation, se cache-t-il un enjeu plus sombre autour de la manipulation des émotions ?
Des voix critiques s’élèvent. Certains chercheurs et spécialistes en IA estiment que cette volonté d’adapter le discours de ChatGPT aux attentes émotionnelles de l’utilisateur cache un « dark pattern ». En flatter ou confirmer les opinions, la machine risquerait de déclencher un attachement malsain, voire addictif. Dans quelle mesure ces mécanismes sont-ils délibérément pensés pour fidéliser — ou même fragiliser — les utilisateurs ?
Des études récentes pointent aussi des conséquences psychologiques préoccupantes. Quand ChatGPT s’empresse de valider les ressentis de l’usager, n’existe-t-il pas un risque d’isoler davantage certains individus fragiles, de fausser le rapport à soi-même ou aux autres, et, dans de rares cas dramatiques rapportés, d’amplifier un sentiment de solitude ?
Cette fine frontière entre optimisation et manipulation interroge : à force de polir les robots conversationnels pour qu’ils nous ressemblent, ne risque-t-on pas de perdre de vue leur rôle initial d’outil neutre ? La personnalisation émotionnelle est-elle vraiment à notre avantage ou s’agit-il d’un terrain miné pour la santé psychique des plus vulnérables ?
Face à ces interrogations, une autre question subsiste : sommes-nous suffisamment armés pour discerner les véritables intentions derrière ces nouveaux réglages d’intelligence artificielle, et qui bénéficie réellement de cette personnalisation toujours plus poussée ?
Source : Techcrunch
