« Si vous ne trouvez pas la réponse, c’est peut-être parce que l’IA est encore en train de demander à ses parents. » Voilà un adage que Campbell Brown pourrait adopter après avoir chassé la vérité à la télé, puis traqué les fake news chez Facebook. Aujourd’hui, avec Forum AI, elle ne prend plus de gants : l’information entre de plein fouet dans l’arène de l’intelligence artificielle, et elle aimerait qu’on arrête d’y jouer à colin-maillard.
Forum AI, c’est sa version de la Ligue des Justiciers… mais pour la rigueur intellectuelle. Des sujets qui filent la migraine aux IA comme la géopolitique, la santé mentale ou la finance, Brown a mobilisé la crème des experts – pensez Tony Blinken ou Fareed Zakaria – pour faire passer un grand oral aux modèles d’IA. L’idée ? Former des IA-juge capables de donner les mêmes réponses (presque) que les meilleurs humains à 90%. Oui, la perfection n’est pas de ce monde, surtout pas chez les robots.
Tout est parti d’une révélation à la sortie de ChatGPT, lorsque Brown – alors chez Meta – a compris que ses propres enfants allaient être formés par des IA aussi fiables qu’un gruyère sans trous. Face à des modèles soucieux de code et d’algèbre, la qualité des infos semblait être passée à la trappe. Cela aurait pu rester un soupir sur le canapé, mais elle a décidé que la barre de vérité devait être rehaussée.
L’IA, c’est puissant, mais sans des humains bien réveillés à la barre, elle peut écrire de beaux contes… et de belles bêtises.
Mais même avec les experts, les modèles ont parfois l’inspiration d’un stagiaire le lundi matin. Selon Brown, Gemini, par exemple, pioche dans des sites du parti communiste chinois pour répondre à tout et n’importe quoi, et la plupart affichent des biais bien marqués – le tout saupoudré de raccourcis malheureux ou d’absence de contexte. Bref, de quoi remettre en question l’expression « intelligence » dans IA.
Après avoir vu Facebook devenir champion du like au détriment de la vérité, Brown garde des cicatrices. Elle rêve que l’IA rompe enfin ce cercle : pourquoi ne pas optimiser pour la vérité plutôt que pour la viralité frustrante ? Trop idéaliste ? Peut-être, mais elle parie que les entreprises, elles, s’en soucieront dès que leur réputation ou leur carnet de chèques sera menacé.
Or, transformer cette exigence d’exactitude en dollars n’est pas un jeu d’enfant – surtout quand le marché se contente souvent d’audits « décochés », façon contrôle technique vite expédié. Le monde de la conformité ressemble à une mauvaise blague (et pas seulement pour ceux qui la racontent), beaucoup de modèles passent à travers les mailles du filet. Brown insiste : il n’existe pas de raccourci et les généralistes ne font pas le poids face à la subtilité des cas réels.
Pour finir, Brown, forte des 3 millions de dollars levés pour Forum AI, pèse chaque promesse de la Silicon Valley sur la balance de la réalité. On nous vend des IA capables de tout révolutionner, mais pour madame Michu qui demande l’heure à Chatbot, la réponse est encore en jetons approximatifs. Moralité : avant de prétendre remplacer nos cerveaux, l’IA ferait bien de jeter un œil à son manuel d’instructions. Et quand on voit tous ces robots s’emmêler les puces, on se dit qu’il ne faut pas croire tout ce que dit une « intelligence »… surtout quand elle ne sait pas grand-chose !
Source : Techcrunch
