« L’intelligence artificielle, c’est formidable… jusqu’à ce qu’elle vous invente des amis imaginaires dans votre thèse de médecine ! » Eh oui, chers lecteurs, on connaissait déjà les « fake news », voici venu le temps des « fake études » générées par Elsa, l’IA qui devait révolutionner les rouages de la FDA… et qui, pour l’instant, préfère jouer à l’auteur de fiction scientifique.
Tout commence avec l’arrivée en fanfare d’Elsa, l’outil d’intelligence artificielle dévoilé le mois dernier par la FDA (l’équivalent américain de notre ANSM). Officiellement, Elsa doit permettre à l’agence fédérale de passer la seconde dans la revue des études cliniques et les décisions de santé publique. Mais voilà, certains employés – actuels et anciens – ne sont pas convaincus. D’après eux, Elsa s’emballe parfois et hallucine… au point d’inventer des études qui n’existent que dans son cerveau de silicium ou de transformer des publications réelles en vérités alternatives.
Une source, digne des plus grands suspenses médicaux, résume l’affaire : « Tout ce que vous n’avez pas le temps de vérifier est peu fiable. Et Elsa hallucine avec une confiance digne d’un étudiant que personne n’oserait contredire à la cafétéria ». En bref, si l’idée était de gagner du temps, mieux vaut peut-être encore éplucher soi-même tous les résultats – ou garder sous le coude une bonne boîte d’aspirine.
Quand une IA médicale vous assure qu’une pilule vous fera pousser des ailes, méfiez-vous, c’est sûrement un effet secondaire… virtuel !
Mais chez les chefs, c’est la zénitude absolue du côté de la direction. Le grand patron de la FDA, Marty Makary, semble tomber des nues : « Je n’ai pas entendu parler de ces problèmes », dit-il, tel un professeur qui découvre à la rentrée que des élèves sèchent les cours depuis avril. « De toute façon, l’utilisation d’Elsa reste facultative », ajoute-t-il, qui sous-entend : si ça bug, personne ne vous en voudra… ou presque.
Du côté du Département de la Santé, on dégaine un argumentaire tout aussi coloré que les textes d’Elsa : l’article de CNN serait « déformé » voire exagéré par d’anciens employés « aigris », qui n’auraient même pas testé la dernière version de la fameuse IA ! En gros, si les critiques pédalent dans le vide, qui croire ? En attendant, l’agence rappelle que tout un tas de garde-fous existent pour éviter de transformer chaque poule de laboratoire en licorne.
Ce que cette cacophonie révèle, surtout, c’est comment on tente à Washington, via un tout nouveau « AI Action Plan » de la Maison Blanche, de retirer réglementations et signaux d’alerte au nom de la compétitivité et de la lutte contre les biais idéologiques. Mais, entre deux coups de ciseaux dans la paperasse, on oublie facilement qu’Elsa & Cie pourraient, justement, passer à côté de sujets de santé publique brûlants comme le réchauffement climatique ou la diversité. Comme souvent, l’histoire n’est ni tout à fait noire, ni tout à fait blanche… mais parfois bien grise, entre progrès technologique et précautions à géométrie variable.
En résumé : Elsa rêve encore un peu trop à voix haute et, si on laisse l’IA mener la barque sans filet, on risque de confondre fiction et prescription. Alors, amis patients, pour l’instant, mieux vaut garder les pieds sur terre… et la tête hors des nuages numériques !
Source : Engadget
