Est-il raisonnable de confier sa sécurité à une intelligence artificielle lorsque l’on prépare une randonnée extrême ? L’affaire des trois randonneurs secourus sur le mont Shasta en Californie jette le doute sur la fiabilité des conseils prodigués par les chatbots comme Google Gemini. Que s’est-il réellement passé cette nuit-là, et comment en est-on venu à dépendre d’une IA pour des décisions vitales en pleine montagne ?
L’incident relate trois jeunes hommes partis pour l’ascension du mont Shasta à l’aube, équipés — selon le rapport du shérif — des recommandations obtenues via l’assistant Gemini. Selon les autorités, ils auraient sciemment ignoré la règle de sécurité la plus élémentaire : rebrousser chemin avant midi si le sommet n’est pas atteint. Pourquoi un tel choix de prudence a-t-il été mis de côté ? L’expérience du groupe, face à la montagne et au conseil humain, a-t-elle été éclipsée par la confiance dans la technologie ?
Leur itinéraire, au lieu de se terminer au sommet dans les temps impartis, s’est soldé par une descente nocturne hasardeuse. Perdus dans l’obscurité du canyon de Mud Creek, ils ont fini par appeler les secours, passants la nuit à attendre les rangers et bénévoles venus les sauver. Comment ces randonneurs en sont-ils arrivés à dépendre d’un chatbot plutôt que de professionnels de la montagne ?
Se fier aveuglément à l’intelligence artificielle en pleine nature comporte-t-il des risques que nous ne savons pas encore mesurer ?
Le rapport du shérif va plus loin : il pointe du doigt Gemini pour avoir conseillé une quantité d’eau et de nourriture bien trop faible pour la durée réelle de l’ascension. Pourtant, l’IA n’avait pas connaissance des aléas imprévisibles ni de l’allongement de la randonnée, transformant une expédition de huit heures en une épreuve de plusieurs jours. Cela pose une question cruciale : les IA actuelles sont-elles prêtes à gérer les subtilités et imprévus du monde réel, ou leur manque-t-il encore un sens du danger fondamental ?
Face à cette expérience qui aurait pu virer au drame, la police locale a insisté : contacter directement les rangers du mont Shasta reste systématiquement la démarche la plus sûre. Pourquoi alors voit-on de plus en plus de randonneurs novices ou expérimentés faire confiance à un chatbot pour planifier leurs excursions, ignorant les conseils humains et locaux ?
La tentation de l’automatisation semble répondre à notre désir de rapidité et d’efficacité, mais à quel prix ? Faut-il légiférer sur l’utilisation de l’IA pour la planification d’activités à risque, ou redoubler de pédagogie pour rappeler les limites de cette technologie encore jeune ? Si ces randonneurs ont eu de la chance, combien d’autres pourraient être moins chanceux à l’avenir en négligeant la sagesse humaine au profit d’une machine encore perfectible ?
À l’ère du numérique tout-puissant, nous devons nous demander : l’intelligence artificielle sera-t-elle jamais suffisamment fiable pour devenir notre seul guide dans la nature sauvage ?
Source : Techcrunch
