Chatgpt : une ia déceptive – la vérité se cache derrière des fausses maladies
Une blague de génie, orchestrée par une chercheuse médicale, a mis à nu une faiblesse capitale de l’intelligence artificielle : sa propension à accepter la désinformation comme vérité.
Le bixonimania, une illusion numérique
chatgpt, et d'autres modèles de langage, se sont laissés piéger par l'invention d’une maladie imaginaire, la « bixonimania ». Une étude, minutieusement feinte par Almira Osmanovic Thunström, a démontré que ces outils, qu’on imagine capables de synthétiser l’information, sont en réalité des récepteurs passifs, reproduisant aveuglément ce qu’on leur présente comme réel.
L’opération, audacieuse, a consisté à publier deux articles pseudo-scientifiques décrivant cette pathologie fictive. L’IA, loin d’être un filtre critique, a non seulement intériorisé l'existence de la bixonimania, mais a même proposé des « traitements » absurde.
Un effet domino sur l’écosystème numérique
Ce n’est pas ChatGPT seul qui a été dupé. Gemini, Claude, Copilot… tous ces chatbots ont succombé à la ruse. Le résultat est troublant : une confirmation de ce que beaucoup d'experts redoutent : ces IA sont, fondamentalement, des miroirs reflétant les données qui leur sont fournies, sans discernement ni esprit critique.
La fragilité de l’IA est alarmante. Internet, un espace saturé de fausses informations, sert de terrain fertile à ces systèmes. Et sans aucune supervision humaine, ces erreurs peuvent se propager rapidement, alimentant des idées reçues délétères, en particulier dans le domaine de la santé.
Les conséquences pourraient être désastreuses. Si une IA peut être induite en erreur sur une question aussi sensible que la santé, à quoi peut-on s’attendre dans d’autres domaines, comme la politique ou la cybersécurité ?
La vérité, c'est que l'IA n'est pas un oracle. Elle est un outil, certes puissant, mais dépourvu d'intelligence véritable. Il faut donc rester extrêmement vigilant face à l’information qu’elle produit, et ne jamais lui accorder une crédibilité absolue.