L’IA n’est pas une menace hypothétique. Nous y sommes déjà confrontés

Introduction : La démocratisation de l’IA a donné lieu à un phénomène désormais largement documenté, que les chercheurs du Massachusetts Institute of Technology ont qualifié de « capitulation cognitive » chez les étudiants universitaires qui, aux prises avec les échéances et la pression de la réussite, se sont tournés en masse vers cette technologie pour rédiger leurs dissertations et réaliser leurs devoirs à leur place. La proportion d’étudiants recourant à cette pratique atteint désormais le chiffre alarmant de 95 %. Le fait d’avoir confié leur propre capacité de réflexion à des machines signifie que les jeunes diplômés sortent du système éducatif non seulement sans avoir réellement acquis les connaissances propres à leur domaine, mais aussi avec des capacités intellectuelles véritablement dégradées : une moindre mémoire, une incapacité à persévérer face à des défis intellectuels et une perte progressive de leur esprit critique.

Extrait : C’est là que l’IA contribue à ce que des personnes par ailleurs mentalement stables se mettent en danger en suivant des conseils extrêmement néfastes : cet homme hospitalisé après que ChatGPT lui a probablement conseillé de remplacer le sel de son alimentation par un sédatif à l’ancienne ; les randonneurs perdus qui ont failli mourir parce que Google Gemini leur avait conseillé d’emporter bien moins de nourriture et d’eau que nécessaire ; le pasteur qui a failli mourir d’une embolie pulmonaire après que ChatGPT lui a conseillé de ne pas consulter de médecin ; le neuroscientifique âgé qui a reporté son traitement contre le cancer parce qu’il en était venu à faire davantage confiance aux hallucinations de l’IA qu’à son propre médecin ; et bien d’autres encore.

https://www.les-crises.fr/l-ia-n-est-pas-une-menace-hypothetique-nous-y-sommes-deja-confrontes/