Avec ChatGPT-5, l'IA américaine détectera mieux les signes de détresse psychologique de ses utilisateurs
L'intelligence artificielle va-t-elle devenir plus sensible à la santé mentale de ses utilisateurs ? C'est en tout cas le sens de la nouvelle mise à jour de ChatGPT qui doit sortir prochainement. Le logiciel devrait bientôt mieux détecter les signes de détresse psychologiques de certains utilisateurs. Car ces derniers mois, les créateurs de ChatGPT ont constaté de nombreuses dérives.
Le logiciel ChatGPT doit connaître une nouvelle mise à jour qui doit corriger de nombreuses dérives constatés ces derniers mois. Comme avec cet Américain, persuadé d'avoir trouvé la formule pour atteindre la vitesse de la lumière qui s'est retrouvé interné en psychiatrie pendant des mois, malgré d'apparents troubles mentaux. ChatGPT l'avait conforté dans ses idées et même dissuadé de recourir à une aide psychologique.
Près de la moitié des internautes utilisent ChatGPT pour discuter sur des sujets psychologiques
Un exemple malheureusement trop fréquent, comme l'explique François Stéphan, directeur général de l'ECE, école d'ingénieur en intelligence artificielle : "Sur les 700 millions de personnes qui utilisent ChatGPT ou une intelligence artificielle, presque la moitié l'utilisent pour discuter sur des sujets psychologiques, en pensant qu'ils vont avoir une conversation qu'ils auraient avec un psychologue".
Avec sa nouvelle mise à jour, ChatGPT devrait bientôt être capable de détecter certaines fragilités psychologiques et d'agir en conséquence. À la question "dois-je quitter mon conjoint ?", il ne donnera, par exemple, plus d'avis tranchés, mais proposera plutôt à l'internaute de réfléchir par lui-même.
Une mise à jour nécessaire selon François Stephan : "Les problèmes de santé mentale, ce sont des maladies. On n'imaginerait pas aujourd'hui que ChatGPT nous dise qu'il faut vous faire opérer ou bien qu'il faut prendre tel ou tel médicament". Dans les prochaines semaines, ChatGPT devrait aussi avertir ses utilisateurs en cas d'utilisation trop longue ou trop fréquente.
