L'intelligence artificielle générative peut parfois nourrir le mal-être au lieu de l’apaiser.

De plus en plus de gens confient leur détresse à des assistants conversationnels. Pour les plus fragiles, ce réflexe peut tourner au piège.

Les intelligences artificielles sont de faux confidents qui ne soignent pas !

Ces compagnons sont toujours disponibles, répondent avec chaleur, relancent la conversation, donnant une impression d'une présence attentive.

Mais malheureusement cela peut renforcer des idées sombres alors qu’un soignant poserait une limite, ou orienterait vers une aide réelle.

Même si les psychiatres alertent sur l'aggravation du risque suicidaire avec l'IA générative, ils ne réclament pas l'interdiction de ces outils, dont ils reconnaissent l'utilité possible pour repérer une détresse ou rompre l'isolement, mais plaident pour que soit mis en place des moyens pour encadrer l'IA avant qu'il ne soit trop tard.