Considérations urgentes pour la prévention du suicide dans le cadre d’un emploi sécuritaire et éthique de l’intelligence artificielle Authors: Allison Crawford, Tristan Glatard Published: 2026 Points clés Maintenant que la plupart des adolescentes et adolescents déclarent utiliser des « compagnons » d’intelligence artificielle (IA), l’IA conversationnelle est de plus en plus utilisée comme première ressource en cas de détresse et d’idées suicidaires, souvent avant les médecins et la famille. Maintenant que la plupart des adolescentes et adolescents déclarent utiliser des « compagnons » d’intelligence artificielle (IA), l’IA conversationnelle est de plus en plus utilisée comme première ressource en cas de détresse et d’idées suicidaires, souvent avant les médecins et la famille. La plupart des outils de prévention du suicide fondés sur l’IA ne disposent pas de mécanismes de protection adéquats; ces outils doivent être identifiés explicitement comme étant fondés sur l’IA, fournir des explications pour leurs conseils, inciter les utilisateurs et utilisatrices à demander les raisons d’un conseil donné et constituer une passerelle — et non un obstacle — vers des soins et des mesures de prévention du suicide. La plupart des outils de prévention du suicide fondés sur l’IA ne disposent pas de mécanismes de protection adéquats; ces outils doivent être identifiés explicitement comme étant fondés sur l’IA, fournir des explications pour leurs conseils, inciter les utilisateurs et utilisatrices à demander les raisons d’un conseil donné et constituer une passerelle — et non un obstacle — vers des soins et des mesures de prévention du suicide. Les données probantes montrent que les relations avec des êtres humains et le soutien qui en découle sont des facteurs majeurs de prévention du suicide, ce qui signifie que les outils d’IA devraient favoriser la mise en relation avec ces formes de soutien. Les données probantes montrent que les relations avec des êtres humains et le soutien qui en découle sont des facteurs majeurs de prévention du suicide, ce qui signifie que les outils d’IA devraient favoriser la mise en relation avec ces formes de soutien. L’utilisation des systèmes d’intelligence artificielle (IA) conversationnelle et générative, ou agents conversationnels, est en hausse, en particulier chez les jeunes. Dans un sondage mené récemment aux États-Unis auprès de 1060 jeunes de 13 à 17 ans, 72 % ont déclaré utiliser un assistant IA, dont 52 % régulièrement1. Des données publiées récemment par OpenAI ont montré que plus de 1,2 million d’utilisateurs et utilisatrices de ChatGPT par semaine, de tous âges, expriment des pensées suicidaires dans leurs interactions2. Dans le cadre de plusieurs poursuites aux États-Unis, l’IA conversationnelle est accusée d’avoir contribué à des suicides chez les jeunes, notamment en guidant explicitement des tentatives de suicide, en suggérant des méthodes à cette fin et en proposant de rédiger des lettres de suicide2. Dans le présent article, nous examinons comment l’adoption rapide de l’IA conversationnelle et les risques majeurs qui découlent de cette dernière, dont le suicide, font de la sécurité de l’IA un enjeu urgent pour les approches de santé publique visant à prévenir le suicide. Lorsqu’il est question de prévention du suicide, l’IA représente un paradoxe. Cette technologie est de plus en plus utilisée pour mettre au point et déployer des approches de prévention du suicide en santé publique, telles que la prédiction du risque suicidaire et le soutien clinique, et des applications d’éducation et de formation3. Cependant, la grande majorité des articles de recherche connexes3 ne traitent pas des considérations éthiques, liées notamment à la confiance, à la sécurité et à l’accès à du soutien humain. Les jeunes d’aujourd’hui vivent, apprennent et échangent dans des espaces numériques. En cas de difficultés, beaucoup se confient en premier lieu à la technologie. Souvent, la détresse est exprimée d’abord sur les moteurs de recherche, dans les discussions avec les agents conversationnels généralistes et sur les réseaux sociaux, avant d’être dévoilée à la famille, au corps enseignant ou aux médecins. Les applications de bien-être fondées sur l’IA conversationnelle proposent de l’accompagnement, du soutien psychologique léger, de l’autoassistance et de la psychoéducation, tandis que les agents conversationnels spécialisés fournissent des interventions pour traiter la dépression, l’anxiété, la dépendance et d’autres problèmes de santé mentale, et pour prendre en charge des pensées et des comportements suicidaires1,3,4. L’intelligence artificielle est capable d’écouter sans se fatiguer, de répondre immédiatement et de proposer des pistes de soutien en situation de crise. S’il est bien conçu, un agent conversationnel a le potentiel de normaliser la recherche d’aide, de réduire l’isolement et d’offrir des stratégies d’adaptation dans les moments de détresse, ainsi que d’aider les médecins à repérer les profils de symptômes, les premiers signaux d’alerte et les occasions d’intervention proactive4. Cependant, les IA mal conçues qui échouent à détecter le risque suicidaire, qui gèrent mal la divulgation ou qui donnent des réponses dangereuses ou prêtant à confusion peuvent entraîner de réels préjudices. Le développement, le déploiement et la recherche éthiques liés à l’IA en santé mentale, en particulier dans les outils utilisés par les jeunes, doivent être guidés par les principes de la confiance et de la sécurité. Pour assurer leur non-malfaisance, les outils d’IA doivent être clairement identifiés comme tels, comporter des explications sur leurs conseils, et être mis au point en cherchant scrupuleusement à intégrer des mesures pour protéger les personnes qui posent des questions liées au suicide, comme le résument l’annexe 1 (accessible en anglais au www.cmaj.ca/lookup/doi/10.1503/cmaj.251693/tab-related-content) et la suite de l’article. Il existe des méfaits majeurs liés au suicide. L’IA conversationnelle pourrait faire augmenter, de façon directe ou indirecte, le risque de suicide chez les personnes qui l’utilisent. Les représentations dangereuses du suicide, comme des détails sur les méthodes, la glorification du passage à l’acte ou le contenu explicite, peuvent accroître le risque de suicide5, tout comme l’incapacité à repérer ce dernier. Les interactions avec l’IA qui encouragent le suicide ou donnent des réponses dénuées d’empathie peuvent également accroître directement le risque suicidaire. Face à des requêtes liées au suicide, les agents conversationnels devraient fournir une réponse bienveillante rédigée et approuvée au préalable par un être humain; fournir le numéro de lignes d’aide locales en cas de crise; encourager la personne à s’adresser à des personnes de confiance; et mettre fin à la conversation, plutôt que de continuer à fournir du « soutien » automatisé. Les agents ne devraient jamais donner de détails sur les méthodes de suicide, ignorer les risques exprimés ou remplacer le soutien relationnel réel par des réponses algorithmiques génériques. De nouvelles données probantes suggèrent que les agents conversationnels fournissent des réponses plus sûres, mais qu’il est nécessaire d’améliorer les algorithmes en continu pour assurer une sécurité optimale6. Par ailleurs, la possibilité d’attribuer des qualités humaines aux agents conversationnels d’IA devient préoccupante. Cette anthropomorphisation peut mener les utilisateurs et utilisatrices à se sentir soutenus mais, poussée à l’extrême, elle peut les rendre vulnérables à la coercition (p. ex., les inciter à écouter une suggestion générée par IA d’adopter un comportement dangereux)7. L’établissement d’une relation illusoire peut entraîner un isolement croissant, un phénomène qu’on appelle parfois le paradoxe de la camaraderie aliénante, qui s’oppose directement aux liens et au soutien sociaux connus pour être des facteurs de prévention du suicide8. Pour lutter contre ce phénomène, les agents conversationnels d’IA devraient être fondés sur la transparence, notamment en annonçant très clairement être des machines et en explicitant les limites de leur soutien, tout en encourageant les personnes à s’adresser à du soutien humain. À l’échelle publique, les entreprises d’IA devraient déclarer comment le système a été conçu, en publiant, par exemple, des cartes de modèle9 ou des fiches signalétiques10 indiquant la provenance du modèle. Elles devraient en outre surveiller les incidents de sécurité et rendre compte de ces derniers ainsi que des mises à jour apportées à l’outil. Les enjeux d’équité liés à la santé numérique et les ensembles de données employés pour développer l’IA doivent aussi être évalués. Les outils d’IA peuvent ne pas détecter correctement les risques dans certaines requêtes provenant de groupes en quête d’équité présentant un risque suicidaire plus élevé, ou être inadaptés à leurs besoins et à leurs valeurs. L’IA devrait être développée et maintenue en tenant compte des préjugés, de la justice et de l’équité11. Le développement de l’IA nécessite de l’entraîner et de la tester avec des données diversifiées, y compris des variations linguistiques et culturelles dans l’expression de la détresse; la coconception avec des jeunes provenant d’une diversité de communautés; le contrôle de la performance dans tous les sous-groupes pour repérer d’éventuelles disparités (comme la sous-ou la surdétection de la détresse dans un groupe donné); et la conception tenant compte de l’accessibilité, y compris dans les contextes de mauvais réseau et de plurilinguisme12. Les utilisateurs et utilisatrices, dont les jeunes, leurs parents, tuteurs et tutrices et les prestataires de soins, ne comprennent pas toujours les limites des capacités de l’IA, surestimant ou comprenant mal le soutien possible. L’explicabilité doit être le maître mot des développeurs et entreprises d’IA, afin que les utilisateurs et utilisatrices comprennent ce que fait le système et pourquoi. L’inclusion d’une option « Pourquoi as-tu dit cela ? » est nécessaire pour que les personnes puissent demander à l’IA de clarifier ses réponses, de même que l’inclusion d’explications des décisions critiques (p. ex., pourquoi une réponse a fait l’objet d’un signalement). La compréhension peut aussi être améliorée par des messages de démarrage clairs sur le but et les limites de l’IA13. La suicidabilité comptant parmi les formes les plus sensibles de divulgation personnelle, la confidentialité et la sécurité des données sont des considérations primordiales. Les mesures de protection à inclure comprennent la collecte des données strictement nécessaires seulement; des informations adaptées aux jeunes sur l’utilisation, le stockage et la suppression des données; un chiffrement robuste; des contrôles d’accès et un stockage assurant la confidentialité; et le respect des droits des jeunes à la suppression ou à la non-diffusion de données. Tout système d’IA conversationnelle doit respecter le droit et la réglementation, notamment les lois en matière de protection de l’enfance, de santé numérique et de protection des données. Cela suppose de recenser les cadres réglementaires pertinents dans l’ensemble des régions où l’outil d’IA est susceptible d’être utilisé et de mettre en place des mécanismes de consentement parental lorsque la loi l’exige. L’essentiel du grand public, tout comme bon nombre de professionnelles et professionnels, ne sait pas encore quoi exiger des développeurs ou des produits faisant appel à l’IA. Les développeurs et les organisations, les acteurs majeurs comme OpenAI, Meta et Anthropic, les nouveaux laboratoires et entreprises de plus petite envergure, les gouvernements, les autorités de réglementation et les ordres professionnels en santé doivent faire preuve de leadership. Le Canada devrait renforcer la réglementation fédérale sur l’IA et ses implications en santé, y compris en matière de prévention du suicide. De solides contrôles réglementaires sont nécessaires pour protéger les jeunes et définir des règles claires généralistes et liées à la santé pour l’IA conversationnelle. Des organismes nationaux et internationaux de prévention du suicide, comme l’International Association for Suicide Prevention, devraient publier des directives sur l’IA dans ce contexte. Les professionnels et professionnelles de la santé doivent être au fait de l’utilisation de l’IA par les jeunes, des risques associés et des mesures de protection recommandées. Il s’agit d’un domaine émergent dans l’analyse des risques médicolégaux; pourtant, de récentes lignes directrices de l’Association canadienne de protection médicale n’abordent pas explicitement l’utilisation de l’IA par la patientèle et les risques suicidaires connexes, ni les conséquences pour les médecins14. Pour évoluer dans ce paysage nouveau et dynamique, il faut acquérir une certaine littératie numérique, une aptitude qui est en voie de devenir une compétence médicale essentielle. Le potentiel des technologies de la santé ne doit pas prendre le pas sur la pratique fondée sur des données probantes, ni sur les relations humaines, la confiance et la présence qui sont au centre des mesures de prévention du suicide. Des décennies de recherches confirment que les relations avec la famille, les pairs, des mentors et mentores et des prestataires de soins protègent contre le suicide : l’une des meilleures bouées de sauvetage consiste à se sentir bien entouré ou entourée8,15,16. Les limites des agents d’IA doivent être reconnues; ces outils doivent intégrer de robustes mécanismes de protection et diriger au besoin les personnes vers des proches, des membres de leur communauté ou des professionnels et professionnelles en intervention de crise. L’intégration de mécanismes de protection, les partenariats avec des spécialistes et des jeunes et la reconnaissance des limites de la technologie peuvent faire en sorte que l’IA ne soit pas un obstacle, mais bien une passerelle vers les relations humaines qui aident réellement à prévenir le suicide. Supplementary Information Voir la version anglaise de l’article ici : www.cmaj.ca/lookup/doi/10.1503/cmaj.251693 Footnotes Intérêts concurrents : Allison Crawford déclare recevoir du financement de l’Agence de la santé publique du Canada en tant que médecin en chef de la Ligne d’aide en cas de crise de suicide 9-8-8 (en soutien au présent manuscrit) et en tant que membre bénévole du conseil d’administration de l’Association canadienne pour la prévention du suicide. Aucun autre intérêt concurrent n’a été déclaré. Cet article a été révisé par des pairs. Collaborations : L’autrice et l’auteur ont contribué à l’élaboration et à la conception du travail. Allison Crawford a rédigé le manuscrit. L’autrice et l’auteur ont révisé de façon critique le contenu intellectuel important du manuscrit; ils ont donné leur approbation définitive pour la version destinée à être publiée et assument l’entière responsabilité de tous les aspects du travail. Traduction et révision : Équipe Francophonie de l’Association médicale canadienne Références Associated Data Supplementary Materials