Meta va alerter les parents si leur enfant aborde le sujet du suicide

Par Tara Deschamps, La Presse Canadienne

L’entreprise derrière Facebook, Instagram, WhatsApp et Messenger — annonce avoir lancé de nouveaux outils destinés à alerter les parents et les premiers répondants canadiens lorsque des jeunes présentent un risque de suicide ou d’automutilation, mais des expertes estiment que ces outils ne sont pas infaillibles.

Ces nouvelles mesures, déployées jeudi au Canada, aux États-Unis, au Royaume-Uni et en Australie, informent les parents par l’intermédiaire du contrôle parental d’Instagram si leur adolescent aborde le sujet du suicide ou de l’automutilation avec l’agent conversationnel Meta AI.

Le géant technologique met également en place un système permettant de contacter les services d’urgence lorsque les conversations entre adultes et adolescents avec Meta AI laissent penser qu’ils pourraient être en danger de se donner la mort.

Ces fonctionnalités font suite à plusieurs cas très médiatisés d’enfants effectuant des recherches sur l’automutilation et, dans certains cas, poussés au suicide par des agents conversationnels basés sur l’intelligence artificielle (IA).

Une efficacité limitée

Si des expertes ont salué Meta pour avoir pris des mesures visant à protéger les enfants avant même que la législation canadienne établissant des exigences de sécurité pour les réseaux sociaux et les agents conversationnels basés sur l’IA ne soit adoptée par le Parlement, elles estiment toutefois que l’efficacité des mesures de Meta pourrait être limitée.

En effet, tous les parents n’utilisent pas les outils de supervision d’Instagram qui permettent de déclencher des alertes en cas de risques de suicide ou d’automutilation, et les enfants ont tendance à trouver des moyens de contourner ces mesures.

Comme Meta ne propose pas ces protections par défaut, cela ressemble à du «care washing», souligne Kaitlynn Mendes, professeure de sociologie à l’Université Western et titulaire de la Chaire de recherche du Canada sur l’inégalité et le genre.

«C’est comme si on disait: “Regardez toutes ces mesures formidables que nous mettons en place pour ces comptes”, alors qu’elles ne seront peut-être pas utilisées dans la pratique», ajoute-t-elle.

Même lorsque ces comptes sont utilisés et que les risques d’automutilation peuvent être signalés, elle soupçonne que certains utilisateurs trouveront des moyens astucieux d’échapper à la détection. Par exemple, ils pourraient prétendre qu’il s’agit d’un personnage fictif envisageant de s’automutiler, plutôt que d’eux-mêmes.

«Si les gens sont vraiment déterminés à trouver des moyens de s’automutiler ou de commettre des actes de violence de masse, ils vont probablement s’obstiner», estime-t-elle.

Shauna Pomerantz, professeure spécialisée dans les études sur l’enfance et la jeunesse à l’Université Brock, partage cet avis.

Les enfants, en particulier, se sont montrés rusés chaque fois que leurs activités en ligne ont été restreintes, explique-t-elle.

«Les jeunes sont très doués pour trouver les mots à utiliser qui ne déclenchent pas les alertes, et je pense que cela va constituer une faille ou une lacune dans le système», détaille-t-elle.

«Ainsi, même si je pense que c’est un pas dans la bonne direction, je pense également que Meta et les parents doivent faire preuve de pragmatisme, de vigilance et d’honnêteté quant à la capacité des jeunes à contourner toute forme de surveillance de leurs activités en ligne.»

Davantage de prudence

Meta a reconnu que ces nouvelles mesures ne seraient pas parfaites. Les conversations avec son agent conversationnel qui débouchent sur des contenus préoccupants seront signalées par l’IA avant de faire l’objet d’un examen manuel et de l’envoi d’alertes.

«Si l’intention d’un adolescent est ambiguë, nous préférerons pécher par excès de prudence et alerter les parents», indique le site web en anglais de Meta.

«Même si cela signifie que nous pouvons parfois avertir les parents alors qu’il n’y a pas de réelle raison de s’inquiéter, nous estimons que c’est le bon point de départ, et nous continuerons à surveiller la situation pour nous assurer que nous sommes sur la bonne voie.»

Ces nouvelles mesures s’inscrivent dans la continuité de plusieurs autres initiatives prises par Meta ces dernières années.

Par exemple, l’IA de Meta a été entraînée à ne pas engager de conversations à caractère sexuel ou romantique avec des adolescents ni à fournir des recettes de boissons alcoolisées.

L’entreprise avait également commencé auparavant à signaler aux services d’urgence les publications sur Facebook et Instagram laissant entrevoir un risque crédible de suicide. Meta a indiqué que rien que l’année dernière, elle avait effectué 19 000 signalements dans le cadre de ce programme, ce qui a donné lieu à de nombreuses interventions de contrôle du bien-être.

Dans la foulée de l’annonce faite jeudi par Meta, l’entreprise à l’origine de ChatGPT a également révélé qu’elle s’efforcerait de mieux protéger les enfants en ligne et de rappeler aux utilisateurs de l’agent conversationnel IA qui s’en servent pendant de longues périodes de faire des pauses.

OpenAI a déclaré qu’elle détecterait les utilisateurs de moins de 18 ans et réduirait automatiquement leur exposition à des contenus montrant de la violence explicite, des actes d’automutilation, des défis viraux à risque, des contenus nuisibles à l’image corporelle ainsi que des jeux de rôle dangereux, romantiques ou sexuels.

La professeure Mendes a remis en question cette approche.

«Pourquoi s’agit-il de réduire l’exposition et pourquoi ne pas simplement empêcher que ce genre de contenu ne soit présent dès le départ?», se demande-t-elle.

———

Si vous ou l’un de vos proches avez des pensées suicidaires, une aide est disponible 24 heures sur 24 et 7 jours sur 7 en appelant ou en envoyant un texto au 988 (1-866-APPELLE au Québec), la ligne d’écoute nationale canadienne de prévention du suicide.

Tara Deschamps, La Presse Canadienne