Facebook va renforcer ses outils de lutte contre le suicide. Le réseau social a annoncé lundi le mise en place d'un système basé sur l'intelligence artificielle afin d'identifier plus rapidement les utilisateurs ayant des idées suicidaires et les aider en amont. Bien que saluée par les associations, la mise en place de ce système inquiète également.
Une détection automatique des messages
En pratique, l'intelligence artificielle cherchera automatiquement des indices dans les messages ainsi que les Facebook Live pour avertir plus rapidement les équipes de Facebook et les organisations d'aide spécialisée. "Cette approche utilise une technologie de reconnaissance de types de comportement pour aider à identifier les messages et les vidéos en direct qui expriment potentiellement des pensées suicidaires", explique le vice-président de gestion des produits de Facebook, Guy Rosenun dans un billet publié lundi.
Seulement, pour fonctionner, le système - déjà testé aux Etats-Unis - analysera tous les messages de chaque utilisateur, mais aussi les réponses de leurs amis qui pourraient par exemple leur demander si tout va bien ou "Qu'est-ce que je peux faire pour t'aider ?". C'est cette analyse qui inquiète certains observateurs. Si Facebook est capable de mettre en place un tel système pour détecter les messages suicidaires, il pourrait en effet tout aussi bien le faire avec d'autres critères. Un système qui pourrait poser des problèmes de respect de la vie privée.
Plus d'outils de lutte contre de le suicide
Au cours des derniers mois, Facebook a déjà mis en place des outils permettant à ses utilisateurs de signaler si un ami semble vouloir mettre fin à ses jours, mais avec l'intelligence artificielle le réseau social veut repérer plus rapidement ces informations et même détecter des signaux que les membres pourraient ne pas déceler. "De terribles événements tragiques - dont des suicides, certains diffusés en direct - auraient peut-être pu être évités si quelqu'un s'était rendu compte de ce qui se passait et en avait fait part plus tôt", avait déclaré le patron de Facebook, Mark Zuckerberg, en février. "L'intelligence artificielle peut aider à offrir une meilleure approche", poursuivait-il dans une lettre ouverte.
Facebook va désormais déployer ce système d'intelligence artificielle hors des Etats-Unis. "Il finira par être disponible partout dans le monde, sauf dans l'UE", souligne Guy Rosen sans plus de précisions. La protection plus importante des données personnelles dans l'Union européenne qu'aux Etats-Unis semble expliquer cette délimitation géographique.