Le groupe Facebook apporte des outils à l'Europe pour aider à identifier les posts de personnes vulnérables : ouvrir la lutte contre l'automutilation et le suicide
Facebook et Instagram font un nouveau pas en avant en termes de soutien à la question complexe de la santé mentale. Consolidant les efforts déjà réalisés ces dernières années, les deux réseaux sociaux ont décidé d'étendre à l'Union européenne la réglementation contre les contenus incitant au suicide et à l'automutilation.
Dès 2016, Facebook avait entamé sa campagne pour aider les personnes à risque de suicide et d'automutilation, en mettant en place un service de signalement anonyme pour identifier rapidement tous ces utilisateurs particulièrement exposés. Au fil du temps, les mesures ont été étendues à Instagram, qui est depuis passé sous l'égide du réseau social. Si, toutefois, ce système est déjà en vigueur dans de nombreux autres pays, il rencontre en Europe de plus grandes difficultés, notamment en raison du règlement européen sur la protection de la vie privée, qui ne permet pas d'agir sur ces contenus en recourant à un support humain, que ce soit pour la reconnaissance ou pour s'adresser à des groupes de soutien.
Facebook et Instagram, comment ils agissent actuellement en cas de contenu à risque
Afin d'identifier les posts potentiellement dangereux qui, comme dans ce cas, peuvent inciter les personnes en difficulté, un système basé sur une technologie capable de reconnaître les contenus à risque a été développé. Une fois identifié, le processus consiste à transmettre ces posts, qu'ils soient sous forme de texte ou de photographie, comme des images, des dessins, des mèmes ou des photos réelles, à une équipe de révision composée de personnes réelles et non représentées par une intelligence artificielle.
Après avoir analysé ces contenus, l'équipe de révision peut agir de plusieurs manières. Dans un premier temps, l'équipe peut décider de supprimer les messages ou les images, ou s'ils sont jugés plus risqués, elle mettra la personne en contact avec des organisations locales qui peuvent l'aider à gérer ces problèmes, voire contacter les services d'urgence si nécessaire.
Et c'est sur cette dernière partie que Facebook travaille, en essayant de trouver une solution avec le législateur pour enfin étendre son soutien aux citoyens européens qui, jusqu'à présent, étaient exclus de ce type d'aide.
Facebook et Instagram, les numéros d'urgence pour le suicide et l'automutilation
Selon Facebook et Instagram, les systèmes utilisés pour détecter les publications sur le suicide et l'automutilation donnent déjà d'excellents résultats. Selon le message, plus de 90 % des contenus identifiés entre avril et juin 2020 ont été reconnus par la technologie, avant même que d'autres utilisateurs des plateformes ne les aient signalés.
Les deux plateformes s'engagent de plus en plus et ont également choisi de fournir un service d'assistance aux personnes recherchant des comptes ou des hashtags liés à ces problèmes. Travaillant en étroite collaboration avec de nombreuses associations d'aide locales, les deux grands noms du réseau social entendent faire le lien entre les deux parties, toujours dans le respect des strictes règles de confidentialité en vigueur en Europe.