Facebook : l'IA pour détecter les messages suicidaires sauf en Europe

Le système passera au crible les messages de membres mais aussi les réponses de leurs amis

Le système passera au crible les messages de membres mais aussi les réponses de leurs amis

" À compter d'aujourd'hui, nous améliorons nos outils d'intelligence artificielle pour identifier [le moment où une] personne exprime des pensées sur le suicide sur Facebook afin de pouvoir l'aider rapidement", indique le créateur du réseau social aux deux milliards d'utilisateurs. Ce programme, déployé en mars dernier aux Etats-Unis, aurait déjà permis d'entrer en contact avec des utilisateurs "à plus de 100 reprises", assure dans une note de blog publiée lundi Guy Rosen, vice-président de gestion des produits de Facebook. L'intelligence artificielle se pose comme un nouveau canal de détection des comportements suicidaires, venant en appui des modérateurs humains de Facebook pour réduire le délai préalable à une intervention. L'utilisateur en personne est détectée par Facebook lorsqu'il envoie un message ou une vidéo d'une volonté de suicide.

Après l'avoir testé aux Etats-Unis, Facebook va déployer ce système d'intelligence artificielle hors des Etats-Unis. Le plus grand réseau social du monde souhaite désormais étendre à d'autres pays ce système. mais pas en Europe.

"De terribles évènements tragiques - dont des suicides, certains diffusés en direct - auraient peut-être pu être évités si quelqu'un s'était rendu compte de ce qui se passait et en avait fait part plus tôt", avait déclaré le patron de Facebook, Mark Zuckerberg, en février. "Il finira par être disponible partout dans le monde, sauf dans l'Union européenne", souligne Guy Rosen sans plus de précisions. Mais l'intelligence artificielle permet de signaler plus rapidement ces informations, afin d'intervenir avant que ce ne soit trop tard.

C'est du moins l'avis de Facebook qui expérimente depuis plusieurs mois aux États-Unis un logiciel pour détecter les tendances suicidaires de ses utilisateurs. Le système propose aussi à l'utilisateur concerné ou aux amis de cet utilisateur des moyens d'aide, comme un numéro d'assistance téléphonique. Pour remédier à cette problématique, la firme américaine avait annoncé en mai son intention de recruter 3 000 personnes supplémentaires pour filtrer les contenus postés sur Facebook et ainsi éviter la diffusion de contenus violents, comme les suicides.

L'outil de Facebook repose sur une technologie d'intelligence artificielle pour repérer automatiquement les messages laissant craindre des pulsions suicidaires.

Dernières nouvelles