Facebook a introduit un nouvel algorithme qui supprime automatiquement tous les faux comptes. Voici comment cela fonctionne et qui cela affecte
Peut-être que Facebook a finalement trouvé un moyen d'éliminer les faux profils et les trolls de toutes sortes, et il s'agit d'une méthode extrêmement complexe appelée "Deep Entity Classification" (DEC). Les résultats ? Génial, selon Facebook : 6,6 milliards de faux profils supprimés en 2019.
Des résultats étonnants, en plus desquels des millions de tentatives de création de faux profils sont tuées dans l'œuf chaque jour, toujours grâce au DEC. Des chiffres qui, indirectement, indiquent aussi l'ampleur de l'industrie des faux profils sur les réseaux sociaux. Facebook avant tout, mais pas seulement. Facebook a répondu à un si grand défi avec un algorithme tout aussi grand : à l'intérieur du DEC, il y a plus de 20 mille paramètres analysés pour chaque profil, afin d'être sûr qu'un profil légitime n'est pas supprimé et, en même temps, de rendre l'algorithme beaucoup plus difficile à tricher.
Facebook DEC : comment ça marche
Les premiers algorithmes "anti-fake" de Facebook prenaient en compte quelques paramètres, comme la quantité de demandes d'amitié envoyées dans une période donnée par le profil suspect. La première chose que l'on fait avec un faux profil est d'envoyer des demandes rapides à des utilisateurs du monde entier. Cependant, il était facile pour l'industrie des faux profils de reprogrammer la stratégie en diffusant les demandes d'amis de manière à contourner le filtre. Avec DEC, cependant, Facebook prend en compte non seulement le réseau d'amis d'un profil et les demandes d'amis envoyées, mais aussi les mêmes paramètres appliqués aux contacts du profil analysé.
DEC examine également l'appartenance du profil à un groupe, son activité quotidienne, ses messages privés et bien d'autres paramètres pour s'assurer que le profil visé par la suppression est vraiment faux.
Facebook DEC : des comportements à risque
Facebook affirme que le nombre estimé de faux profils sur le réseau social ne dépasse pas aujourd'hui 5%, ce qui est quelque peu physiologique et dû au fait qu'on ne peut pas trop serrer l'étau de l'algorithme sous peine de tuer les vrais profils au comportement suspect. L'année dernière, par exemple, le réseau social a supprimé 900 fausses pages, groupes et profils qui utilisaient des méthodes très sophistiquées pour diffuser de la propagande pro-Trump : des photos de profil générées par des algorithmes d'IA, un réseau complexe de relations simulées, d'interactions, de likes et de partages croisés, et, surtout, un centre de commandement au Vietnam qui gérait tout cela. Ce type de comportement est clairement à risque et devrait, tôt ou tard, subir le coup de hache de la nouvelle classification des entités profondes.