Facebook a fait appel à une société d'analyse des médias sociaux pour débusquer les faux profils et en a trouvé certains avec des photos générées par ordinateur
La répression de Facebook contre les faux profils. Le réseau social basé à Menlo Park a décidé de sévir contre la présence de faux profils avec des photos de visages créées à l'aide d'une intelligence artificielle, qui, selon la société d'analyse des médias sociaux Graphika, étaient principalement utilisés pour diffuser des messages de propagande gouvernementale sur la plateforme.
L'annonce du réseau social est intervenue mardi, indiquant comment l'opération comprenait la suppression de 155 comptes, 11 pages, neuf groupes sur Facebook et six comptes sur la plateforme Instagram pour "comportement coordonné inauthentique au nom d'une entité étrangère ou gouvernementale". Le contenu promu par les comptes se concentrait en particulier sur les événements se déroulant en Asie du Sud-Est et aux États-Unis. Parmi les messages les plus fréquents dans le premier groupe de profils, le plus important, figuraient ceux relatifs aux intérêts de Pékin en mer de Chine méridionale et à Hong Kong, tandis que dans le second, plus petit que le précédent, on trouvait des messages sur les futurs candidats à la présidence des États-Unis, Pete Battigie, Joe Biden et Donal Trump, avec des tons pour et contre.
Faux profils sur Facebook : les résultats de l'enquête
Afin de mieux comprendre et de récupérer des informations cruciales sur la question, Facebook a fait appel à Graphika pour effectuer une analyse approfondie des faux profils avant de les fermer et de les envoyer aux oubliettes.
De ses investigations, l'entreprise, liée au ministère américain de la Défense, a extrait des données particulièrement alarmantes dans certains cas, notamment dans le domaine de l'usurpation d'identité.
Faux profils : d'où viennent les photos des utilisateurs
Dans certains cas, Graphika a découvert que les images de profil étaient tout à fait authentiques, mais volées à des images mises en ligne par de vraies personnes et facilement identifiables par un processus de recherche inverse. Dans d'autres cas, cependant, l'étude a révélé que les personnages fictifs du réseau social avaient été créés par des réseaux adversifs génératifs (GAN), qui utilisent l'apprentissage par réseau neuronal pour créer des visages humains très réalistes et crédibles à l'œil humain.
Les soupçons de l'entreprise sur l'utilisation des GAN ont été éveillés par 12 photos de profil présentant des irrégularités d'apparence. Les images montraient des arrière-plans déformés ou des éléments qui n'étaient pas entièrement symétriques alors qu'ils l'étaient dans la réalité, comme les oreilles et les lunettes. Afin de déterminer avec précision la nature des photos, la société a surexprimé les images après les avoir rendues opaques, révélant ainsi le désalignement des éléments.
Faux profils et intelligence artificielle : une nouvelle tendance ?
Bien que l'observation permette de repérer les fausses photos de profil et les faux profils, ce n'est pas la première fois qu'un tel comportement est signalé par des groupes aux intentions douteuses. Toujours en septembre 2020, un autre réseau lié à l'Internet Research Agency (IRA) de Russie a utilisé le même stratagème pour promouvoir le faux site PeaceData.