Un algorithme peut reconnaître les faux comptes en analysant les données rendues publiques par les utilisateurs
WhatsApp a bloqué plus de 2 millions de comptes pour contrer la transmission de fausses nouvelles dangereuses en Inde. La société contrôlée par Facebook a déclaré que 95 % de ces utilisateurs ont été bloqués pour avoir violé les limites du nombre de fois où les messages peuvent être transférés dans le pays asiatique.
Cette opération est un modèle qui peut être appliqué dans d'autres pays, comme l'Italie, si l'on considère qu'avec la même technologie utilisée en Inde, WhatsApp est déjà capable de reconnaître et de bloquer huit millions de faux comptes par mois dans le monde, sur un total de deux milliards actuellement actifs.
Les fake news en Inde ont déjà fait des victimes
En Inde, où WhatsApp compte le plus grand nombre d'utilisateurs avec plus de 400 millions d'abonnés, la diffusion de fake news et de rumeurs non fondées est un énorme problème social. De nombreuses personnes, en effet, s'appuient sur l'application de messagerie pour s'informer de l'actualité et des nouvelles concernant le Covid-19 et lorsque les fausses nouvelles deviennent virales, elles peuvent atteindre des dizaines de milliers d'utilisateurs en quelques heures, déjouant toutes les tentatives de contrer leur propagation.
Par le passé, certains faux messages et vidéos, qui circulaient sans contrôle dans le pays, ont déclenché de nombreux incidents de violence, provoquant même la mort de six personnes en 2018, accusées à tort d'avoir enlevé des enfants dans plusieurs États indiens. Cette situation dangereuse avait incité WhatsApp, en avril 2020, à limiter le partage d'un même message à cinq personnes maximum en Inde, un fait qui a incité des millions d'utilisateurs à créer des comptes secondaires pour augmenter la "viralité" des messages.
La suppression des comptes, qui a eu lieu entre le 15 mai et le 15 juin, visait donc à limiter la propagation des messages par ces faux comptes. La société a déclaré que cette mesure ne concerne que ceux qui ont envoyé des "taux de messages élevés et anormaux" de nouvelles, de photos et de vidéos non vérifiées.
WhatsApp se retrouve souvent au centre d'une controverse pour avoir diffusé des fake news et partagé des données sensibles en Inde, où un affrontement amer avec le gouvernement de New Delhi est actuellement en cours au sujet de nouvelles lois qui, depuis mai, obligent les développeurs d'applis de messagerie à signaler l'expéditeur initial d'un message transféré à plusieurs reprises. Selon WhatsApp, cette situation est fortement préjudiciable à la vie privée et à la liberté de ses utilisateurs, tandis que New Delhi fait valoir que ces règles visent à prévenir les abus et la désinformation.
Privacy and fake news : how does WhatsApp spot fake accounts
Pour repérer les faux comptes, la société Facebook a eu recours à l'intelligence artificielle. Un algorithme a analysé le comportement des utilisateurs sans lire le contenu des conversations privées, qui sont protégées par un cryptage de bout en bout.
Le programme a notamment analysé toutes les données publiques des utilisateurs, telles que le nombre, la photo de profil et les phrases des statuts WhatsApp, a enregistré le nombre de transferts et de partages de messages, et a collecté les rapports de spam et les blocages entre utilisateurs. Cette opération soulève toutefois des questions sur la protection des données personnelles et la confidentialité réelle des messages échangés dans les chats et les groupes.