Une récente enquête menée par un organisme allemand a mis en lumière des lacunes dans les systèmes de modération de contenu de Facebook et de X, la plateforme anciennement connue sous le nom de Twitter.

Ces réseaux sociaux auraient approuvé des publicités incitant à la violence envers les migrants et les juifs, avec des messages de haine particulièrement prononcés diffusés avant les élections fédérales en Allemagne prévues prochainement.

Sur les dix publicités examinées, Meta aurait validé cinq, tandis que X aurait donné son approbation à l'ensemble des dix.

Les publicités comprenaient des propos qualifiant les réfugiés musulmans de "virus" et 'rongeurs', appelant à leur extermination ou stérilisation, ainsi qu’une publicité incitant à incendier des synagogues pour "stopper l’agenda mondialiste juif".

Les chercheurs ont souligné que les publicités avaient été soumises à des vérifications avant diffusion, mais l'enquête a soulevé d'importantes questions sur la politique de modération de contenu de ces plateformes.

Les résultats ont été transmis à la Commission européenne, qui devrait ouvrir une enquête sur Meta et X pour de possibles violations de la législation sur les services numériques en Europe.

Le moment de la révélation est particulièrement délicat, les élections fédérales allemandes approchant et suscitant des craintes quant à l'impact potentiel de la haine en ligne sur le processus démocratique.

Ce n'est pas la première fois que des discours haineux émergent sur les réseaux sociaux en périodes électorales sensibles.

Facebook avait déjà été au centre d'une controverse majeure en raison du scandale de Cambridge Analytica, où il avait été révélé que des méthodes similaires avaient été employées pour interférer dans des élections à l'échelle mondiale, entraînant une amende de 5 milliards de dollars pour la plateforme.

Elon Musk, propriétaire de X, a également été accusé d'interférer de manière démesurée dans les élections allemandes, notamment par des appels à soutenir le parti d'extrême droite AFD.

Cependant, il est difficile de déterminer si l'approbation de ces publicités découle de son soutien à une partie de l'échiquier politique ou d'une politique de "liberté d'expression" qu'il a choisie d'appliquer à X. Musk a récemment supprimé les mécanismes de contrôle du contenu sur la plateforme, se reposant plutôt sur des commentaires communautaires, incitant les utilisateurs à exprimer des opinions contrebalançant celles diffusées.

Mark Zuckerberg a également adopté une approche similaire sur Facebook, affirmant que certaines formes de modération seraient maintenues, comme la détection de contenus via l'intelligence artificielle, visant à contrer les discours haineux et à prévenir la diffusion de contenus illégaux tels que la pédophilie.

Cependant, cette évolution marque une tendance alarmante qui s'inscrit dans un contexte plus vaste, où les prochaines élections s'avèrent être les premières depuis le retour de Donald Trump au pouvoir aux États-Unis, soutenu par Elon Musk.

Une étude récente a révélé la diffusion étendue de contenus d'extrême droite sur X et TikTok, contribuant potentiellement à influer sur l'opinion publique locale.

La situation économique fragile et les violences croissantes imputées à des migrants musulmans, avec une série d'attentats au cours des mois passés, ont également exacerbé les tensions.

Les causes de l'augmentation du contenu extrémiste restent floues, qu'il s'agisse d'un climat socio-économique tendu ou d'algorithmes des réseaux sociaux favorisant la diffusion de messages extrêmes pour engager les utilisateurs.

Quel que soit le facteur, il semble que Musk et Zuckerberg soient de plus en plus prêts à relâcher les mesures de contrôle auxquelles ils étaient soumis, principalement en réponse à la pression du cadre juridique de l'Union Européenne et des régulations allemandes.

Il reste à voir si cette enquête incitera l'Union européenne à durcir à nouveau la réglementation sur X, Facebook et TikTok, mais elle soulève des préoccupations sur la capacité à maîtriser la diffusion de contenus extrêmes qui soutiennent souvent des agendas politiques.

Ce phénomène a été exemplifié récemment lorsque Musk a critiqué le mécanisme de commentaires communautaires attaché à un tweet concernant le président ukrainien Volodymyr Zelensky, affirmant qu'il était sujet à manipulation politique.

Des voix s'élèvent désormais pour questionner si la responsabilité de modérer le discours en ligne devrait incombler aux plateformes elles-mêmes ou à des organismes gouvernementaux ou indépendants, assurant cette tâche avec transparence et conformément aux lois nationales.

La nécessité d’écarter les discours de haine de l’espace public demeure un enjeu pressing, mais l’exigence d’une censure des utilisateurs par des entreprises privées soulève d’importantes interrogations éthiques.