Comment la manipulation en ligne peut encourager la haine et la violence

La haine commence rarement par un appel à la violence. Elle grandit le plus souvent pas à pas, à travers des publications, des vidéos et des conversations qui changent lentement notre regard sur les autres. Comprendre ces étapes nous aide à repérer la manipulation très tôt, quand il est encore facile de s’en éloigner.

La manipulation est une technique, pas une croyance

Manipuler, c’est orienter les pensées ou les actions de quelqu’un en exploitant ses émotions, ses peurs et son besoin d’appartenance, plutôt qu’en lui donnant des informations honnêtes. Cela peut venir de groupes organisés, de trolls isolés ou de personnes ordinaires qui ont elles-mêmes été influencées. Cet article porte sur les techniques, pas sur une religion, une nationalité, une ethnie ou une opinion politique en particulier.

L’échelle de l’escalade

Les chercheurs et les praticiens de la prévention décrivent différents parcours, et l’histoire de chaque personne est unique. Mais de nombreux cas de manipulation en ligne montrent un schéma reconnaissable :

• Étape 1 : un grief réel. Quelque chose de réellement injuste ou effrayant se produit, comme un conflit, un problème économique ou une perte personnelle.
• Étape 2 : une explication simple. Une publication désigne un seul groupe ou une seule personne comme responsable de tout.
• Étape 3 : l’intensité émotionnelle. Les publications utilisent la colère, le dégoût et la peur, avec des extraits courts et des mèmes faciles à partager.
• Étape 4 : un cercle fermé. Les abonnés sont invités dans des discussions privées où un seul point de vue est permis et où le doute est traité comme une trahison.
• Étape 5 : la déshumanisation. Le groupe visé est décrit comme des animaux, des maladies ou une menace qu’il faut éliminer.
• Étape 6 : l’appel à l’action. La violence est présentée comme justifiée, nécessaire ou héroïque.

La plupart des gens n’atteignent jamais les dernières étapes. Interrompre le schéma tôt fait la plus grande différence.

Techniques à reconnaître

• Le bouc émissaire : accuser tout un groupe d’un problème complexe.
• Le faux dilemme : « Soit vous êtes avec nous, soit vous êtes contre nous. » Les situations réelles offrent plus de deux options.
• La peur et l’urgence : « Il faut agir maintenant, sinon il sera trop tard. »
• Les faits choisis : un événement réel est montré sans contexte, ou un seul crime sert à dépeindre toute une communauté.
• Les preuves fausses ou truquées : images retouchées, images anciennes présentées comme récentes, ou citations inventées.
• L’appartenance comme appât : une attention amicale et une « fraternité » offertes à des personnes seules ou en colère, puis utilisées pour les contrôler.

Comment les algorithmes peuvent renforcer le schéma

Les systèmes de recommandation ont tendance à nous montrer davantage de ce que nous regardons ou de ce à quoi nous réagissons. Si nous regardons une vidéo colérique, la suggestion suivante peut l’être encore plus. Cela ne signifie pas que quelqu’un complote personnellement contre nous, mais cela explique pourquoi un fil d’actualité peut donner l’impression de répéter le même message de tous les côtés. Suivre volontairement des sources variées et effacer ou réinitialiser les recommandations aide.

Un exemple réaliste

Un étudiant, Vuthy, voit un extrait d’une dispute dans un marché. La légende affirme que les gens d’une certaine communauté « prennent tout » et que « personne ne nous protégera ». L’extrait est recadré et la vraie cause de la dispute n’apparaît pas. Les commentaires se remplissent d’insultes. Un nouveau compte écrit à Vuthy : « Rejoins notre groupe, où nous disons ce que les autres n’osent pas dire. » À l’intérieur, les membres partagent d’autres extraits et traitent la communauté de « nuisibles ». La pression pour être d’accord augmente. Si Vuthy s’arrête dès la première étape, cherche la vidéo complète et découvre ce qui s’est vraiment passé, toute l’histoire perd son pouvoir.

Pourquoi cela concerne tout le monde

La haine en ligne peut conduire au harcèlement, aux menaces et, dans les pires cas, à la violence dans le monde réel. Les Nations Unies soulignent que prévenir l’extrémisme violent exige plus que des mesures de sécurité : il faut aussi s’attaquer aux conditions et aux récits qui rendent la violence acceptable. Les utilisateurs ordinaires jouent un rôle en refusant de relayer des contenus haineux.

Ce que vous pouvez faire

• Ralentissez quand une publication vous met en fureur. Demandez-vous : qui veut que je ressente cela ?
• Cherchez le contexte complet, la source d’origine et la date.
• Ne partagez pas de contenu déshumanisant, même pour le critiquer. Signalez-le plutôt.
• Diversifiez votre fil en suivant des sources fiables aux perspectives différentes.
• Gardez de solides amitiés hors ligne. Les personnes entourées de relations de soutien sont plus difficiles à manipuler.
• Si un ami commence à parler de faire du mal à d’autres, écoutez-le, restez en contact et impliquez un adulte de confiance, un enseignant ou un responsable communautaire. Si quelqu’un est en danger immédiat, contactez les services d’urgence locaux.

À retenir

• La haine grandit par étapes. Les premières sont les plus faciles à arrêter.
• Repérez le bouc émissaire, les faux choix, la peur, l’urgence et le langage déshumanisant.
• Vérifiez avant de partager et signalez les contenus qui appellent à la violence.
• Concentrez-vous sur les comportements et les techniques, sans jamais étiqueter des groupes entiers.