Clé à emporter
- Les entreprises de médias sociaux cherchent des moyens d'empêcher les utilisateurs d'être victimes d'abus.
- Instagram facilite la prévention des commentaires indésirables et des messages directs.
- Les abus en ligne sont courants, selon une enquête du Pew Research Center.
Les entreprises de médias sociaux tentent de sévir contre le problème persistant des abus sur leurs plateformes.
Instagram a récemment déclaré que cela faciliterait la prévention des commentaires indésirables et des messages directs sur le service de réseau social de partage de photos et de vidéos. Les utilisateurs peuvent désormais filtrer automatiquement les contenus offensants et masquer les commentaires et les demandes de messages directs d'utilisateurs spécifiques.
"Si les entreprises de médias sociaux ne sévissent pas contre les messages abusifs, elles ne feront que se retrouver avec des utilisateurs abusifs qui abusent les uns des autres, et personne ne consommera réellement le contenu des médias sociaux de manière raisonnable", Thomas Roulet, professeur à l'Université de Cambridge qui étudie les problèmes de médias sociaux, a déclaré à Lifewire dans une interview par e-mail.
"Ils perdront essentiellement les bons et précieux utilisateurs à plus long terme."
Les attaques sont endémiques
Le sport a récemment été un foyer d'attaques sur les réseaux sociaux. Après la finale de l'Euro 2020, des supporters en colère ont attaqué les footballeurs anglais sur Instagram après la défaite de l'équipe. Les incidents, qui comprenaient des commentaires racistes et des emoji, ont mis en lumière l'impuissance des utilisateurs d'Instagram à empêcher les attaques sur la plateforme. La mannequin Chrissy Teigen a supprimé son compte Twitter en mars après s'être plainte d'abus sur la plateforme.
"Nous avons développé cette fonctionnalité parce que les créateurs et les personnalités publiques connaissent parfois des pics soudains de commentaires et de demandes de DM de la part de personnes qu'ils ne connaissent pas", a écrit le responsable d'Instagram Adam Mosseri dans un article de blog.
La nouvelle fonctionnalité Limites d'Instagram est destinée à aider à prévenir les abus en permettant aux utilisateurs de choisir qui peut interagir avec eux pendant les périodes de pointe. Les utilisateurs peuvent activer les restrictions pour les comptes qui ne les suivent pas et ceux appartenant à des abonnés récents. Lorsque les limites sont activées, ces comptes ne peuvent pas publier de commentaires ni envoyer de demandes DM pendant une période spécifiée.
Une autre fonctionnalité d'Instagram appelée Hidden Words, conçue pour protéger les utilisateurs contre les demandes DM indésirables, est également en cours d'extension. Les mots cachés filtrent automatiquement les demandes contenant des mots, des phrases et des emojis offensants. Le filtre met les choses que vous ne voulez pas voir dans un dossier caché, où vous pouvez décider si vous voulez les voir. Il filtre également les demandes qui sont probablement du spam ou qui sont autrement de mauvaise qualité.
Instagram a mis à jour sa base de données de mots cachés avec de nouveaux types de langage offensant, y compris des chaînes d'emoji, et les a inclus dans le filtre, a déclaré Mosseri. La fonctionnalité a été lancée dans certains pays et sera disponible dans le monde entier d'ici la fin du mois.
Twitter envisage des moyens de prévenir les abus
D'autres plateformes de médias sociaux envisagent également des mesures anti-abus.
Twitter étudie les moyens d'aider les utilisateurs à éviter toute attention indésirable. Le système de notification de l'entreprise alerte un utilisateur lorsqu'il a été directement tagué dans un tweet. La fonctionnalité est utile si le tweet est intéressant. Mais un contenu abusif peut mener au cyberharcèlement.
La société a déclaré qu'elle envisageait différentes manières de prévenir les abus, notamment en permettant aux utilisateurs de se "démentir" eux-mêmes. Cette capacité permettrait aux utilisateurs de supprimer leur nom du tweet d'un autre afin qu'ils ne soient plus tagués et empêcherait les commentaires indésirables d'apparaître dans leur flux.
Les abus en ligne sont courants. Une récente enquête du Pew Research Center a révélé que 41 % des Américains ont personnellement subi une forme de harcèlement en ligne. Lorsqu'on leur a demandé d'évaluer dans quelle mesure ces entreprises traitaient le harcèlement ou l'intimidation en ligne sur leurs plateformes, seulement 18 % ont déclaré que les entreprises de médias sociaux faisaient un excellent ou un bon travail.
Roulet a déclaré que les abus sur les réseaux sociaux sont un problème difficile à résoudre. Les premiers points de contact sont les utilisateurs abusés qui peuvent signaler les messages abusifs. Une fois qu'un utilisateur est signalé plusieurs fois, l'adresse IP peut être bannie.
"Il est important de noter que, à mesure que les entreprises de médias sociaux accumulent des données sur les messages signalés, elles pourraient être en mesure d'automatiser et d'améliorer la détection des messages offensants à l'aide de l'apprentissage automatique, avec le risque de censurer parfois le contenu acceptable", a ajouté Roulet.
Mosseri a déclaré qu'Instagram "investirait dans des organisations axées sur la justice raciale et l'équité".
"Nous savons qu'il reste encore beaucoup à faire, notamment en améliorant nos systèmes pour trouver et supprimer plus rapidement les contenus abusifs et en tenant responsables ceux qui les publient", a écrit Mosseri.
