Clé à emporter
- Les préjugés algorithmiques sont nocifs pour les adolescents qui passent beaucoup de temps sur Internet, selon les experts.
- Les utilisateurs de Twitter ont récemment rencontré un problème dans lequel les visages noirs ont été éliminés en faveur des blancs.
- Le cerveau en développement des adolescents peut être particulièrement sensible aux effets néfastes des biais algorithmiques, selon les chercheurs.
Les préjugés ancrés dans certaines technologies, connus sous le nom de biais algorithmiques, peuvent être nocifs pour de nombreux groupes, mais les experts disent qu'ils sont particulièrement préjudiciables aux adolescents.
Le biais algorithmique, lorsque les systèmes informatiques affichent des résultats erronés, est un problème croissant. Les utilisateurs de Twitter ont récemment trouvé un exemple de biais sur la plate-forme lorsqu'un algorithme de détection d'image qui recadre les photos découpait les visages noirs au profit des blancs. La société s'est excusée pour le problème, mais n'a pas encore publié de correctif. C'est un exemple du biais auquel les adolescents sont confrontés lorsqu'ils vont en ligne, ce qu'ils font plus que tout autre groupe d'âge, disent les experts.
« La plupart des adolescents ne savent pas que les entreprises de médias sociaux les ont mis en place pour promouvoir un contenu spécifique qui, selon eux, plaira aux utilisateurs [afin] de les inciter à rester le plus longtemps possible sur la plate-forme », Dr Mai- Ly Nguyen Steers, professeur adjoint à l'École des sciences infirmières de l'Université Duquesne qui étudie l'utilisation des médias sociaux chez les adolescents/étudiants, a déclaré dans une interview par e-mail.
"Même s'il y a un certain niveau de conscience à propos de l'algorithme, l'effet de ne pas obtenir suffisamment de likes et de commentaires est toujours puissant et peut affecter l'estime de soi des adolescents", a ajouté Steers.
Développement des cerveaux
Le biais algorithmique peut affecter les adolescents de manière imprévue puisque leur cortex préfrontal est encore en développement, a expliqué Mikaela Pisani, Chief Data Scientist chez Rootstrap, dans une interview par e-mail.
L'effet de ne pas avoir assez de likes et de commentaires est toujours puissant et peut affecter l'estime de soi des adolescents.
"Les adolescents sont particulièrement vulnérables au phénomène de la 'usine sociale', où les algorithmes créent des clusters sociétaux sur les plateformes en ligne, conduisant à l'anxiété et à la dépression si les besoins d'approbation sociale de l'adolescent ne sont pas satisfaits", a déclaré Pisani. "Les algorithmes se simplifient en se basant sur des données antérieures imparfaites, ce qui conduit à une surreprésentation des stéréotypes au détriment d'approches plus nuancées de la formation de l'identité.
"En adoptant un point de vue plus large, nous devons également nous demander, en tant que société, si nous voulons que des algorithmes façonnent le parcours de nos adolescents vers l'âge adulte, et ce système soutient-il plutôt qu'il n'étouffe la croissance personnelle individuelle ?"
En raison de ces problèmes, il est de plus en plus nécessaire de garder à l'esprit les adolescents lors de la conception d'algorithmes, disent les experts.
"Sur la base des contributions de spécialistes du développement, de data scientists et de défenseurs de la jeunesse, les politiques du XXIe siècle concernant la confidentialité des données et la conception algorithmique pourraient également être élaborées en tenant compte des besoins particuliers des adolescents", Avriel Epps-Darling, doctorant étudiant à Harvard, a écrit récemment. "Si nous continuons à minimiser ou à ignorer les façons dont les adolescents sont vulnérables au racisme algorithmique, les méfaits risquent de se répercuter sur les générations à venir."
Lutter contre les préjugés
En attendant qu'il y ait une solution, certains chercheurs tentent de trouver des moyens de réduire les dommages causés aux jeunes par des algorithmes biaisés.
"Les interventions ont été axées sur le fait que les adolescents reconnaissent que leurs habitudes de médias sociaux ont un impact négatif sur leur santé mentale et tentent de trouver des stratégies pour atténuer cela (par exemple, une utilisation réduite des médias sociaux)", a déclaré Steers.
"Certains des étudiants que nous avons interrogés ont indiqué qu'ils se sentent obligés de générer du contenu pour rester "pertinents", même s'ils ne veulent pas sortir ou publier", a-t-elle poursuivi. "Cependant, ils sentent qu'ils ont besoin de générer du contenu pour maintenir leurs liens avec leurs abonnés ou amis."
La réponse ultime pourrait être de supprimer les préjugés humains des ordinateurs. Mais comme les programmeurs ne sont que des humains, c'est un défi difficile, disent les experts.
Une solution possible consiste à développer des ordinateurs décentralisés et programmés pour oublier les choses qu'ils ont apprises, déclare John Suit, directeur de la technologie de la société de robotique KODA.
"Grâce à un réseau décentralisé, les données et l'analyse de ces données sont compilées et analysées à partir de plusieurs points", a déclaré Suit dans une interview par e-mail. "Les données sont collectées et traitées non pas à partir d'un seul traitement de l'esprit de l'IA dans les limites de son algorithme, mais de centaines, voire de milliers.
"Au fur et à mesure que ces données sont collectées et analysées, les anciennes "conclusions" ou données superflues sont oubliées. Grâce à ce système, un algorithme qui peut avoir commencé avec un biais finira par corriger et remplacer ce biais s'il s'avère erroné."
Bien que les préjugés soient un problème séculaire, il existe peut-être des moyens de le combattre, du moins en ligne. Concevoir des ordinateurs qui se débarrassent de nos préjugés est la première étape.
