Clé à emporter
- Tencent a créé une technologie de reconnaissance faciale pour attraper les enfants qui jouent à des jeux vidéo après un couvre-feu imposé par l'État.
- Le contrôle parental sans que les parents veillent sur les épaules des enfants n'est pas une nouveauté.
- Les experts disent que les problèmes liés aux règles appliquées par la reconnaissance faciale incluent la confidentialité et l'exactitude personnelles.
La société de jeux chinoise Tencent utilise la technologie de reconnaissance faciale pour imposer un couvre-feu aux mineurs, et les experts disent qu'un monde de règles imposées par la technologie n'est pas loin.
Le logiciel de reconnaissance faciale n'est pas une nouvelle technologie, mais à mesure qu'il devient plus avancé, il a des utilisations plus controversées en dehors du simple déverrouillage de nos smartphones. Le Dr Vir Phoha, professeur au Collège d'ingénierie et d'informatique de l'Université de Syracuse, a déclaré que l'utilisation de la reconnaissance faciale pour faire respecter les règles suscite de nombreuses préoccupations, mais celle-ci se démarque spécifiquement des autres.
« Ma préoccupation numéro un est que… l'industrie privée devienne un instrument de l'État pour faire respecter les lois », a déclaré Phoha à Lifewire par téléphone. "Et c'est important parce qu'il n'y a peut-être pas suffisamment de freins et contrepoids au sein de… l'industrie privée pour garantir la transparence de la manière dont les choses sont faites en interne."
Contrôle parental sans les parents
Tencent a déclaré qu'il utilisait la technologie de reconnaissance faciale pour attraper les enfants en train de jouer à des jeux vidéo jusque tard dans la nuit. La Chine a adopté un projet de loi en 2019 qui impose un couvre-feu de jeu à toute personne de moins de 18 ans et limite le temps passé à jouer à un jeu aux heures de la semaine et du week-end. Ainsi, bien que la technologie semble envahissante, elle a été créée pour résoudre le problème des enfants qui vont à l'encontre du couvre-feu.
Selon Digital Trends, la technologie, connue sous le nom de "Midnight Patrol", scanne le visage d'une personne depuis l'écran de l'ordinateur pour le faire correspondre à un nom et un visage enregistrés et garde une trace de son temps de jeu en conséquence.
Même si certains parents souhaiteraient voir leurs enfants obéir aux règles, la technologie peut-elle vraiment remplacer un parent ?
Je pense qu'il y a un conflit entre les droits parentaux et les obligations parentales. Et avec les choses mandatées par l'État, les parents sont généralement les meilleurs juges », a déclaré Phoha.
Bien que cette technologie spécifique soit en Chine, la Federal Trade Commission a approuvé une méthode vérifiable de consentement parental en 2015 qui permet aux entités d'utiliser la technologie de reconnaissance faciale pour obtenir le consentement parental. Cette technologie est un peu différente en ce sens qu'elle vise à scanner le visage des parents avant que les enfants puissent accéder à certains contenus pour s'assurer qu'un parent y consent. Cependant, Phoha a déclaré que le fait d'avoir une caméra dans votre maison pour surveiller les choses vous expose à des problèmes potentiels.
"Si une caméra est autorisée à la maison, comme un tiers autorisant l'accès à ma maison, quand mon enfant joue, je pense que c'est un gros, gros problème", a-t-il déclaré.
Problèmes avec les règles appliquées par la reconnaissance faciale
Outre les problèmes éthiques liés aux règles imposées par l'État ou à la prise en charge du rôle d'un parent, Phoha a déclaré qu'avec la reconnaissance faciale, il y a toujours des problèmes de précision.
"[La reconnaissance faciale] peut être usurpée très facilement, en particulier si elle est devant un ordinateur et effectuée à distance comme c'est le cas pour Tencent", a-t-il déclaré.
Si c'est mandaté par l'État, et s'il est coercitif ou entraîne des mesures punitives, alors je ne suis pas très à l'aise avec ça. »
Si la reconnaissance faciale devenait un moyen plus largement accepté d'appliquer les règles, elle pourrait affecter de manière significative les personnes de couleur en raison des préjugés raciaux inhérents à la technologie. De nombreuses études ont montré que la reconnaissance faciale peut mal identifier les personnes, en particulier celles de couleur.
En utilisant les photos d'application de meilleure qualité, les taux de faux positifs sont les plus élevés chez les personnes d'Afrique de l'Ouest et de l'Est et d'Asie de l'Est, et les plus bas chez les individus d'Europe de l'Est. Cet effet est généralement important, avec un facteur de 100 faux positifs supplémentaires entre les pays », lit-on dans une étude réalisée en 2019 par le NIST sur la démographie de la reconnaissance faciale.
Phoha a ajouté que dans la recherche scientifique, la reconnaissance faciale est capable de déterminer bien plus que les traits du visage, y compris la détection du rythme cardiaque d'une personne et l'identification si une personne a une certaine maladie.
La technologie de reconnaissance faciale peut également détecter vos émotions. Par exemple, le logiciel de reconnaissance faciale d'Amazon, connu sous le nom de Rekignition, peut détecter les émotions sur le visage des gens, y compris la peur.
Phoha a déclaré que nous nous rapprochions d'un monde de règles de reconnaissance faciale/surveillance avec ces types de technologie. Il a ajouté que nous devrions nous méfier particulièrement d'un système de règles de reconnaissance faciale mandaté par l'État.
"Quand je veux me connecter à un téléphone et utiliser l'authentification faciale, je peux le faire à ma discrétion - c'est mon choix, et je peux l'utiliser comme je le veux", a-t-il déclaré. "Mais si c'est mandaté par l'État, et s'il est coercitif ou entraîne des mesures punitives, alors je ne suis pas très à l'aise avec ça."
