Clé à emporter
- Une gamme de nouvelles applications peut être en mesure de détecter les émotions des élèves.
- Intel et le fabricant de logiciels pour salles de classe Class développeraient un logiciel qui surveillera les visages et le langage corporel des élèves numériques.
- Certains experts craignent que l'utilisation de l'IA pour surveiller les élèves ne conduise à des atteintes à la vie privée.
Les écoles pourraient bientôt utiliser l'intelligence artificielle (IA) pour surveiller l'état émotionnel des élèves.
Intel et le fabricant de logiciels pour salles de classe Class développent un logiciel qui surveillera les visages et le langage corporel des élèves numériques. Le système peut détecter si les élèves s'ennuient, sont distraits ou confus, mais certains experts craignent que le logiciel ne conduise à des atteintes à la vie privée.
"De tels produits de surveillance basés sur l'IA doivent être transparents sur la manière dont ces données sont utilisées", a déclaré Michael Huth, co-fondateur de la société Xayn et chef du département informatique de l'Imperial College de Londres, à Lifewire dans un e-mail. interview. "Si elle est utilisée pour suivre l'engagement dans une cohorte d'étudiants, où l'engagement au niveau individuel n'est pas enregistré, cela est un peu moins problématique du point de vue de la confidentialité. Si l'une de ces données devait être utilisée pour influencer l'évaluation des étudiants, cependant, je peut voir toutes sortes de problèmes survenir."
Veiller sur les élèves
Class et Intel se sont associés pour intégrer une technologie basée sur l'IA qui fonctionne avec le logiciel de visioconférence Zoom, a rapporté Protocol. Le logiciel peut être utilisé pour surveiller les étudiants, indique le rapport.
"Grâce à notre partenariat avec Intel, nous serons en mesure d'apporter de nouvelles fonctionnalités immersives au logiciel de Class qui sont pilotées par des fonctionnalités soutenues par la recherche", selon le site Web de la société. "Nous travaillerons également aux côtés d'Intel pour tirer parti des ressources et fournir aux enseignants et aux étudiants des informations précieuses, des études de cas conjointes, des livres blancs, des webinaires et bien plus encore."
Intel a déclaré à Protocol que le logiciel de la salle de classe en était à ses débuts et qu'il n'était pas prévu de commercialiser le produit.
Le partenariat avec Class n'est pas la seule collaboration potentielle entre le logiciel de lecture des émotions d'Intel et d'autres fabricants. Une brochure en ligne d'Intel vante un nouveau tableau blanc électronique appelé Viewboard destiné aux écoles. Le logiciel Intel "permet à myViewboard d'évaluer et d'afficher les états émotionnels des apprenants sous forme de retour immédiat pour les éducateurs", selon la brochure.
Class est l'un des nombreux produits logiciels censés suivre les émotions des élèves à l'aide de l'IA. Il y a aussi 4Little Trees, une plateforme d'apprentissage de la détection des émotions qui est "un assistant d'enseignement virtuel [qui] vous aiderait en choisissant les questions les plus appropriées pour vous ou vous mettrait au défi en cas de besoin", selon le site Web de l'entreprise.
Ashish Fernando, PDG de la société d'intelligence artificielle iSchoolConnect, a déclaré à Lifewire dans une interview par e-mail que l'IA peut être formée pour évaluer le comportement et les caractéristiques humaines sans l'impact des préjugés subjectifs des individus.
"L'IA peut évaluer un nombre beaucoup plus important de comportements humains, y compris des micro-expressions faciles à manquer, à un rythme beaucoup plus rapide qu'un humain", a déclaré Fernando. "Là où les commentaires auraient pu prendre des heures, l'IA peut désormais fournir la même chose en quelques minutes."
Problèmes de confidentialité
L'utilisation de l'IA pour surveiller les humains se développe. Snapchat dispose d'une technologie d'intelligence artificielle qui évalue le niveau émotionnel d'un groupe de personnes lors d'un événement en direct. Mad Street Den utilise l'IA de vision par ordinateur pour aider les détaillants à reconnaître les expressions faciales et les émotions des acheteurs potentiels. BrainQ utilise l'IA pour comprendre comment les passagers interagissent avec les véhicules autonomes qu'ils utilisent. Et les entreprises utilisent l'IA pour suivre la fatigue des conducteurs.
"C'est un excellent cas d'utilisation pour la sécurité routière, mais cela soulève des questions concernant les droits à la vie privée des conducteurs dans leurs véhicules personnels", a déclaré Huth. "Les informations sur la fatigue seront-elles partagées avec la compagnie d'assurance ou le constructeur automobile ? Ou avertiront-elles simplement le conducteur de s'arrêter et de se reposer ? C'est moins un problème pour les flottes de voitures commerciales telles que les camions, les camionnettes de livraison ou les taxis."
Un problème est que les informations de l'IA, telles que les mouvements musculaires pour déduire l'état émotionnel, pourraient ne pas être fiables, a déclaré Huth. "Cela crée un dilemme, car une IA plus fiable peut nécessiter l'accès à des données encore plus sensibles telles que les signaux EEG", a-t-il ajouté.
Pour les étudiants, l'IA peut être utile pour surveiller la conformité lors des examens en ligne lorsqu'un surveillant ne peut pas être physiquement présent. Mais cette utilisation de l'IA pour cela est controversée, a déclaré Huth, car le système essaie de déterminer si un étudiant a l'intention de tricher ou triche, et il existe un réel potentiel de faux positifs qui entraînent la pénalisation injustifiée des étudiants qui n'ont rien fait de mal..
"Toute IA utilisée à cette fin devrait être suffisamment robuste pour faire face aux pauses toilettes, aux tics nerveux d'élèves individuels (tels que des mouvements oculaires erratiques), etc.", a déclaré Huth.
