Clé à emporter
- Les systèmes d'intelligence artificielle qui surveillent les camions de livraison pénalisent injustement les conducteurs d'Amazon, selon un nouveau rapport.
- Le système Amazon fait partie d'une tendance croissante des entreprises à utiliser la technologie pour surveiller leurs employeurs à distance.
-
Certains logiciels d'IA permettent aux employeurs de surveiller en permanence le comportement des employés en arrière-plan et de tracer des modèles dans leur flux de travail.
Les employeurs se tournent de plus en plus vers des logiciels pour surveiller les employés à distance, ce qui suscite des inquiétudes chez certains défenseurs de la vie privée.
Un nouveau rapport affirme que les caméras alimentées par l'IA dans les camionnettes de livraison d'Amazon ont injustement pénalisé les chauffeurs. L'article a révélé que les conducteurs souffraient d'alertes erronées, de tableaux de bord incorrects, d'hypothèses de conditions de circulation peu pratiques et de conducteurs adoptant des pratiques pour contourner la technologie.
"Alors que l'IA s'améliore, des erreurs continueront d'être commises", a déclaré Raymond Ku, directeur du Center for Cyberspace Law & Policy de la Case Western Reserve University, à Lifewire dans une interview par e-mail. "Par souci d'équité, je pense que nous pensons tous qu'une personne pénalisée de quelque manière que ce soit par la prise de décision par l'IA devrait être informée du fait et avoir la possibilité de contester la décision."
Caméras AI d'Amazon
Amazon a déclaré avoir installé des caméras alimentées par l'IA dans ses véhicules de livraison par mesure de sécurité. Les caméras sont destinées à surveiller lorsque les chauffeurs-livreurs effectuent des manœuvres dangereuses comme exécuter des panneaux d'arrêt ou faire des demi-tours illégaux.
Lorsque les caméras repèrent d'éventuels "événements" de conduite dangereuse, ces cas sont pris en compte dans les scores de performance des travailleurs. Des scores inférieurs réduisent les chances que les conducteurs obtiennent des primes, une rémunération supplémentaire et des prix.
Mais les conducteurs d'Amazon ont dit à Motherboard qu'ils étaient punis pour certaines habitudes de conduite considérées comme sûres ou indépendantes de leur volonté. Amazon n'a pas répondu à une demande de commentaire de Lifewire.
Ku a souligné que depuis que les chauffeurs ont accepté d'être enregistrés, ils ne souffrent pas d'atteinte à la vie privée en vertu de la loi.
"Cependant, cela ne signifie pas que le travailleur moyen serait satisfait de la surveillance ou ne s'y opposerait pas s'il le pouvait", a-t-il ajouté. "Cela est particulièrement vrai lorsque la surveillance commence à empiéter sur des espaces personnels plus traditionnels."
Le rapport soulève des questions plus larges quant à savoir si les données peuvent être consultées et utilisées dans des poursuites judiciaires ou par la police et des fonctionnaires fédéraux, a déclaré l'avocate chargée de la confidentialité des données Bethany A. Corbin à Lifewire dans une interview par e-mail. Cela pourrait également avoir un impact sur la responsabilité, a-t-elle souligné.
"Par exemple, si la technologie d'intelligence artificielle dit à l'employé de ne pas regarder dans les rétroviseurs latéraux et que l'employé a un accident en conséquence directe de ce conseil, qui est en faute ?" Corbin ajouté.
Surveillance croissante
La surveillance ne s'arrête pas avec Amazon. Un nombre croissant d'entreprises utilisent la technologie pour surveiller leurs employés à distance, a déclaré l'expert en confidentialité Chris Hauk à Lifewire dans une interview par e-mail.
Par exemple, la société de marketing d'IA Blackbelt utilise un système de suivi du temps Allocate, permettant à l'entreprise de surveiller et de suivre l'activité informatique de ses employés de manière autonome. Workplace Analytics de Microsoft permettra aux employeurs de surveiller le temps passé par un employé sur des sites Web, la rédaction d'e-mails et bien plus encore au cours d'une journée de travail.
Walmart travaille également sur un système qui écoute le bruit du bruissement des sacs ou des bips des scanners de caisse pour suivre les mesures des employés et s'assurer que les employés effectuent leurs tâches correctement et efficacement. Les capteurs peuvent même écouter les clients pendant qu'ils discutent en ligne et détecter si les employés saluent correctement les clients.
La surveillance du lieu de travail est de plus en plus répandue depuis le début de la pandémie, a déclaré l'expert en confidentialité Pankaj Srivastava à Lifewire dans une interview par e-mail.
"La plupart de ces technologies sont positionnées comme "améliorant la productivité", cependant, la façon dont certains de ces outils fonctionnent suggère une plus grande tolérance des employeurs à surveiller chaque activité de leur main-d'œuvre", a-t-il ajouté. "Par exemple, surveiller le temps que les employés consacrent à chaque tâche, prendre une photo à distance pour s'assurer que les employés sont à leur bureau, et même surveiller les sites Web visités et enregistrer les frappes au clavier et les mouvements de la souris d'un employé."
Bien que l'IA s'améliore, des erreurs continueront d'être commises.
Certains logiciels d'intelligence artificielle permettent aux employeurs de surveiller en permanence le comportement des employés en arrière-plan et de tracer des modèles dans leur flux de travail, a-t-il déclaré.
"Un employé peut être licencié sur la base de son rapport de performance personnalisé indiquant qu'il a mis quelques minutes de plus que d'habitude pour accomplir une tâche", a déclaré Srivastava.
"Au revoir, les pauses toilettes."
