Clé à emporter
- Les entreprises utilisent l'intelligence artificielle pour surveiller leurs employés.
- Amazon a installé des caméras alimentées par l'apprentissage automatique dans ses camionnettes de livraison plus tôt cette année.
- La surveillance par IA pourrait entraîner des problèmes de confidentialité et de sécurité si elle est utilisée par des entreprises peu scrupuleuses.
Les employeurs suivent de plus en plus leurs employés à l'aide de l'intelligence artificielle, et les observateurs affirment que cette pratique soulève des problèmes de confidentialité.
Amazon a installé des caméras alimentées par l'apprentissage automatique dans ses camionnettes de livraison plus tôt cette année. L'entreprise a récemment dit à ses chauffeurs qu'ils devaient accepter de les utiliser. La pratique de la surveillance au travail est peut-être légale, mais tout le monde n'est pas d'accord pour dire qu'elle est éthique.
"Les entreprises utilisent des outils de surveillance des employés depuis des décennies, mais avec l'évolution de la technologie, ils deviennent de plus en plus invasifs", a déclaré Aimee O'Driscoll, chercheur en sécurité sur le site de comparaison technologique Comparitech, dans une interview par e-mail.
"La surveillance de la plupart des employés pourrait être considérée comme une atteinte à la vie privée, et on pourrait faire valoir que ce que fait Amazon n'est pas très différent d'avoir des caméras de vidéosurveillance dans un bureau."
Être surveillé ou se faire virer
Les quelque 75 000 chauffeurs-livreurs d'Amazon aux États-Unis doivent désormais signer un formulaire de "consentement biométrique". Le formulaire d'autorisation permet aux caméras alimentées par l'IA de surveiller l'emplacement, les mouvements et les données biométriques des conducteurs. Les employés qui ne signent pas le document pourraient être licenciés.
La surveillance par IA suit tout ce que font les conducteurs d'Amazon, envahissant la vie privée supposée du sujet, a déclaré Chris Hauk, chercheur sur la confidentialité sur le site Web de confidentialité Pixel Privacy, dans une interview par e-mail.
"Cela inclut l'enregistrement à chaque fois que le sujet bâille ou gratte une zone sensible", a-t-il ajouté. "Un conducteur a au moins un certain droit à un semblant d'intimité à l'intérieur de son véhicule."
La surveillance des employés par l'IA est un problème croissant. Walmart a breveté une technologie d'intelligence artificielle qui permet d'écouter les interactions des employés avec les clients aux caisses, a souligné O'Driscoll.
Le développeur de logiciels Enable fournit des outils de productivité basés sur des logiciels d'IA. Diverses entreprises, dont Macy's, utilisent le système d'analyse de Microsoft, qui peut surveiller le comportement des employés. Domino's a utilisé la technologie de l'IA pour vérifier que les pizzas sont préparées correctement.
"L'un des principaux problèmes est que, lorsqu'il est utilisé de manière incorrecte, le manque de confidentialité peut entraîner des problèmes de sécurité", a déclaré O'Driscoll.
"Les données de surveillance pourraient se retrouver entre les mains de criminels, ou les acteurs malveillants eux-mêmes pourraient utiliser la surveillance par IA pour cibler les victimes."
Les scans biométriques du visage donnent une représentation mathématique du visage de la personne concernée qui peut être exploitée pour l'identifier et la suivre n'importe où, pour le reste de sa vie, a déclaré Ray Walsh, expert en confidentialité sur le site Web ProPrivacy, dans un entretien par e-mail.
"Cela soulève de sérieux risques pour la vie privée et la sécurité des conducteurs d'Amazon dont les données pourraient être piratées, divulguées ou potentiellement même exploitées par des fouineurs du gouvernement utilisant un mandat", a-t-il ajouté.
Parce que la technologie de l'IA est relativement nouvelle, il n'y a pas de directives concrètes concernant son utilisation en matière de confidentialité, a déclaré O'Driscoll. "Cela dit, la sécurité sera probablement toujours une excuse légitime pour une atteinte à la vie privée, donc Amazon est couvert par ses intentions actuelles", a-t-elle ajouté.
Alors que les employés ont le droit de démissionner ou de consentir à la surveillance proposée par l'IA, ils le font face à un énorme déséquilibre de pouvoir, O'Driscoll a déclaré que la surveillance de l'IA devrait être réglementée. "Les entreprises devraient idéalement avoir des raisons légitimes (telles que la sécurité) pour la surveillance par IA", a-t-elle ajouté.
Certains États ont adopté des projets de loi qui limitent et réglementent l'utilisation de la surveillance sur le lieu de travail, mais la législation fédérale fait défaut, a souligné Walsh.
En 2019, la loi sur la responsabilité algorithmique a été présentée à la Chambre et au Sénat, mais elle a finalement été rejetée. Une loi similaire pourrait être introduite cette année, et "on espère qu'un Congrès et une Maison Blanche dirigés par des démocrates amélioreront ses chances de réussite", a déclaré Walsh.
Ne vous attendez pas à la confidentialité au travail
Tout le monde ne pense pas que la surveillance de ses chauffeurs par Amazon est une atteinte à la vie privée.
"Je pense qu'il est difficile d'affirmer qu'un employé a une attente raisonnable en matière de vie privée dans un véhicule appartenant à l'entreprise", a déclaré Will Griffin, le responsable de l'éthique de la société d'intelligence artificielle Hypergiant, dans une interview par e-mail.
"La plus grande préoccupation est que dans quelques années, tous ces conducteurs seront remplacés par des véhicules autonomes. Ainsi, tout débat sur la politique des conducteurs deviendra un point discutable à mesure que la flotte deviendra entièrement autonome."
L'affaire Amazon met en évidence la nécessité d'un syndicat ou d'une intervention fédérale ciblée comme moyen de rétablir l'équilibre des pouvoirs entre les travailleurs d'Amazon et l'entreprise, a déclaré Griffin.
"Alors que les employés ont le droit de démissionner ou de consentir à la surveillance proposée par l'IA, ils le font face à un énorme déséquilibre de pouvoir", a-t-il ajouté.
