Clé à emporter
- Les experts en confidentialité s'inquiètent de l'utilisation par Facebook des photos publiques d'Instagram pour former l'intelligence artificielle.
- Le programme a appris à reconnaître les images en montrant à l'ordinateur plus d'un milliard de photos publiques.
- La politique de confidentialité d'Instagram comprend une section qui permet aux utilisateurs de savoir que les informations peuvent être utilisées dans la recherche et le développement.
L'utilisation par Facebook des photos d'Instagram pour former l'intelligence artificielle soulève des problèmes de confidentialité.
Le géant des médias sociaux a récemment annoncé qu'il avait développé un logiciel capable d'apprendre de ce qu'il regarde. Le programme a appris à reconnaître les images en examinant plus d'un milliard de photos publiques. Les experts disent que les utilisateurs doivent être conscients que Facebook utilise leurs photos.
"Il s'agit de connaître le consentement", a déclaré James E. Lee, directeur de l'exploitation du centre de ressources sur le vol d'identité, dans une interview par e-mail.
"La politique de confidentialité d'Instagram, que la plupart des gens ne lisent probablement pas, stipule très clairement que l'entreprise se réserve le droit d'utiliser les photos que vous publiez à des fins de recherche. Les utilisateurs peuvent activer/désactiver la reconnaissance faciale dans leurs paramètres de confidentialité."
Mieux que les autres
Le programme de Facebook, surnommé SEER pour SElf-supervised, a battu d'autres modèles d'intelligence artificielle (IA) dans un test de reconnaissance d'objets, a affirmé la société. Le programme a obtenu un "score de précision de classification" de 84.2 % lorsqu'il a été soumis à un test qui vérifie si un programme d'IA peut identifier ce qu'il y a dans une image.
"Les performances de SEER démontrent que l'apprentissage auto-supervisé peut exceller dans les tâches de vision par ordinateur dans des contextes réels", a déclaré la société dans un article de blog.
"Il s'agit d'une percée qui ouvre finalement la voie à des modèles de vision par ordinateur plus flexibles, précis et adaptables à l'avenir."
Bien que les termes et conditions de Facebook puissent leur permettre d'exploiter les données des utilisateurs de cette manière, la plupart des utilisateurs ne sont pas explicitement et activement conscients que leurs données sont exploitées à de telles fins.
S'il est lancé commercialement, SEER aiderait à identifier les objets - et non les personnes - sans être programmé pour savoir via une étiquette ce qu'il y a sur une photo, a déclaré Lee. "C'est un moyen plus efficace et plus rapide que la méthode actuelle qui nécessite d'énormes ensembles de données pour faire correspondre un objet avec son identité", a-t-il ajouté.
"Il y a toujours un potentiel d'abus, mais il y a aussi des avantages potentiels légitimes de ce type de technologie."
Le programme de Facebook pourrait aider l'entreprise à mieux contrôler les contenus qui enfreignent ses politiques, par exemple en limitant l'exposition indésirable à des images obscènes ou graphiques, a déclaré Aimee O'Driscoll, chercheuse en sécurité sur le site de confidentialité Comparitech, dans une interview par e-mail. Il pourrait également être utilisé pour décrire automatiquement des images, améliorant ainsi l'expérience utilisateur pour les personnes ayant une déficience visuelle.
Vous avez déjà accepté ce programme
La politique de confidentialité d'Instagram comprend une section qui permet aux utilisateurs de savoir que les informations peuvent être utilisées dans la recherche et le développement. "La société utilise sa mine de données pour une autre partie de son activité, de la même manière qu'elle utilise les données des utilisateurs pour alimenter son activité publicitaire", a déclaré O'Driscoll.
"Même dans ce cas, les utilisateurs peuvent toujours se sentir mal à l'aise avec l'utilisation de leurs images de cette manière."
Yashar Behzadi, PDG de Synthesis AI, une société qui utilise l'intelligence artificielle pour la vision par ordinateur, a déclaré que les dernières avancées de Facebook en matière d'IA représentent une "amélioration significative" de la capacité de vision par ordinateur.
"Les utilisateurs peuvent probablement s'attendre à un meilleur marquage des images et à une recherche contextuelle, tandis que les annonceurs bénéficieront d'un ciblage plus précis des utilisateurs", a-t-il ajouté.
Mais l'approche de Facebook consistant à exploiter des milliards d'images Instagram soulève de sérieuses préoccupations en matière de confidentialité et de réglementation, a déclaré Behzadi.
"Bien que les termes et conditions de Facebook puissent leur permettre d'exploiter les données des utilisateurs de cette manière, la plupart des utilisateurs ne sont pas explicitement et activement conscients que leurs données sont exploitées à de telles fins", a-t-il déclaré.
"Nous pensons que les entreprises devraient être plus directes et transparentes avec les utilisateurs, en leur permettant un contrôle total sur leurs données."
De nombreuses autres entreprises ont utilisé l'intelligence artificielle pour identifier le contenu d'une image, a souligné Bobby Gill, PDG du développeur d'applications Blue Label Labs, dans une interview par e-mail. "Cependant, le fait que cela va presque certainement être utilisé pour le marketing est ce qui est troublant", a-t-il ajouté.
Le nouveau programme pourrait soulever des problèmes potentiels de confidentialité, selon la façon dont Facebook envisage d'utiliser le système, a déclaré Gill.
"Ces données seraient probablement accessibles aux spécialistes du marketing technique qui les utiliseraient pour identifier certaines tendances en fonction de divers éléments identifiés dans une image", a-t-il déclaré.
"Par exemple, être capable d'extraire des informations des images que les gens publient ajoute une autre dimension aux systèmes associatifs qui utilisent généralement le comportement pour profiler et cibler les individus. 7 % de leurs photos sont très susceptibles d'acheter du matériel de fitness à domicile."
