Clé à emporter
- Une nouvelle étude a révélé que l'IA pouvait surveiller et contrôler votre comportement en ligne.
- Certains experts disent que l'IA contrôle déjà le comportement humain grâce à des algorithmes.
- Pour empêcher l'IA de détourner leurs décisions, les utilisateurs doivent se rappeler que la confidentialité en ligne n'existe pas.
Les ordinateurs pourraient bientôt contrôler les choix que vous faites en ligne.
Des chercheurs ont récemment découvert que l'intelligence artificielle (IA) pouvait détecter et exploiter les faiblesses de la prise de décision humaine et guider les gens vers certaines décisions. Les experts disent que cette découverte est un signe de l'influence croissante des algorithmes sur le comportement humain.
"Les personnes qui sont de gros utilisateurs de plateformes numériques en ligne courent un plus grand risque d'être influencées que la personne moyenne, car elles fournissent les coulisses, l'IA et l'apprentissage automatique offrent des avantages significatifs dans de nombreux domaines, y compris la santé », a-t-il déclaré. "En fin de compte, la responsabilité avec laquelle nous définissons ces technologies déterminera si elles seront utilisées pour de bons résultats pour la société, ou manipulées à des fins lucratives."
Pas seulement de la théorie
Alors que le récent article a mis en évidence la capacité de l'IA à influencer les décisions, certains experts affirment que les ordinateurs font déjà exactement cela. Quiconque va en ligne et accède au Web est soumis au pouvoir omniprésent de l'IA, a déclaré Josephine Yam, avocate et éthicienne spécialisée dans l'IA, à Lifewire dans une interview par e-mail.
"L'IA est la quatrième révolution industrielle", a déclaré Yam. "Sa capacité croissante à prendre des décisions autonomes plus rapidement, mieux et moins cher que les humains a un impact profond sur nos vies. Les fonctions d'assistance à la conduite rendent nos voitures plus sûres. La vision par ordinateur rend le diagnostic des maladies plus précis. La traduction automatique nous permet de communiquer à travers les océans malgré les barrières linguistiques."
Parce que l'IA est intégrée à la plupart des aspects de notre vie, elle influence nos décisions quotidiennes, que nous en soyons conscients ou non, a déclaré Yam. Il diffuse des publicités en ligne et des flux d'actualités en fonction de nos clics précédents. Il recommande de la musique, des films et des idées de cadeaux en fonction de nos habitudes passées d'écoute, de visionnage et d'achat.
"L'IA est la plus grande machine de prédiction au monde", a ajouté Yam. "Parce que de grands volumes de données historiques sont utilisés pour former des algorithmes, les capacités d'apprentissage automatique du système d'IA détectent des modèles nuancés dans nos données personnelles pour faire des recommandations très précises à notre sujet."
Mais Theresa Kushner, experte en IA chez NTT DATA Services, a contesté l'idée que l'IA influence actuellement les décisions en ligne. "On pourrait dire que l'IA aide à éclairer les décisions", a déclaré Kushner à Lifewire dans une interview par e-mail.
"Mais l'influence est une capacité spécifique à avoir un effet sur le caractère, le développement ou le comportement de quelqu'un ou de quelque chose", a ajouté Kushner. "Votre flux Google est un bon exemple du fonctionnement de l'IA aujourd'hui. Achetez-vous plus de meubles ces derniers temps parce que Google sait que vous avez regardé des canapés ?"
Pour empêcher l'IA de détourner leurs décisions, Yam a déclaré que les utilisateurs doivent se rappeler que la confidentialité en ligne n'existe plus.
"Les gens laissent des empreintes numériques de leur identité ou de leurs données personnelles partout où ils vont. Les algorithmes d'intelligence artificielle enregistrent, compilent et exploitent toutes leurs données personnelles en ligne", a ajouté Yam. "Ces algorithmes collectent des milliers de points de données personnelles sur un utilisateur pour faire des prédictions sur le comportement le plus probable de cet utilisateur."
Que l'IA influence ou non actuellement les décisions humaines, les observateurs demandent une plus grande réglementation de l'industrie. Le projet de loi sur l'intelligence artificielle de l'UE, par exemple, est le premier cadre réglementaire mondial qui rendra les humains responsables des effets néfastes de leur IA, a déclaré Yam.
"Le seul moyen réaliste d'empêcher ce type d'utilisation abusive de l'IA par les grandes entreprises technologiques est de les obliger, soit par la pression publique, soit par la législation, à rendre leurs algorithmes d'apprentissage par renforcement accessibles au public", a déclaré Borhani. "Ce n'est pas une grosse demande, étant donné que ces entreprises conservent toujours les données de leurs utilisateurs, sans lesquelles les algorithmes en eux-mêmes ne sont d'aucune utilité pratique."
