Clé à emporter
- L'intelligence artificielle et les algorithmes d'apprentissage automatique surveillent le comportement humain et peuvent apprendre à le manipuler, selon les experts.
- Des chercheurs ont récemment créé un moyen de trouver et d'exploiter les vulnérabilités dans la façon dont les gens font des choix à l'aide de l'IA.
- L'algorithme de médias sociaux le plus sophistiqué à l'heure actuelle est TikTok, selon un observateur.
L'intelligence artificielle (IA) et les algorithmes d'apprentissage automatique apprennent de plus en plus à influencer le comportement des utilisateurs, selon les experts.
Des chercheurs de l'agence scientifique nationale australienne ont récemment créé un moyen de trouver et d'exploiter les vulnérabilités dans la façon dont les gens font des choix à l'aide de l'IA. Les dernières recherches font partie d'une vague de systèmes basés sur l'IA conçus pour manipuler la prise de décision humaine.
"Il n'y a pas de fin aux nombreuses façons dont l'IA influence déjà le comportement", Kentaro Toyama, professeur à la University of Michigan School of Information et auteur de Geek Heresy: Rescuing Social Change from the Cult of Technology, a déclaré dans une interview par e-mail.
"En fait, si vous avez déjà effectué une recherche Google et suivi un lien, vous avez été impacté par un système d'IA qui a deviné vos centres d'intérêt et a renvoyé les résultats qu'il jugeait les plus pertinents pour vous."
IA contre les humains
Dans la recherche australienne publiée dans un article récent, des participants humains ont joué à des jeux contre un ordinateur dans diverses expériences. Lors de la première expérience, les participants ont cliqué sur des cases rouges ou bleues pour gagner de l'argent.
L'IA a réussi environ 70 % du temps, apprenant les schémas de choix des participants et les guidant vers un choix spécifique.
Dans une autre expérience, les participants regardaient un écran et appuyaient sur un bouton lorsqu'on leur montrait un symbole particulier, ou n'appuyaient pas dessus lorsqu'on leur en proposait un autre. L'IA a appris à réorganiser les symboles, de sorte que les participants ont fait plus d'erreurs.
Le résultat des expériences, ont conclu les chercheurs, était que l'IA a appris des réponses des participants. La machine a ensuite identifié et ciblé les vulnérabilités dans la prise de décision des gens. En effet, l'IA pourrait manipuler les participants pour qu'ils effectuent des actions particulières.
Le fait que l'IA ou l'apprentissage automatique puisse manipuler les gens ne devrait pas surprendre, disent les observateurs.
"L'IA influence notre comportement au quotidien", a déclaré Tamara Schwartz, professeure adjointe de cybersécurité et d'administration des affaires au York College of Pennsylvania, dans une interview par e-mail.
"Nous entendons tout le temps parler des algorithmes dans les applications de médias sociaux comme Facebook ou Twitter. Ces algorithmes attirent notre attention sur le contenu connexe et créent l'effet de "chambre d'écho", qui à son tour influence notre comportement."
TikTok regarde
L'algorithme de médias sociaux le plus sophistiqué à l'heure actuelle est TikTok, a déclaré Schwartz. L'application analyse ce qui vous intéresse, combien de temps vous regardez quelque chose et à quelle vitesse vous sautez quelque chose, puis affine ses offres pour que vous continuiez à regarder.
"TikTok est beaucoup plus addictif que les autres plateformes à cause de cet algorithme d'IA, qui comprend ce que vous aimez, comment vous apprenez et comment vous choisissez les informations", a-t-elle ajouté. "Nous le savons car le temps moyen que les utilisateurs passent sur TikTok est de 52 minutes."
La manipulation du comportement humain par l'intelligence artificielle pourrait avoir des utilisations positives, a fait valoir Chris Nicholson, PDG de la société d'intelligence artificielle Pathmind, dans une interview par e-mail. Les agences de santé publique, par exemple, pourraient utiliser l'IA pour encourager les gens à prendre de meilleures décisions.
"Cependant, les médias sociaux, les fabricants de jeux vidéo, les annonceurs et les régimes autoritaires cherchent des moyens d'inciter les gens à prendre des décisions qui ne sont pas dans leur meilleur intérêt, et cela leur donnera de nouveaux outils pour le faire", ajouta-t-il.
Les problèmes éthiques liés à l'influence de l'IA sur le comportement sont souvent de degré, a déclaré Toyama. L'IA permet une publicité ciblée dans laquelle les préférences et les faiblesses individuelles peuvent être exploitées.
"Il est possible, par exemple, pour un système d'IA d'identifier les personnes qui essaient d'arrêter de fumer et de les arroser de publicités alléchantes pour les cigarettes", a-t-il ajouté.
Tout le monde n'est pas d'accord pour dire que la manipulation du comportement humain par l'IA est problématique. La psychologie classique et l'IA observent toutes deux des données, a souligné Jason J. Corso, directeur du Stevens Institute for Artificial Intelligence, dans une interview par e-mail.
"Les scientifiques humains sont probablement meilleurs pour généraliser les observations et distiller des théories du comportement humain qui peuvent être plus largement applicables alors que les modèles d'IA seraient plus aptes à identifier les nuances spécifiques à un problème", a déclaré Corso.
"D'un point de vue éthique, je ne vois pas de différence entre ceux-ci."
