Clé à emporter
- Une société de logiciels collecterait des informations sur les réseaux sociaux pour créer des profils pouvant être utilisés pour identifier les personnes présentant des risques pour la sécurité.
- Voyager Labs a conclu un accord important avec une agence gouvernementale japonaise.
- Mais les experts avertissent que les logiciels de prédiction de l'IA peuvent être trompés.
Vos informations en ligne pourraient être utilisées pour prédire si vous pourriez commettre un crime.
Voyager Labs collecterait des informations sur les réseaux sociaux pour créer des profils pouvant être utilisés pour identifier les personnes présentant des risques pour la sécurité. Cela fait partie d'un effort croissant visant à utiliser l'intelligence artificielle (IA) pour enquêter sur les criminels potentiels. Mais certains experts disent que le mouvement regorge de problèmes potentiels.
"Il est très difficile de prédire le comportement humain", a déclaré Matthew Carr, chercheur en sécurité chez Atumcell Group, à Lifewire dans une interview par e-mail. "Nous ne sommes même pas en mesure de prédire notre propre comportement, et encore moins celui de quelqu'un d'autre. Je pense qu'il est possible que l'IA puisse être utilisée à l'avenir à cette fin, mais nous sommes loin d'être en mesure de le faire à l'heure actuelle."
Créer des profils
Comme The Guardian l'a récemment rapporté, le service de police de Los Angeles a envisagé d'utiliser le logiciel de prédiction des crimes de Voyager Lab. La société a également annoncé qu'elle avait conclu un accord important avec une agence gouvernementale japonaise.
L'accord japonais fournit à l'agence gouvernementale une plate-forme d'enquête basée sur l'IA qui analyse d'énormes quantités d'informations provenant de n'importe quelle source, y compris des données ouvertes et approfondies.
"Je suis heureuse que nous collaborions dans la lutte contre le terrorisme et le crime", a déclaré Divya Khangarot, directrice générale APAC chez Voyager Labs, dans le communiqué de presse. « En utilisant les solutions de renseignement de pointe de Voyager Lab, nos clients acquièrent des capacités uniques pour identifier et perturber de manière proactive les menaces potentielles. et de mauvais acteurs."
Pas si malin ?
Mais dans une interview par e-mail, Matt Heisie, le co-fondateur de Ferret.ai, qui utilise également l'IA pour prédire les délinquants, a mis en doute certaines des affirmations de Voyager Labs.
"Y a-t-il un lien aussi clair entre, disons, un dossier d'arrestation et un comportement criminel futur, qu'il y a un point noir sur un test et le développement d'une tumeur ?" il a dit. "Pensez à toutes les confusions potentielles qui ont entraîné cette arrestation - le quartier dans lequel la personne vivait, la quantité et la qualité, voire les préjugés, de la police dans cette zone. L'âge de la personne, son sexe, son apparence physique, tous ces éléments ont des impacts croisés sur la probabilité que cette personne ait un dossier d'arrestation, entièrement séparés de sa propension réelle à commettre le crime que nous tentons de prédire."
Les accusés avec de meilleurs avocats sont plus susceptibles d'être en mesure de supprimer les dossiers de devenir accessibles au public, a déclaré Heisie. Certaines juridictions limitent la publication de photos d'identité ou de dossiers d'arrestation pour protéger l'accusé.
"L'ordinateur apprendra en fonction des données que vous lui fournissez et intégrera tous les biais qui sont entrés dans cette collecte de données…"
"Tout cela ajoute un biais supplémentaire aux algorithmes", a-t-il ajouté. "L'ordinateur apprendra sur la base des données que vous lui fournissez et intégrera tous les biais qui sont entrés dans cette collecte de données dans l'apprentissage et l'interprétation."
Il y a eu plusieurs tentatives pour créer des IA prédictives de crimes, et avec des résultats souvent scandaleux, a déclaré Heisie.
COMPAS, un algorithme utilisé par les forces de l'ordre pour prédire la récidive, est souvent utilisé pour déterminer la peine et la caution. Il a fait face à un scandale remontant à 2016 pour préjugés raciaux, prédisant que les accusés noirs présentaient un risque de récidive plus élevé qu'ils ne l'étaient réellement, et l'inverse pour les accusés blancs.
Plus de 1 000 technologues et universitaires, dont des universitaires et des experts en IA de Harvard, du MIT, de Google et de Microsoft, se sont prononcés en 2020 contre un article affirmant que les chercheurs avaient développé un algorithme capable de prédire la criminalité uniquement sur la base d'un le visage de la personne, affirmant que la publication de telles études renforce les préjugés raciaux préexistants dans le système de justice pénale, a noté Heisie.
La Chine est le marché le plus important et celui qui connaît la croissance la plus rapide pour ce type de technologie, principalement en raison de l'accès généralisé aux données privées, avec plus de 200 millions de caméras de surveillance et des recherches avancées sur l'IA axées sur ce problème depuis de nombreuses années, a déclaré Heisie.. Des systèmes tels que Police Cloud de CloudWalk sont désormais utilisés pour prédire et suivre les criminels et identifier les forces de l'ordre.
"Cependant, des préjugés substantiels y sont également signalés", a déclaré Heisie.
Heisie a ajouté que son entreprise gère soigneusement les données qui entrent et n'utilise pas de photos ni d'enregistrements d'arrestation, "se concentrant plutôt sur des critères plus objectifs".
"Notre IA a appris des données conservées, mais plus important encore, elle apprend également des personnes, qui elles-mêmes analysent, conservent et évaluent les enregistrements, et nous parlent de leurs interactions avec les autres", a-t-il ajouté. "Nous maintenons également une transparence totale et un accès gratuit et public à notre application (aussi rapidement que nous pouvons les laisser en version bêta), et nous accueillons un aperçu de nos processus et procédures."
