Clé à emporter
- La Commission européenne (CE) a proposé un nouvel ensemble de règles pour freiner la diffusion de matériel pédopornographique.
- La proposition appelle à analyser les conversations privées en ligne et a été rejetée par les défenseurs de la vie privée.
- Ce qu'il faut, c'est utiliser la technologie pour aider les parents à surveiller leurs enfants en ligne, suggèrent des experts.
Le matériel pédopornographique sur les canaux en ligne a atteint des niveaux sans précédent, mais une solution proposée pour réprimer cette menace ne plaît pas aux défenseurs de la vie privée.
La Commission européenne (CE) a récemment proposé de nouvelles réglementations qui obligeraient les applications de chat comme WhatsApp et Facebook Messenger à passer au peigne fin les messages privés des utilisateurs signalés à la recherche de matériel pédopornographique (CSAM).
"Il s'agit d'une proposition impressionnante et audacieuse visant à prévenir systématiquement la m altraitance et le toilettage évitables des enfants, qui se déroulent à des niveaux records", Andy Burrows, responsable de la sécurité des enfants en ligne à la Société nationale pour la prévention de la cruauté envers les enfants (NSPCC), a déclaré à Lifewire par e-mail. "S'il est approuvé, il imposera clairement aux plateformes de lutter contre les abus où qu'ils se produisent, y compris dans les messages privés où les enfants sont les plus exposés."
Fin de bout en bout ?
Le règlement vise à établir de nouvelles règles pour les plates-formes en ligne, collectivement appelées fournisseurs de services en ligne, et couvre un large éventail de services, y compris les magasins d'applications, les sociétés d'hébergement Web et tout fournisseur de "services de communications interpersonnelles".
Le seul aspect de la proposition qui a ébouriffé certaines plumes parmi les groupes de protection de la vie privée concerne les obligations qui s'appliqueraient aux services de messagerie comme WhatsApp et Facebook Messenger.
Selon la proposition, si et quand un service de messagerie reçoit un "ordre de détection" de la CE, il serait tenu d'analyser les messages des utilisateurs signalés pour rechercher des preuves de CSAM et d'autres comportements abusifs impliquant des enfants. Au lieu d'employer des humains pour cette tâche, la proposition appelle à l'utilisation d'outils d'apprentissage automatique (ML) et d'intelligence artificielle (IA) pour parcourir les conversations.
Margaritis Schinas, vice-présidente pour la promotion de notre mode de vie européen, a souligné que la proposition appelle également à mettre en place des garanties pour empêcher les abus. "Nous ne parlons que d'un programme qui analyse les marqueurs de contenu illégal de la même manière que les programmes de cybersécurité effectuent des vérifications constantes des failles de sécurité", a noté Schinas dans l'annonce d'EC.
Les organismes œuvrant pour la protection des enfants se sont prononcés en faveur de la proposition. "Cette proposition révolutionnaire pourrait établir la norme d'une réglementation qui équilibre les droits fondamentaux de tous les internautes tout en donnant la priorité à la protection des enfants", a affirmé Burrows.
Pitchforks And Torches
Cependant, les défenseurs de la vie privée affirment que la proposition décourage effectivement l'utilisation du chiffrement de bout en bout.
"En menaçant les entreprises de poursuites judiciaires, la Commission essaie probablement de se laver les mains de la responsabilité de mesures dangereuses et portant atteinte à la vie privée, tout en encourageant de facto ces mesures avec la loi", a déclaré Ella Jakubowska, Policy Conseiller du groupe de défense numérique European Digital Rights (EDRi) dans un communiqué de presse.
br/
EDRi soutient que les mesures contenues dans la proposition compromettent l'intégrité vitale des communications sécurisées, allant jusqu'à affirmer que les nouvelles règles "obligeraient les entreprises à transformer nos appareils numériques en logiciels espions potentiels"." Il s'oppose également à l'utilisation d'outils d'analyse basés sur l'IA, les qualifiant de " notoirement inexacts ".
Dimitri Shelest, fondateur et PDG de OneRep, une société de confidentialité en ligne qui aide les gens à supprimer leurs informations sensibles d'Internet, croit fermement qu'aucune application gouvernementale ou de médias sociaux ne devrait analyser les messages privés des utilisateurs, même de manière sélective.
"En légitimant ce type de surveillance, nous ouvrons la boîte de Pandore et créons de multiples occasions d'utiliser à mauvais escient les informations obtenues à la suite d'une telle intrusion dans la vie privée", a déclaré Shelest à Lifewire par e-mail.
Jakubowska est d'accord. Dans le communiqué de presse, elle demande si les entreprises sont aujourd'hui autorisées à scanner nos messages privés, qu'est-ce qui empêche les gouvernements de les forcer à "rechercher des preuves de dissidence ou d'opposition politique demain ?"
Cependant, tout cela pourrait échouer. Jesper Lund, président d'IT-Pol Danemark, estime que certains aspects de la proposition pourraient ne pas être réalisables en premier lieu.
"La proposition comprend une obligation pour les fournisseurs de services Internet de bloquer l'accès à des éléments de contenu spécifiques sur des sites Web sous les ordres des autorités nationales", a expliqué Lund dans le communiqué de presse d'EDRi. "Cependant, ce type de blocage sera techniquement impossible avec HTTPS, qui est maintenant utilisé sur presque tous les sites Web."
Quand on lui a demandé si la violation de la vie privée était le seul moyen de protéger les enfants en ligne, Shelest a répondu par un "Non" catégorique. Il pense qu'une véritable solution pratique combine l'implication des parents avec le soutien de la technologie, ce qui pourrait aider les parents à garder un œil sur les activités en ligne de leurs enfants.
"Un bon début serait que les géants de la technologie tels qu'Apple et Google fournissent des capacités plus larges sur leurs plates-formes qui soutiennent les parents avec une automatisation plus avancée", a suggéré Shelest. "La clé est d'aider les parents à soutenir leurs enfants."
