Khaoula Chehbouni - Démasquer les prédateurs sexuels

Publié pour HEC Mag, novembre 2023On peut lire l'article ici.Outre les 4,5 millions de cas d’exploitation sexuelle qui ont été rapportés à la centrale Cyberaide.ca entre 2014 et 2020, les signalements de leurre informatique d’enfants à des fins sexuelles ont explosé au cours des cinq dernières années – en hausse de 815 % – et les cas de sextorsion envers les ados ont augmenté de 150 % depuis six mois. Sensible à ce fléau, Khaoula Chehbouni a décidé de s’y attaquer au cours de sa maîtrise.

L’élément déclencheur : des conversations entre des cyberprédateurs et des bénévoles de Perverted-Justice. Ce groupe piège des pédophiles en se faisant passer pour des enfants et publie ces échanges sur le Web dans le but de les faire arrêter par la police. En 2012, ces conversations ont été colligées dans une base de données que l’étudiante a eu l’idée d’exploiter dans le cadre de sa maîtrise en intelligence d’affaires.

Combattre ce fléau

En misant sur l’intelligence artificielle (IA), Khaoula Chehbouni a développé une approche de détection préventive du pédopiégeage qui vise à assurer la sécurité des enfants tout en respectant leur vie privée. Une première! « Pour ce faire, nous utilisons un modèle d’apprentissage fédéré qui tient compte du contexte des conversations, explique-t-elle. Chaque utilisateur peut entraîner son propre modèle préalablement installé sur son téléphone ou sur son ordinateur et qui communique avec un serveur chargé des mises à jour. »Cette approche fait appel à un modèle éprouvé de langage pré-entraîné (BERT) à partir de contenus en ligne. La chercheuse a ensuite réentraîné les réseaux de neurones pour reconnaître les stratégies de communication des prédateurs. La « méthode Chehbouni » distingue les messages de pédopiégeage des échanges normaux à l’aide d’indices linguistiques obtenus par l’entraînement.Ce modèle de détection peut être utilisé sur des réseaux sociaux comme Instagram, Facebook et Snapchat, ainsi que sur des forums comme Discord.

Éviter les méprises

« En plus de protéger la confidentialité des données puisqu’elles ne quittent jamais les appareils des utilisateurs, mon modèle réduit le nombre de faux positifs », précise-t-elle. Cette façon de faire pourrait notamment éviter d’accuser des personnes à tort, comme ce père qui avait envoyé des photos des organes génitaux de son bébé à son médecin pour un suivi médical et qui a fait l’objet d’une enquête policière à la suite d’un signalement de l’IA de Google.« Bien que les technologies nous permettent de grandes avancées, il y aura toujours à faire, car l’évolution est constante », conclut Khaoula Chehbouni, dont les travaux lui ont valu le Prix du meilleur mémoire 2022 de HEC Montréal.Intitulé Mitigating Online Grooming With Federated Learning, ce mémoire a été codirigé par les membres du corps professoral Gilles Caporossi et Golnoosh Farnadi.

***

En misant sur l’intelligence artificielle (IA), Khaoula Chehbouni a développé une approche de détection préventive du pédopiégeage. Une première!