Les principaux sites de médias sociaux et plateformes numériques ont signalé une augmentation de 9 % du matériel suspecté d’abus sexuel d’enfants en 2022, avec 85,5 % des 31,8 millions de signalements provenant des plateformes Meta Facebook, Instagram et WhatsApp.

« Ces chiffres augmentent soit en raison d’une augmentation de la diffusion de ce matériel par les utilisateurs, soit parce que les entreprises commencent à peine à regarder sous le capot de leurs plateformes, soit les deux », a déclaré Lianna McDonald, directrice générale du Centre canadien de protection de l’enfance. , a déclaré dans un communiqué de presse.

Les données proviennent du National Center for Missing and Exploited Children (NCMEC) des États-Unis. Le Canada et les États-Unis exigent légalement que les fournisseurs de services électroniques de leur pays signalent et suppriment les cas de pornographie juvénile apparente lorsqu’ils en prennent connaissance dans leurs systèmes. Cependant, aucune obligation légale n’oblige les entreprises à rechercher de manière proactive des contenus abusifs ou à utiliser des outils de prévention pour empêcher leur téléchargement.

« Des millions de rapports CyberTipline chaque année, principalement soumis par une poignée d’entreprises, sont la preuve que ce que nous savons de l’étendue de l’exploitation sexuelle des enfants en ligne n’est que la pointe de l’iceberg », a déclaré un porte-parole du NCMEC à actualitescanada.com, faisant référence au programme de déclaration des États-Unis qu’il exploite. « La plupart des entreprises technologiques du monde entier choisissent de ne pas détecter et signaler de manière proactive l’exploitation sexuelle des enfants sur leurs réseaux. »

Meta a déposé 27,2 millions de signalements à CyberTipline en 2022, dont 21,2 millions de Facebook, cinq millions d’Instagram et un million de WhatsApp ; une augmentation de 1,1 % par rapport à 2021. Facebook représentait à lui seul 66,6 % de tous les signalements en 2022.

Facebook est la plate-forme de médias sociaux la plus populaire au Canada et aux États-Unis, avec environ les trois quarts des adultes qui l’utilisent. Dans une déclaration à actualitescanada.com, un porte-parole de Meta a déclaré que la société investit activement dans les équipes et la technologie pour détecter, prévenir et supprimer les contenus nuisibles avec des outils comme l’IA et les logiciels de numérisation d’images.

« Nous supprimons 98% de ce contenu avant que quiconque ne nous le signale et nous trouvons et signalons plus (de matériel d’abus sexuel d’enfants) au NCMEC que tout autre service », a déclaré Antigone Davis, responsable de la sécurité de Meta, dans un communiqué à CTVNews. Californie. « Nous nous engageons non seulement à supprimer (le matériel d’abus sexuel d’enfants) lorsque nous le découvrons, mais à développer une technologie pour aider à prévenir l’exploitation des enfants en premier lieu. »

Signy Arnason est la directrice générale associée du Centre canadien de protection de l’enfance.

« Les entreprises qui signalent des chiffres élevés peuvent être à la fois une indication d’un problème avec les utilisateurs distribuant du matériel, mais peuvent également être un signe que la plate-forme fait des efforts pour modérer le contenu ou utilise des outils de détection », a déclaré Arnason à actualitescanada.com. « En revanche, pour les grandes entreprises dont le nombre de rapports est très faible, cela peut indiquer une réticence à utiliser des outils de modération proactive pour bloquer ce matériel ; par conséquent, un nombre très faible de rapports n’est pas nécessairement un signe positif. »

De nombreux fournisseurs de services électroniques populaires ont enregistré des rapports plus troublants en 2022, dont 2,2 millions de Google, une augmentation de 151 % par rapport à 2021 ainsi que Snapchat (551 086, une augmentation de 7,5 %), TikTok (288 125, une augmentation de 86,3 %), Discord (169 800, une augmentation de 473,5 %) et Twitter (98 050, une augmentation de 13,1 %).

L’une des augmentations les plus importantes provient d’Omegle, un site qui permet aux utilisateurs de discuter avec un étranger sélectionné au hasard et qui a récemment été critiqué pour avoir hébergé des utilisateurs abusifs. Omegle a déposé 608 601 signalements en 2022, soit une augmentation de 1 197 % par rapport à 2021. La plateforme de partage d’images Pinterest, quant à elle, a déposé 34 310 signalements, soit une augmentation de 1 402,8 %.

actualitescanada.com a contacté toutes les entreprises nommées dans cette histoire pour commentaires.

Un porte-parole d’Omegle a déclaré que leur plate-forme utilise des instantanés périodiques de flux vidéo pour aider à modérer le contenu.

« Bien que les utilisateurs soient seuls responsables de leur comportement lorsqu’ils utilisent le site Web, Omegle a volontairement mis en place des services de modération de contenu qui utilisent à la fois des outils d’intelligence artificielle et des modérateurs humains sous contrat », a déclaré la société à actualitescanada.com. « Le contenu signalé comme illégal, inapproprié ou en violation des politiques d’Omegle peut entraîner un certain nombre d’actions, y compris des rapports aux organismes d’application de la loi appropriés. »

Un porte-parole de Discord, une plate-forme de messagerie instantanée et de chat vocal populaire auprès des joueurs, a déclaré que la société signale les auteurs au NCMEC et utilise activement la technologie pour détecter les contenus nuisibles.

« Discord a une politique de tolérance zéro pour les abus sexuels sur les enfants, qui n’a pas sa place sur notre plateforme ou ailleurs dans la société », a déclaré Discord à actualitescanada.com. « Nous avons une équipe dédiée qui ne cesse de travailler pour trouver et supprimer ce contenu odieux, et prend des mesures, notamment en interdisant les utilisateurs responsables et en s’adressant aux autorités compétentes. »

Un porte-parole de l’application de messagerie Snapchat a déclaré que la plate-forme utilise la technologie de numérisation d’images et de vidéos pour rechercher ce contenu et que des rapports sont transmis au NCMEC aux États-Unis.

« Toute exploitation ou abus sexuel d’un Snapchatter et/ou d’un mineur sur notre plateforme est illégal et contraire à nos politiques », ont-ils déclaré. « Si nous prenons connaissance d’abus ou d’exploitation sexuels d’enfants, qu’ils soient identifiés grâce à notre technologie de détection proactive ou signalés via nos outils de signalement confidentiels intégrés à l’application, nous les supprimons et les signalons aux autorités.

Pinterest a également une politique de tolérance zéro pour le contenu qui pourrait exploiter ou mettre en danger les mineurs.

« Lorsque nous détectons un contenu ou un comportement enfreignant la politique sur la plate-forme, nous prenons rapidement des mesures, supprimons le contenu, interdisons les comptes associés et travaillons avec les autorités compétentes », a déclaré un porte-parole à actualitescanada.com. « Nous sommes attachés à la confiance et à la sécurité des enfants en ligne, et continuons à travailler avec des organisations comme le NCMEC pour aider à éradiquer ce type de contenu d’Internet. »

Google, TikTok et Twitter n’ont pas répondu aux demandes de actualitescanada.com.

« Il y a une pression publique croissante sur les plateformes de médias sociaux pour mieux modérer le contenu généré par les utilisateurs, et donc trouver ou bloquer davantage de ce matériel », a déclaré Arnason du Centre canadien de protection de l’enfance. « Si nous voulons améliorer fondamentalement la sécurité en ligne des familles, nous avons besoin que nos élus agissent pour s’assurer que les entreprises technologiques sont tenues de donner la priorité à la sécurité en ligne de leurs utilisateurs finaux, tout comme nous le faisons dans d’autres secteurs. »

Les Canadiens peuvent signaler l’exploitation présumée d’enfants en ligne à CyberTip.ca, qui est exploité par le Centre canadien de protection de l’enfance. En plus de CyberTipline.org aux États-Unis, le NCMEC exploite également Take It Down, un service qui permet d’obtenir des images et des vidéos explicites de mineurs sur Internet.