Instagram est loin d’être un exemple brillant de protection des jeunes en ligne, n’ayant pas réussi à empêcher son algorithme de promouvoir des contenus pédopornographiques. Mais les nouvelles fonctionnalités laissent espérer (au moins un peu ?) que la plateforme pourrait devenir un peu plus sûre. Meta a annoncé le déploiement de nouveaux outils destinés à protéger les utilisateurs contre les abus d’images intimes et la sextorsion, lorsqu’une personne est victime de chantage numérique sous la menace de partage de médias intimes.
L’une des mises à jour les plus importantes est l’arrivée de la protection contre la nudité dans les messages privés. Meta a confirmé pour la première fois qu’elle développait cette technologie en 2022 et qu’elle activerait automatiquement l’outil pour les utilisateurs de moins de 18 ans. Une fois allumé, un outil d’apprentissage automatique détectera et brouillera les images qu’il soupçonne de contenir de la nudité pour le destinataire. L’analyse s’effectue sur l’appareil de l’utilisateur, les messages doivent donc rester cryptés de bout en bout sans que Meta n’y ait jamais accès. Les utilisateurs auront la possibilité d’afficher l’image à côté d’un message contextuel de Meta indiquant qu’ils ne devraient pas se sentir obligés de répondre, ainsi qu’un bouton de conseils de sécurité et une option pour bloquer l’expéditeur.
Le nouvel outil de Meta – qu’il commencera à tester « bientôt » – détecte également si une personne envoie une image nue et l’avertit de « faire attention lors du partage de photos sensibles » tout en soulignant les risques potentiels. De plus, il rappelle aux utilisateurs qu’ils peuvent supprimer un message avant que quiconque ne le voie. Ensuite, il y a le dernier avertissement : un rappel d’être responsable et respectueux apparaît lorsque quelqu’un essaie de transmettre un message avec de la nudité détectée (même s’il permet toujours de transmettre l’image).
Il y a ensuite les outils conçus pour détecter les escrocs ou les sextorsionnistes potentiels et rendre plus difficile pour eux l’approche des adolescents. Les demandes de messages de ces éventuels acteurs malveillants devraient désormais être dirigées vers des demandes cachées, et toute personne déjà impliquée dans une conversation recevra un avertissement avec des rappels de limites et des étapes pour signaler les utilisateurs. En ce qui concerne les jeunes, Meta interdisait auparavant aux utilisateurs de messagerie de 16 ans ou moins s’ils n’étaient pas connectés entre eux, même si l’autre compte prétendait avoir le même âge. Désormais, ces fraudeurs potentiels ne verront plus la possibilité d’envoyer des messages à un adolescent même s’ils se suivent.
