Par Annie Mullins
Dire que les derniers mois ont été « incertains » est un euphémisme, en particulier pour les jeunes. Et ce à un moment critique de leur développement où les interactions sociales entre amis sont particulièrement importantes.
Pour la plupart d’entre eux les vacances d’été signifient passer du temps avec ses amis et se préparer pour la nouvelle année scolaire, deux activités qui ont été remises en question par la COVID-19. Certains jeunes se sont donc sentis seuls et anxieux, tout en cherchant à interagir socialement avec leurs pairs. En conséquence, beaucoup se sont tournés vers internet pour échanger avec leurs amis proches ou faire de nouvelles rencontres.
Avec l’augmentation de l’utilisation des réseaux sociaux, on observe également une tendance croissante des jeunes utilisateurs à publier des contenus de plus en plus inhabituels pour gagner en popularité. Il s’agit notamment de simuler une tromperie, voire de mettre en scène des occasions où ils semblent être traqués ou risquent d’être agressés, se mettant ainsi dans des situations délicates dans le seul but de créer du « buzz ».
Cette tendance inquiétante s’est accentuée alors que l’utilisation des réseaux sociaux atteignait un niveau record à l’échelle mondiale en réponse à la pandémie de Coronavirus et au confinement. Les adolescents sont, de plus, particulièrement susceptibles d’adopter ce comportement sur les réseaux sociaux afin d’attirer l’attention sur des plateformes où les « like » et « follow » sont des marqueurs d’influence.
Il est clair, aujourd’hui plus que jamais, que les réseaux sociaux ont une responsabilité évidente envers leurs utilisateurs, en particulier les jeunes utilisateurs qui peuvent être influencés par les tendances qu’ils observent en ligne. Il est donc essentiel que les plateformes intègrent des moyens créatifs et innovants pour éduquer et protéger les utilisateurs contre les risques de ces comportements délétères.
Une application en particulier est à la pointe de l’innovation pour protéger ses jeunes utilisateurs. Yubo, une application de découverte sociale pour les adolescents ; a pour objectif principal de créer de véritables relations et d’introduire des caractéristiques de sécurité sans précédent pour leurs jeunes utilisateurs. Avec plus de 35 millions d’inscrits dans le monde, Yubo a intégré une série de dispositifs de sécurité innovants visant à protéger ses utilisateurs contre les comportements dangereux.
L’application a ainsi développé une IA capable d’identifier les utilisateurs manifestant un comportement à risque tel que l’automutilation ou le suicide. Les modérateurs peuvent alors intervenir directement en offrant leur soutien, ou contacter les autorités compétentes le cas échéant. Dans les cas les plus urgents, si un utilisateur fait part de sa volonté de « se faire du mal », Yubo se met immédiatement en relation avec la police locale afin de faire cesser ce comportement dangereux.
En outre, l’application a des règles communautaires fermes que la plateforme s’efforce constamment de faire respecter par ses utilisateurs – y compris l’absence de nudité ou de nudité partielle. Tout utilisateur de Yubo qui se déshabille dans les flux en direct est détecté à l’aide d’une IA intervenant en temps réel, et l’utilisateur est rapidement averti par un modérateur. Une minute leur est alors accordée pour se conformer aux règles avant que le live-stream ne soit définitivement interrompu. Cette surveillance est essentielle pour prévenir toute exploitation sexuelle d’une image prise à l’encontre de l’utilisateur, comme cela s’est déjà vu sur de nombreux réseaux sociaux. Ces interventions permettent aussi de sensibiliser les adolescents sur les comportements à risques à ne pas adopter en ligne.
De même, lorsque les utilisateurs de Yubo sont sur le point de partager des informations personnelles dans des messages de chat privés qui pourraient compromettre leur sécurité, comme leur adresse électronique, leur numéro de téléphone ou leur lieu de résidence, ils reçoivent un message pop-up les encourageant à « réfléchir sérieusement » avant de supprimer ou d’envoyer le message. Cette vigilance a été positivement accueillie par les jeunes utilisateurs de la plateforme. La vérification de l’identité des utilisateurs est un autre défi majeur pour les réseaux sociaux concernant la prévention des comportements toxiques et des abus. C’est pourquoi Yubo s’est associé à Yoti pour utiliser leurs outils d’authentification d’identité afin d’identifier les utilisateurs suspects ne respectant pas les limites d’âge.
En plus de mettre en œuvre des moyens pour protéger leurs utilisateurs, les plateformes de réseaux sociaux doivent encourager les parents à discuter des risques associés à certaines pratiques ou comportements sur Internet. Si le web peut être un excellent moyen pour les jeunes de nouer des amitiés, et ce en toute sécurité, il reste des éléments à prendre en compte. Encourager un dialogue ouvert entre un parent et son enfant est une façon de rester au courant de ce dont ils seront témoins en ligne.
Cette période sans précédent et véritablement unique et il est impératif que les parents et les réseaux sociaux travaillent ensemble pour former une communauté afin de protéger les jeunes des contenus et des comportements qui peuvent les mettre en danger en ligne.