Roblox et Grok occupent le devant de la scène alors que les approches pour protéger les enfants en ligne continuent de se développer

Les plateformes numériques répondent aux préoccupations concernant la sécurité des adolescents

Alors que l'attention se porte de plus en plus sur la manière dont les plateformes numériques, de jeux et de réseaux sociaux protègent les jeunes utilisateurs, les entreprises apportent des changements pour répondre aux inquiétudes concernant un contrôle insuffisant et défendre leurs solutions proposées.

Points principaux

• Les plateformes de réseaux sociaux et de jeux mettent en place des mesures pour mieux identifier les mineurs et limiter leur exposition à du contenu pour adultes ou à des interactions avec des utilisateurs plus âgés.
• Bien que les plateformes affirment être attentives à la vie privée, des défenseurs ont exprimé des inquiétudes concernant les risques posés par les technologies de vérification de l'âge.

Cette semaine, Roblox a mis en place une nouvelle exigence obligeant les utilisateurs à vérifier leur âge pour continuer à discuter, rejoignant ainsi d'autres entreprises technologiques qui mettent à jour leurs stratégies afin de protéger les mineurs en ligne.

Meta (META) a commencé à filtrer sur Instagram les contenus qui seraient classés PG-13 pour les utilisateurs adolescents, et OpenAI modifie les interactions de ChatGPT avec les personnes mineures. Parallèlement, Grok limite désormais sa fonctionnalité de génération d'images aux clients payants après une controverse liée à la création d'images représentant des personnes réelles, dont des mineurs, dans des vêtements révélateurs.

Ces changements interviennent alors que les fournisseurs de services numériques subissent des critiques pour ne pas surveiller suffisamment les adolescents, et que leurs solutions — telles que la vérification d'identité, les scans biométriques et l'analyse comportementale — suscitent l'inquiétude de groupes de défense de la vie privée comme l'Electronic Frontier Foundation.

Selon l'organisation, « De telles exigences restrictives menacent les principes fondamentaux d'un internet ouvert et libre. »

Importance de ces évolutions

La manière dont cette question évolue a des conséquences financières et juridiques pour les entreprises, qui doivent conclure des contrats avec des prestataires de vérification de l'âge et tenir compte de la conformité réglementaire.

Roblox (RBLX) a annoncé mercredi qu'il introduisait des mesures visant à s'assurer que les utilisateurs ne puissent communiquer qu'avec des pairs d'âge similaire. Pour envoyer des messages, les utilisateurs doivent soit réussir une « estimation de l'âge par reconnaissance faciale » soit fournir une pièce d'identité avec photo. L'entreprise indique que plus de la moitié de ses utilisateurs actifs ont participé au processus, bien que certains se soient plaints d'avoir été mal classifiés et bloqués pour l'envoi de messages. Ni Roblox ni Persona, l'entreprise derrière l'outil de vérification, n'ont répondu aux demandes de commentaires.

Selon l'entreprise, les comptes adolescents d'Instagram, lancés il y a environ un an, ont reçu un accueil favorable de la part des parents. Récemment, Instagram a commencé à empêcher ces comptes de voir du contenu qui serait classé PG-13.

Edward Patterson, porte-parole de Meta, a déclaré : « Nous adoptons une approche holistique pour garantir que les adolescents vivent des expériences adaptées à leur âge sur nos plateformes. »

Instagram affirme avoir intégré des « garanties de protection de la vie privée et des données » pour les utilisateurs plus jeunes. Yoti, la société qui fournit les services d'estimation de l'âge, supprime les selfies et images d'identités analysés sous 30 jours, selon Instagram.

Persona, qui gère l'estimation de l'âge pour Roblox et OpenAI, supprime également les images des utilisateurs une fois le processus de vérification terminé, selon les entreprises.

Sur Grok, les utilisateurs ne peuvent désormais générer des images que s'ils disposent d'un abonnement. Cette politique a été introduite récemment après que l'équipe de sécurité de la plateforme a souligné son engagement à supprimer les contenus illégaux et à coopérer avec les forces de l'ordre si nécessaire.

Elon Musk, propriétaire de X, a commenté : « Toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que celles qui mettent en ligne du matériel illégal. »

D'autres changements pourraient être envisagés, alors que les gouvernements du monde entier réfléchissent à de nouvelles réglementations sur la manière dont les plateformes en ligne traitent les jeunes utilisateurs. Par exemple, le Premier ministre de Nouvelle-Zélande a proposé d'interdire les réseaux sociaux aux moins de 16 ans, à la suite des restrictions imposées en Australie pour les adolescents plus jeunes.

Aux États-Unis, les législateurs débattent également de nouvelles règles concernant la sécurité des jeunes en ligne. L'Electronic Frontier Foundation indique que plus de la moitié des États américains ont adopté des lois exigeant une certaine forme de vérification de l'âge sur les plateformes numériques.