Favoriser la civilité et la sécurité pour tous les utilisateurs

Depuis près de vingt ans, Roblox s'efforce de faire en sorte que sa plateforme soit l'un des environnements en ligne les plus sûrs qui soient pour ses utilisateurs, particulièrement les plus jeunes. Notre objectif est de créer la communauté la plus sûre et la plus civile du monde.

À mesure que notre plateforme évolue, s'agrandit et avance vers un nouvel avenir de communication et de connexion, notre engagement pour la sécurité et la prévention reste fondamental à nos yeux. C'est indispensable pour pouvoir proposer les expériences en ligne les plus sûres et les plus civiles du monde. Chaque année, nous mettons en œuvre de nouvelles stratégies et technologies pour améliorer la vitesse et l'efficacité de nos systèmes de sécurité et de modération.

Chaque jour, des dizaines de millions de personnes de tous les âges vivent des expériences sûres et positives sur Roblox en respectant les normes de la communauté. D'après notre dernier rapport de transparence annuel, les utilisateurs de Roblox ont créé et mis en ligne un total d'environ 205 milliards d'éléments sur notre plateforme, et chacun d'entre eux a été examiné par nos outils de modération. D'après nos systèmes de détection et de signalement, seulement 0,0063 % de ce contenu a été identifié pour des infractions à nos politiques sur le harcèlement, les propos haineux, l'extrémisme violent et d'autres problèmes. Ce n'est pas pour rien que nos politiques sont considérablement plus strictes que celles des réseaux sociaux et autres plateformes de contenu créé par les utilisateurs, et ne négligent aucun aspect, des grossièretés aux publicités.

Nous mesurons en permanence une grande quantité de données sur le harcèlement, les grossièretés et d'autres éléments via des systèmes automatiques et humains. Cette approche nous sert à nous orienter pour faire de notre plateforme un lieu où les interactions sont sûres et civiles, et nous permet d'affirmer que les problèmes de sécurité ne sont pas répandus ou systémiques sur Roblox. Notre engagement pour cette mission est essentiel. Nous faisons tous partie d'une famille, et nous savons que tout incident affectant la santé ou la sécurité d'un enfant est une tragédie. Nous offrons toute notre sympathie aux familles et aux personnes qui ont été affectées par ce genre de situation.

Une plateforme bâtie avec la sécurité comme priorité

Chaque équipe de Roblox contribue à faire en sorte que nos produits soient conçus avec la sécurité comme priorité. En plus des 10 % de nos employés et des milliers de prestataires qui se concentrent exclusivement sur la sécurité, des centaines d'employés de Roblox travaillent à la conception et l'amélioration des technologies utilisées par l'équipe de sécurité. De plus, notre direction est déterminée à faire en sorte que ces équipes disposent toujours de tous les moyens nécessaires. Nous dépensons chaque année plusieurs centaines de millions de dollars dans le cadre de notre mission de sécurité.

Nos récentes avancées en matière d'IA ont amélioré la sécurité sur Roblox. Les grands modèles de langue, l'IA multimodale et les modèles spéciaux capables d'identifier les problèmes de sécurité dans la langue parlée ont accru la précision et l'efficacité de la modération. Afin d'assurer l'intégrité de nos efforts, nous ne mettons en place l'automatisation par IA qu'après avoir vérifié qu'elle produit à grande échelle de meilleurs résultats que les humains. L'IA a pris la place des humains pour certaines tâches, mais elle a également permis à notre personnel de se concentrer sur des enquêtes plus complexes, notamment dans le cadre de notre politique qui vise à protéger les mineurs des prédateurs sexuels et qui interdit de leur demander des informations personnelles.

Une approche multiple et coordonnée de la sécurité

• Les mises à jour et fonctionnalités importantes passent par un processus de vérification rigoureux afin d'obtenir des retours et d'identifier les problèmes de sécurité potentiels avant même le début du développement.
• Nous modérons toutes les communications sur la plateforme de façon proactive via une combinaison d'IA et de contrôles humains. Si des signes de préjudice grave sont identifiés, ils sont communiqués à notre équipe d'enquête.
• Les mots et expressions non appropriés sont filtrés dans toutes les communications textuelles à l'aide de systèmes automatiques rigoureux et à la pointe de la technologie.
• Notre système de communication vocale envoie des notifications en temps réel aux utilisateurs qui ne respectent pas nos politiques. Cette mesure a rendu les interactions sur Roblox considérablement plus civiles.
• Pour les utilisateurs de moins de 13 ans, nos filtres empêchent le partage d'informations personnelles et les tentatives de poursuivre les discussions en dehors de Roblox, où les normes de sécurité et de modération sont moins strictes.
• Nous n'autorisons pas les utilisateurs à échanger des images ou des vidéos sur le chat vocal ou textuel de Roblox.
• Tout le contenu mis en ligne sur Roblox, y compris les images, les vidéos, les fichiers audio, les modèles 3D et le texte, est soumis à un examen rigoureux faisant appel à de l'IA multimodale appuyée par des humains.
• Notre équipe de sécurité transmet en permanence des connaissances et des conseils à l'ensemble de la société afin d'améliorer la sécurité de notre plateforme et de nos produits.

Nous faisons en sorte que les utilisateurs puissent toujours accéder aisément à des fonctionnalités qui leur permettent de signaler le contenu abusif, vulgaire ou inapproprié de quelque autre façon que ce soit pour notre communauté en ligne. La fonctionnalité « Signaler un abus », qui est mise en évidence sur le tableau de bord Roblox dans l'expérience, permet de signaler en toute simplicité les contenus et comportements abusifs, et nous encourageons nos utilisateurs à s'en servir.

Les parents peuvent restreindre ou désactiver le chat en ligne, configurer l'accès aux expériences en fonction des recommandations d'âge, et définir des limites de dépenses. Les commentaires des utilisateurs, des parents et des autres membres de notre communauté font partie des meilleurs outils dont nous disposons pour améliorer nos produits. Nous cherchons constamment des façons d'améliorer nos contrôles parentaux afin de les rendre encore plus utiles.

Relever le défi de la sécurité en ligne pour l'ensemble du secteur

La question de la sécurité et de la civilité en ligne est cruciale pour l'ensemble de notre secteur, surtout en ce qui concerne les jeunes utilisateurs. Sur ce point, nous collaborons activement avec les forces de l'ordre, les plus grandes organisations du secteur et les législateurs. Conscients de l'existence de personnes malintentionnées, nous sommes profondément troublés quand nous apprenons que des enfants ont été mis en danger. C'est pour cette raison que Roblox a notamment été la première entreprise, et l'une des seules, à soutenir le projet de loi « California Age-Appropriate Design Code Act », et a récemment signé une lettre de soutien à la proposition « California Bill SB 933 », qui a pour but de mettre à jour les lois de l'État afin d'interdire explicitement la pédopornographie générée par IA.

Collaborer avec les forces de l'ordre pour retrouver les coupables

Au fil des années, nous avons noué des liens étroits avec les forces de l'ordre au niveau étatique, fédéral et international, et nous communiquons régulièrement avec elles en ce qui concerne les pratiques à adopter. Nous avons mis en place des procédures claires pour permettre aux forces de l'ordre de contacter notre équipe, avec notamment un portail en ligne spécial. De plus, nous signalons de façon proactive les menaces grâce à l'intégration d'un système de l'équipe EXTRACT du FBI conçu pour gérer les signalements des plateformes comme la nôtre.

Nous signalons de façon proactive le contenu potentiellement problématique au National Center for Missing & Exploited Children (NCMEC). Le système CyberTipline du NCMEC est un mécanisme qui permet au grand public et aux prestataires de services électroniques de signaler les suspicions d'abus sur des enfants. En 2023, Roblox a signalé 13 316 incidents au NCMEC (nous préférons éviter le moindre risque, aussi nos critères de signalement sont-ils plus bas que ceux des autres plateformes). Pour mieux contextualiser ce chiffre, en 2023, CyberTipline a reçu plus de 35 millions de signalements en rapport avec des incidents sur des plateformes appartenant à d'autres prestataires de services électroniques.

Étendre nos relations, nos recherches et nos collaborations dans l'ensemble du secteur pour trouver des solutions ensemble

Nous communiquons et collaborons avec d'autres acteurs du secteur. Conscients du fait que la sécurité et la civilité en ligne sont des sujets qui concernent l'ensemble de notre secteur, nous sommes en communication constante avec d'autres plateformes, ONG et consortiums académiques ou industriels afin de trouver des solutions pour lutter contre les mauvais comportements. Roblox est par exemple membre de Tech Coalition depuis 2018, et fait partie des fondateurs du programme Lantern. Cette plateforme innovante permet aux entreprises participantes de partager des informations et d'agir contre les individus malintentionnés se déplaçant d'une plateforme à une autre.

« Roblox est un membre important de Tech Coalition, et siège à notre conseil d'administration. Cette entreprise a su se montrer indispensable au sein de nos groupes de travail, en contribuant à la prise de décisions cruciales pour le secteur, comme la mise en œuvre du programme Lantern et l'élaboration de feuilles de route. Ces actions aident Roblox et l'ensemble du secteur à mieux s'équiper pour lutter contre la pédocriminalité. »Sean Litton, directeur exécutif, Tech Coalition

Nous contribuons également à l'amélioration de la sécurité dans l'ensemble du secteur grâce à l'open source et aux partenariats. L'an dernier, par exemple, le Digital Wellness Lab du Boston Children's Hospital et les dirigeants de Roblox ont réuni plus de 100 experts de la sécurité et de la civilité du monde entier pour échanger des idées et déterminer les actions nécessaires au niveau de l'innovation technologique, la législation et l'éducation afin de faire du monde en ligne un espace réellement sûr et civil, particulièrement pour les jeunes. Des acteurs de toutes les disciplines ont donné leur avis et participé à des ateliers dans le cadre du Civility Working Group.

Notre collaboration étroite avec ces groupes de parents, associations de santé mentale, agences gouvernementales et autres organisations privées et publiques nous permet de comprendre les préoccupations des parents, des législateurs et du public en ce qui concerne la sécurité en ligne, et de mettre à leur disposition nos connaissances et nos solutions technologiques.

Nous militons également pour des politiques qui prennent en compte ces connaissances et le bien-être des plus jeunes.

Nos initiatives de sécurité et de civilité ont été saluées par de nombreuses organisations spécialisées du secteur et de la société civile. On peut notamment citer Save the Children, le Digital Wellness Lab, Connect Safely, la Représentante spéciale chargée de la question de la violence à l'encontre des enfants de l'ONU, et le Family Online Safety Institute (FOSI).

« Dès nos premières interactions avec Roblox, nous avons été impressionnés par l'engagement de l'entreprise pour la sécurité. C'est une valeur que l'on retrouve chez le PDG, et nous avons pu transmettre des critiques constructives au conseil consultatif Confiance et Sécurité. Roblox a toujours été à la pointe en ce qui concerne la sécurité en ligne, notamment via les politiques et les outils qui ont été mis au point spécifiquement pour sa communauté. »Stephen Balkam, PDG, Family Online Safety Institute

Nous allons continuer de travailler sans relâche pour protéger nos utilisateurs, et de faire preuve de vigilance face aux personnes malintentionnées qui pourraient tenter de contourner nos systèmes. Nous sommes conscients que cette tâche essentielle ne sera jamais terminée. Nous nous engageons à investir et à nous adapter continuellement afin de réagir aux menaces qui évoluent en permanence et de protéger notre communauté. Nous sommes déjà en train de travailler sur la prochaine génération d'outils et fonctionnalités de sécurité, et nous comptons rester leaders dans le domaine de la sécurité et la civilité en ligne.