Comment Roblox s'associe à l'application de la loi
Enquêter sur les menaces potentielles à la sécurité
- Chaque jour, plus de 100 millions d'utilisateurs de tous âges vivent une expérience sûre et positive sur Roblox.
- Nous innovons continuellement nos vastes systèmes de sécurité, qui combinent une modération IA de pointe avec l'expertise de milliers de professionnels formés.
- Lorsque ces systèmes détectent les premiers signes d'une activité illicite, de menaces violentes ou d'autres préjudices de la vie réelle, nous enquêtons et, le cas échéant, prenons les mesures de mise en application appropriées, y compris la déclaration à l'application de la loi.
La sécurité est fondamentale pour tout ce que nous faisons chez Roblox—notre plateforme a été construite pour tous les âges, y compris les utilisateurs de moins de 13 ans, dès le début. Notre approche comprend une infrastructure de sécurité à grande échelle et une surveillance de la part de milliers de personnes à travers le monde consacrées à la sécurité. Roblox est aussi un endroit fondamentalement différent du reste de l'Internet. Nous exigeons la vérification de l'âge pour le chat non filtré entre les utilisateurs. Tous les autres chats, y compris les discussions publiques, sont agressivement filtrés et conçus pour empêcher le partage d'informations personnellement identifiables, y compris les numéros de téléphone, les noms d'utilisateur et les liens vers d'autres plateformes en ligne.
Dans le cadre de nos systèmes de modération proactifs, nous utilisons une détection avancée et des protocoles de réponse rapide pour signaler des activités illicites potentielles, des menaces violentes ou d'autres dangers dans la vie réelle aux forces de l'ordre. Nous nous concentrons sur l'innovation sans relâche et notre travail en matière de sécurité n'est jamais fini. Ce partenariat avec les forces de l'ordre—que nous sommes fiers de mettre en avant alors que Roblox participe à la 37e édition annuelle de la Conférence sur les crimes contre les enfants (CACC) cette semaine—fait partie de nos efforts approfondis et multiformes pour aider à garantir la sécurité des utilisateurs.
Nos mesures de sécurité rigoureuses peuvent frustrer les mauvais acteurs et les pousser à opérer sur d'autres plateformes. C'est positif - nous ne voulons pas qu'ils soient sur Roblox - mais nous savons aussi que de nombreux utilisateurs sont actifs sur plusieurs plateformes et nous voulons contribuer à leur sécurité même lorsqu'ils ne sont pas sur Roblox. C'est l'une des nombreuses raisons pour lesquelles nous collaborons avec les forces de l'ordre à travers le monde, tout en veillant à protéger la vie privée de nos utilisateurs. En aidant à identifier et à perturber les acteurs malveillants, nous cherchons à aider les forces de l'ordre à faire le lien entre les plateformes pour approfondir les enquêtes et intervenir lorsqu'il y a lieu.
Travailler avec les forces de l'ordre
Participer à des conférences d’application de la loi telles que la CACC n’est qu’une des façons dont nous nous associons à l’application de la loi pour aider les utilisateurs de Roblox à assurer la sécurité. Grâce à une action vigoureuse de sensibilisation à l'échelle mondiale, nous avons noué des relations profondes et durables avec les services chargés de l'application de la loi aux niveaux international, fédéral, national et local. Nous partageons les meilleures pratiques et les enseignements, fournissons des directives claires sur la manière dont les forces de l'ordre peuvent nous contacter via notre portail pour les forces de l'ordre, détaillons les types de documents qui pourraient être disponibles en réponse à des demandes légales valides, et cherchons activement l'avis des forces de l'ordre sur les questions de sécurité. Nous disposons également d'équipes internes spécialisées qui travaillent 24 heures sur 24 pour répondre aux demandes des forces de l'ordre, enquêter sur les menaces pesant sur la sécurité des plateformes et transmettre les menaces graves aux forces de l'ordre compétentes.
Nous maintenons des canaux de communication directs avec des organisations, telles que le FBI et le National Center for Missing and Exploited Children (NCMEC), pour l'escalade immédiate des menaces sérieuses que nous identifions. Nous signalons proactivement au NCMEC, le contenu potentiellement nocif, qui est l'entité déclarante désignée pour les fournisseurs de services publics et électroniques en ce qui concerne les cas d'exploitation sexuelle présumée d'enfants. En 2024, nous avons soumis les rapports 24 522 au NCMEC (0,12 % des 20,3 millions de rapports totaux soumis au NCMEC).
De plus, en collaboration avec NCMEC et les forces de l'ordre, nous avons pris des mesures spécifiques pour améliorer l'actionabilité de nos rapports NCMEC, comme inclure des informations clés concernant les facteurs aggravants ou les préoccupations d'imminence. Ces mesures permettent au NCMEC et aux services répressifs de trier et d'enquêter plus facilement sur nos signalements. En outre, nous faisons remonter de manière proactive les menaces potentielles pour la sécurité (telles que le terrorisme, l'extrémisme violent ou les menaces individuelles de violence) grâce à une intégration avec le FBI, qui est conçu pour traiter les rapports provenant de plateformes comme la nôtre. Dans tous ces cas, nos équipes internes spécialisées sont prêtes à intervenir 24 heures sur 24, 7 jours sur 7, pour aider les autorités policières à mener à bien les enquêtes qui en découlent.
Collaboration étendue
Ce défi n'est pas un défi unique à Roblox. Nous sommes en communication constante avec d'autres plates-formes, des organisations non gouvernementales et des consortiums universitaires/industriels qui travaillent à trouver des solutions pour contrecarrer les mauvais acteurs. Nous sommes un membre actif de la Tech Coalition, une communauté d'entreprises technologiques travaillant ensemble pour protéger les enfants en ligne, depuis 2018. Nous avons rejoint Lantern en tant que membre fondateur en 2023. Ce programme de partage de signaux entre plateformes, le premier du genre, permet aux entreprises participantes de partager des informations et de prendre des mesures à l'encontre des mauvais acteurs qui se déplacent d'une plateforme à l'autre. Nous avons également rejoint l'initiative Robust Open Online Safety Tools (ROOST) en tant que partenaire fondateur pour partager de nouvelles technologies de sécurité qui peuvent faire avancer l'industrie dans son ensemble, en commençant par notre classificateur de sécurité vocal.
En plus de ces organisations, nous collaborons avec les décideurs sur des initiatives clés en matière de sécurité des enfants, des législations et d'autres efforts. Nous avons été la première et l'une des seules entreprises à soutenir la loi sur le design adapté à l'âge en Californie pour protéger les informations des jeunes utilisateurs. Et nous avons signé une lettre de soutien à la Californie le projet de loi 933 (SB 933), qui met à jour les lois pour interdire expressément les contenus liés à l'abus sexuel impliquant des enfants générés par l'AI.
Groupes de vigilance
Les professionnels de l'application de la loi sont les mieux placés pour enquêter sur les crimes potentiels. Par conséquent, nous voulons nous assurer que toutes les violations sur Roblox sont signalées et traitées par les voies appropriées.
Malheureusement, il y a des cas de groupes d'autodéfense ou d'individus qui violent nos politiques pour piéger les utilisateurs ou pour autopolitiser la plateforme. Bien que ces groupes semblent avoir l'intérêt du public à cœur, ils agissent en fait d'une manière qui pourrait être préjudiciable à d'autres personnes, à la fois sur notre plateforme et en dehors. Par exemple, leurs efforts peuvent laisser les mauvais utilisateurs sur la plateforme plus longtemps, simplement pour créer du contenu plus sensationnel sur les médias sociaux.
Les mesures prises par les groupes de vigilance augmentent le risque qu'un plus grand nombre d'utilisateurs soient exposés aux mauvais acteurs et peuvent retarder les efforts d'application de la loi par Roblox et les forces de l'ordre. Tout compte, y compris ceux de groupes de vigilance ou d'individus, pris en flagrant délit de violation de nos politiques s'exposera à des conséquences pouvant aller jusqu'à la suppression et au bannissement, si cela est justifié. Nous appliquons nos politiques conformément à nos Normes communautaires et à nos Nous encourageons tout utilisateur qui croit qu'un crime a été commis à contacter directement la police locale. Comme décrit ci-dessus, nous travaillons régulièrement en étroite collaboration avec les forces de l'ordre, et lorsque celles-ci nous contactent, nous nous coordonnons avec elles dans toute la mesure du possible. Users can also report potential child sexual exploitation directly to NCMEC’s CyberTipline. En plus de notre travail avec les forces de l'ordre, nous avons mis en place un Programme des surveillants de confiance, où des partenaires proches et de confiance peuvent nous signaler des activités criminelles potentielles graves (comme le terrorisme, l'extrémisme violent ou l'exploitation des enfants). Nous examinons rapidement ces rapports et, le cas échéant, nous prenons des mesures en conséquence. Nous cherchons toujours à étendre ce programme et nous accueillons volontiers les entités intéressées. Sur la plateforme, nous fournissons un outil robuste de signalement des abus qui permet à n'importe lequel de nos plus de 100 millions d'utilisateurs actifs quotidiens de signaler un comportement inapproprié sur Roblox afin qu'il soit examiné et fasse éventuellement l'objet d'une enquête. Nous améliorons continuellement cette interface pour qu'il soit plus facile pour les utilisateurs de saisir toutes les informations nécessaires, ce qui permet à nos équipes de sécurité d'évaluer les violations potentielles plus rapidement et avec plus de précision. Nous savons que ce travail crucial n'est jamais terminé. Nous continuerons à agir sur tous les fronts pour améliorer la sécurité en ligne, y compris en collaborant avec les décideurs sur des lois qui protègent les enfants et les adolescents, en collaborant avec les autorités publiques et à travers l'industrie pour partager des retours d'expérience, en soutenant les enquêtes des forces de l'ordre et en améliorant nos propres systèmes de sécurité pour aider à protéger les utilisateurs sur Roblox.Méthodes de signalements appropriées