So arbeitet Roblox mit den Strafverfolgungsbehörden zusammen

• Über 100 Millionen Nutzer aller Altersgruppen erleben täglich ein sicheres und positives Umfeld auf Roblox.
• Wir entwickeln unsere umfangreichen Sicherheitssysteme kontinuierlich weiter. Sie kombinieren modernste KI-Moderation mit der Expertise von Tausenden geschulter Fachkräfte.
• Wenn diese Systeme frühe Anzeichen für mögliche illegale Aktivitäten, Gewaltandrohungen oder andere reale Schäden erkennen, gehen wir der Sache nach und ergreifen bei Bedarf geeignete Maßnahmen – bis hin zur Meldung an die Strafverfolgungsbehörden.

Sicherheit ist die Grundlage von allem, was wir bei Roblox tun – unsere Plattform wurde von Anfang an für alle Altersgruppen, einschließlich Nutzern unter 13 Jahren, entwickelt. Unser Ansatz umfasst eine groß angelegte Sicherheitsinfrastruktur und die Aufsicht von Tausenden von Menschen weltweit, die sich der Sicherheit widmen. Roblox ist zudem ein grundlegend anderer Ort als der Rest des Internets. Für ungefilterte Chats zwischen Nutzern verlangen wir eine Altersverifizierung. Alle anderen Chats, inklusive öffentlicher Diskussionen, werden streng gefiltert, um die Weitergabe persönlicher Daten wie Telefonnummern, Nutzernamen und Links zu externen Plattformen zu unterbinden.

Im Rahmen unserer proaktiven Moderationssysteme setzen wir auf fortgeschrittene Erkennungs- und schnelle Reaktionsprotokolle, um potenzielle illegale Handlungen, Gewaltandrohungen oder andere reale Schäden an die Strafverfolgungsbehörden zu melden. Wir konzentrieren uns auf unermüdliche Innovation, und unsere Arbeit an der Sicherheit ist nie abgeschlossen. Diese Partnerschaft mit den Strafverfolgungsbehörden – die wir anlässlich der dieswöchigen 37. jährlichen Crimes Against Children Conference (CACC) hervorheben – ist ein wesentlicher Bestandteil unseres umfassenden Ansatzes zum Schutz unserer Nutzer.

Unsere strengen Sicherheitsvorkehrungen können Übeltäter abschrecken und sie auf andere Plattformen ausweichen lassen. Dies ist ein positives Ergebnis, denn wir wollen sie nicht auf Roblox. Wir sind uns aber bewusst, dass viele unserer Nutzer auf mehreren Plattformen aktiv sind, und wir möchten auch außerhalb von Roblox zu ihrer Sicherheit beitragen. Dies ist ein Hauptgrund für unsere weltweite Zusammenarbeit mit den Strafverfolgungsbehörden, wobei wir stets den Schutz der Privatsphäre unserer Nutzer gewährleisten. Indem wir helfen, Übeltäter zu identifizieren und zu stören, möchten wir die Strafverfolgungsbehörden dabei unterstützen, die Zusammenhänge zwischen den Plattformen herzustellen, um weiter zu ermitteln und, wo angebracht, einzugreifen.

Die Teilnahme an Konferenzen wie der CACC ist nur ein Aspekt unserer Kooperation mit Strafverfolgungsbehörden zur Gewährleistung der Nutzersicherheit auf Roblox. Durch unseren globalen Austausch haben wir vertrauensvolle Beziehungen zu Behörden auf allen Ebenen aufgebaut. Wir teilen bewährte Verfahren und Erkenntnisse, geben klare Anleitungen, wie uns die Strafverfolgungsbehörden über unser Portal kontaktieren können, erläutern die Arten von Aufzeichnungen, die als Reaktion auf gültige rechtliche Anfragen zur Verfügung stehen könnten, und holen aktiv die Meinung der Strafverfolgungsbehörden zu Sicherheitsfragen ein. Zusätzlich haben wir spezialisierte interne Teams, die rund um die Uhr Anfragen der Strafverfolgungsbehörden bearbeiten, Sicherheitsbedrohungen auf der Plattform untersuchen und ernsthafte Bedrohungen an die zuständigen Behörden weiterleiten.

Wir unterhalten direkte Kommunikationskanäle mit Organisationen wie dem FBI und dem National Center for Missing and Exploited Children (NCMEC), um schwerwiegende Bedrohungen, die wir identifizieren, sofort zu eskalieren. Wir melden potenziell schädliche Inhalte proaktiv an das NCMEC, die zuständige Meldestelle für die Öffentlichkeit und elektronische Dienstleister bei Verdacht auf sexuelle Ausbeutung von Kindern. Im Jahr 2024 haben wir 24.522 Berichte an das NCMEC übermittelt (das sind 0,12 % der 20,3 Millionen Berichte, die insgesamt bei der Organisation eingegangen sind).

Darüber hinaus haben wir in Zusammenarbeit mit NCMEC und den Strafverfolgungsbehörden spezifische Schritte unternommen, um die Umsetzbarkeit unserer NCMEC-Berichte zu verbessern, z. B. durch die Aufnahme wichtiger Informationen zu erschwerenden Umständen oder unmittelbaren Bedenken. Diese Maßnahmen erleichtern es NCMEC und den Strafverfolgungsbehörden, unsere Berichte effizienter zu priorisieren und zu untersuchen. Darüber hinaus eskalieren wir potenzielle Sicherheitsbedrohungen (wie Terrorismus, gewalttätigen Extremismus oder individuelle Gewaltandrohungen) proaktiv über eine Schnittstelle zum FBI, die speziell für die Bearbeitung von Meldungen aus unserer Art von Plattform konzipiert wurde. In all diesen Fällen stehen unsere internen Teams rund um die Uhr bereit, um die Strafverfolgungsbehörden bei allen daraus resultierenden Ermittlungen weiter zu unterstützen.

Die angesprochenen Herausforderungen bestehen nicht exklusiv für Roblox. Wir pflegen einen kontinuierlichen Austausch mit anderen Plattformen, Nichtregierungsorganisationen sowie akademischen und Branchenkonsortien, um Lösungen zur Abwehr von Übeltätern zu entwickeln. Seit 2018 sind wir aktives Mitglied der Tech Coalition, einem Verbund von Technologieunternehmen, die sich dem Online-Kinderschutz verschrieben haben. 2023 sind wir als Gründungsmitglied dem Lantern-Projekt beigetreten. Dieses wegweisende, plattformübergreifende Signal-Sharing-Programm ermöglicht es den teilnehmenden Unternehmen, Informationen über Übeltäter, die zwischen Plattformen wechseln, auszutauschen und daraufhin zu handeln. Zudem sind wir Gründungspartner der Initiative Robust Open Online Safety Tools (ROOST), um neue Sicherheitstechnologien – beginnend mit unserem Sprach-Sicherheits-Klassifikator – zu teilen und so die gesamte Branche voranzubringen.

Abgesehen von diesen Organisationen kooperieren wir auch mit politischen Entscheidungsträgern bei zentralen Initiativen und Gesetzesvorhaben zum Thema Kindersicherheit. Wir waren die erste und eine der wenigen Unternehmen, die den California Age-Appropriate Design Code Act befürworteten, um die Informationen junger Nutzer zu schützen. Zudem haben wir unsere Unterstützung für den California Senate Bill 933 (SB 933) bekundet, der staatliche Gesetze aktualisiert, um die Erstellung von KI-generiertem Material über sexuellen Kindesmissbrauch explizit zu verbieten.

Ermittlungsbeamte sind am besten dafür qualifiziert, potenzielle Straftaten zu untersuchen. Aus diesem Grund ist es uns ein Anliegen, dass Verstöße auf Roblox ausschließlich über die korrekten Kanäle gemeldet und verfolgt werden.

Leider gibt es Fälle, in denen sogenannte Bürgerwehr-Gruppen oder Einzelpersonen unsere Richtlinien verletzen, um Nutzer in die Falle zu locken oder die Plattform auf eigene Faust zu überwachen. Obwohl diese Gruppen scheinbar im Interesse der Öffentlichkeit handeln, verstoßen sie gegen unsere Richtlinien und können anderen schaden, sowohl auf als auch außerhalb unserer Plattform. Beispielsweise kann ihr Verhalten dazu führen, dass Übeltäter länger auf der Plattform agieren, nur um daraus aufsehenerregenden Content für soziale Medien zu generieren.

Maßnahmen von Bürgerwehr-Gruppen erhöhen das Risiko, dass mehr Nutzer Übeltätern ausgesetzt sind, und können die Bemühungen von Roblox und den Strafverfolgungsbehörden verzögern. Jedes Konto, einschließlich das von Bürgerwehr-Gruppen oder Einzelpersonen, das gegen unsere Richtlinien verstößt, muss mit Konsequenzen rechnen, einschließlich der Entfernung und Sperrung, wo dies gerechtfertigt ist. Wir setzen unsere Richtlinien gemäß unseren Community-Regeln und den allgemeinen Nutzungsbedingungen durch.

Anstatt die Sache selbst in die Hand zu nehmen, ermutigen wir die Community, unangemessenes Verhalten direkt an Roblox oder die Strafverfolgungsbehörden zu melden. Dafür gibt es die einfachen Methoden, die unten aufgeführt sind.

Wir legen es der Community ans Herz, sich direkt an die örtlichen Strafverfolgungsbehörden zu wenden, wenn eine Straftat vermutet wird. Wie bereits erwähnt, kooperieren wir eng mit den Behörden. Sobald sie uns kontaktieren, unterstützen wir sie im vollen Umfang. Users can also report potential child sexual exploitation directly to NCMEC’s CyberTipline.

Zusätzlich zu unserer Arbeit mit den Strafverfolgungsbehörden haben wir ein Trusted Flagger-Programm eingerichtet. Darüber können enge und vertrauenswürdige Partner potenzielle schwere kriminelle Aktivitäten (wie Terrorismus, gewalttätigen Extremismus oder Kindesausbeutung) an uns melden. Wir überprüfen diese Berichte umgehend und ergreifen bei Bedarf entsprechende Maßnahmen. Wir sind stets bestrebt, dieses Programm zu erweitern, und begrüßen Anfragen von interessierten Stellen.

Auf der Plattform stellen wir ein leistungsstarkes Tool zur Meldung von Verstößen bereit. Damit kann jeder unserer über 100 Millionen täglich aktiven Nutzer unangemessenes Verhalten auf Roblox zur Überprüfung und möglichen Untersuchung melden. Wir verbessern diese Benutzeroberfläche kontinuierlich, um es Nutzern einfacher zu machen, alle notwendigen Informationen zu erfassen. Das ermöglicht unseren Sicherheitsteams, potenzielle Verstöße schneller und genauer zu bewerten.

Wir wissen, dass diese entscheidende Arbeit niemals abgeschlossen ist. Wir werden weiterhin an allen Fronten vorantreiben, um die Online-Sicherheit zu verbessern, einschließlich der Zusammenarbeit mit politischen Entscheidungsträgern an Gesetzen, die Kinder und Teenager schützen, der Kooperation mit Behörden und der gesamten Branche zum Austausch von Feedback, der Unterstützung von Ermittlungen der Strafverfolgungsbehörden und der Verbesserung unserer eigenen Sicherheitssysteme, um die Nutzer auf Roblox zu schützen.