Netiquette und Sicherheit für alle Benutzer:innen

Roblox hat fast zwei Jahrzehnte lang daran gearbeitet, die Plattform zu einer der sichersten Online-Umgebungen für unsere Benutzer:innen zu machen, insbesondere für die jüngsten Benutzer:innen. Unsere Vision ist es, die Community mit dem allergrößten Maß an Sicherheit und Netiquette auf der Welt zu schaffen.

Während sich unsere Plattform weiterentwickelt und vergrößert, um eine neue Zukunft für Kommunikation und Verbindung zu schaffen, stellen unsere Investitionen in präventive Sicherheitsmaßnahmen nach wie vor die Grundlage dar. Nur so können wir Online-Erlebnisse mit Sicherheit und Netiquette bieten und darin die Besten der Welt sein. Jedes Jahr implementieren wir neue Strategien und Technologien, um die Geschwindigkeit und Effektivität unserer Sicherheits- und Moderationssysteme zu erhöhen.

Jeden Tag machen Millionen von Menschen aller Altersgruppen sichere und positive Erfahrungen auf Roblox, indem sie sich an unsere Community-Regeln halten. Wie aus unserem jüngsten jährlichen Transparenzbericht hervorgeht, haben Roblox-Benutzer:innen insgesamt etwa 205 Milliarden Inhalte auf die Roblox-Plattform hochgeladen, die alle von unseren Moderationstools überprüft wurden. Nur 0,0063% dieser Inhalte wurden von unseren Erkennungs- und Meldesystemen als Verstoß gegen unsere Richtlinien zu Themen wie Mobbing, Hassreden und gewalttätigem Extremismus erkannt. Es ist kein Zufall, dass unsere Richtlinien deutlich strenger sind als die von sozialen Netzwerken und Plattformen für benutzergenerierte Inhalte und alles abdecken, von Kraftausdrücken bis hin zu Werberichtlinien.

Wir messen kontinuierlich eine Vielzahl interner Kennzahlen – sowohl mit automatischen als auch mit menschlichen Systemen – die von Mobbing bis zu unangemessener Sprache reichen. Dieser Ansatz leitet uns bei unserer Arbeit, die Interaktionen mit höchstem Maß an Sicherheit und Netiquette im Internet zu fördern, und bedeutet, dass wir sagen können, dass Sicherheitsprobleme auf Roblox nicht weit verbreitet oder systemisch sind. Und das Engagement für diese Arbeit ist entscheidend – wir sind alle selbst Teil von Familien und wissen, dass schon ein einziger Vorfall, der die Gesundheit oder Sicherheit von Kindern betrifft, schrecklich ist. Wir fühlen mit den Familien und Einzelpersonen, die davon betroffen sind, sehr mit.

Wir haben eine Plattform entwickelt, die auf Sicherheit beruht

Jedes Team bei Roblox trägt dazu bei, dass die Produkte unter dem Aspekt der Sicherheit entwickelt werden. Zusätzlich zu den 10% unserer Vollzeitbeschäftigten und Tausenden von Auftragnehmer:innen, die sich ausschließlich um Vertrauen und Sicherheit kümmern, arbeiten Hunderte von Roblox-Mitarbeiter:innen an der Entwicklung und Verbesserung der Technologie, auf die sich unser Vertrauens- und Sicherheitsteam stützt. Darüber hinaus ist unsere Führung darauf bedacht, dass diese Teams immer mit den richtigen Ressourcen ausgestattet sind. Wir geben jedes Jahr Hunderte von Millionen Dollar aus, um unseren eigenen Sicherheitsauftrag zu erfüllen.

Unsere jüngsten Fortschritte in der KI haben die Sicherheit auf Roblox verbessert. Große Sprachmodelle, multimodale KI und maßgeschneiderte Modelle, die Sicherheitsprobleme in gesprochener Sprache erkennen, haben die Genauigkeit und Effizienz der Moderation erhöht. Um die Integrität unserer Bemühungen zu gewährleisten, setzen wir KI-gestützte Automatisierung erst dann ein, wenn wir gezeigt haben, dass sie in großem Maßstab genauere Ergebnisse als Menschen liefert. Die KI hat zwar einen Teil der menschlichen Arbeit automatisiert, aber sie hat es unseren Mitarbeiter:innen auch ermöglicht, sich auf komplexere Überprüfungen zu konzentrieren, z. B. auf die Durchsetzung unserer Richtlinie, die das Ansprechen von Minderjährigen in Missbrauchsabsicht und das Erfragen ihrer personenbezogenen Daten verbietet.

Wir verfolgen einen mehrschichtigen und vernetzten Ansatz für die Sicherheit

• Wichtige Aktualisierungen und Funktionen werden einem strengen „Trust by Design“-Prozess unterzogen, um Feedback einzuholen und potenzielle Sicherheitsprobleme schon vor der Entwicklung zu erkennen.
• Wir moderieren proaktiv die gesamte Kommunikation auf der Plattform durch eine Kombination aus KI und menschlicher Überprüfung. Sollten wir Anzeichen für einen ernstzunehmenden Schaden feststellen, werden sie an unser Untersuchungsteam weitergeleitet.
• Unangemessene Wörter und Ausdrücke werden mithilfe strenger, branchenführender automatischer Filter aus der gesamten Textkommunikation herausgefiltert.
• Unser Sprachkommunikationssystem gibt Benutzer:innen, die gegen unsere Richtlinien verstoßen, Echtzeit-Feedback. Dies hat dazu geführt, dass das Verhalten auf Roblox deutlich rücksichtsvoller geworden ist.
• Für Benutzer:innen unter 13 Jahren blockieren unsere Filter die Weitergabe von personenbezogenen Daten und den Versuch, Unterhaltungen abseits von Roblox zu führen, wo die Sicherheitsstandards und die Moderation weniger streng sind.
• Wir erlauben es Benutzer:innen nicht, Bilder oder Videos über Sprach- oder Textnachrichten auf Roblox auszutauschen.
• Alle Inhalte, die auf Roblox hochgeladen werden, einschließlich Bilder, Video- und Audiodateien, 3D-Modelle und Texte, durchlaufen einen umfassenden Überprüfungsprozess mit multimodaler KI, die durch Menschen ergänzt wird.
• Unser Sicherheitsteam tauscht sich ständig mit allen Bereichen im Unternehmen aus, um die Sicherheit unserer Plattform und Produkte zu verbessern.

Wir stellen sicher, dass die Benutzer:innen einfachen und beständigen Zugang zu Funktionen haben, die es ihnen ermöglichen, Inhalte zu melden, die beleidigend, vulgär oder anderweitig unangemessen für unsere Online-Community sind. Die Funktion „Missbrauch melden“, die überall auf Roblox – auch in den Erlebnissen – zu finden ist, ermöglicht es den Benutzer:innen, unangemessene Inhalte oder Verhaltensweisen zu melden, und wir ermutigen unsere Benutzer:innen, sie zu nutzen.

Eltern können Online-Chat-Funktionen einschränken oder deaktivieren, den Zugang zu Erlebnissen anhand von Altersempfehlungen anpassen und Optionen für Ausgabenlimits auswählen. Das Feedback von Benutzer:innen, Eltern und anderen Mitgliedern unserer Community ist eines der besten Werkzeuge, um unsere Produkte zu verbessern. Wir suchen ständig nach neuen Wegen, um unsere Kindersicherungssysteme zu aktualisieren und noch nutzbringender zu machen.

Wir sind zutiefst bestrebt die branchenweite Herausforderung der Online-Sicherheit anzugehen

Online-Sicherheit und Netiquette – insbesondere die Sicherheit junger Benutzer:innen – ist ein branchenweites Thema, bei dem wir aktiv mit den Strafverfolgungsbehörden, wichtigen Branchenorganisationen und politischen Entscheidungsträgern zusammenarbeiten. Wir sind uns dessen bewusst, dass es da draußen böswillige Akteure gibt, und wir sind zutiefst beunruhigt über alle Berichte über die Gefährdung von Kindern. Aus diesem Grund war Roblox zum Beispiel das erste von den wenigen Unternehmen, die den California Age-Appropriate Design Code Act unterstützt haben, und hat vor kurzem ein Unterstützungsschreiben für die California Bill SB 933 unterzeichnet, die die Gesetze des Bundesstaates aktualisiert, um KI-generiertes Material zum sexuellen Missbrauch von Kindern ausdrücklich zu verbieten.

Wir arbeiten mit den Strafverfolgungsbehörden zusammen, um Straftäter aufzuspüren

Im Laufe der Jahre haben wir enge und dauerhafte Beziehungen zu den Strafverfolgungsbehörden auf internationaler, bundesstaatlicher und nationaler Ebene aufgebaut und tauschen uns regelmäßig zu bewährten Verfahren aus. Wir geben klare Hinweise, wie die Strafverfolgungsbehörden mit unserem Team in Kontakt treten können, einschließlich Ressourcen, die wir online zur Verfügung stellen, um die Strafverfolgungsbehörden direkt mit dem Roblox Law Enforcement Portal zu verbinden. Außerdem melden wir potenzielle Sicherheitsbedrohungen proaktiv an die Strafverfolgungsbehörden, indem wir das EXTRACT-Team des FBI einbinden, das für die Bearbeitung von Meldungen von Plattformen wie der unseren zuständig ist.

Wir melden potenziell gefährliche Inhalte proaktiv an das National Center for Missing & Exploited Children (NCMEC). Die CyberTipline des NCMEC ist ein spezieller Meldemechanismus für die Öffentlichkeit und für Anbieter elektronischer Dienste (ESPs), um Fälle von vermuteter sexueller Ausbeutung von Kindern zu melden. Im Jahr 2023 meldete Roblox 13.316 Vorfälle an NCMEC (Roblox geht auf Nummer sicher und hat daher eine niedrigere Meldeschwelle als andere Plattformen). Um das Volumen der Vorfälle auf Roblox in den richtigen Kontext zu setzen: Die CyberTipline erhielt im Jahr 2023 mehr als 35 Millionen Berichte über Vorfälle auf anderen Plattformen von anderen ESPs.

Wir bauen unsere branchenweiten Beziehungen, Forschungen und Kooperationen aus, um gemeinsam neue Lösungen zu finden

Wir kommunizieren und arbeiten auch branchenübergreifend zusammen. Da wir wissen, dass die Verbesserung von Netiquette und Sicherheit der Online-Kommunikation ein branchenweites Thema ist, stehen wir in ständigem Austausch mit anderen Plattformen, Nichtregierungsorganisationen und akademischen/industriellen Konsortien, die an Lösungen für den Umgang mit böswilligen Akteuren arbeiten. Roblox ist zum Beispiel seit 2018 ein aktives Mitglied der Tech Coalition und trat Lantern als Gründungsmitglied bei. Dieses erste plattformübergreifende Programm zum Austausch von Signalen ermöglicht es den teilnehmenden Unternehmen, Informationen auszutauschen und Maßnahmen gegen böswillige Akteure zu ergreifen, die sich von Plattform zu Plattform bewegen.

"Roblox bleibt ein geschätztes Mitglied der Tech Coalition, auch als Teil unseres Vorstands. Roblox hat in unseren Arbeitsgruppen Führungsqualitäten bewiesen und bei wichtigen branchenweiten Entscheidungen mitgewirkt, z. B. bei der Umsetzung von Lantern durch die Tech Coalition und bei der Entwicklung von Sektor-Roadmaps. Diese Arbeit hilft Roblox und der gesamten Branche, Kapazitäten aufzubauen, um sexuelle Ausbeutung und Missbrauch von Kindern im Internet zu bekämpfen."Sean Litton, Executive Director, Tech Coalition

Wir arbeiten auch daran, die Sicherheit in der gesamten Branche durch Open Source und die Zusammenarbeit mit Partnern zu verbessern. Letztes Jahr haben zum Beispiel das Digital Wellness Lab am Boston Children’s Hospital und Führungskräfte von Roblox über 100 Top-Expert:innen für Sicherheit und Netiquette aus der ganzen Welt zusammengerufen, um Ideen auszutauschen und ein Rahmenwerk für Schritte zu schaffen, die in den Bereichen Technologieinnovation, Politik und Bildung notwendig sind, um die Online-Welt zu einem wirklich sicheren und rücksichtsvollen Raum zu machen, insbesondere für junge Menschen, und um sich als Mitglieder der Civility Working Group fachübergreifend einzubringen.

Unsere enge Zusammenarbeit mit einem breiten Spektrum öffentlicher und privater Organisationen, darunter Elternvertretungen, Organisationen für psychische Gesundheit und Regierungsbehörden, verschafft uns wertvolle Einblicke in die Bedenken von Eltern, politischen Entscheidungsträgern und anderen bezüglich der Online-Sicherheit, und erlaubt es uns, unsere Erkenntnisse und technologischen Lösungen zu teilen.

Wir setzen uns auch für politische Maßnahmen ein, die mit diesen Erkenntnissen übereinstimmen und im besten Interesse der jungen Menschen liegen.

Wir wurden für unsere Initiativen in puncto Sicherheit und Netiquette von zahlreichen sicherheitsorientierten Organisationen aus Industrie und Zivilgesellschaft ausgezeichnet. Dazu gehören Save the Children, das Digital Wellness Lab, Connect Safely, das Büro des Sonderbeauftragten des Generalsekretärs der Vereinten Nationen für Gewalt gegen Kinder und das Family Online Safety Institute (FOSI).

"Schon bei unseren ersten Begegnungen mit Roblox waren wir von ihrem Engagement für die Sicherheit beeindruckt. Es geht vom CEO aus und wir hatten die Möglichkeit, über das Trust and Safety Advisory Board konstruktive Kritik zu üben. Roblox hat stets eine führende Rolle in Sachen Online-Sicherheit im Allgemeinen und bei den Richtlinien und Tools, die sie speziell für ihre Online-Communitys entwickelt haben, eingenommen."Stephen Balkam, CEO, Family Online Safety Institute

Wir werden weiterhin unermüdlich daran arbeiten, unsere Benutzer:innen zu schützen und wachsam gegenüber böswilligen Akteuren zu sein, die versuchen könnten, unsere Sicherheitssysteme zu umgehen. Und wir sind uns auch darüber im Klaren, dass diese wichtige Arbeit nie abgeschlossen ist. Wir verpflichten uns, kontinuierlich zu investieren und uns an die sich verändernde Bedrohungslage anzupassen, um die Sicherheit unserer Community zu gewährleisten. Wir arbeiten bereits an der nächsten Generation von Sicherheitstools und -funktionen, um auch in Zukunft führend in Sachen Sicherheit und Netiquette im Internet zu sein.