Gründungspartner einer neuen Open-Source-Initiative zu werden, ist der Schlüssel zu unserem Ansatz für Online-Sicherheit

• KI ist grundlegend für unseren Sicherheitsansatz bei Roblox geworden, und wir wenden unsere Modelle auf Text- und Sprachkommunikation, Bilder sowie 3D-Modelle und -Meshes an.

• Die Sicherheit unserer Nutzer, insbesondere der jüngsten, ist seit jeher unsere oberste Priorität. Daher investieren wir kontinuierlich in unsere Sicherheitssysteme und entwickeln sie weiter.

• Zur Open-Source-Community beizutragen ist uns wichtig. Und wir stärken unsere Rolle als führendes Unternehmen im Bereich Sicherheitstechnologie durch die Gründungspartnerschaft mit ROOST, einer neuen gemeinnützigen Organisation, die sich der digitalen Sicherheit verschrieben hat und Open-Source-Sicherheitstools entwickelt.

• Zusätzlich veröffentlichen wir eine neue Version unseres Voice Safety Classifier Modells (ein Modell mit 94 Millionen Parametern, das täglich bis zu 400.000 Stunden aktive Sprache auf unserer Plattform verarbeitet) als Open Source. Weitere Open-Source-Sicherheits-KI-Modelle sind in Planung.

Sicherheit und ein respektvoller Umgang miteinander sind seit der Gründung von Roblox vor fast zwei Jahrzehnten ein zentraler Bestandteil unserer Werte. Der Aufbau von Systemen, die Sicherheit für alle gewährleisten, ist eine bedeutende Aufgabe, besonders in unserem globalen Maßstab und angesichts der unterschiedlichen Arten von Inhalten, die wir unterstützen. Deshalb investieren wir stark in Infrastruktur, KI und Personal. Mit Hunderten von Modellen in Produktion wird fast jede Interaktion auf Roblox in irgendeiner Weise durch KI unterstützt.

Im vierten Quartal 2024 haben unsere Nutzer mehr als 300 Milliarden Inhalte hochgeladen, darunter Videos, Audio, Text, Sprachchat, Avatare und 3D-Erlebnisse. Dennoch wurden lediglich 0,01 % der Inhalte als Richtlinienverstöße identifiziert, und ein Großteil davon wurde aufgrund proaktiver Moderation nicht von Benutzern gesehen. Wir haben außerdem grundlegende Hochleistungs-KI entwickelt, um unser gesamtes Spektrum an Inhalten und Kommunikationsmodalitäten sicher zu halten. Diese Modelle verarbeiten täglich mehr als 4 Milliarden Textnachrichten mit nur wenigen Millisekunden Latenz sowie Millionen von Sprachstunden und Inhalten. Wir haben uns der Erkennung schädlicher Inhalte und der Durchführung von Moderationsentscheidungen in großem Maßstab verschrieben.

Sicherheit ist ein Thema, das über Roblox hinausgeht. Während wir unsere Benutzer auf unserer Plattform schützen können, haben wir außerhalb von Roblox nur begrenzte Möglichkeiten. Tatsächlich stehen Internetunternehmen weltweit vor diesen Herausforderungen, wenn ihre Benutzer von einer Plattform zur anderen wechseln. Daher haben wir im Laufe der Jahre eine führende Rolle bei der Förderung von Praktiken für Online-Sicherheit und anständigen Umgang miteinander übernommen, indem wir Organisationen wie dem Family Online Safety Institute und der Tech Coalition beigetreten sind.

Jetzt sind wir stolz darauf, unsere Führungsposition im Bereich Online-Sicherheit auszubauen, indem wir – gemeinsam mit Google, OpenAI, Discord und anderen – Gründungspartner von ROOST (Robust Open Online Safety Tools) werden. Diese neue gemeinnützige Organisation widmet sich wichtigen Bereichen der digitalen Sicherheit – insbesondere dem Schutz von Kindern im Internet – indem sie skalierbare, interoperable und robuste Sicherheitstools entwickelt, die für das KI-Zeitalter geeignet sind.

ROOST wird kostenlose Open-Source-Sicherheitsressourcen entwickeln, pflegen und verbreiten, die öffentliche und private Organisationen jeder Größe – von denen viele keinen Zugang zu grundlegender Sicherheitstechnologie haben – nutzen können, um ihre Systeme zum Schutz ihrer Nutzer zu verbessern. Dadurch können sie sich stärker auf das Wachstum ihres Geschäfts konzentrieren.

Wir freuen uns, einen Beitrag zur Verbesserung der Sicherheit im Internet leisten zu können, und werden daher auch als Co-Vorsitzende des Technologie-Beirats von ROOST fungieren. Dadurch erhalten wir die Möglichkeit, unsere Erkenntnisse zu teilen und die Arbeit und die technische Strategie der Organisation mitzugestalten und zu unterstützen.

Die Gründungspartnerschaft mit ROOST ermöglicht es uns, auf die Expertise der ROOST-Community im Bereich Machine Learning zurückzugreifen, um die Sicherheitstechniken, die wir sowohl nutzen als auch teilen, weiterzuentwickeln. Das ist besonders spannend, da ROOST sich auf drei zentrale Bereiche der Online-Sicherheit konzentriert, die für Roblox und andere Online-Plattformen geschäftskritisch sind. Dies umfasst unter anderem:

• Die Verbesserung der Kindersicherheit, einschließlich der Entwicklung stärkerer Klassifikatoren für Material über sexuellen Kindesmissbrauch (CSAM)

• Der Aufbau einer besseren Sicherheitsinfrastruktur, wie z.B. Überprüfungskonsolen, heuristische Systeme sowie das Sammeln und Kuratieren von mehr Trainingsbeispielen, die statistische Stichprobennahme, Kennzeichnung und Schulung von Mitarbeitern für diese Anwendungsfälle

• Die Entwicklung von inhaltlichen Schutzmaßnahmen, die auf großen Sprachmodellen (LLM) basieren und KI nutzen, um Moderatoren zu schulen und sie bei der Durchsetzung von Richtlinien zu unterstützen

"Die Tatsache, dass ein global führendes Unternehmen im Bereich Online-Sicherheit wie Roblox sich ROOST als Gründungspartner anschließt, ist eine enorme Chance für uns", sagte Eli Sugarman, der stellvertretende Vorstandsvorsitzende von ROOST. "Aufgrund seines nachgewiesenen Engagements für Open-Source-Sicherheit ist Roblox in einer hervorragenden Position, seinen innovativen Ansatz zum Schutz der gesamten Online-Community zu teilen."

Dies ist ein bedeutender Moment für die gesamte Online-Community, und unsere Arbeit an Open-Source-Tools ist ein wesentlicher Bestandteil davon. Wir sind davon überzeugt, dass Transparenz und Offenheit die Grundlage für KI bilden sollten, und wir sehen uns als einen wichtigen Akteur in der Open-Source-KI-Community.

Die Bereitstellung von Technologie für die Open-Source-Community

Die Gründungspartnerschaft mit ROOST ist eine logische Konsequenz unseres Engagements für Open-Source-Technologie. Diese Reise begann für uns im letzten Jahr, als wir unsem Voice Safety Classifier Modell als Open Source veröffentlicht haben. Dieses Modell ist in der Lage, Richtlinienverstöße bei Millionen von Minuten Sprachaktivität pro Tag genauer zu erkennen als menschliche Moderatoren. Seitdem haben es fast 22.000 Nutzer heruntergeladen.

Wir haben jetzt eine aktualisierte Version dieses Modells im Einsatz, die sieben neue Sprachen unterstützt – Spanisch, Deutsch, Französisch, Portugiesisch, Italienisch, Koreanisch und Japanisch – und neue Techniken anwendet, die das Modell effektiver machen. Diese Neuerungen umfassen eine Curriculum-Trainingsarchitektur für die Feinabstimmung menschlicher Kennzeichnungen, die Erweiterung der Erkennung von Missbrauchsfällen sowie die Integration effizienterer Schichten für die Merkmalsextraktion und Zeitreduktion. Wir planen, die neue Modellversion bis Ende des ersten Quartals 2025 als Open Source zu veröffentlichen. Wir planen außerdem, im Laufe des Jahres Klassifizierungsmodelle für andere Modalitäten als Open Source zu veröffentlichen.

Die Veröffentlichung von Tools als Open Source ist ein integraler Bestandteil unserer Identität und unseres Engagements, sowohl im Bereich der Sicherheit als auch im Bereich der Kreation. Im letzten Jahr haben wir beispielsweise unser 3D Foundational Model vorgestellt, das Entwicklern dabei helfen wird, viele verschiedene Arten von Tools zur automatischen Generierung in ihre Erlebnisse zu integrieren.

Wir freuen uns sehr, ein Gründungspartner der ROOST-Community zu sein, und wir haben uns zum Ziel gesetzt, mit anderen führenden Unternehmen der Branche zusammenzuarbeiten und alles in unserer Macht Stehende zu tun, um das Internet zu einem sichereren Ort zu machen.