Cómo colabora Roblox con las fuerzas del orden

• Todos los días, más de 100 millones de usuarios de todas las edades tienen una experiencia segura y positiva en Roblox.
• Innovamos continuamente nuestros amplios sistemas de seguridad, que combinan la moderación de IA de vanguardia con la experiencia de miles de profesionales capacitados.
• Cuando estos sistemas detectan señales tempranas de posible actividad ilícita, amenazas violentas u otros daños reales, investigamos y, cuando se justifica, tomamos las medidas de aplicación adecuadas, incluida la denuncia a las fuerzas del orden.  

La seguridad es fundamental para todo lo que hacemos en Roblox: nuestra plataforma se creó para todas las edades, incluidos los usuarios menores de 13 años, desde el principio. Nuestro enfoque incluye una infraestructura de seguridad a gran escala y la supervisión de miles de personas dedicadas a la seguridad en todo el mundo. Roblox también es un lugar fundamentalmente diferente del resto de Internet. Requerimos  verificación de edad para el chat sin filtrar entre usuarios. Todos los demás chats, incluidas las discusiones públicas, se filtran de forma estricta y están diseñados para evitar el intercambio de información de identificación personal, incluidos números de teléfono, nombres de usuario y enlaces a otras plataformas en línea.

Como parte de nuestros sistemas de moderación proactiva, aprovechamos la  detección avanzada y los protocolos de respuesta rápida para denunciar posibles actividades ilícitas, amenazas violentas u otros daños reales a las fuerzas del orden. Estamos enfocados en la innovación incesante y nuestro trabajo en seguridad nunca termina. Esta asociación con las fuerzas del orden, que nos enorgullece destacar a medida que Roblox participa en la 37ª Conferencia Anual sobre Delitos contra los Niños (CACC) esta semana, es parte de nuestros esfuerzos exhaustivos y multifacéticos para ayudar a mantener a los usuarios seguros.

Nuestras estrictas medidas de seguridad pueden frustrar a los malhechores y empujarlos a operar en otras plataformas. Esto es positivo, ya que no los queremos en Roblox, pero también sabemos que muchos de nuestros usuarios están activos en varias plataformas y queremos contribuir a su seguridad incluso cuando no están en Roblox. Esa es una de las muchas razones por las que colaboramos con las fuerzas del orden en todo el mundo, a la vez que nos encargamos de proteger la privacidad de nuestros usuarios. Al ayudar a identificar y detener a los malhechores, buscamos ayudar a las fuerzas del orden a conectar los puntos entre las plataformas para investigar más a fondo e intervenir cuando corresponda.  

Una de las formas en que nos asociamos con las fuerzas del orden es participar en sus conferencias, como la CACC, con el fin de ayudar a mantener a los usuarios de Roblox seguros. A través de una divulgación intensa a nivel mundial, hemos desarrollado relaciones profundas y duraderas con las fuerzas del orden a nivel internacional, federal, estatal y local. Compartimos las mejores prácticas y aprendizajes, proporcionamos una guía clara sobre cómo las fuerzas del orden pueden comunicarse con nosotros a través de nuestro portal para las fuerzas del orden, detallamos los tipos de registros que podrían estar disponibles en respuesta a solicitudes legales válidas y buscamos activamente la opinión de las fuerzas del orden sobre asuntos de seguridad. También contamos con equipos internos dedicados que trabajan las 24 horas del día para apoyar las solicitudes de las fuerzas del orden, investigar las amenazas a la seguridad de la plataforma y escalar las amenazas graves a las fuerzas del orden apropiadas.

Mantenemos canales de comunicación directa con organizaciones, como el FBI y el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), para escalar inmediatamente las amenazas graves que identificamos. Informamos de manera proactiva el contenido potencialmente dañino al NCMEC, que es la entidad de informes designada para el público y los proveedores de servicios electrónicos con respecto a los casos de sospecha de explotación sexual infantil. En 2024, presentamos 24,522 reportes al NCMEC (0.12% del total de 20.3 millones de reportes presentados al NCMEC).

Además, en colaboración con el NCMEC y las fuerzas del orden, hemos tomado medidas específicas para mejorar la capacidad de acción de nuestros informes del NCMEC, como incluir información clave sobre factores agravantes o preocupaciones de inminencia. Estas acciones facilitan la capacidad del NCMEC y las fuerzas del orden para clasificar e investigar más fácilmente nuestros informes. Además, derivamos de manera proactiva las posibles amenazas a la seguridad (como el terrorismo, el extremismo violento o las amenazas individualizadas de violencia) a través de una integración con el FBI, que está diseñada para manejar informes de plataformas como la nuestra. En todos estos casos, nuestros equipos internos dedicados están disponibles las 24 horas del día, los 7 días de la semana, para ayudar continuamente a las fuerzas del orden con cualquier investigación resultante.

Este desafío no es exclusivo de Roblox. Estamos en constante comunicación con otras plataformas, organizaciones no gubernamentales y consorcios académicos/industriales que trabajan para encontrar soluciones para frustrar a los malhechores. Desde 2018, hemos sido un miembro activo de Tech Coalition, una comunidad de empresas de tecnología que trabajan juntas para proteger a los niños en línea. Nos unimos a Lantern como miembro fundador en 2023. Este programa de intercambio de señales entre plataformas (el primero de su clase) permite a las empresas participantes compartir información y tomar medidas contra los malhechores que se desplazan entre plataformas. También nos unimos a la iniciativa Robust Open Online Safety Tools (ROOST) como socio fundador para compartir nuevas tecnologías de seguridad que pueden ayudar a avanzar en la industria en su conjunto, comenzando con nuestro clasificador de seguridad de voz.

Además de estas organizaciones, colaboramos con los responsables de la formulación de políticas en iniciativas clave de seguridad infantil, legislación y otros esfuerzos. Fuimos la primera y una de las únicas empresas en apoyar la Ley del Código de Diseño Apropiado para la Edad de California para proteger la información de los usuarios jóvenes. Y firmamos una carta de apoyo para el Proyecto de Ley 933 del Senado de California (SB 933), que actualiza las leyes estatales para prohibir expresamente el material de abuso sexual infantil generado por IA.

Los profesionales de las fuerzas del orden están en la posición ideal para investigar posibles delitos. Por lo tanto, queremos asegurarnos de que cualquier infracción en Roblox se informe y se actúe a través de los canales adecuados.

Desafortunadamente, hay casos de grupos de vigilantes o individuos que infringen nuestras políticas para atrapar a los usuarios o autocontrolar la plataforma. Aunque pueda parecer que estos grupos velan por el interés público, en realidad están actuando de formas que podrían ser perjudiciales para otros, tanto dentro como fuera de nuestra plataforma. Por ejemplo, sus esfuerzos pueden dejar a los malhechores en la plataforma por más tiempo, solo para crear contenido de redes sociales más sensacionalista.

Las acciones tomadas por los grupos de vigilantes aumentan el riesgo de que más usuarios se expongan a malhechores y pueden retrasar los esfuerzos de aplicación de la ley tanto por parte de Roblox como de las fuerzas del orden. Cualquier cuenta, incluidas las de grupos o individuos vigilantes, que incumpla nuestras políticas se enfrentará a consecuencias que pueden llegar a incluir la eliminación y la prohibición, cuando sea necesario. Aplicamos nuestras políticas de acuerdo con nuestras Normas de la comunidad y los Términos de uso generales.

En lugar de tomar cartas en el asunto por su cuenta, animamos a la comunidad a denunciar cualquier comportamiento inapropiado directamente a Roblox o a las fuerzas del orden utilizando los métodos de denuncia sencillos que se describen a continuación.

Animamos a cualquier usuario que crea que se ha cometido un delito a que se ponga en contacto directamente con las fuerzas del orden locales. Como se describió anteriormente, colaboramos estrechamente con las fuerzas del orden y, cuando estas se ponen en contacto con nosotros, coordinamos con ellas en la medida de lo posible. Users can also report potential child sexual exploitation directly to NCMEC’s CyberTipline.

Además de nuestro trabajo con las fuerzas del orden, hemos establecido un Programa Trusted Flagger, en el que colaboradores cercanos y de confianza pueden reportarnos posibles actividades delictivas graves (como terrorismo, extremismo violento o explotación infantil). Revisamos de inmediato estos reportes y, según sea necesario, tomamos las medidas correspondientes. Siempre estamos buscando ampliar este programa y agradecemos el contacto de entidades interesadas.

En la plataforma, ofrecemos una sólida herramienta de denuncia de abusos que permite a cualquiera de nuestros más de 100 millones de usuarios activos diarios reportar comportamientos inapropiados en Roblox para su revisión y posible investigación. Mejoramos continuamente esta interfaz para facilitar a los usuarios la captura de toda la información necesaria, lo que permite que nuestros equipos de seguridad evalúen las posibles infracciones con mayor rapidez y precisión.

Sabemos que esta labor crucial nunca termina. Seguiremos trabajando en todos los frentes para mejorar la seguridad en línea, lo que incluye colaborar con los responsables políticos en la elaboración de leyes que protejan a los niños y adolescentes, cooperar con las autoridades públicas y con el sector para compartir opiniones, apoyar las investigaciones policiales y mejorar nuestros propios sistemas de seguridad para ayudar a mantener la seguridad de los usuarios en Roblox.