Roblox lleva casi dos décadas trabajando para hacer de la plataforma uno de los ambientes más seguros en línea para nuestros usuarios, en particular para los más jóvenes. La visión que nos guía es crear la comunidad más segura y civilizada del mundo.

A medida que nuestra plataforma evoluciona y se amplía, forjando un nuevo futuro para la comunicación y la conexión, nuestra inversión en medidas preventivas de seguridad sigue siendo fundamental. Para ser los mejores del mundo en ofrecer experiencias en línea seguras y cívicas, esto es esencial. Cada año implementamos nuevas estrategias y tecnología para aumentar la rapidez y eficacia de nuestros sistemas de seguridad y moderación.

Todos los días, diez millones de personas de todas las edades tienen una experiencia segura y positiva en Roblox al respetar nuestras Normas de la comunidad. Por ejemplo, como lo muestra nuestro último reporte anual de transparencia, los usuarios de Roblox generan y suben aproximadamente 205 mil millones de piezas de contenido total a la plataforma de Roblox, y cada una de esas piezas es revisada por nuestras herramientas de moderación de contenido. Solo el 0.0063 % de ese contenido total fue señalado como infractor de nuestras políticas sobre cuestiones como el acoso, la incitación al odio y el extremismo violento a través de nuestros sistemas de detección y denuncia. No es casualidad que nuestras políticas son significativamente más estrictas que las que existen en otras redes sociales y plataformas de contenido generado por los usuarios y abarcan desde la blasfemia hasta las normas publicitarias.

Medimos continuamente una amplia gama de métricas internas, mediante el uso de sistemas automatizados y humanos, que abarcan desde el acoso hasta el lenguaje inapropiado. Este enfoque guía nuestro trabajo para fomentar las interacciones más seguras y civilizadas en Internet y, en el nivel más básico, significa que podemos afirmar que los problemas de seguridad no son generalizados ni sistémicos en Roblox. Y el compromiso con esta labor es fundamental: todos formamos parte de familias y sabemos que incluso un solo incidente relacionado con la salud o la seguridad de los niños es horrible. Nos solidarizamos profundamente con las familias y las personas que se han visto afectadas.

Hemos construido una plataforma basada en la seguridad

Todos en el equipo de Roblox ayudamos a asegurarnos de que los productos estén diseñados con la seguridad en mente. Además del 10 % de nuestros empleados a tiempo completo y los miles de contratistas que se centran exclusivamente en la confianza y la seguridad, cientos de empleados adicionales de Roblox trabajan para construir y mejorar la tecnología de la que depende nuestro equipo de confianza y seguridad. Además, nuestra dirección se compromete a garantizar que estos equipos dispongan siempre de los recursos adecuados. Gastamos cientos de millones de dólares cada año para cumplir nuestra misión de seguridad.

Nuestros recientes avances en IA mejoraron la seguridad en Roblox. Los grandes modelos lingüísticos, la IA multimodal y los modelos personalizados que identifican problemas de seguridad en el lenguaje hablado han aumentado la precisión y la eficacia de la moderación. Para garantizar la integridad de nuestros esfuerzos, solo implementamos la automatización basada en IA cuando demostramos que produce resultados más precisos que los humanos cuando se aplica a escala. Aunque la IA ha automatizado algunos esfuerzos humanos, también permite a nuestro personal centrarse en investigaciones más complejas, incluida la aplicación de nuestra política que prohíbe la captación de menores y la solicitud de su información personal.

Nuestro enfoque de la seguridad es múltiple y está interrelacionado

• Las actualizaciones y características importantes se someten a un riguroso proceso de Trust by Design para recabar opiniones e identificar posibles problemas de seguridad mucho antes de su desarrollo.
• Moderamos de forma proactiva todas las comunicaciones en la plataforma a través de una combinación de revisión humana e IA. Si se identifican señales de daño crítico, son escaladas a nuestro equipo de investigación.
• Las palabras o frases no apropiadas se filtran del resto de la comunicación de texto usando rigurosos filtros automáticos líderes en la industria.
• Nuestro sistema de comunicación por voz proporciona retroalimentación en tiempo real a los usuarios que infrinjan nuestras políticas. Esto hace que el comportamiento en Roblox sea mucho más civilizado.
• Para usuarios menores de 13 años, nuestros filtros bloquean la acción de compartir información personal e intentos de conducir a una conversación fuera de Roblox, donde los estándares de seguridad y moderación son menos estrictos.
• No permitimos que los usuarios intercambien imágenes o videos mediante los mensajes de texto o voz en Roblox.
• Todo el contenido que se sube a Roblox, incluyendo los archivos de imagen, video y audio, modelos en 3D y texto, se someten a un exhaustivo proceso de revisión mediante IA multimodal aumentada por humanos.
• Nuestro equipo de seguridad comparte constantemente ideas y orientaciones con toda la empresa para mejorar la seguridad de nuestra plataforma y nuestros productos.

Nos aseguramos de que los usuarios tengan acceso fácil y consistente a las características que les permiten marcar contenidos abusivos, vulgares o inapropiados para nuestra comunidad en línea. La función de Denunciar abuso, situada en un lugar destacado de Roblox, incluso dentro de las experiencias, permite a los usuarios informar fácilmente de contenidos o comportamientos inapropiados, y animamos a nuestros usuarios a utilizarla.

Los padres pueden limitar o deshabilitar las funciones del chat en línea, personalizar los accesos a experiencias basadas en las recomendaciones de edad y seleccionar opciones para límites de gastos. La retroalimentación de usuarios, padres y otros integrantes de nuestra comunidad es una de las mejores herramientas que tenemos para mejorar nuestros productos. Exploramos continuamente distintas formas de actualizar nuestros sistemas de control parental para hacerlos aún más útiles.

Estamos profundamente comprometidos con el reto de la seguridad en línea en todo el sector

La seguridad y el civismo en Internet, en especial la seguridad de los usuarios jóvenes, es un tema que afecta a todo el sector y en el que colaboramos activamente con las fuerzas del orden, las principales organizaciones del sector y los responsables políticos. Reconocemos que hay infractores y nos preocupan profundamente los informes sobre niños en peligro. Por eso, Roblox, por ejemplo, fue la primera y una de las únicas empresas que apoyó la Ley de códigos de diseño apropiados para la edad de California y, más recientemente, firmó una carta de apoyo al proyecto de ley SB 933 de California, que actualiza las leyes estatales para prohibir expresamente el material de abuso sexual infantil generado por IA.

Colaboramos con las fuerzas del orden para localizar a los perpetradores

A través de los años, formamos relaciones profundas y duraderas con las fuerzas del orden a nivel internacional, federal y estatal, y compartimos con regularidad las mejores prácticas. Proporcionamos una orientación clara sobre cómo las fuerzas del orden pueden ponerse en contacto con nuestro equipo, incluidos los recursos disponibles en línea para conectar a las fuerzas del orden de forma directa con el Portal de las fuerzas del orden de Roblox. También informamos proactivamente de posibles amenazas a la seguridad a las fuerzas del orden a través de una integración con el equipo EXTRACT del FBI, que está diseñado para gestionar informes de plataformas como la nuestra.

Informamos de forma proactiva sobre contenidos potencialmente peligrosos al National Center for Missing & Exploited Children (NCMEC). La CyberTipline del NCMEC es un mecanismo de denuncia designado para que el público y los proveedores de servicios electrónicos (ESP, por sus siglas en inglés) informen de casos de sospecha de explotación sexual infantil. En 2023, Roblox reportó 13 316 incidentes al NCMEC (Roblox se inclina por la seguridad y, en consecuencia, tiene un umbral de notificación más bajo que otras plataformas). Para poner el volumen de incidentes en Roblox en contexto, en 2023 la CyberTipline recibió más de 35 millones de reportes relacionados con otras plataformas de otros ESP.

Estamos ampliando nuestras relaciones, investigaciones y colaboraciones en todo el sector para encontrar nuevas soluciones juntos.

También nos comunicamos y colaboramos en todo nuestro sector. Al ser conscientes de que aumentar el civismo y la seguridad de la comunicación en línea es una cuestión que afecta a toda la industria, estamos en constante comunicación con otras plataformas, ONG y consorcios académicos e industriales que trabajan para encontrar soluciones ante los infractores. Roblox, por ejemplo, es socio activo de Tech Coalition desde 2018 y se unió a Lantern como socio fundador. Este programa de intercambio de señales entre plataformas (el primero de su clase) permite a las empresas participantes compartir información y tomar medidas contra los infractores que se desplazan de una plataforma a otra.

“Roblox sigue siendo un miembro valioso de Tech Coalition, incluso como parte de nuestro Consejo de administración. Han demostrado su liderazgo en nuestros grupos de trabajo y ayudaron en decisiones críticas para todo el sector, como la búsqueda de Lantern por parte de la Tech Coalition y el desarrollo de hojas de ruta sectoriales, entre otras. Este trabajo ayuda a Roblox y a la industria en general a crear características para luchar contra la explotación y el abuso sexual infantil en línea”.Sean Litton, Director ejecutivo, Tech Coalition

También trabajamos para mejorar la seguridad en todo el sector a través del código abierto y la colaboración con socios. El año pasado, por ejemplo, el Digital Wellness Lab del Boston Children's Hospital y líderes de Roblox reunieron a más de 100 expertos en seguridad y civismo de todo el mundo para compartir ideas y crear un marco sobre los pasos necesarios en la innovación tecnológica, la política y la educación para hacer del mundo en línea un espacio verdaderamente seguro y civil, especialmente para los jóvenes, y en todas las disciplinas para sopesar y trabajar en el desafío como miembros del Grupo de Trabajo sobre Civismo.

Nuestra estrecha colaboración con este amplio abanico de organizaciones públicas y privadas, como grupos de defensa de los derechos de los padres, organizaciones de salud mental y organismos gubernamentales, también nos proporciona una valiosa información sobre las preocupaciones de los padres, los responsables políticos y otras personas acerca de la seguridad en línea, al tiempo que compartimos nuestros conocimientos y soluciones tecnológicas.

También abogamos por políticas que se ajusten a estos aprendizajes y que sean en beneficio de los jóvenes.

Hemos sido reconocidos por nuestras iniciativas de seguridad y civismo por numerosas organizaciones de la industria y la sociedad civil centradas en la seguridad. Entre ellas figuran Save the Children, Digital Wellness Lab, Connect Safely, la Oficina del Representante Especial del Secretario General de las Naciones Unidas sobre la violencia contra los niños y el Family Online Safety Institute (FOSI).

“Desde nuestros primeros encuentros con Roblox, nos impresionó su compromiso con la seguridad. Proviene de su Director General y hemos tenido la oportunidad de aportar críticas constructivas a través de su Consejo Asesor de Confianza y Seguridad. Roblox mantiene constantemente un papel de liderazgo en lo que se refiere a la seguridad en línea en general y a las políticas y herramientas que crearon específicamente para sus comunidades en línea”.Stephen Balkam, Director ejecutivo, Family Online Safety Institute

Seguiremos trabajando incansablemente para mantener la seguridad de nuestros usuarios y estaremos alerta ante los infractores que puedan intentar burlar nuestros sistemas de seguridad. Y también reconocemos que es un trabajo crítico que nunca termina. Nos comprometemos a invertir y adaptarnos continuamente para hacer frente a la evolución del panorama de amenazas y mantener segura a nuestra comunidad. Ya estamos trabajando en la próxima generación de herramientas y funciones de seguridad para seguir liderando el futuro de la seguridad y el civismo en Internet.