Como a Roblox faz parcerias com os agentes da lei

• Todos os dias, mais de 100 milhões de usuários de todas as idades têm uma experiência segura e positiva na Roblox.
• Inovamos continuamente os nossos extensos sistemas de segurança, que combinam a moderação de vanguarda da IA com os conhecimentos especializados de milhares de profissionais qualificados.
• Quando esses sistemas detectam sinais precoces de possíveis atividades ilícitas, ameaças violentas ou outros perigos da vida real, investigamos e, se necessário, tomamos medidas de execução apropriadas, incluindo a apresentação de relatórios sobre a aplicação da lei.

A segurança é fundamental para tudo o que fazemos na Roblox; nossa plataforma foi construída para todas as idades, incluindo usuários menores de 13 anos, desde o início. A nossa abordagem inclui uma infraestrutura de segurança em larga escala e a supervisão de milhares de pessoas em todo o mundo dedicadas à segurança. A Roblox também é um local fundamentalmente diferente do resto da Internet. Exigimos verificação etária para bate-papo não filtrado entre usuários. Todos os outros chats, incluindo discussões públicas, são filtrados agressivamente e projetados para evitar o compartilhamento de informações de identificação pessoal, incluindo números de telefone, nomes de usuários e links para outras plataformas online.

Como parte de nossos sistemas de moderação proativa, alavancamos a detecção avançada e protocolos de resposta rápida para relatar possíveis atividades ilícitas, ameaças violentas ou outras ameaças à vida real para os agentes da lei. Estamos concentrados numa inovação implacável e o nosso trabalho em matéria de segurança nunca está terminado. Estamos orgulhosos em destacar esta parceria com agentes da lei enquanto a Roblox participa na 37ª Conferência de Crimes Contra Crianças (CACC, em inglês) esta semana. Isso faz parte de nossos esforços profundos e multifacetados para ajudar a manter os usuários seguros.

As nossas rigorosas medidas de segurança podem frustrar os maus atores e levá-los a operar em outras plataformas. Isso é positivo, pois não os queremos na Roblox, mas também sabemos que muitos de nossos usuários estão ativos em várias plataformas e queremos contribuir para sua segurança mesmo quando eles não estão na Roblox. Essa é uma das muitas razões pelas quais colaboramos com a aplicação da lei em todo o mundo, ao mesmo tempo que cuidamos de proteger a privacidade dos nossos usuários. Ajudando a identificar e impedir os maus atores, procuramos ajudar a aplicação da lei a ligar os pontos em todas as plataformas para investigar e intervir, sempre que apropriado.

Participar em conferências sobre a aplicação da lei, como a CACC, é apenas uma das maneiras que estabelecemos parcerias com agentes da lei para ajudar a manter os usuários Roblox seguros. Através de uma vigorosa divulgação global, nós desenvolvemos relações profundas e duradouras com agentes da lei em nível internacional, federal, estadual e local. Compartilhamos as melhores práticas e aprendizados, fornecemos orientações claras sobre como agentes da lei podem nos contactar via nosso portal de aplicação da lei, detalhando os tipos de registros que podem estar disponíveis em resposta a solicitações legais válidas e buscamos ativamente a opinião de agentes legais em questões de segurança. Também temos equipes internas dedicadas a trabalhar 24 horas para apoiar pedidos de aplicação da lei, investigar ameaças de segurança na plataforma e escalar ameaças sérias aos agentes da lei apropriados.

Mantemos canais de comunicação diretos com organizações como o FBI e o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), para uma escalada imediata de ameaças graves que identificamos. Comunicamos proativamente conteúdos potencialmente nocivos à NCMEC, que é a entidade designada de comunicação para os prestadores de serviços públicos e eletrônicos em casos de suspeita de exploração sexual de crianças. Em 2024, apresentamos 24.522 relatórios a NCMEC (0,12% dos relatórios no total de 20,3 milhões enviados à NCMEC).

Além disso, em colaboração com a NCMEC e agentes da lei, tomamos passos específicos para melhorar a prontidão de nossas denúncias à NCMEC, como incluir informações-chave sobre fatores agravantes ou preocupações iminentes. Essas ações facilitam a capacidade da NCMEC e dos agentes da lei para fazer uma triagem mais rápida e investigar nossos relatórios. Além disso, nós escalamos proativamente possíveis ameaças à segurança (como o terrorismo, o extremismo violento, ou ameaças individualizadas de violência) através de uma integração com o FBI, que foi projetada para lidar com relatórios de plataformas como as nossas. Em todos esses casos, as nossas equipes internas dedicadas estão disponíveis 24/7 para ajudar a aplicar a lei em quaisquer investigações resultantes.

Este desafio não é exclusivo da Roblox. Estamos constantemente em comunicação com outras plataformas, organizações não governamentais e consórcios acadêmicos e da indústria trabalhando para encontrar soluções para impedir os maus atores. Somos membros ativos da Coligação de Tecnologia, uma comunidade de empresas de tecnologia que trabalham em conjunto para proteger crianças on-line desde 2018. Nos juntamos à Lantern como membros fundadores em 2023. Este programa inédito e interplataforma de compartilhamento de sinais permite que as empresas participantes compartilhem informações e atuem contra pessoas mal-intencionadas que vão de uma plataforma a outra. Também participamos da iniciativa Ferramentas Robustas de de Segurança On-line (ROOST) como parceiros fundadores para compartilhar novas tecnologias de segurança que podem ajudar a avançar o setor como um todo, começando com nosso classificador de segurança de voz.

Além dessas organizações, nós também colaboramos com legisladores em iniciativas-chave para segurança infantil, legislação e outros esforços. Fomos a primeira e uma das únicas empresas a apoiar a Lei do Código de Design Apropriado para a Idade da Califórnia, para proteger as informações dos usuários jovens. E assinamos uma carta de suporte para a lei da Califórnia SB 933, que atualiza as leis estaduais para proibir expressamente o material de abuso sexual de crianças gerado por IA.

Os profissionais da aplicação da lei estão em melhor posição para investigar crimes potenciais. Portanto, queremos ter certeza de que quaisquer violações na Roblox são relatadas e cuidadas através dos canais adequados.

Infelizmente, há casos de grupos de vigilância ou indivíduos que violam as nossas políticas para prender os utilizadores ou para autopoliciar a plataforma. Enquanto estes grupos podem parecer ter interesse público, eles estão agindo de forma que pode ser prejudicial para outros, tanto dentro como fora da nossa plataforma. Por exemplo, seus esforços podem deixar maus atores na plataforma por mais tempo simplesmente para criar mais conteúdo sensacionalizado de mídia social.

As ações tomadas por grupos de vigilância aumentam o risco de mais utilizadores serem expostos a maus atores e podem atrasar os esforços de aplicação da lei, tanto por parte da Roblox como por agentes da lei. Qualquer conta, incluindo as de grupos de vigilância ou de indivíduos pegos violando nossas políticas enfrentará as consequências e incluirá a remoção e a proibição, sempre que tal se justifique. Aplicamos nossas políticas de acordo com nossas Regras da Comunidade e com os Termos de Uso.

Em vez de tomar as coisas nas suas próprias mãos, nós encorajamos a comunidade a denunciar qualquer comportamento inapropriado diretamente para a Roblox ou aplicação da lei usando os métodos fáceis de denunciar descritos abaixo.

Encorajamos qualquer usuário que acredite que um crime foi cometido a contactar diretamente os agentes da lei a nível local. Conforme descrito acima, trabalhamos regularmente em estreita colaboração com agentes da lei e, quando eles entram em contato conosco, coordenamos a aplicação da lei com eles na medida do possível. Users can also report potential child sexual exploitation directly to NCMEC’s CyberTipline. 

Além de nosso trabalho com a aplicação da lei, nós já estabelecemos um programa de Sinalizadores Confiáveis, , onde parceiros próximos e confiáveis podem relatar possíveis atividades criminosas graves (como terrorismo, extremismo violento ou exploração de crianças) para nós. Analisamos rapidamente estes relatórios e, se necessário, tomamos medidas em conformidade. Estamos sempre procurando expandir este programa e damos boas-vindas às entidades interessadas.

Na plataforma, nós fornecemos uma ferramenta robusta de relatórios de abusos que permite que qualquer um de nossos mais de 100 milhões de usuários ativos diários possam relatar comportamento inapropriado na Roblox para revisão e potencial investigação. Nós melhoramos continuamente esta interface para tornar mais fácil para os usuários capturarem todas as informações necessárias, permitindo que as nossas equipes de segurança avaliem possíveis violações de forma mais rápida e precisa.

Sabemos que este trabalho crucial nunca está terminado. Vamos continuar trabalhando em todas as frentes para melhorar a segurança online, incluindo o trabalho com legisladores de leis que protegem crianças e adolescentes, colaboração com autoridades públicas e através da indústria para compartilhar feedback, apoiar investigações de agentes da lei e elevar nossos próprios sistemas de segurança para ajudar usuários a se manterem seguros na Roblox.