Proporcionando civilidade e segurança para todos os usuários

A Roblox passou quase duas décadas trabalhando para tornar nossa plataforma um dos ambientes mais seguros para nossos usuários, em especial os mais novos. Nossa visão é criar a comunidade mais segura e civil do mundo.

Conforme nossa plataforma evolui e cresce, forjando um novo futuro para comunicação e conexão, nosso investimento em segurança preventiva continua fundamental. Para sermos os melhores no mundo em proporcionar experiências on-line, isso é essencial. A cada ano que passa, implementamos novas estratégias e tecnologia para ganhar velocidade e eficácia nos nossos sistemas de segurança e moderação.

Todos os dias, dezenas de milhões de pessoas de todas as idades têm uma experiência segura e positiva na Roblox, seguindo as nossas Regras da Comunidade. Por exemplo, como mostramos no nosso último Relatório de Transparência Anual, usuários da Roblox geraram e carregaram cerca de 205 bilhões de peças de conteúdo no total à plataforma Roblox, cada qual revisada pelas nossas ferramentas de moderação de conteúdo. Só 0,0063% do conteúdo total foi marcado como uma violação das nossas políticas com questões como bullying, discurso de ódio e extremismo violento via nossos sistemas de detecção e denúncia. Não é coincidência que nossas políticas sejam bem mais estritas do que as encontradas em redes sociais e plataformas de conteúdo de usuário, cobrindo tudo de palavrões a publicidade.

Estamos sempre trabalhando com uma ampla gama de métricas internas, com sistemas automatizados e humanos, abrangendo tudo de bullying a linguajar inapropriado. Tal abordagem orienta nosso trabalho em fomentar interações seguras e educadas na internet e, no nível mais básico, significa que podemos dizer que questões de segurança não sejam sistêmicas, nem frequentes na Roblox. E é fundamental ser comprometido com esse trabalho, pois todos nós somos parte de famílias e sabemos que um incidente sequer envolvendo a saúde ou segurança de criança é horrível. Simpatizamos muito com famílias e indivíduos que foram afetados por algo assim.

Construímos uma plataforma com segurança como alicerce

Todos os times na Roblox ajuda a garantir que nossos produtos sejam projetados pensando em segurança Além de 10% de nossos funcionários de tempo integral e milhares de contratados focados exclusivamente em confiança e segurança, temos mais centenas de funcionários trabalhando para construir e melhorar a tecnologia de que nosso pessoal de Confiança e Segurança depende. Além disso, nossa liderança está comprometida a garantir que esse pessoal tenha sempre recursos à mão. Gastamos centenas de milhões de dólares todos os anos para cumprir nossa missão de segurança.

Nossos avanços recentes no campo de IA melhoraram a segurança na Roblox. Modelos de linguagem de grande escala, IA multimodal e modelos personalizados que identificam questões de segurança em linguajar falado melhoraram a precisão e a eficiência da moderação. Para garantir a integridade dos nossos esforços, implementamos automação via IA só quando ela se revela mais precisa em resultados do que humanos em aplicações de grande escala. Embora a IA tenha automatizado certos esforços humanos, ela também possibilitou que nossa equipe se concentre em investigações mais complexas, inclusive a execução da nossa política que proíbe o aliciamento de menores e a solicitação de dados pessoais deles.

Temos uma abordagem de segurança de várias frentes, interconectada.

• Atualizações e funcionalidades importantes passam por um processo rigoroso de confiança no design para captar retorno e comentários e identificar possíveis questões de segurança num estágio inicial do desenvolvimento.
• Somos proativos na moderação de toda a comunicação dentro da plataforma, combinando análise humana e por IA. Se detectamos algum sinal de perigo crítico, a questão vai para nosso time de investigação.
• Palavras e frases inapropriadas são filtradas em toda comunicação via texto a partir de filtros automatizados rigorosos, tecnologia de ponta no setor.
• Nosso sistema de comunicação por voz proporciona retorno em tempo real para usuários que violem nossas políticas. Isso resultou na melhoria considerável no comportamento na Roblox.
• Para quem tem menos de 13 anos, nossos filtros bloqueiam o compartilhamento de dados pessoais e tentativas de levar a conversa para fora da Roblox, onde pode haver padrões de segurança e moderação menos rígidos.
• Não permitimos a troca de imagens ou vídeos por mensagens de texto ou voz na Roblox.
• Todo o conteúdo enviado para a Roblox, incluindo imagens, arquivos de áudio ou vídeo, modelos 3D e texto passam por um processo de análise abrangente a partir de uma IA multimodal otimizada por humanos.
• Nosso pessoal de segurança está sempre compartilhando ideias e orientações pela empresa para melhorar a segurança da nossa plataforma e dos produtos.

Garantimos que os usuários tenham acesso fácil e consistente a recursos que permitam a marcação de conteúdo abusivo, vulgar ou inapropriado para nossa comunidade on-line. A funcionalidade de "Denunciar abuso", proeminente em toda a Roblox, incluindo experiências, possibilita a denúncia fácil e rápida de conteúdo ou comportamento inapropriado. Encorajamos seu uso por todos os usuários.

Os responsáveis podem limitar ou desativar o chat on-line, ou então personalizar acesso a experiências com base em recomendações de idade e selecionar opções de limites de gastos. Os comentários dos nossos usuários, responsáveis e outros membros da comunidade são importantíssimos para a melhoria dos nossos produtos. Estamos sempre explorando meios diferentes de atualizar nossos sistemas de controle parental para torná-los ainda mais úteis.

Estamos bem investidos em abordar o desafio de todo o setor, que é a segurança on-line.

A segurança e a civilidade on-line, ainda mais a de usuários jovens, é uma questão para todo o setor, e estamos sempre colaborando com as forças da lei, organizações importantes do setor e agentes políticos. Sabemos que existe muita gente mal-intencionada por aí e ficamos muito perturbados com qualquer relato de crianças expostas a perigos. É por isso que a Roblox, por exemplo, foi a primeira e uma das únicas empresas a apoiar o projeto de lei de código de design apropriado para idades na Califórnia, tendo recentemente assinado uma carta de apoio ao projeto SB 933 da Califórnia, que atualiza as leis estaduais para proibir expressamente material de abuso sexual infantil gerado por IA.

Trabalhamos com as forças da lei para encontrar criminosos.

Ao longo dos anos, formamos relacionamentos profundos e duradouros com agentes da lei em nível estadual, federal e internacional, e regularmente compartilhamos orientações. Damos diretrizes claras de como as forças da lei podem contatar nossa equipe, incluindo recursos disponibilizados on-line para conectar essas forças diretamente ao portal relevante da Roblox. Também relatamos proativamente ameaças de segurança às forças da lei por meio de uma integração com a equipe EXTRACT do FBI, projetada para cuidar de denúncias de plataformas como a nossa.

Denunciamos com proatividade conteúdo com potencial de risco à Central Nacional de Crianças Vulneráveis e Desaparecidas (NCMEC). A área de denúncias cibernéticas da NCMEC é um mecanismo para que fornecedores de serviços públicos e eletrônicos denunciem instâncias de suspeita de exploração sexual infantil. Em 2023, a Roblox denunciou 13.316 incidentes à NCMEC (a Roblox peca pelo excesso em questão de segurança, e, como resultado, tem uma tolerância menor antes de fazer uma denúncia). Para dar contexto ao volume de incidentes na Roblox, em 2023, a NCMEC recebeu mais de 35 milhões de denúncias de incidentes em outras plataformas de outros fornecedores.

Estamos ampliando nossos relacionamentos no setor, nossa pesquisa e colaborações para encontrar novas soluções lado a lado.

Também nos comunicamos e colaboramos pelo setor. Cientes de que aumentar a civilidade e a segurança das comunicações on-line é uma questão para todo o setor, estamos em constante comunicação com outras plataformas, ONGs e consórcios acadêmicos/comerciais em busca de soluções para combater malfeitores. A Roblox, por exemplo, é membro ativo da Tech Coalition desde 2018 e se juntou à Lantern como membro fundador. Este programa inédito, interplataforma, de compartilhamento de sinais permite que as empresas participantes partilhem informações e atuem contra agentes mal-intencionados que vão de uma plataforma a outra.

"A Roblox continua um estimado membro da Tech Coalition, inclusive como parte da nossa mesa diretora. A empresa demonstrou liderança em nossos grupos de trabalho, ajudando a tomar decisões críticas que afetam todo o setor, como a empreitada da Coalition para a implementação de Lantern e o desenvolvimento de planejamentos setoriais, entre outros. Este trabalho ajuda a Roblox e o setor no geral a construir capacidade para enfrentar a exploração e o abuso sexual infantil na internet."Sean Litton, diretor-executivo, Tech Coalition

Também trabalhamos para melhorar a segurança por todo o setor via colaboração com parceiros e trabalho em código aberto. No ano passado, por exemplo, o Digital Wellness Lab do Boston Children's Hospital e líderes da Roblox reuniram mais de 100 especialistas de renome em segurança e civilidade do mundo todo para compartilhar ideias e criar uma estrutura em etapas necessárias nas áreas de inovação tecnológica, políticas e educação para tornar o mundo digital de fato seguro e civil, ainda mais para a juventude, e em disciplinas para dar opinião e abordar o desafio como membros do Grupo de Trabalho de Civilidade.

Nossa colaboração próxima com esta ampla gama de organizações públicas e particulares, inclusive grupos de amparo parental, organizações de saúde mental e agências do governo, também nos dá dados importantes sobre as preocupações de responsáveis, autoridades e outros quanto a segurança on-line enquanto compartilhamos o que aprendemos e o que bolamos como solução tecnológica.

Também advogamos por políticas que se alinhem com esse aprendizado e sejam positivas para os interesses da juventude.

Fomos reconhecidos por nossas iniciativas de segurança e civilidade por diversas organizações com foco em segurança no setor e na sociedade civil. Incluímos aí Save the Children, o Digital Wellness Lab, Connect Safely, o Escritório do Representante Especial do Secretário-Geral das Nações Unidas sobre Violência contra Crianças e o Family Online Safety Institute (FOSI).

"Desde os primeiros encontros com a Roblox, impressionou o comprometimento com segurança. É uma preocupação que vem desde o presidente da empresa, e tivemos a oportunidade de fornecer críticas construtivas por meio do Conselho Consultivo para Segurança e Confiança. A Roblox foi consistente em manter um papel de liderança quando o assunto é segurança on-line, em geral, e as políticas e ferramentas que eles criaram especificamente para suas comunidades on-line."Stephen Balkam, presidente, Family Online Safety Institute

Vamos continuar a trabalhar incansavelmente para resguardar nossos usuários e manter a vigilância contra agentes mal-intencionados que possam tentar evitar nossos sistemas de segurança. E reconhecemos também que este trabalho crítico nunca termina. Estamos comprometidos a sempre investir e nos adaptar para abordar as ameaças em transformação para resguardar nossa comunidade. Já estamos trabalhando na próxima geração de ferramentas e funcionalidades de segurança para continuar na vanguarda do futuro da segurança e civilidade on-line.