안전 스냅샷: 11월

11월 안전 보고서는 지난 한 달 동안 안전과 관련된 혁신을 지속하기 위한 진행 상황을 보여 줍니다.

업계 전반의 문제를 해결하기 위한 개인 식별 정보 탐지 기술: Roblox 개인 식별 정보 분류 도구의 버전을 오픈 소스로 제공하여 개인 식별 정보(PII) 공유에 대한 엄격한 정책을 위반하려는 시도를 탐지하고 차단하는 기능을 크게 향상시켰습니다. 이 기술을 도입한 이후 개인 식별 정보 대화(영어) 재현율은 98%로, 이는 다른 주요 오픈 소스 모델을 능가한 수치입니다.  

제품 변경으로 사용자에게 투명성 제고: 저희는 플랫폼은 연중무휴 24시간 관리하고 있지만, 그와 더불어 악용 사례를 신고할 수 있는 도구를 사용자에게 제공하고, 문제가 있는 사항은 신고하도록 권장합니다. 또한 저희는 이러한 신고에 대한 대응 방식을 지속적으로 개선하고 있습니다. 사용자는 Roblox에서 신고한 후 신고한 내용이 어떻게 처리되는지 자세히 알고 싶어하기 때문에, 저희는 응답하는 카테고리 목록을 확대했습니다. 이제 모든 유형의 신고에 대해 조치가 이루어지면 사용자에게 알립니다. 이를 통해 사용자가 제출한 신고에 대해 제공하는 피드백이 250% 증가하는 결과가 나타났습니다.

제품 변경으로 개발자를 위한 인사이트 제공: 게임에서 제기된 악용 사례 보고서(예: 욕설)에 대한 인사이트를 제공해 주는 새로운 대시보드를 출시했습니다. 이를 통해 개발자는 기능을 롤백하거나, 검열을 개선하거나, 추가적인 사용자 교육을 제공하는 등 게임 내 경험을 매너 있게 유지하기 위한 조치를 할 수 있습니다.

정책 입안자, 부모 및 디자인 파트너와의 협력을 통한 안전: 저희는 주요 이해 관계자와 협력할 수 있는 방법을 지속적으로 모색하고 있으며, 그 일환으로 네 가지 중요한 업데이트를 적용했습니다. 

1. 온라인 안전과 사용자 경험을 개선하기 위한 핵심 이니셔티브인 최초의 학부모 협의회가 라틴 아메리카와 아시아 태평양 지역의 부모와 보호자까지 포함하도록 확대되었습니다. 여기에서 신청할 수 있습니다. 미국, 캐나다, 멕시코, 유럽의 다양한 부모와 보호자 약 200명이 플랫폼 기능, 정책, 자원에 대한 의견을 제시하기 위해 이미 신청했습니다. 

2. 저희는 이번 달 잉글랜드, 웨일스, 북아일랜드에서 열리는 반폭력 주간에 리소스를 제공했습니다. 올해 캠페인의 주제인 'Power for Good'은 어린이와 청소년들이 목소리를 내고, 친구들을 지원하고, 더 친절한 세상을 만들어 줄 것을 권장합니다. 이 이니셔티브는 750만 명 이상의 학생들이 참여할 것으로 예상됩니다.

3. Roblox는 청소년 온라인 안전을 위한 파트너십을 구축하기 위해 법무장관연합과 협력한다고 발표했습니다. 이 다분야 이니셔티브는 법무장관, 법 집행 기관 및 기술 리더를 한자리에 모음으로써 새로운 보호 도구를 만들고, 다양한 플랫폼에서 악의적인 행위자를 추적하고 방해하는 능력을 향상시킵니다.

4. Roblox는 청소년 안전에 대한 지속적인 노력의 일환으로, 최초의 Inspired Internet Pledge Amplify Youth Summit: Unmuted 2025를 후원했습니다. 후원을 통해 행사 비용을 지원하고 참가자들에게 여행 지원을 제공했습니다. 이 행사는 고등학생과 대학생의 역량을 강화하고 디지털 공간에서의 정신 건강과 시민의식에 대한 관점을 제시하는 데 중점을 두었습니다. Roblox 직원은 워크숍을 개최하고 주요 시사점에 대해 협력하여, 진정한 플랫폼 안전을 실현하려면 매일 플랫폼을 사용하는 사람들의 의견을 들어야 한다는 우리의 신념을 실천했습니다.

Roblox는 모든 사용자에게 안전하고 매너 있는 플랫폼을 구축하기 위해 최선을 다하고 있습니다. 앞으로도 이러한 업데이트를 제공하여 커뮤니티에 진행 상황을 지속적으로 알리겠습니다.