Roblox와 법 집행 기관의 긴밀한 협력

• 오늘날 Roblox에서는 매일 1억 명이 넘는 다양한 연령대의 사용자가 안전한 공간을 즐기며 긍정적인 경험을 하고 있습니다.
• Roblox는 최첨단 AI 규정 준수 확인 시스템과 수천 명의 숙련된 전문가들의 역량을 결합한 종합적인 안전 시스템을 지속적으로 발전시키고 있습니다.
• 시스템에서 불법 활동, 폭력 위협 또는 기타 실제 위험의 조기 징후를 감지하는 경우, 즉시 관련 조사를 진행하고 필요 시 법 집행 기관에 신고하는 등 신속하고 적절한 조치를 취합니다.

Roblox에서 하는 모든 일의 중심에는 안전이 있습니다. 본 플랫폼은 처음부터 13세 미만 사용자를 포함한 모든 연령층을 위해 설계되었으며, Roblox의 운영 방식에는 전 세계 수천 명의 안전 전문가들이 제공하는 대규모 안전 인프라와 감독 체계가 포함됩니다. Roblox는 또한 기존 인터넷과는 본질적으로 다른 공간입니다. 사용자 간 필터링되지 않은 채팅에는 연령 인증이 요구되며, 공개 토론을 포함한 모든 채팅은 엄격히 필터링됩니다. 또한 전화번호, 사용자 이름, 타사 온라인 플랫폼 링크 등 개인 식별 정보가 공유되지 않도록 설계되어 있습니다.

선제적 관리 시스템의 일환으로, Roblox는 고급 탐지 기술과 신속 대응 프로토콜을 활용해 불법 활동, 폭력 위협, 그 밖의 실제적인 피해를 법 집행 기관에 신고합니다. Roblox는 끊임없는 혁신을 통해 안전성을 강화하기 위해 노력하며, 그 노력을 멈추지 않습니다. 이번 주 Roblox가 참여하는 제37회 아동 범죄 방지 회의(CACC)는 법 집행 기관과의 이러한 협력을 자랑스럽게 알리고, 사용자 안전을 위한 철저하고 다각적인 노력의 일환이 될 것입니다.

Roblox의 철저한 안전 장치는 악의적인 사용자들의 활동을 좌절시키고 이들이 다른 플랫폼으로 옮겨가도록 만들 수 있습니다. 이는 우리가 이러한 사용자의 Roblox 접속을 원하지 않기 때문에 오히려 긍정적인 현상입니다. 다만 Roblox는 많은 사용자가 여러 플랫폼을 넘나들며 활동한다는 점을 인지하고 있으며, 이들이 Roblox를 사용하지 않는 상황에서도 사용자 안전을 위해 최선을 다하고 있습니다. 이는 Roblox가 개인정보를 보호하는 동시에 전 세계 법 집행 기관과 협력하는 여러 이유 중 하나입니다. Roblox는 악의적인 사용자를 식별하고 차단함으로써, 법 집행 기관이 플랫폼 간 연관성을 파악하고 추가 조사와 적절한 조치를 취할 수 있도록 지원합니다.

CACC와 같은 법 집행 컨퍼런스에 참여하는 것은 Roblox 사용자의 안전을 위해 법 집행 기관과 협력하는 다양한 방법 중 하나입니다. Roblox는 활발한 글로벌 홍보 활동을 통해 국제, 연방, 주, 지역 차원의 법 집행 기관과 깊고 지속적인 관계를 구축해 왔습니다. 이를 위해 모범 사례와 경험을 공유하고, 법 집행 기관이 Roblox의 법 집행 포털을 통해 연락하는 방법에 대한 명확한 지침을 제공하며, 유효한 법적 요청에 응답해 제공할 수 있는 기록의 유형을 상세히 안내합니다. 또한 안전 문제에 대한 법 집행 기관의 의견을 적극적으로 수렴하고, 요청 사항을 지원하며, 플랫폼 안전 위협을 조사하고, 심각한 위협을 해당 법 집행 기관에 보고하기 위해 24시간 운영되는 전담 내부 팀을 두고 있습니다.

Roblox는 FBI 및 미국 국립아동실종학대방지센터(NCMEC) 등의 기관과 직접적인 소통 채널을 유지하며 심각한 위협이 발견되면 즉시 보고하고 있습니다. 또한 아동 성 착취가 의심되는 사례에 대해서는 일반 대중과 전자 서비스 제공업체를 위한 지정 신고 기관인 NCMEC에 잠재적으로 유해한 콘텐츠를 적극적으로 신고하고 있습니다. 2024년에는 총 24,522건을 NCMEC에 제출했으며, 이는 NCMEC가 접수한 총 2,030만 건의 신고 중 약 0.12%에 해당합니다.

또한 NCMEC 및 법 집행 기관과 협력해 가중 요인이나 긴급 우려 사항 등 핵심 정보를 제공함으로써 NCMEC 신고의 실행 가능성을 높이기 위한 구체적인 조치를 취하고 있습니다. 이러한 조치는 NCMEC와 법 집행 기관이 Roblox의 신고를 더 신속하게 분류하고 조사할 수 있도록 지원합니다. 아울러 FBI와의 통합 시스템을 통해 테러, 폭력적 극단주의, 개인 대상 폭력 위협 등 잠재적인 안전 위협을 사전에 알립니다. 이 시스템은 Roblox와 같은 플랫폼에서 접수된 신고를 신속히 처리하도록 설계되었습니다. 모든 경우에 대비해, Roblox의 내부 전담 팀은 24시간 상시 대기하며 관련 조사에 필요한 추가 지원을 제공할 준비가 되어 있습니다.

이러한 과제는 Roblox만의 문제가 아닙니다. Roblox는 다른 플랫폼, 비정부 기구, 학계 및 산업 컨소시엄과 긴밀히 협력하며 악의적인 행위자를 차단하기 위한 방안을 모색하고 있습니다. 2018년부터는 온라인에서 아동을 보호하기 위해 협력하는 기술 기업 커뮤니티인 테크 코얼리션(Tech Coalition)에서 활발히 활동해 왔습니다. 2023년에는 최초의 크로스 플랫폼 신호 공유 프로그램인 랜턴(Lantern)의 창립 멤버로 참여해, 참여 기업들이 플랫폼을 넘나드는 악의적 행위자 정보를 공유하고 조치를 취할 수 있도록 지원하고 있습니다. 아울러 Roblox는 루스트(ROOST, Robust Open Online Safety Tools) 이니셔티브의 창립 파트너로서, 음성 안전 분류기를 시작으로 업계 전반의 발전에 기여할 새로운 안전 기술을 공유하고 있기도 합니다.

Roblox는 이러한 단체들과의 협력뿐 아니라 정책 입안자들과도 함께하며 주요 아동 안전 이니셔티브, 법률 제정, 기타 관련 노력에 적극 참여하고 있습니다. Roblox는 저연령 사용자의 정보를 보호하기 위해 ‘캘리포니아 연령 적합 디자인 법(California Age-Appropriate Design Code Act)’을 지지한 최초이자 유일한 기업 중 하나입니다. 또한 AI가 생성한 아동 성적 학대 콘텐츠를 명시적으로 금지하는 캘리포니아 주법 개정안인 ‘상원 법안 933(SB 933)’ 지지 서한에도 서명한 바 있습니다.

법 집행 전문가는 잠재적 범죄를 수사하는 데 가장 적합한 주체입니다. 따라서 Roblox는 이곳에서 발생하는 모든 위반 사항이 적절한 절차와 채널을 통해 신고되고 조치될 수 있도록 최선을 다하고 있습니다.

안타깝게도 자발적 모니터링 그룹이나 개인이 사용자를 함정에 빠뜨리거나 플랫폼을 자체적으로 감시하기 위해 정책을 위반하는 사례가 있습니다. 이들은 공공의 이익을 위해 행동하는 것처럼 보일 수 있지만, 실제로는 플랫폼 내외부에서 타인에게 피해를 줄 수 있는 방식으로 행동하고 있습니다. 예를 들어, 이러한 행위는 악의적인 사용자가 플랫폼에 더 오래 머무르도록 유도해, 더욱 선정적인 소셜 미디어 콘텐츠를 제작하게 만들 수 있습니다.

이러한 그룹의 행동은 오히려 더 많은 사용자가 악의적인 행위자에게 노출될 위험을 높이고, Roblox와 법 집행 기관의 단속 활동을 지연시킬 수 있습니다. 따라서 정책을 위반한 모든 계정(모니터링 그룹이나 개인 계정을 포함)은 경우에 따라 계정 삭제, 차단 등 제재를 받을 수 있습니다. Roblox는 커뮤니티 규정과 이용 약관에 따라 엄격히 정책을 시행합니다.

따라서 사용자들은 스스로 문제를 해결하려 하기보다는, 아래에 안내된 간편한 신고 방법을 통해 부적절한 행동을 Roblox나 법 집행 기관에 직접 신고하는 것이 좋습니다.

범죄가 발생한 것으로 의심되는 경우 해당 지역 법 집행 기관에 직접 연락하는 것이 중요합니다. 앞서 말씀드린 바와 같이 Roblox는 법 집행 기관과 긴밀히 협력하고 있으며, 기관으로부터 연락이 올 경우 적극적으로 협조합니다. Users can also report potential child sexual exploitation directly to NCMEC’s CyberTipline. 

법 집행 기관과의 협력 외에도, Roblox는 신뢰할 수 있는 파트너들이 테러, 폭력적 극단주의, 아동 착취 등 심각한 범죄 활동의 가능성에 대해 Roblox에 알릴 수 있도록 ‘신뢰 기반 신고자(Trusted Flagger)’ 프로그램을 운영하고 있습니다. Roblox는 각 신고 건을 신속하게 검토하고 필요 시 적절한 조치를 취합니다. 또한 본 프로그램의 확대를 위해 지속적으로 노력하고 있으며, 관심 있는 단체들의 적극적인 참여를 환영합니다.

Roblox는 이곳 1억 명 이상의 일일 활성 사용자들이 부적절한 행동을 신고하고, 해당 신고가 철저히 검토 및 조사될 수 있도록 체계적인 신고 기능을 제공합니다. 또한 해당 기능의 인터페이스를 지속적으로 개선해 사용자가 필요한 정보를 손쉽게 제출할 수 있도록 지원하며, 이를 통해 안전 팀이 잠재적 위반 사항을 더욱 신속하고 정확하게 평가할 수 있게 합니다.

안전에 관한 Roblox의 노력은 결코 멈추지 않을 것입니다. 온라인 안전을 개선하기 위해, Roblox는 아동 및 청소년 보호 법률 제정을 위한 정책 입안자들과의 협력, 공공 기관 및 업계 전반과의 의견 공유, 법 집행 기관 수사 지원, 그리고 사용자 안전을 위한 자체 안전 시스템 강화 등 모든 노력을 다할 것입니다.