Roblox가 사용자들, 특히 어린 사용자들에게 가장 안전한 온라인 환경을 제공하기 위해 노력해 온 지 약 20년이 되었습니다. Roblox의 목표는 세상에서 가장 안전하고 매너 있는 커뮤니티를 만드는 것입니다.

플랫폼이 진화하고 확장하면서 소통과 연결의 새로운 미래를 만들어 가고 있지만, 그 기반에는 여전히 예방적 안전 조치에 대한 투자가 있습니다. 안전하고 매너 있는 온라인 체험을 제공함에 있어 세계 최고 자리에 오르려면 이러한 투자가 필수적이기 때문입니다. Roblox는 안전 및 검열 시스템의 속도와 효과를 높이기 위해 매년 새로운 전략 및 기술을 도입합니다.

매일 전 연령의 수많은 사람이 커뮤니티 규정을 준수하며 Roblox에서 안전하고 긍정적인 경험을 얻습니다. 이에 대한 예시로, Roblox의 최신 연례 투명성 보고서에 따르면 Roblox 사용자는 플랫폼에 총 약 2,050억 개의 콘텐츠를 생성 및 업로드했으며, 모든 콘텐츠는 Roblox 검열 툴의 검토를 거쳤습니다. 그중 단 0.0063%만이 Roblox의 감지 및 신고 시스템을 통해 괴롭힘, 혐오 발언, 폭력적 극단주의 등의 문제와 관련된 Roblox의 정책을 위반한 것으로 나타났습니다. 다른 소셜 네트워크 및 사용자 제작 콘텐츠 플랫폼의 정책보다 Roblox의 정책이 훨씬 엄격하고 욕설부터 광고 규정에 이르기까지 모든 면을 포괄하는 점은 우연이 아닙니다.

Roblox는 자동화 시스템과 실제 인력을 이용하는 시스템 모두를 활용하여 괴롭힘부터 부적절한 언어까지 모든 항목에 걸친 광범위한 내부 지표를 지속적으로 측정합니다. 이러한 접근법은 인터넷상에서 가장 안전하고 매너 있는 상호 작용을 육성하려는 Roblox의 노력에 나침반이 되어주며, 근본적으로 Roblox에 안전 문제가 만연하지 않다고 말할 수 있음을 의미합니다. 그리고 이를 위한 노력은 매우 중요합니다. 우리는 모두 가족의 일원이고, 아이들의 건강과 안전과 관련된 사고는 한 건도 발생해선 안 되는 끔찍한 일이라는 걸 알기 때문이죠. 그러한 일을 겪은 당사자와 가족의 심정에 깊이 공감합니다.

기초부터 안전한 플랫폼 제작

Roblox의 모든 팀은 제품 디자인 시 안전을 염두에 둡니다. 안전 및 신뢰 관련 업무에만 전념하는 10%의 정직원들과 수천 명의 계약직뿐 아니라, 수백 명이 넘는 Roblox 직원들도 안전 및 신뢰 팀이 이용하는 기술을 개발하고 향상하기 위해 노력합니다. 더불어 Roblox의 경영진도 해당 팀들이 항상 적절한 리소스를 갖추도록 힘씁니다. 매년 안전 목표를 충족하기 위해 많은 돈을 투자하고 있죠.

최근 AI 분야에서 이룬 발전 덕분에 Roblox는 한층 더 안전해졌습니다. 대규모 언어 모델, 멀티모달 AI, 음성 언어에서 안전 문제를 식별해 내는 사용자 지정 모델은 검열의 정확성과 효율성을 한층 끌어올렸습니다. AI 기반 자동화 기능은 오류가 없는지 확인하기 위해 대규모로 적용되었을 때 인간보다 정확한 결과를 내놓은 것을 확인한 다음 배치되었습니다. AI가 인간의 일을 일부 자동화한 덕분에 Roblox 직원들은 미성년자 그루밍 및 미성년자 개인정보 요구를 금지하는 정책을 집행하는 등 더 복잡한 조사에 집중할 수 있게 되었습니다.

안전에 대한 다각적이고 상호 연결된 접근법

• 주요 업데이트 및 기능은 철저하게 '설계에 기반한 신뢰(Trust by Design)' 프로세스를 거쳐 피드백을 받고 개발 전에 잠재적인 안전 문제는 없는지 확인받습니다.
• AI와 실제 인력의 검토를 통해 플랫폼에서 이루어지는 모든 커뮤니케이션은 선제적으로 검열됩니다. 치명적인 피해가 발생할 조짐이 보이면 Roblox의 조사팀으로 이관됩니다.
• 업계 최고의 철저한 자동화 필터링 덕분에 모든 텍스트 커뮤니케이션에서 부적절한 단어 및 문장이 필터링됩니다.
• 음성 커뮤니케이션 시스템은 정책을 위반한 사용자에게 실시간 피드백을 제공합니다. 이 시스템은 사용자들이 Roblox에서 훨씬 더 매너 있게 행동하는 결과를 가져왔습니다.
• 13세 미만 사용자의 경우, 필터링에 의해 개인정보를 공유하고 안전 기준 및 검열이 느슨한 Roblox 외부에서 대화하려는 시도가 차단됩니다.
• Roblox에선 음성 또는 문자 메시지를 통해 이미지나 동영상을 교환할 수 없습니다.
• 이미지, 동영상, 오디오 파일, 3D 모델, 텍스트 등 Roblox에 업로드되는 모든 콘텐츠는 실제 인력으로 증강된 멀티모달 AI를 이용한 포괄적인 검토 프로세스를 거칩니다.
• 플랫폼과 제품의 안전을 향상시키기 위해 안전 팀은 지속적으로 회사 전체에 걸쳐 인사이트와 지침을 공유합니다.

Roblox에서 사용자는 모욕적이거나, 저속하거나, 기타 온라인 커뮤니티에 부적절한 콘텐츠를 알릴 수 있는 기능에 쉽고 일관되게 액세스할 수 있습니다. 체험 내를 비롯하여 Roblox 전체에 걸쳐 눈에 띄게 배치된 '신고하기' 기능을 이용해 사용자는 부적절한 콘텐츠나 행위를 간단하게 신고할 수 있으며, Roblox는 이 기능의 사용을 권장합니다.

보호자는 온라인 채팅 기능을 제한하거나 비활성화할 수 있으며, 권장 연령에 따라 체험 액세스를 맞춤 설정하고, 결제 한도 옵션도 선택할 수 있습니다. 사용자, 보호자 그리고 커뮤니티의 여러 다른 멤버의 피드백은 Roblox의 상품을 향상시키는 최고의 도구 중 하나입니다. Roblox는 앞으로도 계속해서 자녀 보호 기능 시스템을 다양한 방법으로 업데이트하고 시스템이 더욱 유용하게 거듭날 수 있도록 노력할 것입니다.

업계 전반의 온라인 안전 관련 문제 해결을 위한 많은 노력

온라인 안전 및 매너, 특히 어린 사용자들의 안전은 업계 전반의 중요한 이슈로, 이를 위해 Roblox는 법 집행 기관, 주요 산업 기관, 정책 입안자들과 적극적으로 협업하고 있습니다. 악성 사용자의 존재를 인식하고 있으며, 아동 학대 관련 신고가 접수될 때마다 심히 우려됩니다. 이러한 이유로 Roblox는 기업 중 최초이자 유일하게 캘리포니아 연령 적합 설계 규약법(California Age-Appropriate Design Code Act)을 지지했으며, 최근에는 AI 생성 아동 성범죄 관련 자료를 명시적으로 금지하도록 주법을 업데이트하는 캘리포니아 법안 SB 933 지지 서한에 서명한 바 있습니다.

법 집행 기관과 협력하여 가해자 추적

수년에 걸쳐 Roblox는 국제, 연방, 주 법 집행 기관과 깊고 지속적인 관계를 형성해 왔으며, 주기적으로 모범 사례를 공유합니다. 법 집행 기관이 Roblox 팀에 연락할 수 있는 방법에 관한 명확한 지침도 제공하고 있으며, 여기에는 온라인에서 법 집행 기관을 바로 Roblox 법 집행 기관 포털로 연결해 주는 리소스가 포함됩니다. 또한 Roblox와 같은 플랫폼에서 접수한 신고를 담당하도록 구성된 FBI 추출 팀과의 협력을 통해 잠재적인 안전 위협을 선제적으로 법 집행 기관에 보고합니다.

Roblox는 위험할 수 있는 콘텐츠를 미국 실종학대아동방지센터(National Center for Missing & Exploited Children, NCMEC)에 선제적으로 신고합니다. NCMEC의 CyberTipline이란 공공 및 전자 서비스 공급자(Electronic Service Provider, ESP)가 아동 성 착취가 의심되는 경우를 신고하도록 지정된 신고 메커니즘입니다. 2023년, Roblox는 NCMEC에 13,316건의 신고를 접수했습니다(Roblox는 안전에 각별히 유의하는 편으로, 다른 플랫폼보다 신고 기준이 낮습니다). Roblox의 신고 건수를 전체적인 맥락에서 살펴보자면, 2023년 CyberTipline에 접수된 기타 ESP 플랫폼의 신고 건수는 3,500만 건이 넘습니다.

업계 전반으로 관계, 연구, 공동 작업을 확장하여 함께 새로운 해결책 모색

더 나아가, Roblox는 업계의 관련 기관과도 소통하고 협력합니다. 온라인 커뮤니케이션에서의 매너 및 안전 향상은 업계 전반에 걸친 문제이므로, 유해 행위자 제거에 대한 해결책을 모색하기 위해 다른 플랫폼, NGO, 학술/산업 컨소시엄과 지속적으로 소통하고 있습니다. 한 가지 예로, Roblox는 2018년부터 Tech Coalition의 정회원으로 활동하고 있으며 Lantern의 창립 멤버이기도 합니다. Lantern은 최초의 플랫폼 간 신호 공유 프로그램으로, 참여 기업들이 정보를 공유하고 유해 행위자가 한 플랫폼에서 다른 플랫폼으로 이동하지 못하도록 조치를 취할 수 있게 합니다.

"Roblox는 이사회 활동을 포함하여 Tech Coalition에서 중요한 역할을 맡고 있습니다. 실무단 내에서 리더십을 발휘해 왔으며, Tech Coalition의 Lantern 프로그램 진행 및 섹터 로드맵 개발 등 업계 전반에 영향을 주는 중요한 결정을 도왔습니다. 이러한 노력은 Roblox뿐 아니라 업계 내 많은 기업이 온라인 아동 성 착취 및 성범죄와 싸울 능력을 키우는 데 도움을 줍니다."션 리턴(Sean Litton), Tech Coalition 총괄 디렉터

또한 Roblox는 오픈 소스 및 파트너와의 협업을 통해 업계 전반의 안전 개선에 힘씁니다. 한 가지 예로, 작년 보스턴 어린이 병원의 디지털 웰니스 랩(Digital Wellness Lab)과 Roblox의 임원진은 전 세계 100명이 넘는 안전 및 매너 분야 최고 전문가들이 참여한 회의를 개최했습니다. 이 회의의 목적은 기술 혁신, 정책, 교육 부문에 걸쳐 온라인 세계를 안전하고 매너 있는 공간, 특히 아동들에게 그러한 공간이 되도록 만들고, 실무 면에서 매너 업무 담당 실무진이 겪는 문제를 파악하고 함께 해결해 나가는 데 필요한 과정에 관한 아이디어를 공유하고 프레임워크를 설계하는 것이었죠.

더불어 학부모 단체, 정신 건강 관련 기관, 정부 조직 등 광범위한 공공 및 민간 기관과의 긴밀한 협력은 보호자, 정책 입안자 및 기타 관계자가 온라인 안전에 대해 갖고 있는 우려 사항에 관한 귀중한 인사이트를 제공합니다. 그 대가로 Roblox는 학습 내용과 기술 솔루션을 공유합니다.

여기에 더해, Roblox는 이러한 학습 내용과 부합하고 아동에게 최선의 이익을 제공하는 정책을 지지합니다.

Roblox의 안전 및 매너 계획은 안전에 중점을 둔 여러 산업 기구 및 시민 사회단체의 인정을 받아 왔습니다. 세이브더칠드런(Save the Children), 디지털 웰니스 랩, 커넥트 세이플리(Connect Safely), UN 아동폭력사무국 사무총장 특별 대표(United Nations Office of the Special Representative of the Secretary-General on Violence Against Children), 가족 온라인 안전 연구소(Family Online Safety Institute, FOSI)를 예로 들 수 있죠.

"첫 만남에서부터 안전을 위한 Roblox의 노력에 깊은 감명을 받았습니다. CEO부터 이를 위해 힘쓰고 있으며, Roblox의 안전 및 신뢰 자문 위원회를 통해 건설적인 비평을 제공할 수 있었습니다. Roblox는 전반적인 온라인 안전을 지속적으로 주도하고 있으며, Roblox 온라인 커뮤니티 전용으로 만들어진 정책 및 도구 또한 선도적 위치에 있습니다."스티븐 발캄(Stephen Balkam), 가족 온라인 안전 연구소 CEO

Roblox는 앞으로도 사용자를 안전하게 보호하고 안전 시스템을 회피하려는 유해 행위자를 경계하는 데 노력을 아끼지 않을 것입니다. 물론, 이 중요한 작업에 끝이 없다는 사실을 알고 있습니다. 지속적인 투자와 조정을 통해 진화하는 위협에 대응하고 커뮤니티를 안전하게 유지할 것을 약속드립니다. 이미 차세대 안전 도구 및 기능을 개발 중이며, 계속해서 온라인 안전과 매너의 미래를 계속 이끌어 나가고자 합니다.