Mendorong Kesopanan dan Keamanan untuk Semua Pengguna

Selama hampir dua dekade, Roblox telah berusaha membuat platform ini menjadi lingkungan online paling aman untuk para pengguna kami, khususnya para pengguna yang masih di bawah umur. Visi kami adalah membuat komunitas teraman dan tersopan di dunia.

Seiring dengan perubahan dan pertumbuhan platform ini, yang membentuk masa depan baru untuk komunikasi dan koneksi, upaya kami untuk langkah keamanan preventatif tetap menjadi hal yang paling mendasar. Ini merupakan hal yang sangat penting untuk menjadi yang terbaik di dunia dalam menghadirkan pengalaman online yang aman dan sopan. Setiap tahunnya, kami mengimplementasikan strategi dan teknologi baru untuk meningkatkan kecepatan dan efektivitas sistem keamanan dan moderasi kami.

Setiap hari, puluhan juta pengguna dari segala usia menikmati pengalaman aman dan positif di Roblox dengan mematuhi Standar Komunitas kami. Contohnya, seperti yang tercantum dalam Laporan Transparansi tahunan terbaru kami, pengguna Roblox membuat dan meng-upload sekitar 205 miliar konten secara total ke platform Roblox. Setiap item ditinjau oleh alat moderasi konten kami. Hanya 0,0063% dari total konten tersebut yang ditandai melanggar kebijakan kami mengenai beberapa masalah, seperti perundungan (bullying), ujaran kebencian, dan ekstremisme kekerasan melalui sistem deteksi dan pelaporan kami. Kami sengaja membuat kebijakan yang jauh lebih ketat daripada kebijakan di jaringan sosial dan platform konten buatan pengguna, serta membuatnya mencakup semua aspek, mulai dari perilaku tidak senonoh hingga standar periklanan.

Kami terus melakukan pengukuran terhadap berbagai metrik internal—menggunakan sistem otomatis dan sistem yang dijalankan manusia—yang mencakup semua aspek, mulai dari perundungan (bullying) hingga bahasa yang tidak pantas. Pendekatan ini memandu upaya kami dalam mendukung interaksi teraman dan tersopan di internet, dan, di tingkat paling mendasar, ini berarti kami dapat menyatakan bahwa masalah keamanan bukanlah masalah yang meluas atau sistemik di Roblox. Komitmen terhadap upaya ini sangatlah penting—kami sendiri juga memiliki keluarga, dan memahami bahwa satu saja masalah tentang kesehatan atau keamanan anak adalah hal yang sangat buruk. Kami sangat bersimpati dengan keluarga dan individu yang terdampak.

Kami telah membuat platform yang berlandaskan keamanan

Setiap tim di Roblox membantu memastikan produk kami dirancang dengan mengutamakan keamanan. Selain 10% pegawai purnawaktu dan ribuan kontraktor yang berfokus penuh pada kepercayaan dan keamanan, ada ratusan pegawai Roblox lain yang berupaya membuat dan menyempurnakan teknologi yang diandalkan oleh Tim Kepercayaan & Keamanan kami. Selain itu, jajaran pemimpin kami berkomitmen untuk memastikan bahwa tim-tim ini selalu didukung dengan sumber daya yang cukup. Kami menghabiskan ratusan juta dolar setiap tahun untuk memenuhi misi keamanan kami.

Kemajuan termutakhir kami terkait AI telah meningkatkan keamanan di Roblox. Model bahasa besar, AI multimodal, dan model khusus yang dapat mengidentifikasi masalah keamanan dalam bahasa lisan telah meningkatkan akurasi dan efisiensi moderasi. Guna mempertahankan integritas upaya kami, kami menerapkan otomatisasi berbasis AI hanya jika kami telah melihat hasil yang lebih akurat dibandingkan dengan hasil kerja manusia saat diterapkan dengan skala besar. Selain mengotomatiskan beberapa pekerjaan manusia, AI juga telah membantu staf kami agar lebih fokus pada investigasi yang kompleks, termasuk menegakkan kebijakan kami yang melarang adanya grooming anak di bawah umur dan permintaan informasi pribadi anak.

Kami memiliki pendekatan dalam berbagai aspek yang saling berhubungan untuk keamanan

• Update dan fitur yang sifatnya signifikan harus melalui proses Trust by Design yang ketat untuk meminta masukan dan mengidentifikasi kemungkinan masalah keamanan sebelum proses pengembangan dimulai.
• Kami secara proaktif memoderasi semua komunikasi yang terjadi di platform melalui kombinasi antara review AI dan manusia. Jika ada tanda-tanda bahaya kritis yang teridentifikasi, tanda-tanda ini akan dieskalasikan ke tim investigasi kami.
• Kata dan frasa yang tidak pantas akan difilter dari semua komunikasi teks menggunakan filter ketat otomatis yang terbaik di industri ini.
• Sistem komunikasi suara kami menyediakan masukan real-time untuk pengguna yang melanggar kebijakan kami. Fitur ini telah mendorong perilaku yang jauh lebih sopan di Roblox.
• Untuk pengguna di bawah 13 tahun, filter kami memblokir kemampuan mereka untuk membagikan informasi pribadi serta mencegah upaya untuk memindahkan percakapan ke tempat lain di luar Roblox yang standar keamanan dan moderasinya tidak seketat Roblox.
• Kami tidak mengizinkan pengguna saling mengirimkan gambar atau video melalui chat suara atau teks di Roblox.
• Semua konten yang di-upload ke Roblox, termasuk file gambar, video, dan audio, model 3D, serta teks, melewati proses review komprehensif menggunakan AI multimodal yang ditambah dengan review oleh manusia.
• Tim keamanan kami selalu membagikan wawasan dan panduan kepada seluruh perusahaan untuk meningkatkan keamanan platform dan produk kami.

Kami memastikan bahwa pengguna selalu dapat dengan mudah mengakses fitur yang memungkinkan mereka menandai konten yang kasar, vulgar, atau tidak pantas untuk komunitas online kami. Fitur Laporkan Penyalahgunaan, yang diletakkan dengan jelas di semua bagian Roblox—termasuk dalam pengalaman virtual—membantu pengguna agar dapat dengan mudah melaporkan konten atau perilaku tidak pantas, dan kami mendorong pengguna untuk memanfaatkannya semaksimal mungkin.

Orang tua dapat membatasi atau menonaktifkan kemampuan chat online, menyesuaikan akses ke pengalaman virtual berdasarkan rekomendasi usia, dan memilih opsi untuk batas pemakaian uang. Masukan dari pengguna, orang tua, dan anggota lainnya dalam komunitas kami adalah salah satu alat terbaik yang kami miliki untuk meningkatkan kualitas produk kami. Kami terus mencari berbagai cara untuk memperbarui sistem kendali orang tua agar dapat membuatnya lebih bermanfaat.

Kami sangat serius dalam mengatasi tantangan keamanan online yang dihadapi seluruh industri ini

Keamanan dan kesopanan online—khususnya keamanan pengguna di bawah umur—adalah masalah yang dihadapi di seluruh industri ini. Kami secara aktif bekerja sama menangani masalah ini dengan penegak hukum, organisasi industri penting, dan pembuat kebijakan. Kami menyadari bahwa ada oknum jahat di luar sana, dan kami merasa sangat resah saat ada laporan mengenai bahaya terhadap keselamatan anak. Inilah alasan Roblox, sebagai contoh, menjadi yang pertama dan salah satu dari segelintir perusahaan yang mendukung Undang-Undang Pedoman Rancangan Sesuai Umur California dan baru-baru ini menandatangani surat pernyataan mendukung California Bill SB 933, yang memperbarui undang-undang negara bagian untuk secara tegas melarang bahan kekerasan seksual anak yang dibuat dengan AI.

Kami bekerja sama dengan penegak hukum untuk menemukan pelaku

Selama bertahun-tahun, kami telah menjalin hubungan yang erat dengan penegak hukum di tingkat internasional, federal, dan negara bagian. Kami juga secara rutin berbagi praktik terbaik. Kami memberikan panduan yang jelas tentang cara penegak hukum dapat menghubungi tim kami, termasuk referensi online yang kami berikan untuk menghubungkan penegak hukum secara langsung ke Portal Penegak Hukum Roblox. Kami juga secara proaktif melaporkan potensi ancaman keamanan kepada penegak hukum melalui integrasi dengan tim EXTRACT FBI, yang dirancang untuk menangani laporan dari berbagai platform seperti platform kami.

Kami secara proaktif melaporkan konten yang memiliki potensi risiko bahaya kepada Pusat Nasional untuk Anak Hilang dan Anak Korban Eksploitasi (National Center for Missing & Exploited Children atau NCMEC). CyberTipline NCMEC adalah mekanisme pelaporan khusus bagi penyedia layanan elektronik (ESP) dan publik untuk melaporkan kejadian dugaan eksploitasi seksual anak. Pada tahun 2023, Roblox melaporkan 13.316 insiden kepada NCMEC (Roblox berusaha sangat berhati-hati dalam menjaga keamanan sehingga memiliki ambang batas laporan yang lebih rendah daripada platform lain). Untuk menggambarkan konteks volume insiden di Roblox, pada tahun 2023, CyberTipline menerima lebih dari 35 juta laporan mengenai insiden di platform lain dari ESP lain.

Kami memperluas hubungan, riset, dan kolaborasi di seluruh industri ini untuk menemukan solusi baru bersama-sama

Kami juga berkomunikasi dan berkolaborasi dengan berbagai pihak di sektor kami. Kami mengetahui bahwa meningkatkan kesopanan dan keamanan komunikasi online adalah masalah yang dialami berbagai pihak di industri ini. Oleh karena itu, kami terus berkomunikasi dengan platform lain, LSM, dan konsorsium akademik/industri untuk bekerja sama mencari solusi dalam menghadapi pelaku kejahatan. Sebagai contoh, Roblox telah menjadi anggota aktif Tech Coalition sejak tahun 2018 dan bergabung dengan Lantern sebagai anggota pendiri. Program berbagi sinyal lintas platform pertama di dunia ini memungkinkan perusahaan anggota membagikan informasi dan menindak pelaku kejahatan yang berpindah-pindah platform.

"Roblox selalu menjadi anggota yang penting bagi Tech Coalition, termasuk sebagai bagian dari Direksi kami. Roblox telah menunjukkan kemampuan kepemimpinan dalam grup kerja kami dengan membantu dalam menentukan keputusan penting yang berkaitan dengan seluruh industri ini, antara lain, misi Tech Coalition dengan program Lantern dan pengembangan peta strategi sektor. Upaya ini membantu Roblox dan industri secara luas dalam meningkatkan kemampuan untuk memerangi eksploitasi dan kekerasan seksual anak di dunia maya."Sean Litton, Executive Director, Tech Coalition

Kami juga berupaya untuk meningkatkan keamanan di seluruh industri ini melalui sumber terbuka dan kolaborasi dengan para mitra. Contohnya, tahun lalu, Digital Wellness Lab di Boston Children’s Hospital dan jajaran pemimpin dari Roblox mengumpulkan lebih dari 100 pakar keamanan & kesopanan terbaikdari seluruh dunia untuk berbagi gagasan dan menciptakan kerangka kerja mengenai langkah-langkah yang perlu diambil di seluruh inovasi, kebijakan, dan pendidikan teknologi untuk membuat dunia online menjadi ruang yang benar-benar aman dan sopan, khususnya bagi anak dan remaja, dan lintas disiplin untuk memberi pendapat dan mendiskusikan tantangan sebagai anggota Civility Working Group.

Kerja sama kami yang erat dengan beragam organisasi publik dan swasta ini, termasuk kelompok advokasi orang tua, organisasi kesehatan mental, dan lembaga pemerintah, juga memberi kami wawasan berharga tentang hal-hal yang mencemaskan orang tua, pembuat kebijakan, dan pihak lainnya tentang keamanan online saat kami membagikan pelajaran dan solusi teknologi kami.

Kami juga mendukung kebijakan yang sesuai dengan pelajaran ini serta memprioritaskan kepentingan anak dan remaja.

Inisiatif keamanan dan kesopanan kami telah diakui oleh banyak organisasi industri dan organisasi masyarakat sipil yang memiliki fokus di bidang keamanan. Termasuk di antaranya adalah Save the Children, Digital Wellness Lab, Connect Safely, Perwakilan Khusus Sekretaris Jenderal PBB Bidang Kekerasan terhadap Anak, dan Family Online Safety Institute (FOSI).

"Sejak awal mengenal Roblox, kami sudah mengagumi komitmen mereka terkait keamanan. Komitmen ini diawali dari CEO mereka dan kami telah berkesempatan untuk memberikan kritik membangun melalui Dewan Penasihat Kepercayaan dan Keamanan mereka. Roblox telah secara konsisten mempertahankan peran kepemimpinan dalam hal keamanan online secara umum serta dalam hal kebijakan dan alat yang mereka buat secara spesifik untuk komunitas online mereka."Stephen Balkam, CEO, Family Online Safety Institute

Kami tidak akan pernah berhenti bekerja keras untuk menjaga keamanan pengguna kami dan mewaspadai adanya pelaku kejahatan yang mungkin berupaya mengelak dari sistem keamanan kami. Kami juga memahami bahwa ini adalah upaya penting yang tidak akan ada akhirnya. Kami berkomitmen untuk terus berinvestasi dan beradaptasi demi menghadapi ancaman yang terus berubah agar komunitas kami tetap aman. Kami sudah mulai membangun alat dan fitur keamanan generasi baru karena kami ingin terus menjadi yang terdepan dalam masa depan keamanan dan kesopanan online.