Roblox 如何與執法單位合作
調查潛在安全威脅
- 每一天,都有超過 1 億名不同年齡層的玩家在 Roblox 上享有安全且正面的體驗。
- 我們持續革新全面性的安全系統,不僅採用尖端的 AI 審核功能,更結合了數千位訓練有素的專業人士所提供的專業知識。
- 當系統偵測到疑似非法活動、暴力威脅,或其他造成現實生活危害的初步跡象時,我們會進行調查,並在必要時依法採取相應的處理措施,包括向執法單位回報。
安全是 Roblox 的一切基礎,這個平台最初就是為所有年齡層而打造,包含 13 歲以下的使用者。 為此,我們不僅採用大型安全基礎設施,也在全球各地設有數千名專責監督的安全人員。 Roblox 在本質上也有別於網路上的其他平台。 我們要求使用者進行年齡驗證,才能與其他使用者進行無過濾聊天。 對於其他聊天內容(包含公開討論),我們都會主動過濾,旨在防止個人識別資訊外流,包括電話號碼、使用者名稱和其他線上平台的連結。
作為主動審核機制的一部分,我們會利用進階偵測功能與快速回應協定,向執法單位回報疑似非法活動、暴力威脅,或其他造成現實生活危害的行為。 我們致力於持續創新,維護平台安全更是我們永不懈怠的責任。 為協助維護使用者安全,Roblox 採取全方位且多面向的各項措施,與執法單位攜手合作正是其中之一;在 Roblox 本週參加的第 37 屆年度兒童受暴研討會 (CACC) 中,我們也很榮幸地分享相關合作經驗。
我們嚴格的安全措施可能會讓不肖人士受挫,並迫使他們轉至其他平台活動。 這固然是好事,因為我們不希望這些人士出現在 Roblox,但同時也明白,許多用戶會同時使用多個平台,即使是在 Roblox 以外的環境,我們也希望能為使用者安全作出貢獻。 這是我們與全球執法單位合作的眾多原因之一,同時,我們也注重保護使用者的隱私權。 透過協助識別與阻撓不肖人士,我們希望能幫助執法單位整合跨平台的線索,以便深入調查並在需要時介入處置。
與執法單位合作
參與 CACC 等執法會議,只是我們與執法單位合作,以協助維護 Roblox 使用者安全的其中一種方式。 透過積極的全球拓展,我們與國際、聯邦、州和地方層級的執法單位,都建立了深厚且長久的合作關係。 我們分享最佳做法與經驗、提供執法人員透過執法單位入口網站與我們聯絡的明確指引,詳細說明我們對於有效的法律請求可能提供的紀錄類型,並積極尋求執法單位對於安全事宜的意見回饋。 我們也設有專責內部團隊,全天候支援執法單位的請求、調查平台安全威脅,並將嚴重威脅回報給適當的執法單位。
我們與美國聯邦調查局 (FBI) 和國家失蹤與受剝削兒童中心 (NCMEC) 等組織建立了直接的溝通管道,以便立即回報我們發現的嚴重威脅。 我們會主動向 NCMEC 回報可能有害的內容,NCMEC 是大眾與電子服務提供商針對疑似兒童性剝削案件的指定回報實體。 2024 年,我們向 NCMEC 提交了 24,522 份檢舉報告(佔 NCMEC 所收到 2,030 萬份報告的 0.12%)。
此外,我們與 NCMEC 和執法單位合作,讓提交給 NCMEC 的檢舉報告更容易用於採取具體行動,例如納入有關加重因素或事件急迫性的關鍵資訊。 這些措施有助於 NCMEC 和執法單位更妥善地對檢舉報告進行分類和調查。 此外,我們也透過 FBI 專門處理同類平台檢舉報告的整合機制,主動向該局呈報潛在安全威脅(例如恐怖主義、暴力極端主義或個別暴力威脅)。 在這些與執法單位的合作過程中,我們的內部專責團隊都會全天候待命,以備協助執法單位進行任何後續調查。
擴大合作
面對這項挑戰的,並非只有 Roblox。 我們持續與其他平台、非政府組織,以及學術與業界聯盟交流,致力尋求防範不肖人士的對策。 自 2018 年以來,我們一直積極參與 Tech Coalition,這是一個由科技公司組成的社群,旨在保護兒童網路安全。 2023 年,我們以創始成員身分加入 Lantern 計畫。 這個首創的跨平台訊號分享計畫可讓參與的企業彼此共享資訊,進而針對在不同平台間流竄的不肖人士採取行動。 我們也以創始合作夥伴的身分加入 Robust Open Online Safety Tools (ROOST) 計畫,分享新的安全技術,從我們的語音安全分類器開始,協助推動整個業界的發展。
除了這些組織,我們也與政策制定者合作,在重要的兒童安全倡議、立法和其他工作上攜手並進。 我們是首家支持推動《加州適齡設計規範法》保護年輕使用者資訊的公司,也是少數支持此法案的企業之一。 我們也簽署了公開信支持加州參議院 933 法案 (SB 933),修訂州法明確禁止使用 AI 技術生成兒童性虐待內容。
自發性監察團體
專業執法人員最有能力調查潛在的犯罪行為。 因此,我們希望確保透過適當的管道回報 Roblox 上的任何違規行為,並採取相應措施。
遺憾的是,有些自發性監察團體或個人違反我方政策,藉此誘騙使用者或以其他方式對平台進行自我監管。 雖然這些團體看似以公眾利益為念,但實際上其行為可能會對平台內外的其他人造成傷害。 舉例來說,他們的作為可能會讓不肖人士在平台上活動更久,製造更多聳人聽聞的社交媒體內容。
自發性監察團體採取的行動會增加更多使用者接觸不肖人士的風險,且可能會耽誤 Roblox 和執法單位的執法工作。 任何違反我方政策的帳號(包括自發性監察團體或個人的帳號),將面臨相應後果,包含在必要時遭移除和封鎖。 我們會根據社群標準和整體使用條款執行政策。
我們鼓勵社群使用下方列出的簡單檢舉方式,直接向 Roblox 或執法單位檢舉任何不當行為,而非自行處理。
正確檢舉方式
我們鼓勵任何認為有犯罪情事的使用者,直接與執法單位聯絡。 如上所述,我們與執法單位保持密切合作,且在執法單位與我方聯絡時,會盡可能地協助配合。 Users can also report potential child sexual exploitation directly to NCMEC’s CyberTipline.
除了與執法單位合作,我們也建立了一個信任舉報員計畫,提供交流密切的信任合作夥伴向我們檢舉潛在的嚴重犯罪活動(例如恐怖主義、暴力極端主義或兒童剝削)。 我們會立即審查這些檢舉內容,並在必要時採取相應行動。 我們持續努力擴展此計畫,並歡迎有興趣的實體與我們聯絡。
在平台上,我們提供強大的濫用檢舉工具,讓每日超過 1 億名活躍使用者中的任何人,都能在 Roblox 上檢舉不當行為,以便進一步審核並視情況展開調查。 我們會持續改善此介面,讓使用者能更輕鬆地擷取所有必要資訊,使安全團隊更快速準確地評估潛在違規行為。
我們知道這項重要的工作永遠不會結束。 我們將繼續在各方面推動改善線上安全,包括與政策制定者合作制定保護兒童和青少年的法律,與公共機關和整個產業合作分享意見回饋、支持執法調查,並提升自身的安全系統,以協助維護使用者在 Roblox 上的安全。