安全性速览:11 月
Roblox 滥用报告中的透明度和更多安全更新
11 月安全性报告展示了我们在过去一个月在安全性方面持续创新的进展。
利用个人身份信息 (PII) 检测技术应对行业性难题:我们已开源 Roblox 个人身份信息分类器的一个版本。此工具显著提升了我们检测和拦截违规企图的能力,有利于维护我们关于个人身份信息 (PII) 共享的严格政策。 自实施以来,英文语境下的个人身份信息 (PII) 对话召回率已提升至 98%,表现优于其他主流开源模型。
通过调整产品,为用户提供更高的透明度:我们全天候审核平台,同时也为用户提供举报滥用行为的工具,并鼓励用户举报任何问题。 我们不断改进这些举报的处理方式。 我们知道,用户希望进一步了解在 Roblox 上提交举报后会发生什么,因此我们扩大了回复内容的类别列表。 对于所有举报类型,我们现在都会在对举报采取行动时通知用户。 这使得我们向用户提供的举报反馈数量增加了 250%。
通过调整产品,为开发者提供洞察:我们推出了一个新的开发者数据中心,用于游戏中的滥用行为举报(例如脏话)。 开发者可以通过这个数据中心采取措施,确保体验文明和谐,例如回滚功能、改进审核或提供更多用户教育内容。
3. Roblox 宣布与 Attorney General Alliance 合作,建立青少年在线安全合作伙伴关系。 这项多部门倡议将总检察长、执法部门和技术领域的领导者聚集在一起,共同创建新的保护工具,增强我们在各个平台上追踪和打击恶意行为者的能力。
4. 作为我们针对青少年安全的一项持续承诺,Roblox 赞助了首届 Inspired Internet Pledge Amplify Youth Summit: Unmuted 2025。 赞助用于支付活动费用,并为参与者提供差旅援助。 峰会的重点是为高中生和大学生赋能,倾听他们关于心理健康以及数字空间礼仪的观点。 Roblox 员工举办了研讨会,并在关键要点上进行协作,这进一步坚定了我们的理念:要真正确保平台安全,就必须倾听日常使用者的声音。
我们致力于为所有用户打造一个安全、文明的平台。 我们将继续提供此类更新,让社区成员了解我们的持续进展。