安全速览:12 月
澳大利亚、新西兰、荷兰率先推出聊天年龄验证,全球范围即将上线
就像在现实世界一样,我们认为青少年之间的对话可能不适合成年人,反之亦然。 因此,随着年龄验证的推出,我们也限制了成人与未成年人之间的交流。 我们与儿童发展专家合作,共同制定了合理的年龄分组标准,明确哪些年龄段的用户可以在 Roblox 上彼此聊天。
英国国家打击犯罪调查局 (NCA) 主持建立了一个执法小组,成员包括美国联邦调查局 (FBI)、澳大利亚联邦警察局和新西兰警察局。 NCA 的一位发言人表示:“强大而高效的年龄验证技术在维护儿童用户的在线安全方面发挥着至关重要的作用,有助于在儿童用户培养适龄数字文明技能时,保护他们免受有害和非法内容以及高风险互动的影响。”
众所周知,所有大型在线平台都有年龄较小的用户,但 Roblox 的独特之处在于,我们认识到这一事实,并采取了适合所有年龄段的安全措施。 我们不加密用户之间的通讯交流,而是监控所有活动,识别严重侵害的迹象;我们不允许用户在聊天中分享图片或视频,并会在检测到潜在问题时迅速向执法部门报告。
我们的多层次安全措施
正如汽车制造商不会仅仅依靠安全带来保障驾驶员的安全,Roblox 也采用多层次的安全措施。 现代汽车上配备了许多装置(安全气囊、传感器等),它们协同运作,以确保驾驶员的安全。 Roblox 的年龄验证比行业标准的年龄自声明有了显著改进,但这只是我们整体安全措施中的一层。 除了这项新技术之外,我们还特意制定了比大多数其他平台更为严格的政策和社区准则。 我们不允许使用污言秽语,也不允许非可信赖联系人之间分享图片或个人身份信息。 面向 18 岁以下用户,我们不允许任何与毒品或酒精相关的内容。
高级 AI 模型会监控每天添加到 Roblox 的数十亿条内容,并屏蔽或移除违反我们社区准则的内容。 我们有数千名安全专业人员为这些模型提供支持,因为我们知道 AI 只是这一流程中的一环。 我们还与家长权益和心理健康组织、执法部门和政府官方密切合作,共同制定最佳实践、最新政策和准则,并展开新的研究,了解家长和用户对我们的期望。
我们的目标是在用户看到问题内容或与之互动之前予以拦截。 我们知道不存在完美的系统,因此我们也让用户能够轻松举报所发现的内容。 这些举报不仅有助于移除不当内容,也可以帮助我们训练和强化我们的系统。 我们相信,年龄验证将成为我们复杂安全生态系统中一个新的重要组成部分。
年龄验证有助于我们为所有用户提供适龄的体验和通讯交流方式,但我们知道,我们要做的工作还有很多。 随着新技术的出现,我们会不断优化和完善我们的大型系统。 仅今年一年,我们就推出了超过 145 项安全功能升级,并且往后还将推出更多功能。