安全性に関するスナップショット：12月

本日より、Roblox（ロブロックス）はオーストラリア、ニュージーランド、オランダのユーザーに対し、Robloxチャットを利用する前に年齢確認の完了を必須とします。 1月初旬には、この要件がチャットが利用可能な他のすべての地域に拡大されます。 積極的な年齢確認は、当社の考える通信の安全性における最高基準に向けた重要な次のステップです。 当社のビジョンは、すべてのユーザーに安全で年齢に適した経験を提供することです。Robloxは、オンラインゲームおよび通信プラットフォームとして初めて、チャット利用時の顔年齢確認を義務づけました。 すでに2140万人以上のユーザーが自発的にこのプロセスを完了しています。 年齢確認プロセスの詳細については、安全センターをご覧ください。

現実世界と同様、10代後半同士の会話は大人には不適切であり、その逆もまた然りだと私たちは考えています。 そのため、年齢確認の開始に伴い、成人と未成年者の間の通信も制限しています。 当社は、子どもの発達の専門家と提携し、Roblox上でチャットできる年齢層を定義しています。

英国の国家犯罪対策庁は、FBI、オーストラリア連邦警察、ニュージーランド警察を含む法執行機関グループの議長を務めています。 同機関の広報担当者は次のように述べています。「堅牢で非常に効果的な年齢確認技術は、オンライン上で未成年ユーザーの安全を維持する上で重要な役割を果たし、年齢に適したデジタルリテラシースキルを身につける一方で、有害で違法なコンテンツや高リスクなやり取りから未成年ユーザーを保護するのに役立ちます」 

大規模なオンラインプラットフォームには若年層ユーザーが一定数いることは広く知られています。Robloxはこの点を踏まえ、全年齢層を対象に安全対策を講じている点で独自性があります。 ユーザー間の通信を暗号化せず、すべてのアクティビティを監視して重大な危害の兆候がないかを確認し、ユーザーがチャットで画像や動画を共有することを許可せず、潜在的な問題が検出された場合は法執行機関に迅速に報告します。

安全性に対する多層的なアプローチ

自動車メーカーが運転者の安全を確保するためにシートベルトだけに頼らないのと同様に、Robloxは安全のための多層的なアプローチを採用しています。 現代の車には、ドライバーの安全を確保するために連携して機能する多くの要素（エアバッグ、センサーなど）が搭載されています。 Robloxの年齢確認は、自己申告の年齢という業界標準から大きく進化したものですが、当社の安全対策全体の1つの階層にすぎません。 この新しいテクノロジーに加えて、当社は、他のほとんどのプラットフォームよりも意図的に厳しいプライバシーポリシーとコミュニティ基準を維持しています。 当社は、信頼するつながりではないユーザー間での暴言や画像、個人を特定できる情報の共有を禁止しています。 18歳未満のユーザーに対しては、薬物やアルコールの描写を許可していません。 

高度なAIモデルが毎日Robloxに追加される数十億ものコンテンツを監視し、コミュニティ基準に違反するコンテンツをブロックまたは削除しています。 AIはこのプロセスの一要素にすぎないことを理解しており、当社では数千人の安全専門家がこれらのモデルを支えています。 また、保護者支援団体やメンタルヘルス関連団体、法執行機関、政府関係者と緊密に連携し、ベストプラクティスや最新のポリシー・ガイドライン、そして保護者やユーザーが当社に何を求めているのかについて調査しています。  

当社の目標は、ユーザーが問題のあるコンテンツに触れる前にそれを検知することです。 完璧なシステムは存在しないことを認識しており、ユーザーが発見した問題を簡単に報告できる仕組みも整えています。 これらの報告は、不適切なコンテンツを削除するのに役立つだけでなく、システムのトレーニングと強化にも役立ちます。 年齢確認は、当社の洗練された安全エコシステムの重要な新しい要素になると考えています。

年齢確認は、すべてのユーザーに年齢に応じた体験やコミュニケーションを提供するのに役立ちますが、改善の余地が常にあることも認識しています。 新しいテクノロジーの登場に合わせて、より大規模なシステムを継続的に最適化し、階層を追加しています。 今年だけで145以上の安全強化をリリースしており、今後さらに多くの機能をリリース予定です。