全ユーザーに安全とマナーを

Robloxは20年近く、特に幼いユーザーにとって安全なオンライン環境の構築に力を注いできました。 世界で最も安全でマナーのあるコミュニティを作ることが目標です。

プラットフォームは発展し、新時代のコミュニケーションと通信環境が構築されてきました。しかしセーフティ手段の開発には変わらず力を注いでいます。 世界一安全でマナーのあるオンライン体験をお届けするためには欠かせないことです。 安全と内容審査を効率よくスピーディーに行うため、時代に合わせた新技術・新戦略を導入しています。

あらゆる世代の何千万人ものRobloxユーザーが、コミュニティ基準を守って毎日安全でポジティブな体験を送っています。 最新の年次透明性レポートにあるように、Robloxユーザーが生成しアップロードしたコンテンツ数は2000億件を超えます。そのひとつひとつが内容審査ツールによってレビューされているのです。 検知・報告システムによっていじめやヘイトスピーチ、過激な思想といったポリシー違反が認められたのはその中の0.0063%に過ぎません。 この結果と関係あるのがポリシーの厳しさです。今日のSNSやUGCプラットフォームの基準よりも厳しく、暴言から広告基準までカバーされています。

いじめから不適切な言葉に関するものまで、自動と人力を問わず、幅広い内部基準をこれからも慎重に運用していきます。 このアプローチは安全でマナーあるオンライン環境の実現にあたって基盤となるものでした。Robloxにおいて安全性の問題は一般的でないと言っていいでしょう。 私たちも家族の一員であり、一つの問題が子供に深刻な影響を与えてしまうことを知っています。これは避けては通れない仕事なのです。 悪い影響を受けてしまった方やそのご家族には深く同情します。

プラットフォームの基盤は安全性

Robloxの製品は安全を念頭に置いて開発されています。 信頼と安心の実現に注力するTrust & Safetyチームはフルタイム従業員の10%と何千名もの請負業者で構成され、そこで必要なテクノロジーを開発する従業員も数百名を超えます。 このようなチームには常に十分なリソースが提供されています。 安全の実現のために投じられる資金は一年で数億ドルに上ります。

AIの近年の進化もRobloxの安全性を高めました。 大規模な言語モデル、マルチモーダルAI、言語から安全性の問題を検出するカスタムモデルによって内容審査の精度と効率は向上しています。 取り組みを一貫したものにするため、大規模な運用により人間よりも高い精度が得られると証明されれば、AIによる自動化を開始します。 AIによる自動化で削減された労力は他に回すことができます。例えば、個人情報の要求や未成年者に対する不適切な接触はポリシーで禁じられています。このような問題の調査にスタッフが注力できます。

多方面のアプローチを連携させて安全を守る

• 大幅なアップデートや機能追加の際は「Trust by Design」（信頼性の設計）を徹底し、フィードバックを集めて開発前から潜在的な危険を検出できるようにしています。
• あらゆるコミュニケーションはAIと人間の手で予防的にチェックされます。 深刻な侵害の兆候が発見されれば、調査チームに報告が届くでしょう。
• 業界最高レベルの自動フィルターが、あらゆる文章コミュニケーションの場面で不適切な言葉を厳しくフィルターします。
• 音声通信システムにより、ポリシー違反者にはリアルタイムでフィードバックが届きます。 この結果Robloxのマナーは大幅に改善しました。
• 13歳未満のユーザーの場合、フィルターが個人情報の共有を防ぎ、Roblox外で会話しようとする試みを阻止します。他の場所ではRobloxほど基準が厳格ではなく、安全が保証されません。
• また、通話やチャットを通じた画像や映像のやりとりも禁止されます。
• 画像、映像、音声、3Dモデル、文章などRobloxにアップロードされた全コンテンツは、人の手で調整されたマルチモーダルAIによる包括的なレビューを受けます。
• Robloxの製品とプラットフォームをもっと安心できるものにするべく、専門のチームからいつも意見が届きます。

コンテンツがRobloxにとって不適切であったり、悪質であると思った場合、ユーザーがいつでも報告できる環境を整備しています。 「規約違反を報告」機能はRoblox中で目立つ場所に表示されています。バーチャル空間内でも同様です。不適切なコンテンツや行いを気軽に報告できる上、ユーザーに機能の使用を促しています。

保護者はチャット機能を制限・無効化したり、推奨年齢に応じてバーチャル空間へのアクセスを制限したり、使用できる金額に上限を設定できます。 ユーザーや保護者など、コミュニティのメンバーからのフィードバックが製品の改善にとても役立っています。 これからも保護者コントロールを使いやすくするため、さまざまな取り組みを進めていきます。

オンラインの安全は業界の問題。Robloxも大きく貢献

オンライン上の安全とマナー、特に幼いユーザーの安全は業界の問題です。Robloxは法執行機関や主要な産業機関、政策立案者とも積極的に連携しています。 悪意ある人々の存在は認識していますし、児童虐待に関する報告には悩まされています。 だからこそ、カリフォルニア年齢適正デザインコード法を支持した史上初、そして唯一の企業がRobloxなのです。さらに最近では、カリフォルニアSB 933法案を支持する書面にも同意しました。これは州法をAI生成による児童ポルノを禁止する形に改正するための法案です。

司法と連携して犯罪者を追跡

この数年間、Robloxは法執行機関との関係を強化してきました。州から国際的なレベルで連携し、定期的に成功事例を共有しています。 法執行機関がRobloxチームにどのように連絡すればいいか明確なガイドラインを作成し、Roblox 法執行機関向けポータルからオンラインで直接連絡できるようにしています。 このようなプラットフォームからの報告を処理するFBIの情報収集チームに協力することで、法執行機関に潜在的な脅威を事前に伝えています。

潜在的に危険なコンテンツは全米行方不明・被搾取児童センター（NCMEC）に報告するようにしています。 NCMECのCyberTiplineは、児童の性的被害が疑われる事例に関する通報を公衆や電子サービス提供者から受け取るシステムです。 2023年にRobloxが報告したのは13316件です（Robloxは安全性を重視しているため、他のプラットフォームと比べて積極的な報告を心がけています）。 なお参考として、2023年に他の電子サービス提供者からCyberTiplineに寄せられた他のプラットフォーム関係の報告は3500万件以上です。

新しい解決策を求め、業界全体と関係を深めて調査や共同の取り組みを進めています

業界内部でも連携を密にしています。 オンライン交流における安全とマナー。これはRobloxだけの問題ではありません。他のプラットフォームやNGO、産学連携機関とも共同し、いかに問題に対処すべきか探り続けています。 Robloxは2018年よりTech Coalitionの一員となり、Lanternの創設メンバーになりました。 これはプラットフォームを越えて警告をシェアする新しい試みです。参加企業が情報を共有することで、悪意ある人々が活動場所を移しても対処できます。

「RobloxはTech Coalitionの重要なメンバーだ。理事会の一員にもなっている。 リーダーシップを発揮して、業界全体に影響するような判断を助けているんだ。特にLanternプログラムや、業界としてロードマップを作成する試みなどだね。 これでRobloxを含む業界全体が、オンラインにおける児童の性的被害と戦う力を身につけるだろう」Tech Coalition常任理事、シーン・リットン

オープンソース化、パートナーとの連携、など、プラットフォームを越えて安全を目指しています。 昨年、Robloxのリーダーはボストン小児病院のデジタルウェルネスラボと協力し、世界から安全とマナーに関する専門家を100人招きました。青少年のオンライン環境を健全に保つためのアイデアを出し合い、技術革新、政策、教育の各分野で必要なステップについて枠組みが定められました。シビリティ・ワーキング・グループの一員として、分野の垣根を越えたワークショップが行われました。

保護者支援グループ、メンタルヘルス団体、政府機関といった幅広い団体と関係を密にすることも、保護者や政策立案者の関心、そしてオンライン上の安全について理解を深めることに役立っています。さらに、私たちの学びや技術的ソリューションも共有しています。

これらの学びと親和性があり、青少年の利益につながる政策は支持しています。

Robloxの安全とマナーに関する取り組みは多くの団体から高い評価を受けています。 Save the Children、デジタルウェルネスラボ、Connect Safely、国際連合事務総長特別代表室（子供に対する暴力担当）、ファミリー・オンライン・セーフティ協会（FOSI）がその一例です。

「Robloxと出会ってからというもの、安全に向ける熱意に驚かされるばかりだ。 彼らのCEOはその中心だ。Robloxの『信頼性と安全性諮問委員会』にて、我々も建設的な批判を行う機会があった。 そのコミュニティのために作られたポリシーやツールはもちろん、オンラインの安全全般においてもRobloxはリーダーシップを発揮し続けている」Family Online Safety InstituteのCEO、スティーブン・バーカム

Robloxはこれからも、安全のためのシステムをくぐり抜けようと企む悪意ある人々を警戒し、ユーザーを守り続けます。 この重大な仕事には終わりはありません。 コミュニティを守るための努力を続け、高まる脅威に備えなければなりません。 安全でマナーあるオンライン環境の未来を率いるため、すでに次世代の安全ツールと機能にも着手しています。