ロブロックスと法執行機関の連携について

• Roblox（以下、ロブロックス）では、1億人以上のあらゆる年齢層のユーザーが毎日、安全でポジティブな体験を楽しんでいます。
• 当社は、最先端のAI（人工知能）による内容審査と何千人もの訓練を受けた専門家による作業を組み合わせた大規模な安全システムを常に革新し続けています。
• これらのシステムが不正行為の兆候や暴力的な脅迫、またはその他の現実での危害の早期兆候を検出した場合、当社は調査を行い、必要に応じて法執行機関（訳註: 警察当局を含む）への通報を含む適切な措置を講じます。

安全は、ロブロックスにおけるすべての活動の根幹にあるものです。当社のプラットフォームは、13歳未満の若年層ユーザーを含む、あらゆる年齢層のユーザーのために作られています。　 当社の取り組みには、大規模な安全インフラ構築と、世界中にいる数千人もの安全専門家による監視が含まれています。 ロブロックスは、他のインターネット上にある場所とは根本的に異なります。 ユーザー間で伏字フィルタ処理なしのチャットを使用するには、 年齢確認 が必要です。 公開された状態でのやり取りを含むすべてのチャット内容は、電話番号、ユーザー名や他のオンラインプラットフォームへのリンクを含む個人識別情報の共有を防ぐために積極的に伏字フィルタ処理されるよう設計されています。

当社の積極的な内容審査システムの一環として、 高度な検出技術 と迅速な対応プロトコルを活用し、違法行為の懸念や暴力的な脅迫、またはその他の現実の危害を法執行機関に報告しています。 当社はイノベーションを弛みなく続けており、安全への取り組みは決して終わることはありません。 法執行機関との連携は、ユーザーの安全を守るための綿密で多角的な取り組みの一環です。今週、ロブロックスが児童への犯罪に関する会議、第37回 Crimes Against Children Conference (CACC) に参加し、この取り組みについて発表できることを嬉しく思います。

当社の厳格な安全対策は、悪質な違反者を困惑させ、他のプラットフォームに行かざるを得ない状況に追い込む可能性があります。 これは良いことです。悪質な違反者をロブロックスに引き留めたいわけではありませんが、大勢のユーザーが複数のプラットフォームで活動していることも分かっているので、ロブロックスを使用していない場合でもユーザーの安全に貢献したいと考えています。 それが、ユーザーのプライバシー保護に最新の注意を払いながら世界中の法執行機関と当社が連携する理由の一つです。 悪質な違反者の特定やそのような活動の阻止に貢献するため、当社は法執行機関による複数のプラットフォーム上での関連性の分析や必要に応じた調査や介入を支援するよう努力しています。

CACCなどの法執行機関関連の会議に参加することは、法執行機関と連携してロブロックスユーザーの安全を確保する方法の一つです。 活発でグローバルな取り組みを通じて、当社は国際機関や海外、アメリカ合衆国連邦政府、州、地方の各レベルで法執行機関と、深く確固たる関係を築いてきました。 当社は、模範的な対応方法や教訓を共有し、 当社の法執行機関向けポータルを通じて法執行機関が当社と連絡を取る方法について明確なガイドを提供し、有効な法的要請に応じた提供可能な記録の種類を詳しく説明し、安全に関する事柄について法執行機関の意見を積極的に求めています。 当社では、法執行機関からの要請に対応し、プラットフォーム上の安全への脅威を調査し、深刻な脅威を適切な法執行機関に通報する専門の内部チームが24時間体制で活動しています。

当社は、FBIや全米行方不明・被搾取児童センター（NCMEC）などの機関と直接コンタクトする経路を維持し、当社が特定した深刻な脅威を迅速に報告・対応するための体制を整えています。 児童の性的搾取の疑いがある場合、公的および電子サービスプロバイダからの報告窓口として指定されているNCMECに対し、当社は積極的に潜在的に有害なコンテンツを報告しています。 2024年には、NCMECに 24,522件の報告 （NCMECに提出された総報告件数2,030万件の0.12%に相当）を提出しました。

さらに、NCMECと法執行機関と連携し、当社からのNCMEC報告の対処率を向上させるため、悪化要因や緊急性に関する重要な情報を報告に入れるなどの具体的な措置を講じてきました。 このような措置によって、NCMECと法執行機関が当社からの報告をより迅速に分類し、調査できるようになります。 さらに、当社はFBIと連携して、テロリズム、暴力的過激主義、または個人に対する暴力的な脅しなど、潜在的な安全への脅威を積極的に報告しています。この連携は、当社のようなプラットフォームからの報告に対応するために設計されたものです。 同様のすべてのケースに関して、当社の専門チームは関連する捜査で法執行機関を支援するため、24時間365日体制で待機しています。

この課題は、ロブロックス特有のものではありません。 悪質な違反者を阻止する解決策を探るため、他のプラットフォームやNGO、学術界・産業界と常に連携しています。 当社は、2018年から活動しているオンラインでの児童の保護を目的としてテクノロジー企業コミュニティ、テック連合（Tech Coalition）の積極的なメンバーとして活動してきました。 2023年には、 Lantern の設立メンバーになりました。 これは様々なプラットフォームで警告を共有する新しい試みです。参加企業が情報を共有することで、悪質な違反者が活動場所を移しても対処できるようになっています。 また、当社は Robust Open Online Safety Tools （ROOST）の取り組みに創設パートナーとして参画し、 音声安全分類器を手始めとして、業界全体の発展に貢献する新しい技術を共有しています。　

これらの組織に加え、当社は 政策立案者との連携 によって、子供の安全に関する重要な取り組み、立法、その他の取り組みを支援しています。 当社は、若年層ユーザーの情報保護を目的としたカリフォルニア州の年齢適正デザインコード法を支持した最初の企業であり、同法を支持する数少ない企業の1つです。 当社は、児童虐待に関する内容のAI生成を明確に禁止するための州法改正法案、 上院法案 933 （SB 933）への支持を表明する書簡にも署名しました。

法執行機関の専門家は、潜在的な犯罪を調査する上で最も適した立場にあります。 したがって、ロブロックスにおけるあらゆる違反行為が適切な手続きで報告され、対応されることを確認したいと考えています。

残念ながら、ユーザーを罠にかける目的で当社のポリシーを違反するネット監視グループや個人がおり、プラットフォームを自主的に監視する行為が見られるケースもあります。 こういったグループは、表面上は一般市民のことを考えているように見えますが、実際には、当プラットフォーム内だけでなく、プラットフォーム外でも他者に害を及ぼす可能性のある行動を取っています。 例えば、こういった取り組みは、人目を引くソーシャルメディアコンテンツをさらに作成するため、プラットフォーム上に悪意のあるユーザーを長く留まらせる結果となる可能性があります。

ネット監視グループによる行動は、さらに大勢のユーザーが悪質な違反者にさらされるリスクを高め、ロブロックスと法執行機関の両方の措置を遅らせる可能性があります。 当社のポリシーに違反したアカウント（ネット監視グループや個人を含む）には、すべて必要に応じてアカウント削除やアクセス禁止措置を含む適切な措置が講じられます。 当社は、 コミュニティ基準 と 利用規約全体に従って、ポリシーを運用しています。

自分たちで独自に対処しようとせず、コミュニティの皆さんには、次の簡単な報告方法を利用して、不適切な行為を直接ロブロックスまたは法執行機関（警察当局を含む）に報告していただくようおすすめします。

犯罪が起きたと思った方は、地元の法執行機関（訳註: 警察当局など）に直接、連絡することを奨励します。 上記のように、当社は定期的に法執行機関と密接に連携しています。そして、法執行機関が当社に連絡する場合は、当社は可能な限り協力します。 Users can also report potential child sexual exploitation directly to NCMEC’s CyberTipline.

当社は、法執行機関との連携に加えて、緊密に連携する信頼できるパートナーが潜在的に深刻な犯罪活動（テロ、暴力的過激主義、児童搾取など）を当社に報告できる トラステッド・フラッガー・プログラムを確立しました。 当社は、このような報告を速やかにレビューし、必要に応じて対応します。 当社は、当プログラムの拡大に努めており、連携を希望する団体からのお問い合わせを歓迎します。

プラットフォーム上では、当社が提供する強力な規約違反の報告ツールを使って、1日あたり1億人を超えるアクティブユーザーの誰もがロブロックス上で不適切な行為を報告でき、審査や調査の対象にできる仕組みを提供しています。 当社は、このインターフェースを継続的に改善し、ユーザーが必要な情報をより簡単に収集できるようにしています。これによって、当社の安全チームは潜在的な違反を迅速かつ正確に評価できるようになります。

この重要な取り組みに終わりがないことは分かっています。 当社は、インターネット上の安全を向上させるため、あらゆる面で取り組みを継続していきます。具体的には、子供と若者を保護する法律の制定に関する政策立案者との協力、公共機関や業界全体との連携によるフィードバックの共有、法執行機関による調査への支援、ロブロックス上でのユーザー保護強化のための自社の安全システム向上の取り組みを進めていきます。