Roblox ha dedicato quasi vent'anni a rendere la piattaforma uno degli ambienti online più sicuri per gli utenti, soprattutto per quelli più giovani. Il nostro obiettivo è quello di creare la community più sicura e civile al mondo.

Man mano che la nostra piattaforma si evolve e cresce, plasmando un nuovo futuro per la comunicazione e la connessione, il nostro investimento nelle misure di sicurezza preventive rimane fondamentale. È essenziale per rimanere i migliori al mondo per l'offerta di esperienze online sicure e civili. Ogni anno implementiamo nuove strategie e tecnologie per migliorare la velocità e l'efficienza dei nostro sistemi di sicurezza e moderazione.

Ogni giorno, decine di milioni di persone di ogni età hanno esperienze positive e sicure su Roblox nel rispetto dei nostri Standard della community. Per esempio, come indicato nel nostro recente Rapporto sulla trasparenza annuale, gli utenti di Roblox hanno generato e caricato circa 205 miliardi di elementi in totale sulla piattaforma di Roblox, ognuno dei quali è stato valutato dai nostri strumenti di moderazione dei contenuti. Solo lo 0,0063% di questi contenuti totali è stato segnalato per violazione delle nostre politiche in materia di bullismo, incitamento all'odio ed estremismo violento dai nostri sistemi di rilevamento e segnalazione. Non a caso, le nostre politiche sono molto più rigide di quelle dei social network e delle piattaforme di contenuti generati dagli utenti, e riguardano tutto, dal turpiloquio agli standard pubblicitari.

Misuriamo in continuazione una vasta gamma di metriche interne utilizzando sistemi sia automatizzati che umani che coprono ogni aspetto, dal bullismo al linguaggio inappropriato. Questo approccio regola i nostri sforzi per favorire interazioni più sicure e civili su internet e, in linea di massima, ci permette di dimostrare che i problemi di sicurezza non sono diffusi o sistemici su Roblox. E l'impegno in questo lavoro è fondamentale, tutti noi abbiamo delle famiglie e sappiamo che anche un solo incidente legato alla salute o alla sicurezza dei bambini è orribile. Siamo fortemente vicini alle famiglie e alle persone che sono state colpite.

Abbiamo costruito una piattaforma basata sulla sicurezza.

Tutti i team di Roblox si adoperano per far sì che ogni prodotto sia progettato tenendo a mente la sicurezza. Oltre al 10% dei nostri dipendenti a tempo pieno e alle migliaia di collaboratori che si occupano esclusivamente di fiducia e sicurezza, centinaia di altri dipendenti Roblox lavorano per costruire e migliorare la tecnologia da cui dipende il nostro team Affidabilità e Sicurezza. Inoltre, la nostra leadership si impegna a garantire che questi team dispongano sempre delle risorse adeguate. Ogni anno spendiamo centinaia di milioni di dollari per mantenere il nostro obiettivo di sicurezza.

I nostri progressi recenti nel campo dell'IA hanno migliorato la sicurezza su Roblox. I modelli linguistici di grandi dimensioni, l'IA multimodale e i modelli personalizzati che rilevano i problemi di sicurezza nel linguaggio parlato hanno reso la moderazione più accurata ed efficiente. Per garantire l'integrità dei nostri sforzi, impieghiamo l'automazione IA solo dopo aver dimostrato che, se applicata su scala, essa produce risultati più accurati di quelli umani. Se da una parte l'IA ha automatizzato alcuni sforzi umani, dall'altra ha permesso al nostro personale di occuparsi di indagini più complesse, tra cui l'applicazione della nostra politica che vieta le molestie sui minori e la richiesta di informazioni personali.

Il nostro approccio alla sicurezza è multidisciplinare e interconnesso.

• Gli aggiornamenti e le funzionalità più importanti sono sottoposti a un rigoroso processo di Trust by Design per raccogliere feedback e identificare potenziali problemi di sicurezza ancor prima dello sviluppo.
• Moderiamo tutte le comunicazioni sulla piattaforma in modo proattivo, grazie a una combinazione di revisione IA e umana. Se vengono identificati segnali critici di pericolo, essi vengono trasmessi al nostro team di indagine.
• Le parole e le frasi inappropriate vengono filtrate da tutte le comunicazioni testuali grazie a rigorosi filtri automatici all'avanguardia.
• Il nostro sistema di comunicazione vocale fornisce un feedback in tempo reale agli utenti che violano le nostre politiche. In questo modo, il comportamento su Roblox è diventato molto più civile.
• Per gli utenti di età inferiore ai 13 anni, i nostri filtri bloccano la condivisione di informazioni personali e i tentativi di spostare le conversazioni fuori da Roblox, dove gli standard di sicurezza e la moderazione sono meno severi.
• Agli utenti non è consentito inviare immagini o video tramite messaggi vocali o testuali su Roblox.
• Tutti i contenuti caricati su Roblox, compresi immagini, file video e audio, modelli 3D e testi, sono sottoposti a un processo di revisione completo che utilizza un'intelligenza artificiale multimodale potenziata da esseri umani.
• Il nostro team per la sicurezza condivide regolarmente idee e linee guida in tutta l'azienda per migliorare la sicurezza della nostra piattaforma e dei nostri prodotti.

Facciamo in modo che gli utenti abbiano un accesso facile e costante alle funzioni di segnalazione dei contenuti abusivi, volgari o comunque inappropriati per la nostra comunità online. La funzione Segnala un abuso, presente ovunque in Roblox, anche all'interno delle esperienze, consente agli utenti di segnalare facilmente contenuti o comportamenti inappropriati e noi ne incoraggiamo l'uso.

I genitori possono limitare o disattivare le funzionalità di chat online, personalizzare l'accesso alle esperienze in base alle indicazioni sull'età e selezionare opzioni per i limiti di spesa. Il feedback degli utenti, dei genitori e degli altri membri della nostra comunità è uno degli strumenti più utili che abbiamo per migliorare i nostri prodotti. Cerchiamo continuamente nuovi modi per aggiornare i nostri sistemi di controllo parentale e renderli ancora più efficaci.

Affrontare l'enorme sfida della sicurezza online è un grande impegno per noi.

La sicurezza e la civiltà online, in particolare la sicurezza degli utenti più giovani, è un tema che riguarda l'intero settore e su cui collaboriamo attivamente con le forze dell'ordine, le principali organizzazioni del settore e i responsabili delle politiche. Siamo consapevoli della presenza di malintenzionati e siamo profondamente dispiaciuti per qualsiasi segnalazione di pericolo per i giovani. È per questo che Roblox, per esempio, è stata la prima e una delle poche aziende a sostenere il California Age-Appropriate Design Code Act e ha di recente firmato una lettera a sostegno del California Bill SB 933, che aggiorna le leggi statali per vietare espressamente i contenuti di abuso sessuale su minori generati con IA.

Collaboriamo con le forze dell'ordine per rintracciare i responsabili.

Nel corso degli anni abbiamo stretto rapporti profondi e duraturi con le forze dell'ordine a livello internazionale, federale e statale, e condividiamo regolarmente le pratiche migliori. Forniamo indicazioni chiare sui modi in cui le forze dell'ordine possono contattare il nostro team, tra cui le risorse messe a disposizione online per collegare le forze dell'ordine direttamente al portale delle forze dell'ordine di Roblox. Segnaliamo inoltre in modo proattivo le potenziali minacce di sicurezza alle forze dell'ordine tramite un'integrazione con il team EXTRACT dell'FBI, che si occupa di gestire le segnalazioni provenienti da piattaforme come la nostra.

Segnaliamo proattivamente i contenuti potenzialmente rischiosi al National Center for Missing & Exploited Children (NCMEC). La CyberTipline del NCMEC è un meccanismo di segnalazione che permette al pubblico e ai fornitori di servizi elettronici (ESP) di segnalare casi di sospetto sfruttamento sessuale di minori. Nel 2023, Roblox ha segnalato 13.316 incidenti all'NCMEC (Roblox privilegia la sicurezza e, di conseguenza, ha una soglia di segnalazione più bassa rispetto ad altre piattaforme). Per contestualizzare il volume degli incidenti su Roblox, nel 2023 la CyberTipline ha ricevuto più di 35 milioni di segnalazioni di incidenti su altre piattaforme da parte di altri ESP.

Stiamo ampliando le nostre relazioni, ricerche e collaborazioni in tutto il settore per trovare insieme nuove soluzioni.

Inoltre, comunichiamo e collaboriamo all'interno del nostro settore. Poiché incrementare la civiltà e la sicurezza nella comunicazione online è un tema che riguarda tutto il settore, comunichiamo costantemente con altre piattaforme, ONG e consorzi accademici/industriali impegnati a trovare soluzioni per contrastare i soggetti malintenzionati. Roblox, per esempio, è un membro attivo della Tech Coalition dal 2018 ed è parte di Lantern come membro fondatore. Questo programma unico nel suo genere per la condivisione di segnali tra piattaforme permette alle aziende partecipanti di condividere le informazioni e di intervenire sui malintenzionati che si spostano da una piattaforma all'altra.

"Roblox rimane un membro prezioso della Tech Coalition, anche come parte del nostro Consiglio di Amministrazione. Ha dato prova di leadership all'interno dei nostri gruppi di lavoro, contribuendo a decisioni cruciali per l'intero settore, come il progetto Lantern della Tech Coalition e, tra le altre cose, lo sviluppo di piani d'azione settoriali. Questo sforzo aiuta Roblox e il settore in generale a rafforzare gli strumenti per combattere lo sfruttamento e l'abuso sessuale dei minori online."Sean Litton, Direttore esecutivo, Tech Coalition

Ci impegniamo anche a migliorare la sicurezza nel settore tramite l'open source e le collaborazioni con i partner. L'anno scorso, per esempio, il Digital Wellness Lab del Boston Children's Hospital e i leader di Roblox hanno chiamato oltre 100 grandi esperti di sicurezza e civiltà da tutto il mondo per condividere idee e creare un quadro di riferimento sulle misure necessarie a livello di innovazione tecnologica, politiche ed educazione per rendere il mondo online uno spazio veramente sicuro e civile, in particolare per i giovani, esaminando varie discipline per affrontare la sfida come membri del gruppo di lavoro sulla civiltà.

La nostra stretta collaborazione con queste numerose organizzazioni pubbliche e private, tra cui gruppi di difesa dei genitori, organizzazioni per la salute mentale e agenzie governative, ci permette di conoscere le preoccupazioni dei genitori, dei responsabili delle politiche e di altri soggetti in materia di sicurezza online, oltre che condividere i nostri insegnamenti e le nostre soluzioni tecnologiche.

Inoltre, sosteniamo le politiche che si allineano a questi insegnamenti e che vanno a beneficio dei giovani.

Siamo stati elogiati per le nostre iniziative di sicurezza e civiltà da numerose organizzazioni del settore e civili che si occupano di sicurezza. Tra queste figurano Save the Children, il Digital Wellness Lab, Connect Safely, l'Ufficio del Rappresentante Speciale del Segretario generale sulla violenza contro i bambini alle Nazioni Unite e il Family Online Safety Institute (FOSI).

"Fin dai nostri primi incontri con Roblox, siamo stati colpiti dal suo impegno per la sicurezza. È un impegno che parte dall'Amministratore delegato e abbiamo potuto anche fornire critiche costruttive tramite il Comitato consultivo di fiducia e sicurezza. Roblox ha sempre mantenuto un ruolo di leadership nel campo della sicurezza online in generale nonché nelle politiche e negli strumenti che ha creato specificamente per le sue community online."Stephen Balkam, Amministratore delegato, Family Online Safety Institute

Continueremo a impegnarci senza sosta per mantenere i nostri utenti al sicuro e a vigilare contro i malintenzionati che potrebbero tentare di eludere i nostri sistemi di sicurezza. Siamo consapevoli anche del fatto che il lavoro importante non finisce mai. Continueremo sempre a investire e ad adattarci per rispondere all'evoluzione delle minacce e mantenere la nostra community al sicuro. Stiamo già progettando la prossima generazione di strumenti e funzionalità per la sicurezza, in modo da rimanere all'avanguardia nel futuro della sicurezza e della civiltà online.