Yeni Bir Açık Kaynak Girişiminin Kurucu Ortağı Olmak Çevrim İçi Güvenliğe Yaklaşımımızda Neden Kilit Önem Taşır?

• Yapay zekâ, Roblox'ta güvenlik yaklaşımımızın temelini oluşturur; modellerimizi yazılı ve sesli iletişime, görsellere ve 3D modeller ile mesh'lere uyguluyoruz.

• Özellikle en genç kullanıcılarımız için kullanıcı güvenliğini teşvik etmek her zaman en büyük önceliğimiz olmuştur ve bu nedenle güvenlik sistemlerimize yatırım yapmaya ve iyileştirmeye devam ediyoruz.

• Açık kaynak topluluğuna katkıda bulunmak bizim için önemli. Açık kaynak güvenlik araçlarını teşvik ederek dijital güvenliğin önemli alanlarında mücadeleye kendini adamış, kâr amacı gütmeyen yeni bir kuruluş olan ROOST'un kurucu ortağı olarak güvenlik teknolojisindeki liderlik konumumuzu genişletiyoruz.

• Ayrıca sesli sohbet güvenliği sınıflandırma modelimizin (platformumuzda günde 400.000 saate kadar aktif konuşma işleyen 94 milyon parametreli bir model) yeni bir sürümünü de açık kaynak olarak kullanıyor ve gelecekte yine açık kaynak ek güvenlik yapay zekâ modelleri yayımlamayı planlıyoruz.

Güvenliği ve uygar davranışı teşvik etmek, yaklaşık yirmi yıl önceki kuruluşumuzdan bu yana Roblox'un temelini oluşturmaktadır. Herkes için güvenliği teşvik edecek sistemler tasarlamak, özellikle küresel ölçekte ve desteklediğimiz tüm farklı içerik türleriyle büyük bir çalışmadır. Bu nedenle altyapıya, yapay zekâya ve insana yoğun biçimde yatırım yapmaktayız. Üretimi devam eden yüzlerce model ile Roblox'taki neredeyse her etkileşim bir şekilde yapay zekâ tarafından desteklenmektedir.

Kullanıcılarımız 2024'ün dördüncü çeyreğinde video, ses, metin, sesli sohbet, avatarlar ve 3D deneyimleri kapsayan 300 milyardan fazla içerik yükledi. Yine de bu içeriğin yalnızca %0,01'inin politikalarımızı ihlal ettiği tespit edildi ve bunların çoğu proaktif olarak denetlendiği için kullanıcılar tarafından görülmedi. Ayrıca tüm içeriklerimiz ile iletişim yöntemlerimizin güvenliği için temel yüksek performanslı yapay zekâyı icat ettik. Bu modeller, günde 4 milyardan fazla kısa mesajda sadece milisaniyelik gecikme, milyonlarca ses saati ve içerik öğesi ile çalışır. Olumsuz içeriği tespit etme ve uygun ölçekte denetleme kararları alma taahhüdünde bulunduk.

Güvenlik, Roblox'u aşan bir şeydir. Kullanıcılarımızı platformumuzdayken korumaya yardımcı olabilsek de Roblox'ta olmadıkları zamanlar için bunu yapabilme imkanımız sınırlıdır. Gerçekten de dünyanın dört bir yanındaki internet şirketleri, kullanıcıları platformdan platforma geçtiğinde bu zorluklarla karşı karşıya kalmaktadır. Bu nedenle, yıllar içinde Ailelerin Çevrim İçi Güvenliği Enstitüsü ve Teknoloji Koalisyonu gibi kuruluşlara katılarak çevrim içi güvenlik ve uygar davranış uygulamalarını teşvik etmede liderlik rolü üstlendik.

Şimdi ise ROOST'un (Robust Open Online Safety Tools) Google, OpenAI, Discord ve diğerleriyle birlikte kurucu ortak olarak çevrim içi güvenlikteki liderlik konumumuzu genişletmekten gurur duyuyoruz. Kâr amacı gütmeyen bu yeni kuruluş, yapay zekâ çağına uygun ölçeklenebilir, birlikte çalışabilir ve dayanıklı güvenlik araçları oluşturarak en başta çocuk güvenliği olmak üzere dijital güvenlikteki önemli alanlarda etki göstermeye kararlıdır.

ROOST, çoğunun temel güvenlik teknolojisine erişimi olmayan her büyüklükteki kamu kuruluşu ile özel kuruluşun, sistemlerini genişleterek kullanıcılarının güvenliğini korumak için yararlanabileceği ücretsiz açık kaynak güvenlik araçları geliştirecek, bunların bakımını ve dağıtımını yapacaktır. Böylece söz konusu kuruluşlar da enerjilerini işlerini büyütmeye harcayabilirler.

İnternet genelinde güvenliği artırmaya yardımcı olmaktan heyecan duyuyoruz ve bu amaçla ROOST'un teknoloji danışma komitesinin eş başkanı olacağız. Bu bize öğrendiklerimizi paylaşma ve kuruluşun çalışmalarını ve teknik stratejisini bilgilendirme ve destekleme fırsatı verecektir.

ROOST'un kurucu ortağı olmak, hem kullandığımız hem de paylaştığımız güvenlik tekniklerini geliştirmek için ROOST topluluğunun makine öğrenimi modelleme uzmanlığına güvenmemizi sağlar. Bu heyecan verici çünkü ROOST, Roblox ve diğer çevrim içi platformlar için kritik öneme sahip çevrim içi güvenliğin üç temel alanı üzerinde çalışıyor. İşte kapsadıkları:

• Çocuk cinsel istismarına (CSAM) yönelik malzemeyle ilgili daha güçlü sınıflandırıcılar geliştirmek de dâhil olmak üzere çocuk güvenliğini güçlendirmek

• İnceleme konsolları, sezgisel motorlar gibi daha iyi güvenlik altyapısı oluşturma ve daha fazla eğitim örneği toplama ve düzenleme, istatistiksel olarak örnekleme, etiketleme ve insanları bu kullanımlar hakkında eğitmek

• Politikaları uygulatacak olan denetimcileri eğitmek ve izleyip gözden geçirmek için yapay zekâya dayalı bir büyük dil modeli (LLM) destekli içerik korumaları oluşturmak

Roost Yönetim Kurulu Başkan Yardımcısı Eli Sugarman, "Roblox gibi çevrim içi güvenlik alanında küresel bir liderin ROOST'a kurucu ortak olarak katılması bizim için büyük bir fırsat." diyor ve devam ediyor: "Roblox, açık kaynak güvenliğine gösterdiği bağlılık nedeniyle, çevrim içi topluluğun tamamının korunmasına yardımcı olacak şekilde kendi inovatif yaklaşımını paylaşmak için harika bir konumda bulunuyor."

Bu, tüm çevrim içi topluluk için büyük bir an ve açık kaynak araçlar üzerindeki çalışmalarımız bunun önemli bir unsuru. Yapay zekânın şeffaflık ve açıklık üzerine inşa edilmesi gereken bir teknoloji olduğunu düşünüyoruz ve açık kaynak yapay zekâ topluluğunda güçlü bir ortak olmaya kararlıyız.

Açık Kaynak Topluluğuna Teknoloji Katkısı

ROOST'un kurucu ortağı olmak, açık kaynak topluluğuna teknolojiyle katkıda bulunma yaklaşımımızla el ele gidiyor. Geçen yıl, günde milyonlarca dakikalık ses etkinliği ölçeğinde politika ihlallerini insan denetimcilerden daha isabetli tespit edebilen sesli sohbet güvenliği sınıflandırma modelimizi açık kaynaklı hâle getirdiğimizde bu yolculuğa başlamıştık. O zamandan beri bu yazılım yaklaşık 22 bin kez indirildi.

Elimizde artık bu modelin yedi yeni dilde (İspanyolca, Almanca, Fransızca, Portekizce, İtalyanca, Korece ve Japonca) çalışan ve yeni tekniklerle modeli daha etkili kılan güncellenmiş bir sürümü var. Bunlar, insanlarca oluşturulmuş etiketlere ince ayar yapmak, kötüye kullanım başlıklarını genişletmek, daha verimli özellik çıkarma ve zaman azaltma katmanları eklemek için bir müfredat eğitim mimarisini içerir. Yeni model sürümünü 2025'in ilk çeyreğinin sonuna kadar açık kaynak olarak sunmayı planlıyoruz. İleriye dönük planlarımız ise bu yılın devamında diğer modaliteler için açık kaynak sınıflandırma modellerini de içeriyor.

Araçlarımızı açık kaynak olarak kullanmak, hem güvenlik çalışmalarımızla hem de yaratıcılıkla kimliğimizin bir parçasıdır. Örneğin geçen yıl, yaratıcıların birçok türde otomatik oluşturma aracını deneyimlerine entegre etmelerine yardımcı olacak 3D Temel Modelimizi tanıtmıştık.

ROOST topluluğunun kurucu ortağı olmaktan heyecan duyuyor, bu alandaki diğer liderlerle iş birliği yapmayı ve interneti daha güvenli bir yer hâline getirmek için elimizden gelen her türlü katkıyı sunmayı hedefliyoruz.