「幕後技術」是搭配我們話說科技 Podcast 的部落格文章系列。 在 Podcast 第 20 集「Roblox 虛擬人偶的進化」中，Roblox 執行長 David Baszucki 與資深工程總監 Kiran Bhat、資深產品總監 Mahesh Ramasubramanian 和主任產品經理 Effie Goenawan 一起探討透過虛擬人偶進行沉浸式溝通的未來，以及我們正在解決的技術挑戰。 本期幕後技術，我們與資深工程經理 Andrew Portner 對談，深入了解其中一項技術挑戰：沉浸式語音通訊的安全性，以及團隊如何竭盡所能為平台上的所有人營造安全又守禮的數位環境。

團隊所面對最大的技術挑戰有哪些？

為使用者維持安全且正面的體驗是我們的優先目標。 安全和禮儀一直是我們的首要考量，但即時處理相關問題有時是巨大的技術難題。 一旦出現問題，我們希望能即時審核並採取措施。但以我們的規模來說，這是一項艱鉅的挑戰。 為了有效率地應對，我們需要利用自動化安全系統。

另一個我們重視的技術挑戰，就是審核系統安全措施的準確性。 我們有兩種審核辦法，來即時應對違規行為並提供準確的意見回饋：被動審核和主動審核。 被動審核方面，我們正在開發機器學習模型，以準確辨識不同類型的違規。使用者在平台上提出檢舉，這些模型會對其做出回應。 主動審核方面，我們正努力開發即時偵測潛在違規內容、教育使用者行為的功能。 理解口語和改善音訊品質是一個複雜的過程。 我們已經看到了進展，但我們的最終目標是擁有一個可即時檢測違規行為的高精準度模型。

我們使用哪些創新方法和解決方案來應對這些技術挑戰？

我們開發了端對端的機器學習模型，可分析音訊資料並根據違規類型提供信心水準（例如有多大可能性是霸凌、髒話等）。 這個模型明顯改善了我們自動為某些檢舉結案的能力。 在模型有高度信心時，我們就會採取措施，可以確定其表現優於人力審核。 模型僅推出數月後，我們就能使用它審核幾乎所有的英語語音濫用檢舉。 我們自行開發了這些模型。眾多開放原始碼技術結合我們自家的心血，才打造出背後的技術，這些模型就是證明。

即時判斷內容是否適當似乎相當複雜。 這是怎麼運作的？

我們花了很多心思讓系統能察覺語境。 採取措施前，我們還會觀察一段時間內檢舉對象的行為模式，確保措施是合理的。 我們的政策會根據對象年齡、處於公共空間或私人聊天室，以及其他多種因素而有細微的不同。 我們正在探索能即時促進守禮風氣的新方式，機器學習則是其中的核心。 我們近期推出了自動推播通知（又稱「小提示」）來提醒使用者注意我們的政策。 我們也在研究語氣等其他因素，以利理解說話者的意圖，辨識諷刺或玩笑等修辭。 最後，我們也在打造多語言模型，因為有些人會說多種語言，甚至在說話中途切換語言。 要做到這些，就必須擁有準確的模型。

目前我們專注於解決最常發生的濫用，如騷擾、歧視和髒話。 這幾類狀況在濫用檢舉中占了大多數。 我們的目標是對這些領域造成顯著的影響，並為促進並維持守禮的網路對話樹立業界典範。 我們對於即時使用機器學習的潛力十分期待，因為它能有效地為大家建立安全守禮的體驗。

在 Roblox 要解決的挑戰有什麼獨特之處？ 首先要解決的問題有哪些？

我們的空間語音聊天技術模擬現實世界的溝通方式，創造了沉浸感更佳的體驗。 舉例來說，如果我站在某人的左邊，對方的左耳就會聽到我的聲音。 我們想打造類似現實世界的溝通方式，而這就是我們首先要解決的挑戰。

我自己身為遊戲玩家，目睹過不少線上遊戲的騷擾和霸凌現象。 由於使用者匿名和缺乏懲處機制，這問題經常遭到忽略。 然而，我們在這方面所面臨的技術挑戰，在幾個方面上是其他平台所沒有的。在某些遊戲平台上，互動僅限於隊友之間。 Roblox 則提供了多種在社交環境中互動的方式，更加接近現實生活。 隨著機器學習和即時訊號處理技術的進步，我們可以有效地偵測濫用行為並進行處理，這表示我們提供的環境不僅更加逼真，也是個所有人都能安心與他人互動交流的地方。 我們的技術、沉浸式平台，以及我們對於教育使用者遵守政策的盡心盡力，以上三者的結合讓我們有能力迎頭面對這些挑戰。

你從這項技術工作中學到了哪些要點？

我感覺學到了很多。 我並不是機器學習的工程師， 我主要從事遊戲的前端工作，所以能更深入了解這些模型的運作方式，對我來說是很大的收穫。 我希望我們為促進守禮風氣所採取的行動，能轉化為網路社群中一直缺乏的同理心。

最後還學到了一點，就是一切都取決於投入的訓練資料。 為了資料的準確性，真人使用者必須達成共識。決定用什麼樣的標籤來分類特定的違規行為。 以大家都同意的優質資料進行訓練十分重要。 這是個相當棘手的問題。 你會開始看到在某些領域中機器學習遙遙領先，在某些領域中則仍處於早期階段。 機器學習在很多領域仍在發展中，因此關鍵在於認清其目前的極限。

你的團隊最符合 Roblox 的哪一項價值？

尊重社群是我們在研發過程中一貫的指導價值。 首先，我們必須專注於增進守禮風氣，並減少平台上違規的情形。 這對整體使用者體驗有重大影響。 其次，我們必須仔細考慮該如何推出這些新功能。 我們必須留意模型中的誤報（比如錯誤地把某些行為標為濫用），避免誤懲使用者。 監控模型的效能與其對使用者互動程度的影響十分重要。

對於 Roblox 和團隊的未來發展，什麼事最讓你期待？

我們在改善公共語音通訊方面已有重大進展，但還有很多工作尚待完成。 私人通訊是一個探索起來令人期待的領域。 我認為我們有個大好機會可以改善私人通訊，讓使用者能對親密好友表達自己的想法、能跨體驗或在體驗中進行語音通話，來與朋友互動。 我認為也有機會用更好的工具來扶植這些社群，讓使用者能夠自我組織或加入社群、分享內容與想法。

隨著我們繼續成長，我們該如何擴展聊天技術，才能支援這些不斷擴大的社群？ 我們有很多能做的事情都目前都還只是蜻蜓點水。我覺得有機會以前所未見的方式改善整個業界線上通訊和合作的守禮風氣。 只要有合適的技術和機器學習能力，得天獨厚的我們就能塑造網路通訊的守禮未來。