Roblox 推出即時 AI 聊天語句重組功能以過濾違規語言

Techcrunch

大約 3 小時前

AI 生成摘要

這項新功能超越了 Roblox 目前僅將違規詞彙替換為井字號的文本過濾器，能將過濾後的文字重組為更具禮貌且貼近使用者原意的語言。

Roblox 推出即時 AI 聊天改寫功能，以過濾違禁語言 | TechCrunch

Roblox 週四宣布，正在推出一項由 AI 驅動的即時聊天改寫功能，該功能會自動將違禁詞彙替換為更具禮貌的語言。

這項新功能超越了 Roblox 目前的文本過濾器，後者僅是簡單地將違禁詞彙和短語替換為「#」符號。但 Roblox 表示，當用戶遇到一連串的「####」時，對話可能會被中斷且難以理解。

現在，過濾後的文本不再只是顯示井字號，而是會被改寫成更具禮貌且貼近用戶原始意圖的語言。

例如，一條寫著「Hurry TF up!」（快他媽的點！）的訊息，以前會顯示為「####」，但現在會被改寫為「Hurry up!」（快一點！）。Roblox 表示，聊天室中的每個人都會收到訊息已被改寫的通知，以保持對話的文明。

「聊天是人們在 Roblox 上聯繫、協調和遊玩的中心，」Roblox 用戶與探索產品副總裁 Rajiv Bhatia 在新聞稿中表示。「即時改寫有助於讓遊戲過程和對話保持在正軌上，同時引導語言走向適當的方向。這種方法減少了聊天中的摩擦，同時維持了有助於保持社群文明的標準。」

Roblox 指出，雖然改寫減少了聊天中的部分干擾，但其安全系統對於更嚴重的行為仍然有效。

這項新功能支援目前透過 Roblox 自動翻譯工具提供的所有語言。

該公司還在升級文本過濾系統，以檢測更多變體的違禁語言。Roblox 表示，早期結果顯示，該系統在檢測「火星文」（leetspeak）以及更複雜的規避過濾嘗試方面變得更加出色。這使得公司在分享或索取個人資訊時，將「偽陰性」（漏報）的發生率降低了 20 倍。

週四的公告發布前不久，Roblox 在德克薩斯州、肯塔基州和路易斯安那州等州檢察長發起一波關於兒童安全的訴訟後，引入了強制性人臉驗證以訪問其平台上的聊天功能。這些訴訟是針對有報告稱 Roblox 讓年輕用戶暴露在危險風險中（如誘拐和顯露內容）而提起的。

主題

消費新聞記者

Aisha 是 TechCrunch 的消費新聞記者。在 2021 年加入該刊物之前，她是 MobileSyrup 的電信記者。Aisha 擁有多倫多大學的榮譽學士學位和西安大略大學的新聞學碩士學位。

您可以透過發送電子郵件至 aisha@techcrunch.com 或透過 Signal 加密訊息 aisha_malik.01 聯繫或核實 Aisha 的外聯資訊。

正在積極擴展？籌款？計劃下一次發布？2026 年 TechCrunch 創始人峰會提供戰術手冊，並可直接對接 1,000 多名正在建立、支持和成交的創始人與投資者。3 月 13 日前註冊，最高可省 300 美元。