newsence
來源篩選

UpScrolled's Social Network Struggles with Hate Speech Moderation Amidst Rapid Growth

Techcrunch

Upscrolled, a social network that surged in the wake of the U.S. TikTok deal, has seen an uptick in harmful content, including user names and hashtags that contain racial slurs.

newsence

UpScrolled 社交網絡在快速增長後,難以遏制仇恨言論

Techcrunch
17 天前

AI 生成摘要

UpScrolled 這個在美國 TikTok 交易後迅速崛起的社交網絡,正遭遇嚴重的內容審核問題,包括用戶名和標籤中充斥著種族歧視言論。

UpScrolled 社群網路在快速成長後難以審核仇恨言論 | TechCrunch

圖片 圖片

主題

最新

AI

Amazon

應用程式

生物科技與健康

氣候

雲端運算

商務

加密貨幣

企業

電動車

金融科技

募資

小工具

遊戲

Google

政府與政策

硬體

Instagram

裁員

媒體與娛樂

Meta

Microsoft

隱私

機器人

安全

社交

太空

新創公司

TikTok

運輸

創投

更多來自 TechCrunch

員工

活動

新創戰場

StrictlyVC

電子報

Podcast

影片

合作夥伴內容

TechCrunch Brand Studio

Crunchboard

聯絡我們

圖片

UpScrolled 的社群網路在快速成長後難以審核仇恨言論

UpScrolled 是一個在美國 TikTok 所有權變更後迅速竄紅的社群網路,目前正面临嚴重的審核問題。自一月份成長到超過 250 萬用戶後,用戶回報該應用程式未對包含種族歧視字眼的用戶名和標籤採取行動,並且一直無法適當地審核有害內容。

在收到 UpScrolled 用戶的提示後,TechCrunch 證實了該應用程式上存在大量在用戶名中使用種族歧視字眼和仇恨言論的情況。例如,某些用戶名會包含歧視字眼本身、歧視字眼與其他詞語的組合,或是在單一用戶名中包含多個歧視字眼;其他用戶名則包含仇恨言論,例如「希特勒萬歲」。

在向 UpScrolled 的公開電子郵件地址報告這些歧視字眼後,我們收到了來自該電子郵件的回覆,表示該公司「正在積極審查和移除不當內容」,並且正在努力擴大其審核能力。該電子郵件建議我們在情況解決之前不要與惡意行為者互動。

在應用程式上報告此活動幾天後,透過截圖提供給 UpScrolled 的用戶名中包含歧視字眼的帳戶仍然在線上。

此外,TechCrunch 發現,歧視字眼和仇恨言論也出現在應用程式的其他地方,包括標籤以及與照片或影片內容一起使用的文字。根據 TechCrunch 對該應用程式的審查,其他有害內容也可用,包括帶有種族歧視字眼和仇恨言論的文字貼文,以及美化希特勒的照片和影片內容。

TechCrunch 並非唯一發現此問題的人;反誹謗聯盟 (ADL) 本月也發表了一篇部落格文章,指出 UpScrolled 正在成為反猶太主義和極端主義內容以及被指定為外國恐怖組織(如哈馬斯等)的溫床。

UpScrolled 成立於 2025 年,在其網站上聲稱該平台為每個聲音提供「平等的權力」。根據市場情報提供商 Appfigures 的數據,自 2025 年 6 月以來,該應用程式在 iOS 和 Android 上的下載量已超過 400 萬次,這個數字甚至高於該新創公司上個月自行報告的數字。

TechCrunch 創辦人峰會 2026:門票開賣

TechCrunch 創辦人峰會:門票開賣

雖然 UpScrolled 的常見問題解答解釋說該應用程式不會「審查意見」,但它確實表明其政策是限制涉及「非法活動、仇恨言論、霸凌、騷擾、露骨裸露、未經授權的版權材料或任何旨在造成傷害的內容」。

該指南與大多數現代社群媒體平台相似。然而,很明顯,該公司正在努力執行其規則。

這是社群網路經常面臨的鬥爭——尤其是那些在短時間內湧入大量新用戶的社群網路。例如,Bluesky 在 2023 年 7 月面臨帳戶用戶名中出現歧視字眼的問題,導致用戶威脅要離開該網站。

在 UpScrolled 最初回覆我們的詢問後,TechCrunch 也在週二收到了來自新聞帳戶的回覆,該回覆將我們引導至 UpScrolled 創辦人 Issam Hijazi 的新影片,他在影片中談到了內容審核的問題。

建立一個更安全的社交平台需要什麼?@iHijazi 進行了分解。#UpScrolled #用戶安全 #言論自由 pic.twitter.com/cTUx5wwawR

在影片中,他證實用戶一直在上傳違反 UpScrolled 服務條款和公司信念的「有害內容」。

Hijazi 說:「我們正在為每個人提供在健康且尊重的數位環境中表達和分享意見的自由。」為了創造這種環境,他說該公司正在「迅速擴大我們的內容審核團隊,並且我們正在升級我們的技術基礎設施,以便我們可以更有效地捕捉和移除有害內容。」

主題

圖片

消費者新聞編輯

圖片

門票現正以今年最低的價格發售。立即購買通行證,最高可節省 680 美元。與投資者會面。發現您的下一個投資組合公司。聆聽 250 多位科技領袖的演講,深入研究 200 多場會議,並探索 300 多家正在構建未來的初創公司。不要錯過這些一次性的優惠。

最受歡迎

最早的倦怠跡象來自於最擁抱 AI 的人

最早的倦怠跡象來自於最擁抱 AI 的人

MrBeast 的公司收購了以 Z 世代為中心的金融科技應用程式 Step

MrBeast 的公司收購了以 Z 世代為中心的金融科技應用程式 Step

YouTube TV 推出更便宜的方案,包括每月 65 美元的體育套餐

YouTube TV 推出更便宜的方案,包括每月 65 美元的體育套餐

Discord 將於下個月推出年齡驗證

Discord 將於下個月推出年齡驗證

對 OpenAI 決定停用 GPT-4o 的強烈反對表明 AI 夥伴有多危險

對 OpenAI 決定停用 GPT-4o 的強烈反對表明 AI 夥伴有多危險

OpenAI 在 Anthropic 發布自己的代理編碼模型後僅幾分鐘就推出了新的代理編碼模型

OpenAI 在 Anthropic 發布自己的代理編碼模型後僅幾分鐘就推出了新的代理編碼模型

Anthropic 發布了帶有新「代理團隊」的 Opus 4.6

Anthropic 發布了帶有新「代理團隊」的 Opus 4.6

圖片

© 2025 TechCrunch Media LLC.