Instagram 現在會在青少年搜尋自殺或自殘內容時提醒家長 | TechCrunch

Instagram 週四宣佈，如果青少年在短時間內反覆嘗試搜尋與自殺或自殘相關的詞彙，系統將開始提醒家長。這些警示將在未來幾週內，向已在 Instagram 上啟用「家長監督」功能的家長推出。

這家隸屬於 Meta 的社交平台表示，雖然目前已封鎖用戶搜尋自殺和自殘內容，但這些新警示旨在確保家長能察覺青少年是否反覆嘗試搜尋此類內容，以便及時提供支持。

可能觸發警示的搜尋內容包括鼓勵自殺或自殘的短語、顯示青少年可能有自傷風險的短語，以及「自殺」或「自殘」等詞彙。

Instagram 表示，家長將根據提供的聯絡資訊，透過電子郵件、簡訊或 WhatsApp 收到警示，同時也會收到應用程式內的通知。該通知將包含旨在幫助家長與青少年開啟對話的資源。

此舉正值 Meta 和其他大型科技公司面臨多項訴訟之際，這些訴訟旨在追究社交媒體巨頭傷害青少年的責任。

在本週於加州北區美國地方法院進行的一場訴訟證詞中，Instagram 負責人 Adam Mosseri 在一宗持續進行的社交媒體成癮案件中，遭到檢察官嚴厲盤問，質疑該應用程式延遲推出基本安全功能，包括針對傳送給青少年的私訊設置裸露過濾器。

此外，在洛杉磯郡高等法院的另一場訴訟證詞中，Meta 的一項內部研究顯示，家長監督和控制功能對兒童強迫性使用社交媒體的影響微乎其微。研究還發現，面臨壓力生活事件的兒童，更難以適當地調節其社交媒體的使用。

鑑於目前有多項訴訟指控該公司未能保護其平台上的青少年，推出這些新警示的時機並不令人意外。

該公司指出，將努力避免發送不必要的通知，因為過度使用可能會降低其整體有效性。

Instagram 在部落格文章中解釋道：「為了在這一重要的平衡點上取得聯繫，我們分析了 Instagram 的搜尋行為，並諮詢了我們自殺與自殘顧問小組的專家。我們選擇了一個門檻，即需要在短時間內進行幾次搜尋，同時仍保持謹慎。雖然這意味著我們有時可能會在沒有真正疑慮的情況下通知家長，但我們認為——專家也同意——這是一個正確的起點，我們將繼續監測並聽取回饋，以確保我們處於正確的位置。」

這些警示將於下週在美國、英國、澳洲和加拿大推出，並將於今年晚些時候在其他地區開放。

未來，Instagram 計劃在青少年嘗試與應用程式的 AI 進行有關自殺或自殘的對話時，也發送這些通知。

主題

消費新聞記者

Aisha 是 TechCrunch 的消費新聞記者。在 2021 年加入該刊物之前，她是 MobileSyrup 的電信記者。Aisha 擁有多倫多大學的榮譽學士學位和西安大略大學的新聞學碩士學位。

您可以透過電子郵件 aisha@techcrunch.com 或透過 Signal 上的加密訊息 aisha_malik.01 聯繫或核實 Aisha 的外聯資訊。

在 2 月 27 日前購買門票，最高可節省 680 美元。會見投資者。發現您的下一個投資組合公司。聆聽 250 多位科技領袖的演講，深入參與 200 多場會議，並探索 300 多家正在構建未來的初創公司。不要錯過這些一次性的優惠。

最受歡迎內容

是時候停止使用插電式混合動力車了

是時候停止使用插電式混合動力車了

Bill Gurley 表示，現在對職業生涯最糟糕的事情就是打安全牌

Bill Gurley 表示，現在對職業生涯最糟糕的事情就是打安全牌

那個我不想歸還的 9,000 磅怪物

那個我不想歸還的 9,000 磅怪物

Sam Altman 想提醒你，人類也消耗大量能量

Sam Altman 想提醒你，人類也消耗大量能量

Google 副總裁警告兩類 AI 初創公司可能無法生存

Google 副總裁警告兩類 AI 初創公司可能無法生存

xAI 的好消息：Grok 現在非常擅長回答有關《柏德之門》的問題

xAI 的好消息：Grok 現在非常擅長回答有關《柏德之門》的問題

FBI 表示 ATM「大獎（jackpotting）」攻擊正在增加，駭客已竊取數百萬現金

FBI 表示 ATM「大獎（jackpotting）」攻擊正在增加，駭客已竊取數百萬現金