OpenAI 曾討論是否針對加拿大槍擊嫌疑人的對話紀錄報警

Techcrunch

7 天前

AI 生成摘要

OpenAI 員工曾針對一名加拿大大規模槍擊案嫌疑人的 ChatGPT 異常對話進行監測與討論是否報警，但最終認定其活動未達通報執法部門的標準，直到案發後才聯繫當局。

OpenAI 曾討論是否針對加拿大槍擊嫌疑人的對話報警 | TechCrunch

使用超早鳥優惠，最高可節省 680 美元的門票費用。立即註冊。

Disrupt 2026 門票最高可省 680 美元。2 月 27 日截止。立即註冊。

據報導，一名涉嫌在加拿大坦布勒嶺（Tumbler Ridge）大規模槍擊案中殺害八人的 18 歲青年，曾以令 OpenAI 員工感到不安的方式使用 ChatGPT。

Jesse Van Rootselaar 描述槍支暴力的對話被監測該公司大型語言模型（LLM）濫用情況的工具標記，並於 2025 年 6 月被封鎖帳號。

據《華爾街日報》報導，該公司員工曾討論是否要針對此行為聯繫加拿大執法部門，但最終並未採取行動。OpenAI 發言人表示，Van Rootselaar 的活動未達到向執法部門舉報的標準；該公司在事件發生後才聯繫了加拿大當局。

ChatGPT 的對話紀錄並非 Van Rootselaar 數位足跡中唯一令人擔憂的部分。她顯然在兒童常使用的世界模擬平台 Roblox 上創建了一個遊戲，模擬商場大規模槍擊事件。她還在 Reddit 上發布了關於槍支的貼文。

當地警方也知曉 Van Rootselaar 的不穩定狀態，她曾在受不明藥物影響下縱火，警方隨後被召喚至其家人的住所。

由 OpenAI 及其競爭對手開發的 LLM 聊天機器人，被指控引發了部分使用者的精神崩潰，這些使用者在與數位模型對話時失去了對現實的掌握。多起訴訟引用的對話紀錄顯示，機器人鼓勵人們自殺或提供相關協助。

如果您正處於危機中或有自殺念頭，請撥打或傳送簡訊至 988，以聯繫 988 自殺與危機生命線。

主題

在 2 月 27 日前購買門票最高可省 680 美元。會見投資者。發現您的下一個投資組合公司。聽取 250 多位科技領袖的見解，參與 200 多場會議，並探索 300 多家正在打造未來的新創公司。不要錯過這些一次性的優惠。

訂閱以獲取業界重大的科技新聞

每個工作日和週日，您都可以獲得 TechCrunch 最精華的報導。

TechCrunch Mobility 是您獲取交通新聞與見解的首選之地。

新創公司是 TechCrunch 的核心，每週為您送上我們最優秀的報導。

為決策者提供開啟一天所需的資訊。

提交電子郵件即表示您同意我們的條款和隱私聲明。