newsence
來源篩選

OpenAI has deleted the word 'safely' from its mission

Hacker News

OpenAI has reportedly removed the word 'safely' from its mission statement, a change that has sparked discussion about the company's evolving priorities regarding AI development and safety.

newsence

OpenAI 從其使命中刪除「安全地」一詞

Hacker News
15 天前

AI 生成摘要

據報導,OpenAI 已從其使命宣言中刪除了「安全地」一詞,此舉引發了關於該公司在人工智能發展和安全方面不斷變化的優先事項的討論。

背景

OpenAI 在 2025 年底提交給美國國稅局(IRS)的 2024 年度 990 表格中,被發現對其使命宣言進行了重大修改,將原本強調「安全地(safely)」造福人類以及「不受產生財務回報的需求所限制」等字眼全數刪除。這項變動發生在 OpenAI 從非營利組織轉型為營利性公共利益公司的過程中,引發了外界對於該公司是否已將股東利益置於社會安全之上的廣泛討論。

社群觀點

在 Hacker News 的討論中,社群對於 OpenAI 刪除「安全」一詞的動機有著多樣且深刻的解讀。許多參與者認為這是一種法律上的預防措施,旨在避免未來因產品造成的損害(如錯誤的醫療建議或心理操縱)而面臨誤導性陳述的訴訟。一旦公司不再公開承諾產品是安全的,原告就更難以「信任其安全承諾」作為起訴理由。另一種觀點則認為這是一種向投資者發出的「惡德信號」,暗示公司將不再為了道德束縛而犧牲利潤,從而吸引那些認為安全限制會阻礙競爭力的資本。

討論中也出現了關於「AI 軍備競賽」的擔憂。部分留言指出,當前的競爭環境已進入勝者全拿的階段,開發者被迫以驚人的速度推進,而安全往往成為速度的犧牲品。有人將此比作 Google 當年放棄「不作惡(Don't be evil)」口號的現代翻版,認為這標誌著理想主義的終結與資本現實主義的全面接管。然而,也有技術導向的評論者對此持開放態度,認為過度的安全限制(如模型過於唯唯諾諾、過度審查)反而降低了 AI 的實用性,刪除這些字眼或許代表公司將更專注於提升模型能力而非無謂的道德說教。

此外,社群對 AI 造成的社會影響有著激烈的辯論。有網友分享了 ChatGPT 協助撰寫遺書的負面案例,批評 OpenAI 雖然在網站上仍保留安全宣傳,但在實際運作中卻撤銷了對心理操縱等風險的評估框架。這種「洗白」行為被認為是為了掌握權力而非單純為了金錢。不過,也有聲音提醒大眾不應過度恐慌,認為所有重大發明如印刷機、汽車或網際網路都曾面臨類似的社會反彈,人類應該在實驗中學習如何與新技術共存。

最後,針對 OpenAI 仍保留「Open」之名卻日益封閉的諷刺也層出不窮。社群普遍認為,這場轉型反映了人類本性中對權力與財富的追求,最終會侵蝕最初的崇高理想。儘管 OpenAI 聲稱其結構仍具備公共利益性質,但社群對其董事會是否真能制衡股東壓力持高度懷疑態度。

延伸閱讀

在討論過程中,社群成員分享了數個追蹤 OpenAI 使命變遷的資源。Simon Willison 透過 Gist 整理了 OpenAI 從 2016 年到 2024 年在 IRS 申報文件中的使命宣言演變史,讓讀者能直觀地對比文字的增刪。此外,也有網友建立了名為「Closed OpenAI」的網站,專門記錄該公司從開放走向封閉的過程。針對競爭對手 Anthropic,討論中也提到了其作為公共利益公司的註冊文件,顯示其目前的使命仍保留「負責任地開發」等字眼,與 OpenAI 的現狀形成對比。