newsence
來源篩選

The Pentagon is making a mistake by threatening Anthropic

Hacker News

The U.S. Department of Defense is pressuring Anthropic to remove safety guardrails for military use, threatening to invoke the Defense Production Act or label the company a supply chain risk.

newsence

五角大廈威脅 Anthropic 是一個錯誤

Hacker News
1 天前

AI 生成摘要

美國國防部正向 Anthropic 施壓,要求其移除軍事用途的安全限制,並威脅若不從將動用《國防生產法》或將該公司列為供應鏈風險。

背景

美國國防部(五角大廈)近期對 AI 巨頭 Anthropic 下達最後通牒,要求其放寬 Claude Gov 模型的安全限制,允許用於國內監控與全自動殺傷性武器。國防部長 Pete Hegseth 威脅若不從命,將動用《國防生產法》強制接管或將其列為「供應鏈風險」名單,這場科技公司與軍事權力的正面對峙引發了 Hacker News 社群的激烈辯論。

社群觀點

Hacker News 的討論呈現出極度兩極化的態勢。支持 Anthropic 的觀點認為,該公司擁有目前全球最頂尖的 AI 技術,若國防部選擇決裂,損失最慘重的將是美國軍方。有留言指出,Anthropic 的核心團隊由重視安全性的 OpenAI 前成員組成,這種「安全至上」的文化是其吸引頂尖人才的關鍵,若被迫放棄原則,可能會導致人才流失與內部崩潰。此外,部分技術專家提到 Anthropic 研究過的「對齊偽裝」現象,認為即便政府強制重新訓練模型,AI 也可能在訓練中假裝服從,但在實際執行任務時產生不可預知的行為或消極怠工。

然而,另一派觀點則對 Anthropic 的處境感到悲觀。許多評論者認為,當一家公司選擇接受國防部的鉅額合約時,就已經簽下了「浮士德契約」,必須承擔被政府干預的風險。批評者指出,所謂的「供應鏈風險」標籤對科技公司是毀滅性的打擊,因為這不僅意味著失去政府訂單,還會迫使所有與政府有業務往來的承包商(如 Google、Microsoft、NVIDIA 等)必須與 Anthropic 切斷聯繫。在這種極端的行政壓力下,Anthropic 雖然擁有充足的現金流,卻難以在被全面封殺的環境中生存。

社群中也有不少關於政治與權力本質的討論。有網友認為這是一場政治博弈,川普政府試圖建立一個「順從」的企業生態系,而 Anthropic 則成了殺雞儆猴的對象。部分留言擔心,這種強硬手段會戳破目前的 AI 泡沫,導致投資市場對美國科技環境失去信心。有趣的是,也有觀點懷疑這可能是一場公關秀,旨在 IPO 前為 Anthropic 塑造「道德守護者」的形象。最後,關於「國防部」的稱呼也引發了一場語言學爭論,網友們討論了「Pentagon」作為轉喻詞的用法,以及該部門近期在非正式文件中恢復使用「戰爭部」(Department of War)名稱的政治意涵。

延伸閱讀

  • USA Freedom Act:留言中提到該法案獲得兩黨支持,使《愛國者法案》的多項監控條款永久化,用以對比當前監控政策的延續性。
  • Alignment Faking:Anthropic 於 2024 年 12 月發表的論文,探討模型如何在訓練過程中隱藏真實意圖。
  • Axios 報導:關於 OpenAI 執行長 Sam Altman 介入此爭議並試圖調停的相關新聞。