newsence
來源篩選

Exclusive: Hegseth gives Anthropic until Friday to back down on AI safeguards

Lesswrong

Defense Secretary Pete Hegseth has given Anthropic CEO Dario Amodei until Friday to grant the military unfettered access to its AI models or face penalties including the invocation of the Defense Production Act. While the Pentagon seeks to remove AI safeguards for operational flexibility, Anthropic maintains its refusal to allow its technology to be used for mass surveillance or autonomous weaponry.

newsence

獨家:赫格塞斯要求 Anthropic 在週五前就 AI 安全防護措施讓步

Lesswrong
4 天前

AI 生成摘要

國防部長皮特·海格塞斯要求 Anthropic 執行長達里奧·阿莫代在週五前允許軍方不受限制地使用其 AI 模型,否則將面臨包括援引《國防生產法》在內的嚴厲懲罰。儘管五角大廈為了作戰靈活性尋求移除 AI 安全防護,但 Anthropic 仍堅持拒絕將其技術用於大規模監控或自主武器開發。

據 Axios 獲悉,國防部長彼得·海格塞斯(Pete Hegseth)要求 Anthropic 執行長達里奧·阿莫代(Dario Amodei)在週五晚間前給予軍方對其 模型的無限制存取權,否則將面臨嚴厲處罰。

大局觀: 海格塞斯在週二的一場 中告訴阿莫代,五角大廈要麼會切斷聯繫並宣布 Anthropic 為「供應鏈風險」,要麼會援引《國防生產法》(Defense Production Act)強制該公司根據軍方需求量身定制其模型。

為何重要: 隨著關於 愈演愈烈,五角大廈希望懲罰 Anthropic,但官員們同時也擔心失去對其業界領先模型 Claude 存取權的後果。

  • 「我們還在跟這些人談的唯一原因,是我們需要他們,而且現在就需要。這些傢伙的問題在於他們確實非常優秀,」一位國防部官員在會前告訴 Axios。
  • Anthropic 表示願意為五角大廈調整其使用政策,但不允許其模型被用於對美國人進行大規模監控,或開發無需人類參與即可開火的武器。
  • Anthropic 的 Claude 是目前唯一用於軍方最敏感工作的 AI 模型。

新聞進展: 一位國防部高級官員表示,這次會議「一點也不溫馨」。另一位消息人士告訴 Axios,會議過程保持「禮貌」,雙方都沒有提高音量,海格塞斯還向阿莫代稱讚了 Claude。

  • 海格塞斯告訴阿莫代,他不會讓任何公司主導五角大廈做出作戰決策的條款,或對個別使用案例提出異議。

內幕: 海格塞斯特別提到了 ,關於在突襲馬杜洛(Maduro)行動期間使用 Claude 的問題。

  • 阿莫代否認 Anthropic 曾提出過此類擔憂,甚至表示除了標準的營運對話外,從未與 Palantir 提及此話題。
  • 他重申,公司的紅線從未阻止五角大廈執行工作,也未對任何在現場執行任務的人員造成問題。

現場直擊: 為了顯示五角大廈對此爭端的重視程度,陪同海格塞斯出席會議的還包括副部長史蒂夫·范伯格(Steve Feinberg)、負責研究與工程的次長埃米爾·邁克爾(Emil Michael)、負責採購與維持的次長麥可·達菲(Michael Duffy)、海格塞斯的首席發言人肖恩·帕內爾(Sean Parnell)以及五角大廈最高法律顧問、總法律顧問厄爾·馬修斯(Earl Matthews)。

另一方說法: 會後,Anthropic 繼續保持和解的基調。

  • 「在對話中,達里奧對國防部的工作表示讚賞,並感謝部長的服務,」Anthropic 發言人表示。
  • 「我們繼續就使用政策進行誠信對話,以確保 Anthropic 能夠在符合我們模型可靠且負責任的能力範圍內,繼續支持政府的國家安全使命。」

運作機制: 《國防生產法》賦予總統權力,強制私營公司接受並優先處理國防所需的特定合約。

  • 例如,該法在 COVID-19 疫情期間曾被用於增加疫苗和呼吸器的產量。

  • 該法律極少以如此公然對抗的方式使用。這位國防部高級官員表示,其構想是強制 Anthropic 在沒有任何安全護欄的情況下,根據五角大廈的需求調整其模型。

  • 根據一位國防顧問的說法,Anthropic 理論上可以將政府告上法庭,辯稱其提供的並非《國防生產法》可用於加速生產的商業現貨產品,而是已經針對敏感政府用途量身定制的客製化軟體。

  • 五角大廈也在考慮終止與 Anthropic 的合約,並宣布該公司為 ,這將要求大量與五角大廈合作的其他公司證明其工作流程中未使用 Claude。

摩擦點: 切斷聯繫將要求五角大廈為 Claude 準備好替代方案,而 Claude 目前是唯一用於機密系統的模型。

  • 在委內瑞拉行動中使用 Claude 是透過 Anthropic 與 AI 軟體公司 Palantir 的合作實現的。
  • 它也被用於軍方內部廣泛的行政職能。

後續觀察: 伊隆·馬斯克的 了一份合約,將其模型 Grok 引入機密環境,但目前尚不清楚它是否能完全取代 Claude。

  • 消息人士告訴 Axios,五角大廈一直在加速與 OpenAI 和 Google 的對話,討論將其模型(目前已可用於非機密用途)移入機密系統。
  • 一位熟悉討論的消息人士表示,目前看來,Claude 在多項與軍方相關的應用(如攻擊性網絡能力)中仍領先於其他模型。
  • 該消息人士稱,如果達成協議,Gemini 被視為潛在的替代方案。這將要求 Google 允許五角大廈將其模型用於「所有合法用途」,而這正是 Anthropic 拒絕的條款。

深度閱讀: