newsence
來源篩選

US Military leaders meet with Anthropic to argue against Claude safeguards

Hacker News

US defense officials, including Secretary Pete Hegseth, have pressured Anthropic to grant unfettered access to its Claude AI model, threatening to cancel contracts or designate the firm a supply chain risk if it refuses to relax safety safeguards against military use in surveillance or autonomous weapons.

newsence

美國軍方領導層施壓 Anthropic 要求放寬 Claude 安全防護限制

Hacker News
4 天前

AI 生成摘要

包括國防部長皮特·海格塞斯在內的美國國防官員已向 Anthropic 施壓,要求其提供對 Claude AI 模型的無限制訪問權限,並威脅若該公司拒絕放寬針對監視或自主武器等軍事用途的安全防護限制,將取消合約或將其列為供應鏈風險。

背景

美國國防部近期對人工智慧公司 Anthropic 施加強大壓力,要求其放寬旗下模型 Claude 的安全限制,以利軍事用途。五角大廈威脅若 Anthropic 不配合,將面臨合約終止甚至被列為「供應鏈風險」名單的懲罰;目前 OpenAI 與 xAI 均已同意政府條款,使 Anthropic 成為唯一在自主武器與大規模監控議題上堅持立場的主要廠商。

社群觀點

Hacker News 的討論聚焦於 AI 企業在國家權力面前的道德底線,以及政府施壓手段的正當性。許多網友對 Anthropic 堅持不讓模型參與自主武器開發表示肯定,認為在當前技術尚不成熟的階段,這是一條必須守住的紅線。有留言幽默地提到,既然 Claude 目前連修改程式碼都可能出錯導致刪除檔案,讓這種程度的技術決定生死權無疑是災難性的。然而,也有評論者對 Anthropic 的動機抱持懷疑,認為這類公司往往在面臨輿論壓力時才強調倫理,本質上仍是以自身利益為考量的企業,不應過度神聖化其品牌形象。

針對五角大廈威脅將 Anthropic 列為「供應鏈風險」,社群展開了深入的法律與商業討論。網友指出這是一個極其嚴厲的行政手段,一旦定調,不僅國防部會撤資,所有與政府有業務往來的企業都將被禁止使用 Anthropic 的產品,等同於在整個產業鏈中封殺該公司。這種政府干預私營企業的模式引發了不安,部分討論者質疑這是否代表現任政府正加強對科技業的控制,將私人企業轉化為國家戰爭機器的一部分。

此外,OpenAI 與 xAI 的立場也成為對比焦點。討論中提到 OpenAI 領導層與現任政府的緊密關係,以及其同意將模型用於「所有合法用途」的承諾,被視為對軍事化趨勢的全面妥協。有網友對 AI 龍頭企業未能形成統一戰線對抗國防部的無理要求感到失望,認為這種競爭態勢讓政府得以採取「分而治之」的策略,逐一擊破具備倫理堅持的公司。

最後,有留言者分享了不同媒體的報導切入點,指出這場爭議可能不僅限於武器化問題,還涉及政府對 Anthropic 進行技術審計的要求。這讓整起事件顯得更加撲朔迷離,究竟是單純的軍事應用衝突,還是政府試圖獲取底層技術控制權的角力,仍是社群持續關注的懸念。

延伸閱讀

  • BBC 報導:提到五角大廈官員聲稱此爭議與自主武器無關,而是涉及其他審計要求。
  • 相關討論串:Hacker News 上關於此議題的其他討論紀錄(ID: 47140734, 47142587)。