newsence
來源篩選

Statement from Dario Amodei on Our Discussions with the Department of War

Hacker News

Anthropic CEO Dario Amodei addresses the company's refusal to remove specific AI safeguards demanded by the Department of War, despite threats of being labeled a supply chain risk or facing Defense Production Act mandates.

newsence

Dario Amodei 針對與戰爭部討論情況的聲明

Hacker News
2 天前

AI 生成摘要

我深信使用人工智慧保衛美國及其他民主國家的重要性,但針對戰爭部要求移除特定安全防護措施並威脅將我們列為供應鏈風險一事,我們基於良知無法同意,並希望部會能重新考慮這項決定。

背景

Anthropic 執行長 Dario Amodei 近日發表公開聲明,針對該公司與美國戰爭部(Department of War)的合作爭議作出回應。聲明強調 Anthropic 致力於支持民主國家的國防安全,並已將 Claude 模型部署於政府機密網路與國家實驗室,但同時也揭露戰爭部正施壓要求移除針對「國內大規模監控」與「全自動武器系統」的兩項關鍵安全限制,甚至威脅將其列為供應鏈風險。

社群觀點

Hacker News 的討論呈現出極度兩極化的反應。部分網友對 Anthropic 展現出的「風骨」表示高度讚賞,認為在科技巨頭普遍向政府合約低頭的現狀下,Dario Amodei 能夠公開反擊戰爭部的霸凌行為,並指出政府同時將其視為「供應鏈風險」與「國家安全必需品」的邏輯矛盾,是極具勇氣且具備道德高度的表現。支持者認為,相較於 OpenAI 或 Google 的低調配合,Anthropic 至少劃下了底線,試圖在國防需求與民主價值之間取得平衡。

然而,另一派觀點則對此抱持高度懷疑,甚至認為這是一場精心設計的公關秀。有評論指出,Anthropic 在聲明中多次使用「戰爭部」而非現行的「國防部」,顯然是在刻意營造一種對抗強權的敘事氛圍,藉此吸引公眾同情。批評者認為,Anthropic 雖然拒絕了兩項極端用途,但其模型早已被廣泛用於情報分析、作戰規劃與網路行動,這本質上就是在協助戰爭行為。更有網友直言,所謂的「道德立場」往往只是暫時的,一旦公司面臨上市壓力或更大的合約誘惑,這些原則很可能隨之崩解。

此外,社群也針對技術與地緣政治展開了深入辯論。有意見擔心,如果 Anthropic 因為堅持安全限制而被踢出國防體系,美國軍方可能會轉向使用技術力較弱、甚至缺乏監管的替代方案(如 Grok),這反而會削弱美國的競爭優勢。同時,關於「國內監控」與「國外監控」的區別也引發了爭議,部分非美國籍的網友質疑,難道對外國人進行大規模監控就符合民主價值嗎?這種區別對待被認為是典型的雙重標準。

最後,部分技術導向的討論指出,僅靠政策聲明(Policy Choice)而非技術限制(Technical Impossibility)來防止濫用是徒勞的。如果 AI 公司不具備像 Apple 那樣「連開發者都沒有金鑰」的技術架構,政府最終總能找到後門或透過行政手段強迫其配合。因此,Anthropic 的這份聲明在某些人眼中,更像是在為未來可能發生的濫用預留「我們已盡力反對」的免責聲明。

延伸閱讀

  • 五眼聯盟(Five Eyes)國內間諜活動爭議:留言中提到美、英等國透過互換情報來規避本國法律對國內監控限制的歷史背景。
  • Anthropic 責任縮放政策(Responsible Scaling Policy)3.0 版本:文中提及的官方安全框架參考資料。