Anthropic Hits Back After US Military Labels It a Supply Chain Risk
Wired - AI
Anthropic says it would be “legally unsound” for the Pentagon to blacklist its technology after talks over military use of its artificial intelligence models broke down.
Wired - AI
Anthropic says it would be “legally unsound” for the Pentagon to blacklist its technology after talks over military use of its artificial intelligence models broke down.
AI 生成摘要
Anthropic 表示,在有關其人工智慧模型軍事用途的談判破裂後,五角大廈將其技術列入黑名單在法律上是站不住腳的。
美國國防部長皮特·海格塞斯(Pete Hegseth)於週五指示五角大廈將 Anthropic 列為「供應鏈風險」,此舉在矽谷引發震驚,並導致許多公司急於了解是否能繼續使用這款業界最受歡迎的 AI 模型之一。
海格塞斯在社交媒體貼文中寫道:「即刻生效,任何與美國軍方有業務往來的承包商、供應商或合作夥伴,均不得與 Anthropic 進行任何商業活動。」
這項認定是在五角大廈與 Anthropic 就美軍如何使用該新創公司的 AI 模型進行了數週緊張談判後做出的。Anthropic 在本週的一篇部落格文章中主張,其與五角大廈的合約不應允許其技術被用於對美國人進行大規模國內監視或全自動武器。五角大廈則要求 Anthropic 同意讓美軍將其 AI 應用於「所有合法用途」,且不設特定例外。
「供應鏈風險」認定允許五角大廈在認為某些供應商存在安全漏洞(例如與外國所有權、控制或影響相關的風險)時,限制或將其排除在國防合約之外。其目的是保護敏感的軍事系統和數據免受潛在侵害。
Anthropic 在週五晚間的另一篇部落格文章中做出回應,表示將「在法庭上挑戰任何供應鏈風險認定」,並稱此類認定將「為任何與政府談判的美國公司樹立危險先例」。
Anthropic 補充說,它尚未收到國防部或白宮關於其 AI 模型使用談判的任何直接溝通。
該公司寫道:「海格塞斯部長暗示這項認定將限制任何與軍方有業務往來的人與 Anthropic 做生意。部長並沒有法定權力來支持這一聲明。」
五角大廈拒絕置評。
美國創新基金會(Foundation for American Innovation)高級研究員、前白宮 AI 高級政策顧問迪恩·波爾(Dean Ball)表示:「這是我見過美國政府所做的最令人震驚、最具破壞性且越權的行為。我們基本上是在制裁一家美國公司。如果你是美國人,你應該思考 10 年後是否還應該住在這裏。」
矽谷各界人士紛紛在社交媒體上表達了類似的震驚和沮喪。新創加速器 Y Combinator 創辦人保羅·葛拉漢(Paul Graham)表示:「管理這個政府的人衝動且具有報復心。我相信這足以解釋他們的行為。」
OpenAI 研究員博阿茲·巴拉克(Boaz Barak)在一篇貼文中表示:「削弱我們領先的 AI 公司之一,正是我們能做的最糟糕的烏龍球。我非常希望冷靜的頭腦能佔上風,並撤銷這一公告。」
與此同時,OpenAI 執行長山姆·阿特曼(Sam Altman)於週五晚間宣布,該公司已與國防部達成協議,在機密環境中部署其 AI 模型,且似乎設有排除條款。阿特曼表示:「我們最重要的兩項安全原則是禁止國內大規模監視,以及對武力使用(包括自動武器系統)負有人類責任。國防部同意這些原則,並將其反映在法律和政策中,我們也將其納入了協議。」
Anthropic 在週五的部落格文章中表示,根據美國法典第 10 卷第 3252 條(10 USC 3252)的授權,供應鏈風險認定僅適用於國防部直接與供應商簽訂的合約,並不涵蓋承包商如何使用其 Claude AI 軟體來服務其他客戶。
三位聯邦合約專家表示,目前無法確定哪些 Anthropic 客戶(如果有的話)現在必須與該公司切斷聯繫。與科技公司合作的 McCarter & English 律師事務所合夥人亞歷克斯·梅傑(Alex Major)表示,海格塞斯的公告「並未植根於我們目前能推斷出的任何法律」。
亞馬遜(Amazon)、微軟(Microsoft)、Google 和輝達(Nvidia)——這些公司都為美軍提供服務並與 Anthropic 合作——均未立即回應《連線》(WIRED)雜誌的置評請求。Anduril 和 Shield AI 這兩家著名的 AI 國防科技公司均拒絕置評。
法律與 AI 研究所(Institute for Law and AI)高級研究員查理·布洛克(Charlie Bullock)表示,供應鏈風險認定通常不會立即生效,在軍事合作夥伴必須與某家公司或其產品切斷聯繫之前,美國政府被要求完成風險評估並通知國會。
但戰略與國際研究中心(CSIS)瓦德瓦尼 AI 中心(Wadhwani AI Center)高級顧問格雷格·艾倫(Greg Allen)認為,這種情況仍可能阻礙其他科技公司與五角大廈合作。他說:「國防部剛剛向每家公司發出了一個巨大的訊號:如果你涉足國防合約領域,我們隨時可以抓住你的腳踝,把你整個人拖進去。」
幾位法律專家告訴《連線》,Anthropic 很可能會起訴政府。海格塞斯此前曾暗示,國防部可以通過援引《國防生產法》(Defense Production Act)來攻擊 Anthropic,這將迫使該公司向五角大廈提供其技術。艾倫表示,這種反覆無常削弱了五角大廈關於 Anthropic 是真正供應鏈風險的論點。
然而,訴訟可能需要數月或數年才能解決,如果公司被迫切斷聯繫,Anthropic 的業務在此期間可能會遭受損失。
這場爭端為眾多著名的美軍合作夥伴提出了關鍵問題,例如與 Anthropic 密切合作的輝達、亞馬遜、Google 和 Palantir。
一位科技公司高管表示,由於局勢敏感,他要求匿名。他表示,在國防部的指令超出社交媒體貼文的範疇之前,他的公司處於觀望狀態,並已請律師研究此問題。
作為對比,該高管提到了《國防授權法》第 889 條,這是一項採購禁令,禁止聯邦機構與使用某些中國電信設備作為任何系統「實質性或重要組成部分」的公司簽約。該高管表示,如果這項新指令與之類似,那可能是一個「很高的門檻」,因為即使一家科技公司在內部使用 Anthropic 的 Claude Code,它也可能不被定義為其最終出售給政府的產品的「重要」部分。