OpenAI’s Sam Altman announces Pentagon deal with technical safeguards
Techcrunch
OpenAI's CEO claims its new defense contract includes protections addressing the same issues that became a flashpoint for Anthropic.
Techcrunch
OpenAI's CEO claims its new defense contract includes protections addressing the same issues that became a flashpoint for Anthropic.
AI 生成摘要
OpenAI 執行長宣稱其新的國防合約包含了針對先前引發 Anthropic 爭議之問題的保護措施,允許國防部在機密網路中使用其 AI 模型,同時禁止用於大規模監控與自主武器系統。
OpenAI 執行長 Sam Altman 於週五晚間宣布,其公司已達成一項協議,允許國防部在其機密網路中使用其 AI 模型。
在此之前,國防部(在川普政府時期也被稱為戰爭部)與 OpenAI 的競爭對手 Anthropic 之間發生了備受矚目的僵局。五角大廈敦促包括 Anthropic 在內的 AI 公司允許其模型被用於「所有合法用途」,而 Anthropic 則試圖在國內大規模監控和全自動武器方面劃定紅線。
Anthropic 執行長 Dario Amodei 在週四發布的一份長篇聲明中表示,公司「從未對特定的軍事行動提出異議,也未曾試圖以臨時方式限制我們技術的使用」,但他主張「在少數情況下,我們認為 AI 可能會破壞而非捍衛民主價值」。
本週,超過 60 名 OpenAI 員工和 300 名 Google 員工簽署了一封公開信,要求其雇主支持 Anthropic 的立場。
在 Anthropic 與五角大廈未能達成協議後,唐納·川普總統在社交媒體貼文中批評 Anthropic 是「左翼瘋子」,並指示聯邦機構在六個月的過渡期後停止使用該公司的產品。
國防部長 Pete Hegseth 在另一篇貼文中聲稱,Anthropic 試圖「奪取對美國軍事行動決策的否決權」。Hegseth 還表示,他正將 Anthropic 列為供應鏈風險:「即刻生效,任何與美國軍方有業務往來的承包商、供應商或合作夥伴,均不得與 Anthropic 進行任何商業活動。」
週五,Anthropic 表示「尚未收到戰爭部或白宮關於我們談判狀態的直接溝通」,但堅持將「在法庭上挑戰任何供應鏈風險的認定」。
出人意料的是,Altman 在 X 平台的一篇貼文中聲稱,OpenAI 的新國防合約包含了針對 Anthropic 爭議焦點問題的保護措施。
Altman 表示:「我們最重要的兩項安全原則是禁止國內大規模監控,以及在使用武力(包括自動武器系統)時由人類承擔責任。戰爭部同意這些原則,並將其反映在法律和政策中,我們也將其納入了我們的協議。」
Altman 表示,OpenAI「將建立技術保障措施,以確保我們的模型按預期運行,這也是戰爭部所希望的」,並且將向五角大廈派駐工程師「以協助我們的模型並確保其安全性」。
Altman 補充道:「我們正要求戰爭部向所有 AI 公司提供相同的條款,我們認為每個人都應該願意接受這些條款。我們表達了強烈的願望,希望看到事態從法律和政府行動降溫,轉向合理的協議。」
《財富》雜誌的 Sharon Goldman 報導稱,Altman 在一次全體員工會議上告訴 OpenAI 員工,政府將允許該公司建立自己的「安全堆疊」以防止濫用,並且「如果模型拒絕執行某項任務,政府將不會強迫 OpenAI 執行該任務」。
Altman 發布貼文後不久,便傳出美國和以色列政府已開始轟炸伊朗的消息,川普並呼籲推翻伊朗政府。
主題
Anthony Ha 是 TechCrunch 的週末編輯。此前,他曾在 Adweek 擔任科技記者,在 VentureBeat 擔任資深編輯,在 Hollister Free Lance 擔任地方政府記者,並在一間創投公司擔任內容副總裁。他居住在紐約市。
您可以透過電子郵件 anthony.ha@techcrunch.com 聯繫 Anthony 或核實其外展資訊。
最後時刻:在今晚 11:59 之前購買通行證,最高可省 680 美元。會見投資者。發現您的下一個投資組合公司。聽取 250 多位科技領袖的見解,深入參與 200 多場會議,並探索 300 多家正在構建未來的初創公司。不要錯過這些一次性的優惠。
Jack Dorsey 剛剛將 Block 的員工規模裁減了一半——他說你的公司將是下一個
一名會計師透過在 Kalshi 上押注反對 DOGE 贏得了大獎
是時候放棄插電式混合動力車了
Meta AI 安全研究員表示,一個 OpenClaw 代理程式在她的收件匣中失控運行
美國人正在破壞 Flock 監控攝像頭
Bill Gurley 表示,目前對你的職業生涯來說,最糟糕的事情就是追求穩妥
我不想歸還的那台 9,000 磅重的怪獸