Uncanny Valley: Pentagon vs. Woke Anthropic, Agentic vs. Mimetic, and Trump vs. State of the Union
Wired - AI
Our hosts unpack the news of the week, starting with the ongoing feud between Anthropic and the Pentagon. Plus: All you need to know about TAT-8 and undersea cables.
Brian Barrett:Zoë,我想回到我之前提到的,就作秀和展示權力而言,他們暗示可能會引用《國防生產法》(Defense Production Act),這通常是在戰時才會做的。如果你說「我們需要更多悍馬車的輪胎,我們要找固特異讓他們生產更多」。我們也看到在新冠疫情期間引用該法來強迫人們生產口罩。這通常與實體商品掛鉤,通常與緊急狀態掛鉤。而這只是「我們想玩你的閃亮玩具,但你不讓」,這對我來說似乎是對該權力的一種離譜濫用。
Zoë Schiffer:是的。我要說的是,我不完全認為這對 Anthropic 來說是一個糟糕的處境,純粹是因為該公司在此刻正透過其品牌而非技術來建立差異化。它的品牌有點像「比你神聖」,比競爭對手更基於價值觀。因此,雖然這涉及很多錢,且我認為 Anthropic 確實想成為政府承包商,但這確實鞏固了公司的願景,即「我們不同,我們更好,我們願意採取立場」,而 Sam Altman 可能不會。
Brian Barrett:這並不是說現實情況也會如此,但就「不使用核彈算不算覺醒」而言,我們拭目以待。那是覺醒 AI 嗎?
Leah Feiger:那是 Brian Barrett 即將出版的新書標題——
Brian Barrett:沒錯。
Leah Feiger:2027 年秋季出版。
Zoë Schiffer:是的。必讀,必讀,必點。
Leah Feiger:我是說,好吧,但請跟我推演一下。作為一個不怎麼接觸 AI 模型的人,這對我來說是有道理的。我所看到的一切,比如輸入「讓這個更好,加入這個」。當然,最終的場景是:「你知道嗎?我們要選最好的方案。就是核彈。這能徹底結束一切。然後就不會再有人對我們提要求了。」這真的說得通嗎?解釋一下為什麼會得出這種結果。
Zoë Schiffer:是的,我認為這就是「對齊」(alignment)應該要防止的。對齊的核心理念是,你應該引導 AI 模型,使其符合人類價值觀,而不一定非要做對 AI 有利的事。但我認為對齊本身已被視為某種「覺醒」,公司一直試圖實施最低限度的護欄,因為坦白說,反其道而行在政治上是有毒的。
Brian Barrett:當妳說與人類價值觀對齊時,問題在於「誰的價值觀」,對吧?那範圍很廣。所以回到這點,這就是五角大廈在說:不,對齊的對象應該是國防部。
Zoë Schiffer:矽谷現在迷戀於「主動型」的概念,並招募主動型的人,這與「模仿型」形成對比。主動型的人是以行動為導向的。這種人說做就做,有內在驅動力,能促成事情發生,不太會懷疑自己或過程。相比之下,模仿型的人——我想我們都同意我屬於這一類——他們會猶豫,權衡利弊,在行動前會觀察別人的做法。這些問題在 AI 實驗室的面試中經常出現。人們試圖測試:我們招的是主動型還是模仿型?我認為這種想法是,在 AI 代理接管大部分經濟的世界裡,它們會處理很多任務,主動型的人會成功,而模仿型的人就慘了。
Zoë Schiffer:喔,肯定。但好笑的是,這件事之所以席捲矽谷——我們優秀的 AI 作家 Maxwell Zeff 本週正在寫這個——是因為上週 Sam Chris 在《哈潑雜誌》(Harper's)發表了一篇文章,這篇文章上週瘋傳,觸及了這個想法,挑選了三個人,其中幾位完美體現了主動型傾向,並對他們進行了剖析,談論了我們據稱正進入的新世界。我的困惑在於,除了我認為媒體人傾向於過度放大像 Slate Star Codex 或 Cluely 創辦人這類人的重要性,而普通科技從業者根本不知道你在說什麼之外,我覺得你只是在說「我們喜歡成功的人」,而我心想:是啊,難道我們不都想招募能把事情辦好的人嗎?我有點困惑——
Leah Feiger:Zoë,妳是個自動自發的人嗎?
Zoë Schiffer:對。
Leah Feiger:就是這個意思。呃,天哪。
Brian Barrett:我還想說,這不是矽谷第一次被「將人分類」的想法所俘虜。誰能忘記 2022 年初那場狂熱,當時每個人不是「文字細胞」(wordcel)就是「形狀旋轉者」(shape rotator)?有人記得嗎?只有我嗎?
Zoë Schiffer:我感覺你是在編故事來測試我會不會附和。我真的完全不知道你在說什麼。
Brian Barrett:這正是文字細胞會說的話。
Zoë Schiffer:喔不,我是模仿型。
Brian Barrett:抱歉。
Zoë Schiffer:還是個文字細胞。
Brian Barrett:是的。嗯,它們是非常相似的概念,分類方式雷同。文字細胞——我可能記不全,那是很久以前的事了——但顧名思義,是那些更受語言驅動、透過交談解決問題的人;而形狀旋轉者,哇,他們是行動導向的,可能可以——
Zoë Schiffer:這些詞到底是哪來的?
Brian Barrett:我不知道。我想文字細胞(wordcel)可能帶有貶義,因為它可能是從非自願單身(incel)演變來的,但我只是隨口猜測。我不記得確切來源,但連 Sam Altman 當年都在推特上發過關於文字細胞和形狀旋轉者的內容。
Zoë Schiffer:嗯,正如這篇《哈潑雜誌》文章所暗示的,Sam Altman 有點重度網癮。文章裡有一段提到,有個推特或 X 上的酸民一直在攻擊別人,嘲笑他們,叫他們買東西給他。而 Sam Altman 真的買了一台電競筆電寄給那傢伙,讓這個趨勢變成了主流。然後所有其他著名的科技大咖都覺得自己也得買東西給這個隨機的路人。這變成了一種趨勢。
Brian Barrett:是啊,至少,嗯,他們看了前一個小時左右,那已經很多了,然後我們轉台去看舊版的《芝麻街布偶秀》(The Muppet Show)來洗洗眼睛。
Leah Feiger:不錯。
Brian Barrett:是的。我想他們從《布偶秀》學到的比從國情咨文多。除此之外,妳提到他在宣揚共和黨的談話要點。我更驚訝於他對民主黨和任何他不喜歡的人的評論是多麼惡毒、充滿仇恨。這比我們在那個舞台上很久沒見過的還要激進。這並不意外,現在看來也很無聊,但我想透過一個沒像我們看過那麼多川普的孩子眼裡,他們對此感到相當震驚,覺得這就是我們總統的行事風格。
Leah Feiger:這百分之百合理。我說無聊,是基於我們每天都在看他在 Truth Social 上發的內容。這太像老調重彈了,或許我能說的最讚美的話是,雖然部分內容絮絮叨叨且模糊不清,但他非常堅持他任期內、過去一個月以來一直在說的談話要點。沒什麼令人震驚的。他沒提到太多他要推動的具體立法……但我們真的以為他會這麼做嗎?我對他承諾的一些前瞻性事物更感興趣。同樣,這類內容極少,但有幾點可以關注:第一,他說 JD Vance——副總統 JD Vance——將主導欺詐調查。這對你們來說是新鮮事嗎?你們覺得如何?
Brian Barrett:我想這很公平。是的。我想也許更多的是他們在強調自己擁有的文化相關性。透過 Ellison 帝國、收購 TikTok、派拉蒙可能收購華納兄弟,有一種更廣泛的「文化奪取」努力。所以有很多「我們才是酷的人」的氛圍,而我們都知道,你能做的最酷的事,就是向每個人堅持你有多酷。那就是我度過高中的方式。
Brian Barrett:而且它們還在持續鋪設。我想 Google 和 Meta 都有自己的巨型海底電纜計畫。他們還在推出新的、更快的連結,而且這非常有政治意涵。我想在 2024 年有一連串海底電纜被切斷的事件,人們追溯到據稱是俄羅斯切斷了與芬蘭、愛沙尼亞的聯繫,當時正值歐盟準備支援烏克蘭之際,海底發生了一些基礎設施騷亂。這些對各種地緣政治都至關重要——再次強調,那不是鯊魚幹的,所以這又是另一次鯊魚沒做的事。