Uncanny Valley: Pentagon vs. Woke Anthropic, Agentic vs. Mimetic, and Trump vs. State of the Union
Wired - AI
Our hosts unpack the news of the week, starting with the ongoing feud between Anthropic and the Pentagon. Plus: All you need to know about TAT-8 and undersea cables.
Brian Barrett:Zoë,我想回到我之前提到的那點,即就作秀和展示權力而言,他們暗示可能會援引《國防生產法》(Defense Production Act),這通常是戰時才會做的。如果你說,我們的悍馬車需要更多輪胎,我們會去找固特異讓他們幫我們多做輪胎。我們在新冠疫情期間也看到援引《國防生產法》來強迫人們製造口罩。這通常與實體商品掛鉤,通常與緊急狀態掛鉤。這只是「我們想玩你的閃亮玩具,而你不讓」,這似乎是對該法案的一種離譜使用。
Zoë Schiffer:是的。我得說,對 Anthropic 來說,這並不完全是一個糟糕的處境,純粹是因為該公司在此刻展現了獨特性,不完全是因為技術,而是因為品牌。它的品牌形象有點像是「比你神聖」,比競爭對手更注重價值觀。雖然這涉及很多資金,而且我認為 Anthropic 確實想成為政府承包商,但這確實鞏固了公司的願景,即:我們是不同的,我們更好,我們願意採取立場,而 Sam Altman 可能不願意。
Brian Barrett:這並不是說現實情況中也會發生這種事,但就「不使用核彈是否算覺醒派」而言?我們拭目以待。那是「覺醒派 AI」嗎?
Leah Feiger:那是 Brian Barrett 即將出版的新書標題——
Brian Barrett:沒錯。
Leah Feiger:2027 年秋季出版。
Zoë Schiffer:是的。會讀,會讀,會點擊。
Leah Feiger:我是說,好吧,但請跟我一起推演一下。作為一個不怎麼花時間研究 AI 模型的人,這對我來說是有道理的。我所看到的一切,輸入的一切,都是「讓這個更好,實際上把這個加進去」。當然,最終的場景是:你知道嗎?我們就選最好的方案。就是核彈。這會徹底結束一切。然後我們就不會再被要求做這做那了。這真的有道理嗎?跟我解釋一下為什麼會發展到那一步。
Zoë Schiffer:是的,我認為這就是「對齊」(alignment)應該要防止的。對齊的整個概念是,你應該以某種方式引導 AI 模型,使其符合人類價值觀,而不是做對 AI 有利的事。但我認為對齊本身已被視為某種「覺醒」,公司一直試圖實施最低限度的防護欄,因為除此之外的做法在政治上是有毒的。
Brian Barrett:當妳說對齊人類價值觀時,問題是「誰的價值觀」,對吧?那是一個很廣的範圍。所以再次回到這點,這是五角大廈在說:不,對齊的對象是國防部。
Zoë Schiffer:矽谷現在迷戀於「主動型」的概念,僱用主動型的人,這與你想像的「模仿型」形成對比。主動型的人是以行動為導向的。這種人有內在驅動力。他們就是能讓事情發生。他們不會真正懷疑自己或過程。相比之下,模仿型的人——我想我們都同意我屬於這一類——他們猶豫不決。他們權衡利弊。他們會先看別人怎麼做,然後才採取行動。這些問題在 AI 實驗室的面試中經常出現。人們試圖測試:我們僱用的是主動型的人嗎?還是模仿型的人?我認為這種想法是,在 AI 代理接管經濟大部分領域的世界裡,主動型的人會成功,而模仿型的人就完蛋了。
Zoë Schiffer:喔,肯定。但好笑的地方在於,這之所以席捲矽谷——我們優秀的 AI 作家之一 Maxwell Zeff 本週正在寫這個——是因為上週《哈潑雜誌》(Harper's)有一篇 Sam Chris 寫的文章,我想那篇文章上週瘋傳了,它觸及了這個想法,挑選了三個人,其中幾位真正體現了主動型的傾向,並對他們進行了剖析,談論了我們據稱正在進入的這個新世界。我的困惑在於,除了我認為媒體人傾向於過度誇大像 Slate Star Codex、Cluely 創辦人這類人的重要性,而一般科技人根本不知道你在說什麼之外,這些人完全無關緊要。但我感覺你只是在說「我們喜歡成功的人」,而我心想:是啊,難道我們不都想僱用能把事情辦好的人嗎?我有點困惑——
Leah Feiger:Zoë,妳是個自動自發的人(self-starter)嗎?
Zoë Schiffer:對。
Leah Feiger:這就是這套說法的本質。呃,天哪。
Brian Barrett:我還想說,這不是矽谷第一次被「將人分類」的想法所俘虜。誰能忘記 2022 年初的那場狂熱,當時每個人不是「文字細胞」(wordcel)就是「形狀旋轉者」(shape rotator)?有人記得這個嗎?只有我嗎?
Zoë Schiffer:我感覺你是在編故事來測試我會不會同意。我真的完全不知道你在說什麼。
Brian Barrett:這正是「文字細胞」會說的話。
Zoë Schiffer:喔不,我是模仿型。
Brian Barrett:抱歉。
Zoë Schiffer:還是個文字細胞。
Brian Barrett:是的。嗯,它們是非常相似的概念,以類似的方式拆解事物。「文字細胞」——我可能說得不完全準確,那是很久以前的事了——但顧名思義,是指那些更受語言驅動、透過交談來解決問題的人;而「形狀旋轉者」,哇,他們是行動導向的,可能可以——
Zoë Schiffer:這些詞到底是哪來的?
Brian Barrett:我不知道。我想「文字細胞」可能是貶義詞,因為它可能是從「非自願單身」(incel)演變而來的,但我不是——這是我隨口編的。我不記得它確切的來源,但當年連 Sam Altman 都在推特上發過關於文字細胞和形狀旋轉者的內容。
Zoë Schiffer:嗯,正如這篇《哈潑雜誌》文章所暗示的,我認為 Sam Altman 有點「重度網癮」。文章裡有一段提到有一個推特噴子(或 X 噴子)到處攻擊人,取笑他們,叫他們買東西給他。Sam Altman 竟然真的買了一台電競筆電寄給那個傢伙,讓這個趨勢變成了主流。然後所有其他著名的科技大咖都覺得他們也需要買東西給這個隨機的路人。這變成了一種趨勢。
Brian Barrett:是的,至少,嗯,他們看了大約第一個小時,那已經很多了,然後我們轉台去看了一集舊的《芝麻街》(The Muppet Show)來洗洗眼。
Leah Feiger:不錯。
Brian Barrett:是的。我覺得他們從《芝麻街》學到的比從國情咨文學到的還多。除此之外,妳提到他在推動共和黨的談話要點。我更驚訝於他的言論是多麼惡毒,對民主黨人和任何他不喜歡的人充滿敵意。這比我們在那個舞台上很久沒見過的還要咄咄逼人。這並不令人驚訝,現在看來也很無聊,但我想透過一個沒像我們看過那麼多唐納·川普的孩子眼光來看,我想他們對此感到相當震驚,覺得這就是我們總統的行為方式。
Leah Feiger:這百分之百公平。當我說無聊時,我是從「我們每天都在看他在 Truth Social 上發了什麼」的角度出發的。這太像老調重彈了,以至於我能說的最讚美的話或許是,雖然這部分內容漫長且模糊不清、不知所云,但他非常堅持他在任期內、在過去一個月裡一直說的那些談話要點。沒有什麼令人震驚的。他沒有提出太多具體的立法建議……但我們真的以為他會這麼做嗎?我對他承諾的一些前瞻性事物更感興趣。同樣,這類內容很少,但有幾件事我們可以看看:首先,他說副總統 JD Vance 將負責領導詐欺調查。這對你們來說是新聞嗎?你們對此有何感想?
Brian Barrett:我覺得這很公平。是的。我想這可能更多是他們在強調他們擁有的文化相關性口袋。透過 Ellison 帝國、透過收購 TikTok、透過派拉蒙可能收購華納兄弟,這背後有一種更廣泛的文化奪取努力。所以有很多「我們才是酷的人」的姿態,正如我們所知,你能做的最酷的事就是向所有人堅持你有多酷。這就是我度過高中生活的方式。
Brian Barrett:而且它們仍在部署中。我想 Google 和 Meta 都有自己的巨型海底電纜計畫。他們仍在推出新的、更快的連接,而且這些電纜極具政治性。我想在 2024 年,發生了一連串海底電纜被切斷的事件,人們追溯到(據稱)俄羅斯切斷了與芬蘭、愛沙尼亞的聯繫,這大約發生在歐盟準備支持烏克蘭的時候,海底發生了一些基礎設施的騷亂。這些對於各種地緣政治都至關重要——再次強調,那不是鯊魚幹的,所以這又是一次鯊魚沒做壞事的證明。