Lesswrong
Standard economic models often fail to predict a post-AGI world because they rely on implicit human-centric assumptions that advanced AI will likely violate or render obsolete. The fundamental shift in consumption, preferences, and cognitive agency means that traditional economic projections are becoming increasingly irrelevant or misleading.
AI 生成摘要
標準經濟模型在預測後 AGI 世界時往往會失效，因為它們依賴於先進人工智慧極可能違反或使之過時的人類中心假設。消費模式、偏好與認知主體性的根本轉變，意味著傳統的經濟預測正變得日益無關緊要，甚至產生誤導。
當經濟學家在思考和撰寫關於後 AGI（通用人工智慧）世界的文章時，他們通常依賴一個隱含的假設：參數可能會改變，但從根本上、結構上來說，並不會發生太多變化。即便有變化，也可能只是一兩個經驗事實，而非過於根本性的變革。
這種模式在處理所有其他技術時大多奏效，技術專家曾預測社會將因這些技術而發生激進轉型，例如：每個人都能隨時免費獲得人類的大部分知識，或者每個人都能與幾乎任何其他人即時溝通。^()
但這對 AGI 行不通。結果是，大多數關於後 AGI 世界的經濟建模要麼無關緊要，要麼具有積極的誤導性 ^()，這使得依賴這些模型的人比直接思考「這很難想，所以我不知道」的人更加困惑。
經濟推理試圖做的事情，是將極高維度的現實投影到大約 10 個實數和幾個微分方程中。所有艱鉅的認知工作都體現在這種「投影」中。解一堆微分方程能讓普通大眾印象深刻，且在歷史上可能被視為某種智力證明，但這相對來說是微不足道的。
投影如何運作，通常由所使用的假設、模型和概念的某種組合來定義，而概念本身通常隱含了許多假設和簡化。
在經濟推理的最佳情況下，投影捕捉到了重要的東西，而數學引領我們獲得新的見解。^() 在我看來相當常見的情況是，經濟學家非數學的、通常是直覺的推理引出了某些有趣的見解，然後選擇特定的形式化方法、假設和模型，使得數學能導向相同的結論。由此產生的認識論狀況可能有些微妙：結論可能是正確的，假設是合理的，但數學的相關性比看起來要低——考慮到經濟模型極其廣闊的空間，如果經濟學家有不同的直覺，他們總能找到另一套數學方法來導向不同的結論。
不幸的是，經濟學家還有許多其他的推理方式。例如，他們可能受學術界對新穎性的追求所驅使，去達成某些反直覺的結論。或者他們可能只想使用某種他們喜歡的數學工具。^() 又或者，他們可能有直覺上的政策傾向，並選擇能支持某種政策方向的模型——這個過程通常是隱含且下意識的。
底線是，如果我們對關於現實的斷言和預測感興趣，經濟論文的核心部分在於所使用的假設和概念。數學通常是正確的。^()
將標準經濟推理應用於後 AGI 情境的基本問題在於，足夠先進的 AI 可能會違反許多在人類經濟中完全合理、但可能無法推廣的假設。這些假設往往非常基礎，以至於它們是隱含的，存在於大多數經濟論文中，並在通常的「檢驗假設」環節中被忽視。此外，先進的 AI 可能會打破一些關於世界運作方式的直覺，從而在形式化論證的上游破壞直覺過程。
使問題更複雜的是，這些假設往往與經濟學核心論述之外的考量和學科相互作用，使用其他學科的框架能更好地理解和檢驗它們。
舉兩個例子：
AI 消費者
到目前為止，消費是由人類的決策和效用驅動的。標準經濟模型最終將價值建立在人類的偏好和效用之上。人類消費，人類體驗滿足感，整個福利經濟學和政策評估體系皆源於此。公司被建模為利潤最大化，但利潤是工具性的——它流向人類所有者和工人，然後由他們進行消費。
如果 AI 擁有資本並擁有自己的偏好或目標，這個假設就會崩潰。如果這類 AI 消耗資源，這在經濟學意義上可能應該被視為消費。
偏好
大多數經濟思維中的通常假設是，人類擁有相對穩定、某種程度上自利的偏好，而這些偏好是什麼，主要是一個經濟學之外的問題。^() 經濟學中有一些成功的的分支研究人類偏好在多大程度上偏離 VNM 理性，或者人類決策如何受限於認知局限，以及偏好如何形成，但這些並不是主流宏觀經濟關注的中心。^() 在人類的情況下，定性預測通常是相似的，所以這個話題並不那麼重要。
在分析當前世界時，我們發現人類偏好來自多種來源，如生物需求、習得的品味和文化。很大一部分似乎最終是由文化演化篩選出來的。
在後 AGI 時代，標準的經濟假設可能會失效，或者需要實質性的修改。為什麼？
一個考量是，AGI 與人類之間認知能力的差異，可能使得人類的偏好對 AGI 來說很容易改變。作為一個直覺引導：考慮一個由五歲小孩和她的父母組成的系統。孩子顯然有某些偏好，但父母通常可以改變這些偏好。有時是通過脅迫或操縱，但通常只是通過指出後果、推導孩子的需求，或讓他們接觸新情境。
此外，偏好是相對於世界模型的：標準經濟學建模世界模型差異的方式是「資訊不對稱」。孩子對世界的理解不夠好，很容易被成年人利用。
因為孩子的偏好不像成年人那樣穩定和自利，且孩子受困於資訊不對稱，他們受到法律的部分保護：其結果是監管的拼湊，例如，試圖修改兒童的食物偏好是合法的，但禁止成年人為了自己的利益試圖改變兒童的性偏好。
另一個「顯而易見到容易被忽視」的效應是孩子對父母文化的依賴：如果父母是基督徒，他們五歲的孩子很可能會相信上帝。如果父母是愛國者，孩子也可能對自己的國家有一些正面的想法。^()
當與認知能力遠高於我們的系統互動時，我們可能會發現自己處於與孩子類似的境地：我們的偏好可能很容易受到影響，而且並非特別自利。我們採納的意識形態可能是由非人類系統驅動的。我們的世界模型可能很脆弱，導致巨大的資訊不對稱。
甚至有一支經濟學文獻專門對父母與孩子的互動、家庭和偏好的形成進行建模。^() 這類工作可能會提供我感興趣的有用見解——有人在關注這方面嗎？
解決方案可能是類似的：某種形式的家長式領導（paternalism），法律大規模保護人類心智免受某些類型的干擾。這可能奏效也可能不奏效，但一旦情況如此，你基本上就不能從古典自由主義和自由意志主義的假設出發。作為直覺引導，想像一下有人在當前世界嘗試做「十歲及以下兒童的宏觀經濟學」。
其他核心概念
我們可以用類似的方式檢驗其他典型的經濟假設和概念，每一個都值得用一篇論文的篇幅來探討。這篇文章主要試圖保持在元層面（meta-），所以僅提供一些方向。
產權。 大多數經濟模型將產權視為外生的——「假設產權定義明確且得到執行」。如果你觀察大多數產權實際上是如何與物理現實聯繫在一起的，產權通常意味著由國家或公司運行的數據庫中存在某一行記錄。執行最終取決於國家對暴力的壟斷、認知監控能力以及作為獨立執行者的行動意願。正如各種極權、共產、殖民或專制政權所證明的，即使在純粹的人類系統中，私有財產也取決於權力。如果你假設財產是穩定的，你就是在對治理和權力做出假設。
交易成本與企業邊界。 科斯的理論 ^() 解釋了企業為何存在：有時通過科層制進行內部協調比通過市場進行外部協調更便宜。企業的邊界位於市場交換的交易成本等於內部協調成本的地方。AI 可能會極大地降低這兩者——使市場交易幾乎無摩擦，同時也使大規模協調變得容易。企業的均衡規模和結構可能會向不可預測的方向轉變，或者「企業」的概念可能會變得不再清晰。
離散代理人與競爭。 市場模型假設存在相互合作與競爭的獨立代理人。市場和競爭模型通常預設你可以計算參與者的數量。AGI 系統潛在是可以複製、分叉、合併或運行多個實例的，而它們的自然邊界是什麼是一個開放性問題。
資本 vs. 勞動力。 基礎經濟模型中的基本概念通常包括資本和勞動力。生產函數中的要素、全要素生產率（TFP）、柯布-道格拉斯函數等。資本是被生產、擁有、累積、交易的，並為其所有者賺取回報。勞動力是人類所做的，且不能被擁有。這在現代經濟中非常有意義，因為「物」和「人」之間有著大多清晰的區別。如果你回顧歷史，這就變得更加模糊——在奴隸制經濟中，奴隸算作勞動力還是資本？這也更具細微差別——例如「人力資本」。
在分析當前世界時，有多種原因說明為什麼區分「物」和「人」是有意義的。「物」通常是工具。它們放大人類的努力，但不是代理人。拖拉機使農民更有生產力，但它不做決策。農民可以學習新任務，拖拉機不行。另一個區別是人類的數量相對固定：你無法輕易且快速地增加或減少他們的人數。
在後 AGI 時代，這種區分可能不再有意義。AI 可能像資本一樣繁殖，像勞動力一樣作為代理人，學習迅速，並像人類一樣產生創新。此外，人類可能像擁有普通資本一樣擁有它們，或者更像奴隸，或者 AI 將擁有自我所有權。
思考後 AGI 情境的更好與更壞的方式
處理經濟假設推廣問題有兩種在認識論上健全的方法：擴大視野，或縮小視野。人們也會採取許多在認識論上有問題的舉動。
擴大視野意味著我們試圖納入所有關鍵考量。如果關於私有財產的假設引導我們思考後 AGI 治理，我們就跟隨。如果思考治理引導我們需要思考暴力和軍事技術，我們就跟隨。在最佳情況下，我們根據概率分佈以及或多或少的可能性效應來思考一切。如果你對預測或政策建議感興趣，這是艱鉅、跨學科且必要的。
縮小視野意味著專注於某些局部領域，試圖建立一個局部有效的模型，並清楚地標註所有假設。這在局部通常是有用的，可以為某些動態建立直覺，只要花費大量精力界定模型適用和顯然不適用的範圍，這就是沒問題的。
在迷因傳播上可能很成功並獲得大量關注、但總體上很糟糕的做法，是進行第二種分析並將其偽裝成第一種。關鍵考量是那種可以翻轉結果的考量。如果一項分析忽略或假設掉了十個這樣的考量，其結果基本上沒有實際意義：想像對於每個關鍵考量，眾數觀點正確的概率是 60%，不正確的概率是 40%。假設或暗示眾數觀點正確 10 次，你的分析在 0.6% 的世界中成立。
在實踐中，這通常不是明確完成的——幾乎沒有人聲稱他們的分析考慮了所有重要因素——而是作為一種「堡壘與空地」（motte-and-bailey）謬誤。堡壘（motte）是論文中的數學——源於假設，且有很多這樣的假設。空地（bailey）是那些大刀闊斧的論點、部落格摘要、推文和簡略引用，它們傳播得更遠，卻沒有任何對沖說明。
在最壞的情況下，所做的各種假設是矛盾的，或者至少是負相關的。例如：一些經濟學家假設比較優勢通常能維持人類勞動力的相關性，而 AI 只是可以購買和複製的一種資本形式。然而，比較優勢取決於機會成本：如果你做 X，你就不能同時做 Y。隱含的假設是你不能直接啟動一個你的副本。如果你可以，那麼「機會成本」就不是你的勞動力成本之類的東西，而是啟動另一個副本的成本。如果你假設未來的 AGI 是與人類勞動力類似的高效替代品，就像目前的 AI 對於中等無聊的文案寫作一樣，那麼基礎的「比較優勢」模型與勞動力價格跌至最低工資以下 10000 倍是一致的。雖然比較優勢模型在字面上仍然正確，但它不再具有相同的實際意義。此外，雖然在人類情況下，比較優勢模型通常不會被摩擦力摧毀，但如果你的勞動力價值足夠低，人類勞動力的有效價格可以是 0。以人類為例，五歲小孩或無法閱讀的嚴重智力障礙者在現代經濟中實際上是無法受僱的。在後 AGI 經濟中，很容易預測到諸如人類以機器速度運作或無法理解直接溝通的神經表示之類的摩擦。
該做什麼
回到開頭的隱喻：經濟推理將高維現實投影到低維模型中。艱鉅的工作在於選擇投影方式。在後 AGI 時代，我們面臨的情況是，我們正在投影的現實可能已經發生了足夠大的變化，以至於在人類經濟上校準的投影會系統性地失效。解決方案通常是退後一步，將更多變量納入模型。有時這涉及冒險進入經濟思維核心之外的領域，引入政治經濟學、演化、計算複雜性，甚至物理學和哲學。或者也許只是看看經濟思維的其他部分，那些可能具有意想不到相關性的部分。這篇文章不是文獻綜述。我並不是說沒有經濟學家思考過這些問題，只是說最常見的方法是錯誤的。
帶一點個人色彩。我希望有超過 5 到 10 名經濟學家在認真研究後 AGI 問題，並認真參與辯論。如果你是一名經濟學家……我確實理解你習慣於與往往無知的大眾互動，他們擔心工作，且不熟悉所有標準論點和效應，如鮑莫爾（Baumol）、傑文斯（Jevons）、勞動力總量謬誤、貿易利得等。這沒錯，但這裡的批評是不同的：你正在假設那些你尚未提出的問題的答案。如果你正在使用經濟工具對未來建模，我想知道你對以下問題的答案/假設：「AI 是代理人嗎？」、「你如何建模 AI 的消費？」、「在你的模型中，AI 擁有資本嗎？」或者「什麼樣的治理體系與你所描繪的經濟體系相容？」
感謝 Marek Hudík、Duncan Mcclements 和 David Duvenaud 對本文草稿提供的有用評論。錯誤和觀點由我本人負責。同時感謝 Claude Opus 4.5 對本文的大力協助。
^()Gordon, Robert J. 《美國增長的起落》（The Rise and Fall of American Growth）。
^()我所批評的例子範圍很廣，從諾貝爾獎得主的文章——例如 Daron Acemoglu 的 (2024)，到關於後 AGI 經濟思考的新星文章，如 Philip Trammell 的 。
^()理智的經濟學家完全意識到該學科的本質。詳見：Rodrik, Dani. 。W.W. Norton, 2015。
^()這也不是什麼新穎的批評：Romer, Paul. 《美國經濟學家》 61, no. 1 (2016): 31-44。
^()「因此，數學在經濟模型中扮演著純粹的工具性角色。原則上，模型不需要數學，也不是數學使模型變得有用或科學。」Rodrik (2015)
^()Robbins (1932) 的經典文本將偏好定義為超出研究範圍：「經濟學是研究人類行為的一門科學，它表現為給定的目的與具有替代用途的稀缺手段之間的關係。」關於該主題的另一篇經典文本是 Stigler & Becker (1977) 的「品味無須爭辯」（De Gustibus Non Est Disputandum）。正如本文中的幾乎任何主張一樣：是的，經濟學文獻中確實有關於偏好形成的部分，但這些通常不會影響關於後 AGI 宏觀經濟的論文。
^()De Grauwe, Paul, and Yuemei Ji. 。VoxEU, 2018 年 1 月。
Driscoll, John C., and Steinar Holden. 。《宏觀經濟學雜誌》 41 (2014): 133-147。
^()Bisin, Alberto, and Thierry Verdier. 「文化傳遞的經濟學與偏好的動態。」
^()Becker, Gary S. 《家庭論》（A Treatise on the Family）。
^()Coase, Ronald H. 《經濟學》 4, no. 16 (1937): 386-405。