後超人工智慧經濟，彷彿什麼都沒發生

後超人工智慧經濟，彷彿什麼都沒發生

大部分關於人工智慧轉型的經濟思考有什麼問題。

當經濟學家思考和撰寫關於後超人工智慧（AGI）世界時，他們經常依賴一個隱含的假設，即參數可能會改變，但從根本上、結構上來說，不會發生太大的變化。即使發生了，可能也只是一兩個經驗事實，但沒有什麼太根本性的東西。這在各種其他技術上大多是有效的，技術人員會預測社會會發生根本性的轉變，例如，每個人都可以隨時免費獲得人類的大部分知識，或者每個人都可以立即與幾乎任何其他人交流。1 但這對 AGI 不起作用，因此，大多數關於後 AGI 世界的經濟模型都是無關緊要的或具有積極的誤導性 2，使得依賴它的人比他們只是想“這很難思考，所以我不知道”更困惑。

從高層次角度進行經濟推理

經濟推理試圖做的事情，就像將極高維度的現實投影到類似於 10 個實數和幾個微分方程式的東西中。所有艱難的認知工作都在投影中。解決一堆微分方程式會給一般觀眾留下深刻印象，並且從歷史上看，可能作為某種智力證明，但相對來說是微不足道的。

投影如何工作通常由假設、模型和概念的某種組合來指定，其中概念本身通常意味著許多假設和簡化。在經濟推理的最佳情況下，投影捕捉到了一些重要的東西，並且數學引導我們獲得了一些新的見解。3 在我認為相當常見的情況下，經濟學家的非數學、通常是直觀的推理會產生一些有趣的見解，然後以一種數學引導得出相同結論的方式選擇形式化、假設和模型。由此產生的認知情況可能有點棘手：結論可能是正確的，假設是合理的，但數學不如看起來那麼重要——鑑於經濟模型的極大空間，如果經濟學家有不同的直覺，他們就能夠找到不同的數學來得出不同的結論。

不幸的是，經濟學家還有許多其他推理方式。例如，他們可能會受到學術界對新穎性的追求的驅使，得出一些違反直覺的結論。或者他們可能想使用一些他們喜歡的數學。4 或者，他們可能有直觀的政策意見，並且可以選擇模型，使其支持某些政策方向——這個過程通常是隱含的和下意識的。最重要的是，如果我們對關於現實的主張和預測感興趣，那麼經濟論文的主要部分是假設和使用的概念。數學通常是正確的。5

經濟推理應用於後 AGI 情況

將標準經濟推理應用於後 AGI 情況的基本問題是，足夠先進的人工智慧可能會違反許多在人類經濟中完全有意義的假設，但可能無法推廣。通常，這些假設非常基本，以至於它們是隱含的，在大多數經濟論文中都假設了，並且在通常的“檢查假設”中看不到。此外，先進的人工智慧可能會打破一些關於世界如何運作的直覺，從而打破形式論證上游的直觀過程。使問題複雜化的是，這些假設通常與經濟論述核心之外的考慮因素和學科相互作用，並且使用其他學科的框架可以更好地理解和檢查。舉兩個例子：

人工智慧消費者

到目前為止，消費是由人類的決策和效用驅動的。標準經濟模型最終將價值建立在人類的偏好和效用之上。人類消費，人類體驗滿足感，整個福利經濟學和政策評估的體系都由此而來。公司被建模為利潤最大化，但利潤是工具性的——它流向人類所有者和工人，然後他們消費。

如果人工智慧擁有資本並有自己的偏好或目標，那麼這個假設就會崩潰。如果這樣的人工智慧花費資源，這很可能應該算作經濟意義上的消費。

偏好

大多數經濟思考中的通常假設是，人類的偏好在某種程度上是穩定的，在某種程度上是自私的，而這些是什麼主要是一個經濟學之外的問題。6 有整個成功的經濟學分支研究人類偏好在多大程度上偏離了馮·諾伊曼-摩根斯坦（VNM）理性，或者人類的決策受到認知限制的影響，或者偏好是如何形成的，但這些都不是主流宏觀經濟學的關注中心。7 在人類的情況下，定性預測通常是相似的，因此這個話題不太重要。在分析當今世界時，我們發現人類的偏好來自不同的來源，例如生物需求、後天習得的品味和文化。很大一部分似乎最終是由文化進化選擇的。

後 AGI 時代，標準經濟假設可能會失敗，或者需要進行實質性的修改。為什麼？一個考慮因素是，AGI 和人類之間認知能力的差異可能會使 AGI 很容易改變人類的偏好。作為一種直覺泵：考慮一個由一個五歲的孩子和她的父母組成的系統。孩子顯然有一些偏好，但父母通常可以改變這些偏好。有時通過脅迫或操縱，但通常只是通過指出後果、推斷孩子的願望或讓他們接觸新情況。此外，偏好是相對於世界模型的：對世界模型差異進行建模的標準經濟方式是“信息不對稱”。孩子對世界的理解不夠好，很容易被成年人利用。

由於孩子的偏好不如成年人那麼穩定和自私，並且孩子受到信息不對稱的影響，因此他們受到法律的部分保護：結果是監管的拼湊，例如，試圖改變孩子對食物的偏好是合法的，但禁止成年人試圖為了自己的利益而改變孩子的性偏好。

另一個“太明顯以至於容易被忽視”的效應是孩子對父母文化的依賴：如果父母是基督徒，那麼他們五歲的孩子很可能會相信上帝。如果父母是愛國者，那麼孩子也可能會對自己的國家有一些積極的想法。8 當與比我們更有能力的認知系統互動時，我們可能會發現自己處於與孩子有些相似的情況：我們的偏好可能很容易受到影響，並且不是特別自私。我們採用的意識形態可能受到非人類系統的驅動。我們的世界模型可能很弱，導致大量的信息不對稱。

甚至有一條經濟學文獻明確地對父母與子女的互動、家庭和偏好的形成進行建模。9 這部分工作可能會提供有用的見解，我很想知道——有人在那裡尋找嗎？

解決方案可能是類似的：某種形式的家長式作風，其中人類的思想受到法律的大規模保護，免受某些類型的干擾。這可能會奏效，也可能不會奏效，但一旦出現這種情況，你基本上就不能從古典自由主義和自由意志主義的假設開始。作為一種直覺泵，想像一下有人試圖在當今世界做“十歲及以下兒童的宏觀經濟學”。

其他核心概念

我們可以以類似的方式檢查一些其他典型的經濟假設和概念，每個都值得一篇論文的篇幅。這篇文章試圖主要保持更元層次，所以只是一些提示。

產權。大多數經濟模型將產權視為外生的——“假設定義明確且強制執行的產權。” 如果你研究大多數產權實際上是如何與物理現實聯繫起來的，產權通常意味著國家或公司運營的數據庫中存在某一行。執法最終取決於國家對暴力的壟斷、認知監控能力和作為獨立執法者的意願。正如各種極權主義、共產主義、殖民主義或專制政權所表明的那樣，即使在純粹的人類系統中，私有財產也取決於權力。如果你假設財產是穩定的，那麼你就是在假設關於治理和權力的東西。

交易成本和公司邊界。科斯理論 10 解釋了為什麼公司存在：有時通過層級結構在內部協調比通過市場在外部協調更便宜。公司的邊界位於市場交易的交易成本等於內部協調成本的地方。人工智慧可能會從根本上降低這兩者——使市場交易幾乎沒有摩擦，同時也使大規模協調變得容易。公司的均衡規模和結構可能會以不可預測的方向轉變，或者“公司”的概念可能會變得不太連貫。

離散主體和競爭。市場模型假設不同的主體相互合作和競爭。市場和競爭模型通常預先假定你可以計算參與者。AGI 系統可以潛在地被複製、分叉、合併或作為多個實例運行，它們的自然邊界是什麼是一個開放的問題。

資本與勞動。101 經濟模型中的基本概念通常包括資本和勞動作為概念。生產函數的要素，全要素生產率，柯布-道格拉斯等等。資本是被生產、擁有、積累、交易的，並為其所有者賺取回報。勞動是人類所做的事情，不能被擁有。這在現代經濟中很有意義，因為“事物”和“人”之間存在著大致清晰的區別。如果你回顧過去，這會更加模糊——在奴隸經濟中，奴隸算作勞動還是資本？這也更細緻一些——例如“人力資本”。在分析當今世界時，有很多原因可以解釋為什麼“事物”和“人”的區別是有意義的。“事物”通常是工具。這些工具放大了人類的努力，但不是主體。拖拉機使農民更有效率，但不會做出許多決定。農民可以學習新任務，拖拉機不能。另一個區別是人類在某種程度上是固定的：你不能輕易且快速地增加或減少他們的數量。

後 AGI 時代，這種分離可能不再有意義。人工智慧可能會以類似於資本的方式繁殖，像勞動一樣成為主體，快速學習，並像人類一樣產生創新。此外，也許人類可以像擁有普通資本一樣擁有它們，或者更像奴隸一樣擁有它們，或者也許人工智慧將是自有的。

關於後 AGI 情況進行推理的更好和更差的方式

有兩種在認知上合理的方式來處理經濟假設推廣的問題：拓寬視野，或縮小視野。人們也會採取許多在認知上有問題的舉動。拓寬視野意味著我們試圖納入所有關鍵的考慮因素。如果關於私有財產的假設引導我們思考後 AGI 治理，我們就跟隨。如果思考治理導致需要思考暴力和軍事技術，我們就跟隨。在最好的情況下，我們根據概率分佈和或多或少可能的影響來思考一切。如果我們對預測或政策建議感興趣，這是困難的、跨學科的，而且是必要的。縮小視野意味著專注於某些局部領域，試圖建立一個局部有效的模型，並清楚地標記所有假設。這通常在局部是有用的，可能會為某些動態建立直覺，只要在劃定模型可能適用和明顯不適用的地方花費大量精力，這就很好。什麼可能在模因上是成功的，並且可以獲得很多關注，但總體上是不好的，是做第二種分析並將其呈現為第一種類型。關鍵的考慮因素是可以翻轉結果的考慮因素。如果一個分析忽略或假設了其中的十個，那麼結果基本上沒有實際意義：想像一下，對於每個關鍵的考慮因素，有 60% 的可能性是模態觀點是正確的，而 40% 的可能性是不正確的。假設或暗示模態觀點是正確的 10 次，你的分析在 0.6% 的世界中成立。

在實踐中，這通常不是明確完成的——幾乎沒有人聲稱他們的分析考慮了所有重要的因素——而是作為一種莫特-貝利謬誤的形式。莫特是論文中的數學——來自假設，並且有很多這樣的假設。貝利是廣泛的論點、博客文章摘要、推文和簡短的參考文獻，傳播得更遠，沒有對沖。

在最壞的情況下，做出的各種假設是矛盾的或至少是反相關的。例如：一些經濟學家假設比較優勢通常保留了人類勞動力的相關性，並且人工智慧只是一種可以購買和複製的資本形式。然而，比較優勢取決於機會成本：如果你做 X，你就不能同時做 Y。隱含的假設是你不能只是啟動你的一個副本。如果你可以，那麼“機會成本”不是像你的勞動力成本那樣的東西，而是啟動另一個副本的成本。如果你假設未來的人工智慧與目前的人工智慧在替代人類勞動力方面同樣有效，就像目前的人工智慧在替代適度無聊的文案寫作方面一樣有效，那麼基本的“比較優勢”模型與勞動力價格下降到最低工資的 10000 倍以下是一致的。雖然比較優勢模型在字面上仍然是正確的，但它沒有相同的實際意義。此外，雖然在人類的情況下，比較優勢模型通常不會被摩擦破壞，但如果你的勞動力價值足夠低，那麼人類勞動力的有效價格可以為 0。對於一個人類的例子，五歲的孩子或患有嚴重精神障礙且無法閱讀的人實際上在現代經濟中是無法僱用的。在後 AGI 經濟中，很容易預測摩擦，例如人類以機器速度運行或不理解直接傳達的神經表徵。

該怎麼辦

回到開頭的比喻：經濟推理將高維度的現實投影到低維度的模型中。艱難的工作是選擇投影。在後 AGI 時代，我們面臨的情況是，我們正在投影的現實可能與人類經濟體校準的投影系統性地失敗的情況不同。解決方案通常是退一步，將更多的變量納入模型。有時這涉及冒險進入經濟思考的核心之外，並引入政治經濟學、進化論、計算複雜性，甚至物理學和哲學。或者只是看看經濟思考的其他部分，這些部分可能出乎意料地相關。這篇文章不是文獻綜述。我並不是說沒有經濟學家曾經思考過這些問題，只是說最常見的方法是錯誤的。

稍微說點個人看法。我希望有超過 5-10 位經濟學家認真地研究後 AGI 問題，並認真地參與辯論。如果你是一位經濟學家……我確實理解你習慣於與經常無知的公眾互動，他們擔心工作，並且不熟悉所有標準的論點和效應，例如鮑莫爾效應、傑文斯悖論、勞動總量謬誤、貿易收益等等。好吧，但這裡的批評是不同的：你正在假設你還沒有問過的問題的答案。如果你正在使用經濟工具對未來進行建模，我想知道你關於“人工智慧是主體嗎？”、“你如何對人工智慧消費進行建模？”、“在你的模型中，人工智慧擁有資本嗎？”或“與你所描繪的經濟體系兼容的治理體系是什麼？”的答案/假設。感謝 Marek Hudík、Duncan Mcclements 和 David Duvenaud 對本文草稿的有用評論。錯誤和觀點是我自己的。還要感謝 Claude Opus 4.5 在文本方面提供的廣泛幫助。

Gordon, Robert J. The Rise and Fall of American Growth.

我所批評的例子包括諾貝爾獎得主撰寫的文本——例如 Daron Acemoglu 的 The Simple Macroeconomics of AI (2024)，以及像 Philip Trammell 的 Capital in the 22nd Century 這樣思考後 AGI 經濟的新星撰寫的文章。

理智的經濟學家完全了解學科的本質。更長的討論：Rodrik, Dani. Economics Rules: The Rights and Wrongs of the Dismal Science. W.W. Norton, 2015.

Romer, Paul. “The Trouble with Macroeconomics.” The American Economist 61, no. 1 (2016): 31-44.

“因此，數學在經濟模型中起著純粹的工具性作用。原則上，模型不需要數學，並且不是數學使模型有用或科學。” Rodrik (2015)

Robbins (1932) 的經典文本將偏好定義為超出範圍“經濟學是一門研究人類行為的科學，它研究人類行為作為給定的目的與具有替代用途的稀缺手段之間的關係。” 關於該主題的另一篇經典文本是 Stigler & Becker (1977) “De Gustibus Non Est Disputandum.” 與本文中的幾乎任何主張一樣：是的，有一些關於偏好形成的經濟文獻，但這些通常不會影響後 AGI 宏觀經濟論文。

De Grauwe, Paul, and Yuemei Ji. “Behavioural Economics is Also Useful in Macroeconomics.” VoxEU, January 2018. Driscoll, John C., and Steinar Holden. “Behavioral Economics and Macroeconomic Models.” Journal of Macroeconomics 41 (2014): 133-147.

Bisin, Alberto, and Thierry Verdier. “The Economics of Cultural Transmission and the Dynamics of Preferences.”

Becker, Gary S. A Treatise on the Family.

Coase, Ronald H. “The Nature of the Firm.” Economica 4, no. 16 (1937): 386-405