Lesswrong
I propose that irrationality and stubborn problems are often socially strategic solutions to embedded social challenges where truth-seeking would be less effective than maintaining a useful bias. To achieve true rationality, we must find ways to solve these underlying social problems without relying on the second-order distortions that currently protect them.
AI 生成摘要
我認為非理性與頑固的問題通常是為了解決嵌入式社交挑戰的策略性方案，在這些情況下，追求真相的效果往往不如維持有用的偏見。我主張真正的理性必須包含一套流程，讓我們能在不依賴二階認知扭曲的情況下，找到解決這些底層社交問題的方法。
在我看來，要，其在於：如何處理那些系統性地抗拒被解決的問題。特別是，如何處理那些拒絕被糾正的錯誤推理。
我提議，在實踐中，每一個這類頑固的問題幾乎總是某個社交問題的「解決方案」的一部分。換句話說，擁有這個問題在社交策略上是有利的。
如果這個推測是正確的，那麼理性必須包含一個過程，去尋找那些底層社交問題的解決方案，且這些方案不依賴於創造和維持某種二階問題。特別是那些會使意識推理和尋求真相變得複雜交織的問題。
這篇文章接下來的內容將由我來充實我的觀點，勾勒出為什麼我認為這是正確的，並針對這個漢明問題提出一些初步的解決步驟。
我假設你熟悉 。如果不熟悉，我建議閱讀他們文章中的漫畫，讀到提到 Marcus Hutter 和 AIXI 的地方即可。
（簡而言之：笛卡爾式代理人可以與它所解決問題存在的空間明確區分開來，而嵌入式代理人則不然。對比一下：研究蟻群的昆蟲學家是笛卡爾式的，而理解自身蟻群運作的螞蟻則是嵌入式的。）
在我看來，對於那些你可以作為笛卡爾式代理人從外部觀察的問題，尋求真相是非常正確的方法。但對於你嵌入其中的問題，這通常是一個糟糕的方法，因為在這種情況下，你的模型本身就是問題結構的一個關鍵特徵。
例如，如果一個男人接近他感興趣的女性，對他是有幫助的。他的偏見有時會成為一種自我實現的預言。為了，尋求真相實際上是一個較差的策略。如果他的認知狀態與她如何看待他的接近沒有糾纏在一起，那麼這個事實就不成立。但事實確實如此。
同樣的情況也影響著預測市場。只有當預測市場的狀態不與它們所預測的事物發生互動時，它們才能可靠地發揮作用。這就是為什麼當它們試圖預測（例如）選舉時會表現得如此不穩定：利用市場來影響結果的參與者會扭曲市場反映真相的能力。如果參與者能夠（或者僅僅是認為他們能夠）以這種方式塑造結果，那麼市場就嵌入在它所預測的背景中，因此它無法可靠地成為該情況笛卡爾模型的一部分。相反，它本身就是該情況的一部分。
因此，當面對你嵌入其中的問題時，尋求真相與之間可能存在（且通常確實存在）巨大的差異。
進化非常關心相關的問題是否真的被解決了。在某種意義上，這就是它唯一關心的事。
因此，如果有一個問題抗拒被解決，那麼它在那裡一定存在某種局部動機。這個問題之所以受到保護，是因為它是某個其他有意義問題的解決方案中不可或缺的特徵。
我將這種模式與那些雖然源於某種解決方案但並非必要特徵的問題進行對比。例如錯覺：這些錯覺之所以出現，通常是因為我們的視覺是在特定背景下為了解決特定問題而進化的。在這種情況下，當我們遇到實質上超出我們祖先環境的情況時，我們以前進化出的解決方案可能會失靈。而這些失靈可能會讓我們感到困惑且無能為力。問題在於，如果我們因為錯覺而注意到一個有意義的挑戰，我們會盡力去糾正它。我們幾乎永遠不會保護「擁有這個問題」這件事。
（我想像那種奇怪的行為看起來像是：意識到你的視覺扭曲了，承認這在某種你關心的方式上搞砸了你的生活（例如讓你的駕駛在某些方面變得很危險），知道如何修復它，能夠修復它，卻決定不去理會，因為你只是……比起沒有視覺問題，你更喜歡擁有這些問題。不是因為某種權衡，而是因為你單純……想讓自己過得更糟。毫無理由地。）
一個值得注意的例外是，如果你知道的每一種糾正錯覺的方法實際上都會讓你的處境變得更糟。在這種情況下，你會自覺地保護這個問題。但在這種情況下，你不會對為什麼感到困惑。你不會認為你本可以解決問題但卻「一直拖延」之類的。你只是在已知權衡的情況下做出了你能做的最佳選擇。
因此，如果你有一個受保護的問題，但你不知道它為什麼受到保護，那麼極有可能它是某個嵌入式問題解決方案的一個特徵。我們通常對待客觀問題（即你作為笛卡爾式代理人對待的問題）就像對待錯覺案例一樣：如果有理由保護這個問題，我們會自覺地知道原因。所以如果我們說不出原因，特別是如果連定位「為什麼」這個問題都感到極度困惑或困難，那麼極有可能是我們作為嵌入式代理人正在執行的某種解決方案產生了這個受保護的問題。
我認為社交問題具備了導致這種隱藏保護模式的所有特徵。我們天生嵌入在社交背景中，而在我們祖先的環境中，社交問題往往是迫切需要解決的，有時甚至比原始的物理生存需求更重要。
我們甚至也經常觀察到受保護問題與社交的這種聯繫。例如，男性那些證明他們沒機會追到那個女孩的論點；大多數人他們的總統候選人會贏；；以及在他們的行為問題被指出時變得。
請注意，在這些案例中，當事人無法自覺地作為笛卡爾式代理人來定位他們底層的社交問題。當他們嘗試這樣做時（例如想出論點來證明為什麼他們的候選人會贏、談論他們的依戀類型等），他們事實上正在實施的社交解決方案會扭曲他們的意識感知和推理。
這種模式就是為什麼我認為受保護的問題是理性的漢明問題。我們可以客觀對待的問題可能很難，但它們很直接。我們可以以尋求真相的方式明確地思考它們。但受保護的問題是一個扭曲我們對現實認知和思考能力的過程中的公開組成部分，並且它向我們隱藏了它正在進行這種扭曲的事實。在我看來，這是創造持久不理性的關鍵因素。
我還沒有這個提議的漢明問題的完整解決方案。但我確實看到一種總體策略經常奏效。我將在這裡闡述它，並說明一些至少有時能幫助它發揮作用的技術。
基本的訣竅是將意識認知從底層社交問題中解脫出來。這樣，意識認知在面對問題時就能表現得更像一個笛卡爾式代理人，這意味著我們恢復了將明確的尋求真相作為解決問題的好方法。然後，我們可以嘗試以不同的方式解決底層社交問題，從而不再需要在那裡設置受保護的問題。
（從技術上講，這只處理了源於社交解決方案的受保護問題。理論上可能存在其他類型的嵌入式解決方案創造出受保護的問題。但在實踐中，我認為人類幾乎所有的受保護問題都追溯到社交因素。我這裡沒有可靠的邏輯論證，只是我幾乎想不出人們真正掙扎的非社交性受保護問題，而且在實踐中，我發現假設它們都追溯到社交事務的效果非常好。）
我將列出我認為與此相關的三種技術。我和其他一些人實際上經常使用這些工具，從傳聞來看，它們相當強大。當然，效果因人而異，而且。即使它們對你很有效，我也很確定這些並不構成一個完整的方法。還有更多工作要做。
有些在接受心理治療的人喜歡大量談論他們最近的領悟。「哇，今天我意識到我是如何推開別人的，因為我覺得展現脆弱是不安全的！」
我認為這種自動分享的習慣在大多數時候是一種反模式（anti-pattern）。它使他們意識心靈的內容在社交上變得透明，這使它更深地嵌入在他們的社交問題中。
一個結果是，這個人無法安全地意識到那些會破壞其社交策略的事情。這意味著，例如，治療往往會在源於的問題上系統性地失敗。它甚至可能產生新的自我欺騙！
這裡一個簡單的修正方法是建立一套策略：在透露關於自己的領悟之前先暫停。將你的發現完全保密，直到你找到一種不會激發思維扭曲的分享方式。這就是我之前描述過的「」。
我想強調，我指的不是撒謊或主動欺騙他人。像或者簡單地說「是的，我注意到了一些重大的事情，但我現在打算保持私密」這類舉動，在很多時候都運作得足夠好。反社交策略可能在局部奏效，但它們會損害，而且隨著時間的推移，它們還會激勵你為了維持你的詭計而進行自我欺騙。尋找親社會的方式來保持你意識心靈的私密性要好得多。
至於到底什麼樣的大腦封閉術能運作得足夠好，我發現思考一下「深櫃恐同者」的案例會很有幫助：這個人被男性吸引，但出於策略而憎恨「那些該死的同性戀」。他不能從詢問自己需要什麼才能承認自己是同性戀開始，因為那等同於直接向自己承認，而這對他來說還不安全。因此，他需要更間接地發展他的大腦封閉術。他可能會問：
如果我有一個真正可怕、令人厭惡、邪惡、罪惡的慾望……我該如何讓自己能安全地自覺意識到它？一旦我意識到這個可怕的慾望，我該如何避免立即向他人透露我有這種慾望？
我想大多數 LessWrong 的讀者都能看出，這個人所掙扎的具體慾望並非真的邪惡。將其標籤為「邪惡」是他自我欺騙策略的一部分。一旦他的自我欺騙結束，這個慾望就不再顯得糟糕了。只是考慮到他的背景，這在社交上很麻煩。
但對他現在的意識身份來說，這確實看起來像是一個不可接受的慾望。如果他試圖弄清楚如何隱藏一個他錯誤地認為是邪惡的慾望，那是行不通的，因為那不是。他這裡需要的大腦封閉術技能，是那種讓他覺得如果事實證明他在某種程度上確實是一個天生邪惡的生物（按他自己的標準），他也能安全地發現並完全接納這一點。
因此，為了讓你針對你的情況發展出正確的大腦封閉術技能，你需要想像你擁有某種你目前認為極度不可接受的慾望，並詢問什麼能給你空間去向自己承認並接納它。你可以嘗試，並反思什麼樣的通用技能和/或策略能讓你在自覺意識到那個壞慾望時，起初能將其保持私密。
一旦你建立了一套你信任的大腦封閉術策略加技能組合，這個思想實驗的任務就完成了，應該停止。這裡沒有理由去對你的是非感進行煤氣燈操縱（gaslight）。重點不是要將真正壞的事情合理化。而是要找出你需要的技能和策略，將你的意識心靈從某些尚未知曉的社交情境中解脫出來。
大腦封閉術部分地將你的意識心靈從社交場景中解脫出來。有了這點內在空間，你就可以嘗試直接觀察你正在解決的真實問題。
我認為這部分相當直接。只需觀察一個你正在掙扎且抗拒被解決的問題（或者某種你不斷的方式），然後問：
我從擁有這個頑固的問題中可能獲得什麼社交優勢？
如果我假設我秘密地在這裡採取策略，那麼這個社交策略可能是什麼？
請注意，這也具有「」的性質。這並非絕對必要，但我發現這會讓事情變得容易一些。它有助於防止內在搜索觸發習慣性的主觀防禦。
如果你的大腦封閉術足夠好，你應該會得到一個主觀的信號：「喔。喔，當然是這樣。」我發現這種啟示通常伴隨著一閃而過的羞恥或尷尬，但隨著洞察力對我來說變得更加明顯，這種感覺會迅速消散。
例如，一個的人可能會注意到他們正在執行一種。（「喔，每當我想讓男朋友按我的意願行事時，如果我正處於情緒艱難時期，他的反應會更積極。這激勵我在與他接觸時經歷很多情緒艱難的時刻。」）那個啟示可能會帶來一記羞恥的重擊。（「我怎麼能是這樣一個怪物？？？」）但那種羞恥反應是同一個（或密切相關的）社交策略的一部分。如果這個人的大腦封閉術技能足夠好，他們應該也能，並在內心達到一個心智和情緒都非常清晰的境界。
在實踐中，我發現此時特別重要的一點是，要小心不要立即向他人透露我內心發生的事情。天性使然，我相當直率，我也喜歡與他人一起探索主觀結構。所以我可能會有一種衝動想說：「喔！喔天哪，你知道我剛意識到什麼嗎？」但這種情況在內部是，所以對我來說，停下來考慮一下如果我順從那種衝動，我會為自己激勵出什麼，這實際上是非常重要的。
總的來說，我發現擁有大量關於社交問題及相應解決方案的非個人模型是很有幫助的。我可以通過使用「這與性有什麼關係？」和「這與權力有什麼關係？」等啟發式方法分析社交情境（包括我不在其中的情境，如虛構情境）來充實我的通用模型。然後，這些模型在以後為我自己的動機做出良好的有根據猜測時，實用性會不斷增長。
但請注意，擁有你信任的大腦封閉術是有效進行這類建模的前提。否則，那些阻止你意識到自己真實動機的策略，也會阻止你對他人的這些動機進行建模，特別是如果你明確計劃利用這些觀察來反思自己。
一旦你看到了你通過受保護問題所解決的社交問題，你就想改變你的社交動機，使它們停止將你推向內在的混亂。
例如，有時將你的計劃保持私密是有意義的。如果你從「開始健身習慣然後放棄」的循環中獲得了某種同袍情誼的回報，那麼你一直尋求的「社交問責」可能正是你缺乏執行力的原因。如果你改為開始一項運動計劃但，你就從你的努力中移除了一堆社交因素。
（這並不是暗示這種做法對運動來說是正確的。只是說它可以是正確的。。）
另一個例子是，讓「歡迎自覺嘗試解決社交問題」在社交上變得有利。例如，一位妻子因為年輕女性對她的丈夫調情而感到威脅，她可能會發現自己突然「討厭」那位年輕女士。如果這位妻子相信表現出受到威脅會讓別人認為她缺乏安全感（且這對她來說是個問題），那麼這種模式就會出現。因此，她必須以某種隱蔽的方式保護她的婚姻，可能包括欺騙自己。
但假設這位妻子反而有習慣對她的丈夫發表這樣的評論：
我一直注意到這個女孩執意讓對話圍繞著她轉。雖然我最好的猜測是，由於性內競爭，我對注意到她的缺點過於敏感，因為我注意到她在對你調情。
這類方法讓妻子看起來很有自覺（通過展現自覺！），同時仍然採取了性內競爭的舉動（即仍然指出了另一個女人的不吸引人之處）。如果她預期並觀察到他人欽佩並欣賞她這種自覺的評論，她就可以放下對自己假裝討厭那個女孩（這對她自己和那個女孩在社交上可能都更好）。她可以改為自覺地承認年輕女士構成了威脅，並採取明確的策略行動來應對威脅。
這使得妻子的不安全感不再是一個社交問題，這意味著她沒有必要向自己隱藏這種不安全感。她實際上在社交上有動力去自覺意識到它，因為她現在既可以標榜自己的一些積極特質，同時仍然點出競爭對手的消極特質。
（這種自覺的社交問題解決方式可能會讓人覺得反感。但我認為這種情況反正一直在發生，只是隱含地或下意識地發生。在我看來，因為人們意識到自己的社交策略而對其進行社交懲罰，似乎會激勵不理性。我認為我們可以自覺地、甚至明確地嘗試以真正豐富群體健康的方式來解決我們的社交問題，而不是必須假裝我們沒有在做我們需要做的事情。而且在我看來，識別並執行這些親社會策略對每個個體都有利，。）
因此，如果她還沒有這種評論風格，並且如果她注意到（在大腦封閉術保護的範圍內）她有時會嫉妒，她可以努力採納這種風格。或許最初從她感到性內威脅以外的領域開始。
我認為總體目標應該是在每個特定實例中不再需要你的大腦封閉術護盾。你想轉移你的社交背景（和/或你與社交背景的接口），使得即使你意識心靈的內容「洩漏」也完全沒關係。這樣一來，你大腦封閉術技能的不完善就不會激勵不理性。
例如，深櫃恐同者如果可以的話，可能應該搬離他的恐同社交背景。或者如果做不到，他應該盡可能讓他的環境減少恐同色彩（同時在過渡期間保持自己的性取向私密）。如果他留在一個會譴責他性慾望的背景中，那麼即使他的大腦封閉術最初是足夠的，他也可能不相信它會永久足夠。因此，他可能會開始質疑他早先的領悟，無論那曾經對他來說多麼清晰。
我上面提到的技術序列旨在尋找解決特定社交問題的更好方案……作為一個個體。
顯然，如果能嵌入在一個既 (a) 不會向你呈現那些最容易通過擁有受保護問題來解決的社交問題，且 (b) 能幫助你發展出比目前保護問題的方案更好的社交解決方案的社交場景中，效果會好得多。
我的印象是，目前的理性主義社群在非零程度上體現了這種設置。而且在許多方面比大多數場景都要好得多。例如，我認為它在加強人們明確指出自己的社交競爭衝動時的誠實度方面，已經做得異常出色。
但我敢打賭，它在這個軸向上可以成長得更加有效。
一個真正強大的理性場景，我認為，會系統性地導致其成員僅僅通過在場景中待上一段時間，就能化解他們頑固的問題。這種化解會自然發生，就像今天自然吸收理性主義術語一樣。
在我夢幻般的幻想中，僅僅在這樣的空間裡消磨時間，在真正解決個人問題方面往往會比心理治療有效得多。社群會變得越來越具有，通常是以新來者字面上無法立即理解的隱含方式（由於受保護問題導致的心智混亂），但隨著每個人的心智變得清晰，以及隨著他們變得更擅長為共享的文化才華做出貢獻，真相在適當的時候對每個人都會變得顯而易見。
我認為我們看到了這種模式的非零體現，而且比我所知道的大多數其他地方都要多，但遠沒有那麼多。
我猜測並希望，對社交問題如何誘發受保護的不理性有一些共同的認識，再加上許多個體在這種啟發下努力親社會地解決他們自己的受保護不理性，將自然地開始推動社群更多地朝這個方向發展。
但我不知道。在我看來，如何創造這樣一個強大的誘導理性的社群，充其量是一個尚未完全解決的問題。我希望我已經在這裡指出了足夠的願景，或許我們可以。
在我看來，理性的漢明問題在於：如何處理那些抗拒被解決的問題。
在我看來，抗拒被解決的問題源於對嵌入式問題（即你作為嵌入式代理人對待的問題）的解決方案。客觀問題（即你作為笛卡爾式代理人對待的問題）解決起來可能具有挑戰性，但不會抗拒你解決它們的努力。
特別是對於人類來說，在我看來，我們面臨的最重要且最常見的嵌入式問題類型絕大多數是社交性的。因此，我假設每一個抗拒被解決的問題，極有可能都是某個社交問題解決方案的一個特徵。
在這個框架下，開始解決這個理性漢明問題的一種方法是，找到一種方法將意識思考從社交嵌入的背景中分離出來，然後以不同的方式解決底層的社交問題。
我列舉了三個我發現有助於執行這一策略的步驟：
我還推測，理論上，一個社群可以有一種設計，使其所有成員隨著時間的推移，僅僅通過成為該社群的一部分，就能自然地化解他們頑固的問題。目前的理性主義社群已經具備了一些這種效果，但我假設它可以變得更強大。這種文化設計具體會是什麼樣子，以及如何實例化它，據我所知仍然是未知的。
（非常感謝 Paola Baca 和 Malcolm Ocean 對本文各個草案提供的豐富反饋。感謝 Claude Opus 4.6 嘗試壓縮其中一個過長的早期草案：雖然沒成功，但它啟發了我如何寫出一個更緊湊、更短的最終版本。）