Lesswrong
I am exploring the distinction between centralized agents, which prioritize efficiency and coherence, and distributed agents, which offer greater robustness through autonomous subagents. My goal is to formally define distributed agency and eventually integrate both properties into a concept I call coalitional agency.
AI 生成摘要
我正在探討中心化智能體與分散式智能體之間的區別，前者優先考慮效率與連貫性，而後者則透過自主的子智能體提供更強的穩健性。我的目標是正式定義分散式代理，並最終將這兩種特性整合為我所稱的「聯盟代理」。
過去一年中，我的大部分思考都集中在理解「分散式代理人」（distributed agents）的概念，這與現有期望效用最大化範式所描述的「中心化代理人」（centralized agents）相對。描述兩者差異的一種方式是看其子代理人的自主程度。另一種方式是，中心化代理人更有效率（有時透過「連貫性」的概念來形式化），而分散式代理人則更具強韌性（robustness）。
遺憾的是，強韌性很難形式化，因為它要求你在未預測（有時是不可預測）的情況下仍能表現良好。我在下方對分散式代理人給出了一些初步的特徵描述，但在正式定義分散式代理人方面仍有許多工作要做。最終，我想進一步了解代理人如何能同時具備這兩種屬性——這大致就是我所說的「」（coalitional agency）的意思。
大約七個月前，我曾就這一區別做過一次演講。我一直希望能詳細寫下主要觀點，但既然短期內似乎無法實現，我在此分享投影片。希望這些內容本身就足夠易懂，若有任何不明之處，歡迎隨時提問。
；請注意，他不同意我對「壓縮」的強調（如評論區的交流所示）。
也展示了從更分散的角度理解認識論（epistemology）是什麼樣子的。
「Will 非常粗略的初步嘗試」是指 ，他在那裡描述了功利主義者應該遵循的決策程序。我這裡的重點是將他（以及其他功利主義者）在尋找「正確性標準」上投入的思考，與他們對「決策程序」的思考是多麼原始進行對比。