Lesswrong
We are inviting applications for the AFFINE Superintelligence Alignment Seminar, a one-month intensive program in Czechia designed to equip newcomers with the deep understanding needed to tackle AI existential risk.
AI 生成摘要
我們誠摯邀請您申請 AFFINE 超級人工智慧對齊研討會，這是一個在捷克舉行的為期一個月密集課程，旨在讓新手具備應對 AI 生存風險所需的深度理解能力。
AFFINE 超人工智慧對齊研討會（Superintelligence Alignment Seminar）現已開放申請，我們誠摯邀請您參與。研討會將於 4 月 28 日至 5 月 28 日在捷克布拉格附近的 舉行。^()
我們正與世界級專家諮詢，編寫。
本研討會的主要目的是讓有潛力的 AI 對齊領域新人有機會深入理解該問題的核心部分，使他們能更好地應對 AI 存在性風險的緩解工作。
超人工智慧（ASI）脫離人類控制並追求與人類繁榮相悖的目標，是 AI 造成災難性與存在性風險的核心模型。儘管如此，旨在尋找 ASI 對齊問題解決方案的研究，在一般的 AI 安全生態系統中卻系統性地被忽視，後者大多將資源投入在許多與之廣泛相關的事務上（如監控、引導及衡量相對小規模的優化等）。
我們的目標是修正這種不足，並為更多人提供解決超人工智慧對齊核心問題的先備知識。
當前的問題非常困難，因此在整個月的時間裡，我們將專注於學習、知識提煉以及辯論/認識論實踐，而非嘗試產出原創研究。
本計畫將集中於學習成果：即極有可能與超人工智慧對齊相關的主題或概念。參與者將透過閱讀材料、思考、與其他參與者及導師交流來理解主題，最後透過嘗試教導其他參與者（特別是 1 對 1 同儕教學，也包括講座或書面材料）來鞏固理解。學習成果清單的 Alpha 版本可以在找到。
現場也將舉辦講座、工作坊、辯論和討論。
捷克鄉村的環境排除了城市的干擾，同時為專注的個人工作和自發的協作提供了空間。計畫節奏將在密集的技術投入與明確的恢復時間之間交替，以防止許多為期一個月的密集計畫中常見的倦怠現象。
我們預計錄取最多 30 名學員，此外還有多位現場及遠端導師。我們將有兩位全職現場導師：Ouro（前 Orthogonal 成員）和 Jonas Hallgren（Equilibria Network）。其他已確認的導師包括：Abram Demski, Ramana Kumar, Steve Byrnes, Kaj Sotala, Kaarel Hänni, Cole Wyeth, Aram Ebtekar, Elliot Thornley, Linda Linsefors, 以及 Paul ‘Lorxus’ Rappoport。
如果資金允許，我們將把研討會擴展為期一年的研究員計畫（Fellowship），提供給約 10 名最有潛力的候選人。
至關重要的是，晉級為期一年研究員計畫的篩選標準將基於「協作卓越性」。我們正在尋找那些能幫助他人學習、跨學科整合、以及建立而非壟斷知識的參與者。我們的目標不僅是培養十名獨立的研究人員，而是建立一個在一個月結束後仍能持續協作的凝聚網絡，無論是在 還是其他地方。
年度研究員的選拔部分取決於他們與其他參與者的協作表現。積極鼓勵協作將有助於我們在面對因競爭研究員名額而可能產生的對抗性時，仍能維持環境的協作精神。為了鼓勵那些不保證成功但具備雄心的嘗試，我們並不期望在計畫的一年期限內產出原創且具前景的研究成果。然而，若有此類產出，將會是令人驚喜的收穫。
我們特別（但絕非僅限於）對那些尚未有機會深入接觸 AI 對齊問題和 AI 存在性風險的人感興趣。
您可以在 和 中找到更多資訊。
如果您感興趣，請在填寫此表單，以便我們安排面試。如有任何疑問，請回覆此訊息或在表單中提出。越早收到您的申請，獲得早期回覆與錄取的機會就越大。
我們備有部分預算，可為最需要的人負擔交通費用。我們將提供住宿以及高品質的每日餐飲（包括純素和素食選項）。研討會不收取任何費用。
最後，如果您知道有誰適合擔任參與者（或導師），請告訴我們。請發送他們的聯繫資訊，並簡短說明為什麼他們是合適的人選。
（鳴謝：）