21 歲那年，我被捲入了一個充滿野心的世界。

在灣區開啟我的成年生活，身邊充斥著一種我應該要創辦一家公司、改變世界的氛圍。

我從未想過要創業。讀著那些知名創始人的故事，並與創業家們一同生活與工作，在我看來，一個人必須對自己和自己的點子抱持近乎瘋狂的信念。我從小受到的教育是重視謙遜，甚至無法為自己爭取權益，那種程度的自信是我無法想像自己能達到的。

那種吸引我的「改變世界」的版本是「有效利他主義」（Effective Altruism, EA）。我沒有宏大的願景，我只是想幫助人。當書本和部落格文章陳述其論點時，它們看起來是如此簡單，且顯而易見地正確。

大學畢業後，我加入了一個 EA 組織，與世界各地的政府合作開展耗資數千萬美元的專案。有一天在辦公室，我正從廚房拿些豆子和米飯時，撞見了一位億萬富翁。世界上所有的金錢與權力突然就在眼前——而我們正利用它們來拯救生命。

在那段夢想著讓世界變得更好的時光裡，我順風順水地過著。當時我很年輕，我們許多人都是。我不止認識一個在 25 歲之前就對數百萬美元擁有影響力的人。這個運動也很年輕——對權力而言還太新，尚未跌入隨之而來的許多陷阱。隨著運動發展得越來越快，累積了更多的追隨者、金錢和政治影響力，我們似乎覺得自己無所不能。那是一種令人陶醉的感覺。

接著，在我 26 歲時，FTX 倒閉了。突然間，我們都必須正視全球規模野心所帶來的後果。當一切順利時，你可以資助每一個慈善機構，並為拜登贏得選舉；當事情出錯時，你便成了一個犯罪企業的共犯，動搖了經濟並坑害了一百萬人。

（我上週讀了《Careless People》，這是一本關於 Facebook 的成功如何將改變世界的力量交到少數個人手中的回憶錄，而他們幾乎能在完全不受監督的情況下行使這種力量。當一切順利時，你會得到民主起義；當事情出錯時，你會得到緬甸的種族滅絕，以及川普當選總統。）

大約在 FTX 倒閉的同一時間，OpenAI 和 Anthropic 之間開始了一場 AI 軍備競賽——這兩家實驗室都是由受到波斯特羅姆（Bostrom）《超級智能》（Superintelligence）啟發的人所創立的，就像我們所有人一樣。按照《超級智能》的邏輯，這幾乎是可能發生的最糟糕的事情。

我身邊的人陷入了動盪與憂鬱。我們在 AI 領域做了這麼多，以各種重要的方式支持並推動 AI 安全的發展——如果沒有我們，這些事情可能就不會發生。現在看來，所有投入 AI 安全的投資，其主要影響卻是大幅加速了 AI 的能力。

你嘗試大事，就會得到大的結果。

在 FTX 倒閉的那個月，我辭去了 EA 的工作，從那以後我就再也沒有涉足過這個領域。這並不是一個重大、戲劇性、甚至不是一個深思熟慮的決定。我只是精疲力竭且幻滅了。

我依然關心這個世界，多年來我也一直隱約感到愧疚，因為我甚至不再假裝自己在處理那些重大的問題。我以為我退出 EA 是因為我想追求快樂（作為一名 EA 成員，我不斷強迫自己去做那些讓我感到不對勁的事情，因此一直很痛苦）。這感覺像是自私或懶惰。我很難用其他理由為自己辯解。

我現在不再感到愧疚了。最近我和一位朋友聊到這些，他說：「似乎可以這麼想，如果你真的認真對待 AI 的生存風險（x-risk），最好的做法或許就是完全停止從事 AI 相關工作。」

這就是每當有人問起我的職業生涯時，我一直想表達的意思。如果我不能確定我的影響對世界是正面而非負面的，我就不想嘗試去產生巨大的影響——而我「無法」確定。對此深信不疑將是一種傲慢。無論是在我讀過的回憶錄中還是在現實生活中，我都見過那些真心想要改善現狀的人，進入了決策的核心地帶，最後卻對自己參與其中的後果感到噁心。

EA 疏導著數百萬美元的資金。它資助 AI 研究人員的職業發展，而這些人最終在頂尖實驗室提升了 AI 能力。它資助經殺蟲劑處理過的蚊帳以保護人們免受瘧疾侵害，然後那些蚊帳被用來捕魚並污染了水道。後者的影響已被判定為微不足道。至於前者，我想，還有待觀察。