OpenAI 員工們：現在是時候停止認真工作了

Lesswrong

大約 2 小時前

AI 生成摘要

作者認為 OpenAI 決定與美國軍方合作開發自動化武器與大規模監控系統已跨越倫理底線，因此呼籲員工採取消極怠工或無聲抗議，不再為薩姆·阿特曼的領導付出心力。

美國人不再那麼喜歡 OpenAI 了，而你知道原因。當然，它協助開發的 AI 系統已經引發了各種問題，例如：

在社群媒體上推銷政治立場的機器人
開源專案維護者的時間被浪費，有時甚至因此退出
AI 生成的科學論文排擠了優秀的研究
複製家人聲音的詐騙者
AI 生成的假圖片在 Facebook 上愚弄大眾

自從 OpenAI 買下了後，玩家們對它也沒什麼好感——這主要是為了將其隔絕於市場之外，讓其他人無法使用，因為他們只買了原始晶圓，而不是成品記憶體。

但 OpenAI 的受歡迎程度在本週驟降，因為它決定協助美國軍方製造自動化武器和大規模監控系統，而 Anthropic 則出於倫理考量拒絕了這些要求。

OpenAI 的領導層試圖假裝他們得到了與 Anthropic 相同的條款，只是他們態度更友善。他們在撒謊。Anthropic 要求在自主武器中加入「人類參與」（human in the loop）。OpenAI 的合約則僅表示，必須在法律要求的範圍內進行人類監督。但當然，美國軍方可以隨口宣稱他們想做的任何事都是合法的，而 OpenAI 的領導層既無能力（也無意願）對此提出挑戰。還記得美國政府想對人刑訊逼供時，就寫了幾份說這是可以的嗎？我還記得。

接著，山姆·阿特曼（Sam Altman）竟然厚顏無恥地說了：

關於我們應該偏好民選政府還是非民選私營公司擁有更多權力，公開辯論的程度比我想像的要多，至少在 Twitter 的這個角落是如此。我想這是人們存在分歧的地方，但……我不這麼認為。這似乎是一個值得進一步討論的重要領域。

讓我們說清楚：這並不是關於 Anthropic 告訴美國軍方不要自行研發自主武器。阿特曼是在主張政府應該有權要求私營公司（及其員工）提供任何它想要的服務，即使該公司目前並不從事該業務。我知道「法西斯主義」這個詞已經被濫用了，但這就是「真正的法西斯主義」。以下是使用該論點的其他方式：

「為什麼應該由山姆·阿特曼決定那十億美元的用途，而不是由反映民意的政府來決定？」
「為什麼私人公民可以決定不監視鄰居、不舉報隱藏的猶太人？這應該由反映民意的政府來決定！」

過去一週，我看到很多人在社群媒體上宣布取消 OpenAI 的訂閱並轉向 Anthropic。嗯，這很好，但他們（OpenAI）其實不太在乎。他們的大部分資金並非來自訂閱，而是來自投資者。而那些投資者主要並不是希望從每月支付 20 美元、利潤率 40% 左右的個人用戶身上獲得回報。不，他們想要的是取代員工。那是他們的希望，也是投資的主要基礎。要真正讓 OpenAI 改變航向，需要……嗯，別的手段。

這週我看到很多貼文說員工有道德義務立即離開 OpenAI。但我不會說得那麼絕：我只想說，你有義務停止「好好工作」。

你看到 Bug 了嗎？不，你沒看到。
OpenAI 領導層說「憑感覺寫程式」（vibe coding）沒問題，那為什麼還要審核 AI 生成的程式碼？（如果你願意，可以假裝花時間在上面。）
你對不必要的會議感到煩躁嗎？為什麼？放輕鬆就好。
哪裡的電線拔掉了？漏水了？那不是你的工作。
許多糟糕的工程師透過把時間花在辦公室政治上而獲得成功。辦公室政治是一項寶貴的技能！你應該多加練習！

說真的，如果你少出一點力，最後被 OpenAI 開除，你為什麼要在乎？現在正值 AI 熱潮：履歷上有 OpenAI 的經歷，你可以在任何地方找到工作。如果你一直在矽谷工作並存了錢，你甚至可以直接去泰國之類的地方退休。或者去日本玩一陣子，現在那裡很便宜。現在是在 OpenAI 這樣做的絕佳時機，因為：

人們會陸續離開。如果出了什麼問題，你只要推給最近辭職的人就好。
可能即將迎來一場意識形態審查，所以你可能本來就想很快離開。
通常情況下，你不會透露被解僱的具體原因，但這是一個罕見的情況，你可以透過回答「我因為拒絕參與不道德的專案而被開除」來贏得尊重。

特別是山姆·阿特曼，他不值得你付出最大的努力。

看看。他的貼文被加上了社群附註（community note），所以他重新發布了同樣的內容以擺脫附註。但隨後他意識到自己無法刪除那些被標註的貼文，所以他現在有三份同樣內容的貼文掛在那裡，看起來像個混蛋。這是他一生行為的縮影——他習慣於隱藏過去發生的一切，但現在他處於公眾視野中，他受到的審視太過嚴密，以至於他的一些策略不再奏效。

*山姆·阿特曼確實有一種顯著的天賦：他能與略帶自閉傾向的技術宅交談並顯得像他們的一員，然後再去與一群 MBA 和 CEO 交談並顯得像他們的一員。我做不到這一點，而他確實充分發揮了他的演技。

阿特曼從職業生涯的就有一套欺騙和詐欺的模式——然後他有能力說服人們他是一個「非常真誠的人」，即使人們正看著他撒謊。他曾是那個真正關心 AI 安全的 CEO，隨後變成了不受限 AI 進步的倡導者，接著又變成了最大化投資者利潤的人。他所取悅的受眾應該意識到，當時機成熟時，他也會同樣坑害他們。

而現在，阿特曼說話的口氣就像。我不認為他用這種修辭所取悅的人會是你的朋友。儘管我對中國政府有很多批評，但即使是他們，也不像阿特曼在某些受眾面前表現得那麼……反人類。我也沒見過中國領導層為「物種歧視者」（speciesist）。如果這就是美國領導層的樣子，我不得不懷疑美國「贏得」AI 競賽有什麼優勢——特別是考慮到很有可能每個人*都會輸。我還記得山姆·阿特曼曾辯稱 OpenAI 對 AI 風險有益，因為它減少了「算力懸殊」（compute overhang）——，不是嗎？

但當然，阿特曼並不擔心。他沒有孩子。他正在建造地堡。他會沒事的。

OpenAI employees: Now is the time to stop doing good work.