並非什麼石破天驚的見解，只是人們經常遺忘的事情，我把它寫下來，這樣我就不必每次都從頭解釋一遍。

世界並非只是「持續運作」，而是不斷地「被拯救」。

千禧蟲危機（Y2K）是一個真實的問題。當時電腦的設定方式確實可能癱瘓我們的基礎設施，包括銀行、醫療供應鏈等。它之所以沒有演變成災難，是因為人們投入了無數的人力工時去修復它。崩潰確實沒有發生，但這並不是輕視那些發出警告的人的理由——恰恰相反。沒有發生戲劇性的災難，是因為他們確保了它不會發生。

當有人回顧這件事並說問題被「誇大」時，他們正在做一件很奇怪的事。他們看著一個被成功預防的事件，並得出它從未真實存在過的結論。

Twitter 上曾有人問臭氧層破洞的問題去哪了（帶著惡意，暗示它——以及許多其他氣候問題——從未真正存在過）。Hank Green 解釋得很漂亮：你不再聽說它，是因為它正在被解決。科學家向大眾解釋了問題並找到了應對方法，各國合作，企業改變了生產方式。成千上萬的人為此努力，而他們正在取得勝利。

隨著我們開始感到相對安全，討論也隨之平息。現在我們可以假裝它從未嚴重過。

在 AI 領域你也已經能看到這種現象。有些人確信對齊問題（alignment problem）被誇大了，因為聊天機器人已經足夠關心人類，且不會提供炸彈配方。彷彿這不是人造的奇蹟似的。不知為何，人們推斷出問題無足輕重，而不是我們這一次應對得當。

人類的天性是注意到「事件」，而非「非事件」。人們觀察干預後的世界，並將其視為基準線。預防是隱形的。

正因如此，那些預防壞結果的人往往被對待得像是什麼都沒做，甚至被認為是大驚小怪。仔細想想，這是一種非常糟糕的獎勵機制。

如果你從事安全工作（任何領域的安全），你會被多次告知你的工作不重要。有些人覺得，如果有人成功了，那麼最初就從未有過真正的問題，這樣想比較令人欣慰。有些人自覺地在與風車搏鬥（徒勞無功），便假設其他人也一定如此。而大多數人，你知道的，除非災難發生，否則根本不會去想它。

在心理上，尊重例行性的預防也比尊重電影般的英雄行為更難。人們熱愛最後一刻的拯救，卻沒被教導要為例行維護或乏味的工作鼓掌。

但這依然是錯誤的。

文明的大部分運作仰賴於維護與預防。世界正不斷地被拯救。此時此刻，世界正積極地從某些威脅中被拯救出來。你正被無數雙謹慎的手托舉著！歡呼吧！

總之，以下是我的幾點心得：

• 恐慌並不因為最壞的情況沒發生就自動變得愚蠢。有時，正是因為這份擔憂，最壞的情況才沒發生。
• 如果你生命中有人在從事風險緩解、安全、治理、測試、監管等工作，讓他們知道你看到了。當有人扮演騎士的角色時，給予他們騎士應得的尊重。
• 這一點感覺有點尷尬，因為我是在要求你不要太謙虛——如果你自己就在做這類工作，多宣傳它。

大聲說出風險是什麼，告訴我們你對此做了什麼。告訴我們如果沒有你，會發生什麼事。

如果你不說，人們最終可能會認為危險是虛構的。如果足夠多的人這樣認為，他們可能會停止資助、支持或從事那些防止地板塌陷的無聲工作。

 

P.S. 如果有人把類似的事情寫得更好，請告訴我。

P.P.S. 又被「什麼都沒發生」（NOTHING EVER HAPPENS）的迷因惹惱了。同時想到了「無數雙謹慎的手」這個隱喻，我很喜歡。