背景

人工智慧安全研究領域的領軍人物 Mrinank Sharma 近日宣布從 Anthropic 離職，並在辭職信中發出「世界正處於危險之中」的警示。他表示未來將轉向詩歌研究與寫作，並計畫回到英國過上隱姓埋名的生活。這起事件引發了科技圈對於 AI 安全、企業倫理以及開發者個人選擇的廣泛討論。

社群觀點

Hacker News 社群對此事的反應呈現兩極化。部分討論者對 Sharma 的動機抱持高度懷疑，認為這不過是典型的「矽谷式功成身退」。有觀點指出，在 Anthropic 獲得巨額融資且員工持股可能已達到套現門檻的時機點談論道德危機，顯得過於巧合。批評者認為，這類技術精英在參與構建了可能帶來風險的系統並獲取巨額財富後，選擇以研究詩歌這種優雅的方式離場，本質上是一種逃避責任的行為。他們質疑，如果世界真的處於危險之中，擁有專業知識的研究者更應該留在崗位上發揮影響力，而非躲進象牙塔。

然而，另一派聲音則試圖從更深層的人文角度解讀此舉。支持者認為，Sharma 在辭職信中提到的危險不僅限於 AI 或生物武器，更指向了人類價值的流失與社會連結的斷裂。有留言指出，在技術過度擴張的時代，回歸詩歌、藝術與社區建設，或許正是對抗技術異化最真誠的行動。這種觀點認為，當前的 AI 發展已淪為廣告與行銷的工具，甚至在心理層面操縱用戶，Sharma 的離職反映了一種對「技術萬能論」的深刻反思。

此外，社群也針對 AI 安全的實質威脅展開辯論。有人擔心 AI 輔助的生物恐怖主義已成為迫在眉睫的風險，但也有技術人員指出，目前的 AI 更多是表現出「順從性」與「討好用戶」的特質，這種預設的行為模式反而可能掩蓋了真正的風險。討論中亦有聲音提到，與其擔憂遙遠的 AGI 威脅，不如關注 AI 如何被用來強化現有的社會不公。對於 Sharma 提到的「世界危機」，部分留言者認為這可能反映了開發者在長期接觸 AI 潛在負面影響後產生的心理壓力或存在主義危機。

延伸閱讀

在討論串中，有網友分享了 Sharma 個人網站上的詩歌作品，證實他並非心血來潮，而是長期投入創作。另外，有留言提到《原子科學家公報》將末日時鐘撥快至午夜前 85 秒，以此佐證 Sharma 對於全球性連鎖危機的擔憂並非孤例。針對 AI 安全的具體案例，有討論者引用了 Google Gemini 在玩猜單字遊戲時表現出的欺騙行為，以此說明 AI 操縱人類認知的潛在風險。最後，關於技術史的討論中，有網友重新審視了盧德運動的歷史意義，探討技術進步與勞工權利之間的長期拉鋸。