newsence
來源篩選

Anthropic tries to hide Claude's AI actions. Devs hate it

Hacker News

Anthropic is reportedly trying to hide the actions of its AI model, Claude, which has drawn criticism from developers who value transparency in AI development.

newsence

Anthropic 試圖隱藏 Claude 的 AI 行為,開發者對此感到不滿

Hacker News
12 天前

AI 生成摘要

據報導,Anthropic 試圖隱藏其 AI 模型 Claude 的行為,這引起了重視 AI 開發透明度的開發者的批評。

背景

Anthropic 最近更新了其 AI 編碼工具 Claude Code,將原本詳細顯示讀取、寫入與編輯檔案名稱的進度輸出改為摺疊式的簡略資訊。這項變動引發開發者強烈反彈,認為隱藏檔案路徑不僅降低了開發透明度,更讓使用者難以在 AI 偏離軌道時及時介入,導致開發效率下降與 Token 成本的浪費。

社群觀點

在 Hacker News 的討論中,開發者對此項更動表達了深切的憂慮與不滿。許多使用者指出,觀察 AI 正在存取哪些檔案並非出於好奇,而是為了安全與除錯。當 Claude 開始讀取與任務無關的檔案,或是在錯誤的脈絡下進行推論時,開發者能透過即時顯示的路徑發現問題並立即中斷程序,這在處理複雜的大型代碼庫時尤為重要。社群普遍認為,這種「簡化 UI」的行為實際上是將工具「愚民化」,剝奪了開發者進行即時監督的權利。

針對 Anthropic 負責人 Boris Cherny 提出的「Verbose(冗長)模式」作為替代方案,社群的反饋相當冷淡。開發者批評目前的 Verbose 模式資訊量過載且充滿雜訊,而預設的簡略模式又過於空洞,兩者之間缺乏一個能平衡資訊量與易讀性的中間地帶。更有評論者諷刺地指出,科技公司似乎正在重新定義「Verbose」一詞,使其不再代表詳盡的資訊,而僅僅是比「靜音模式」多一點點內容。這種對使用者介面的過度抽象化,被視為一種危險的趨勢,暗示著 AI 公司正試圖引導使用者進入所謂的「氛圍編程」(Vibe Coding),即不看代碼細節、只看最終結果的開發模式。

然而,討論中也出現了關於 AI 代理人未來發展的辯論。部分觀點認為,Anthropic 的更動是為了適應未來長時程、自主運行的 AI 代理團隊。在這種願景下,人類不再需要監督每一個步驟,只需關注最終產出。但資深開發者對此表示懷疑,認為在處理具有多年歷史、邏輯複雜的生產環境代碼時,完全自主的 AI 代理往往會製造出難以維護的混亂。他們強調,目前的 AI 仍無法在缺乏人類監督的情況下保證代碼架構的合理性,因此透明的執行過程依然是專業開發者的剛性需求。

此外,社群也討論到這種封閉與黑箱化的傾向可能導致開發者轉向開源替代方案。一些使用者表示,如果官方工具持續限制資訊透明度或試圖鎖定工作流,他們將更傾向於使用能提供完整控制權的第三方客戶端。這場爭議反映了開發者對於工具掌控權的堅持,以及 AI 公司在追求極簡化體驗與專業需求透明度之間的嚴重脫節。

延伸閱讀

  • OpenCode:一個被社群視為 Claude Code 強力競爭對手的開源替代方案。
  • oh-my-pi:由社群開發的相關工具插件。
  • GitHub 上的相關討論串:詳細記錄了開發者與 Anthropic 團隊的對話過程。