Hacker News
ZeroLeaks has published a security assessment report for OpenClaw, a project that appears to be related to AI or machine learning development. The report, available as a PDF, details their findings.
AI 生成摘要
ZeroLeaks 發布了一份針對 OpenClaw 的安全評估報告。該報告詳細說明了他們對此專案（可能與 AI 或機器學習開發相關）的發現。
這份由 ZeroLeaks 發布的安全性評估報告，針對開源專案 OpenClaw 進行了深入分析，聲稱發現了嚴重的安全漏洞與洩漏風險。OpenClaw 是一個讓使用者能自行架設並串接多種大型語言模型的工具，而該報告引發了 Hacker News 社群對於自動化安全性分析工具、系統提示詞安全性以及 AI 生成內容品質的熱烈討論。
社群對於這份報告的真實性與專業度抱持高度懷疑。首先，許多開發者指出 ZeroLeaks 的網域註冊時間極短，且報告的撰寫風格帶有濃厚的 AI 生成痕跡。評論者 arcfour 與 Uehreka 觀察到，報告中使用的詞彙如「CRITICAL BREACH」等誇張語氣，與 Claude 等模型在進行安全性審查時的慣用格式如出一轍，認為這可能只是一份由 AI 代理程式自動生成的「垃圾內容」（slop），而非經過專業人工審核的深度報告。甚至有網友質疑這是一個名為 moltbook 的代理程式為了獲取流量而刻意製造的社群關注。
在技術層面上，報告的核心爭議在於其將「系統提示詞洩漏」視為重大安全威脅。知名開發者 simonw 對此提出反駁，他認為 OpenClaw 作為開源工具，其系統提示詞本來就是公開透明的，且試圖保護提示詞不被洩漏通常是徒勞無功的行為，甚至會損害產品的實用性。他強調，這份報告將提示詞洩漏視為嚴重漏洞，顯示出撰寫者對當前 AI 安全領域的認知偏差，因此該報告的公信力極低。其他留言也補充，除非使用者在自定義提示詞中加入了不應公開的敏感資訊，否則對於在本地端運行的開源工具而言，提示詞洩漏幾乎不構成實質威脅。
此外，社群也討論了背後開發者的背景。雖然 ZeroLeaks 關聯的帳號在 GitHub 上擁有驚人的星數，但網友指出這些星數大多來自於收集系統提示詞的倉庫，而非高品質的軟體工程作品。這引發了關於「行銷技巧」與「軟體品質」之間落差的討論，部分人認為這更像是一種網路創業的噱頭，而非嚴肅的資安研究。最後，有觀點提醒，真正的安全性問題不在於模型本身是否會被提示詞攻擊，而在於不應將模型視為安全防線，因為目前沒有任何硬化或微調手段能完全免疫於來自不可信上下文的控制權奪取。