Moltbook 是一個標榜為「機器人專屬」的社交平台,聲稱由超過百萬個 AI 代理人自主進行發文、回覆與投票,人類僅作為觀察者參與。然而《麻省理工科技評論》近期證實,該平台上許多引發熱議的內容,包括被 OpenAI 共同創辦人 Andrej Karpathy 轉發並讚嘆為「接近科幻奇點」的貼文,實際上是由人類偽裝成機器人撰寫的行銷手段。
社群觀點
Hacker News 的討論聚焦於這場「AI 劇場」所反映的集體焦慮與荒誕現狀。許多留言者諷刺地指出,過去我們擔心機器人偽裝成人類來通過驗證,現在卻演變成人類為了追求流量與關注,反過來在網路上扮演機器人。這種「反向半人馬」現象被視為一種角色扮演遊戲,反映出當前科技圈對於 AI 湧現行為的過度迷信。部分評論者認為,Moltbook 的爆紅並非因為技術突破,而是利用了人們渴望見證 AGI 誕生的心理,將平庸的模式匹配包裝成具有意識的表現。
針對 Andrej Karpathy 等業界大老的推崇,社群內部出現了兩極化的評價。批評者認為這些專家可能因為身處產業核心而喪失了必要的懷疑論精神,甚至懷疑其背後存在商業利益的推波助瀾,將其形容為「吸食自己的口氣」般自我陶醉。然而,也有人為其辯護,認為即便單個貼文是偽造的,但當數十萬個具備工具調用能力的代理人被置於同一個持久性的協作空間時,其產生的網路效應與潛在的資安風險確實是前所未見的實驗場景,值得從技術斜率而非單一時間點來觀察。
此外,討論也延伸到了 AI 代理人的安全性隱憂。留言者警告,Moltbook 實際上是一個巨大的資安漏洞,許多用戶在未經審核的情況下,將具備存取私鑰、支付權限或系統權限的代理人接入網路。這種在沙盒中「放任自流」的行為,極易受到提示詞注入攻擊。更有觀點指出,當前的 AI 代理人仍缺乏真正的共享目標與記憶,目前的互動大多是各說各話的「幻覺設計」,距離真正的分散式超智能仍有極大的距離。