Why I don't think AGI is imminent
Hacker News
The author argues that Artificial General Intelligence (AGI) is not imminent, citing current limitations in AI development and the significant challenges that remain.
Hacker News
The author argues that Artificial General Intelligence (AGI) is not imminent, citing current limitations in AI development and the significant challenges that remain.
AI 生成摘要
作者認為通用人工智能(AGI)並非迫在眉睫,並引用了當前人工智能發展的局限性以及仍然存在的重大挑戰。
本文探討了通用人工智慧(AGI)是否即將到來的爭議,作者從神經科學與認知心理學的角度出發,認為目前的變革型(Transformer)語言模型缺乏生物大腦中與生俱來的「認知原語」,如物體恆存性、因果關係與空間導航等。他主張語言只是建立在這些基礎能力之上的通訊工具,而目前的 AI 試圖透過純文字或影片預測來逆向工程這些深層認知,其結果往往是脆弱且難以泛化的。
在 Hacker News 的討論中,社群對於 AGI 是否已經實現或即將到來呈現極端分歧。支持者認為 AGI 並非一個全有或全無的開關,而是一個光譜。部分意見指出,如果將 AGI 定義為能處理大多數白領知識工作的能力,那麼當前的頂尖模型如 Claude Opus 4.6 已經在許多任務上超越了普通人類。他們主張,目前缺少的並非底層智慧,而是成熟的「編排層」與工作流管理,只要給予 AI 存取工具、記憶系統與推理循環的能力,它就能展現出足以改變社會生產力的通用性。甚至有觀點認為,若以一般社群平台使用者的平均邏輯水準為基準,AI 早已達到了某種形式的通用智慧,只是人們習慣性地不斷移動 AGI 的定義門檻。
然而,反對者則緊扣「具身認知」與「邏輯穩定性」進行反駁。許多開發者分享了實際使用經驗,指出即便是在最強大的模型上,AI 仍會犯下低級的邏輯錯誤,例如無法正確計算年齡或在程式碼組織上違反基本原則。這類意見認為,AI 目前只是在封閉系統中進行機率性的模式匹配,缺乏處理現實世界「開放系統」所需的智慧與對未知事物的判斷力。一位評論者犀利地指出,手動編排 AI 就像是用越來越長的梯子試圖登月,雖然高度在增加,但本質上並未改變其缺乏自主學習與更新直覺的能力。
此外,關於 AGI 的定義也引發了哲學層面的辯論。有人提出「自我維持」應作為 AGI 的核心指標,即 AI 是否能在其領域內獨立生存並獲取資源。另一些人則從經濟學角度出發,認為真正的 AGI 標誌應是社會生產總值(GDP)的超常成長,或是 AI 公司能夠完全不雇用人類運作。有趣的是,有討論提到生物智慧的多樣性,如章魚與鴉科鳥類擁有截然不同的腦部架構卻同樣展現高度智慧,這暗示了實現 AGI 的路徑可能不只一種,目前的矽基架構或許能繞過人類的生物限制,達成另一種形式的通用認知。