背景

印度最高法院近日對一起涉及人工智慧（AI）造假的司法案件表達強烈憤慨。一名安得拉邦的初級法官在處理財產糾紛案時，引用了四項由 AI 生成的虛假判例作為裁決依據。儘管地方法院一度以「善意錯誤」為由維持原判，但最高法院強調這已涉及司法誠信與制度性危機，並將此行為定性為「職務不當」，而非單純的決策失誤。

社群觀點

在 Hacker News 的討論中，社群對於法律從業人員過度依賴大型語言模型（LLM）的現象感到憂心。許多參與者指出，這並非印度特有的問題，美國與英國近期也頻繁出現律師或法官引用虛假案例的報告。討論的核心在於，AI 的「幻覺」特性與法律體系要求的嚴謹性存在本質上的衝突。部分留言者認為，AI 輸出的權威語氣與自信表現，容易讓使用者產生心理上的盲從，進而削弱了應有的懷疑論與查證本能。

針對責任歸屬，社群普遍達成共識：專業人士必須為其使用的工具負起最終責任。有觀點指出，法律從業人員通常缺乏技術背景，將 AI 當作直接編輯工具而非輔助參考，必然會導致災難性後果。即使法官辯稱是初次使用且無惡意，但在法律專業中，「不知道工具的風險」並不能成為免責藉口。這種現象反映出當前社會對 AI 的過度神化，廣告宣傳讓大眾誤以為這些模型具備邏輯理解能力，但實際上它們僅是機率性的「隨機鸚鵡」。

此外，社群深入探討了「人機協作」的陷阱。有留言者類比自動駕駛技術，認為當系統在大部分時間都表現正確時，人類會因疲勞或疏忽而停止監督，導致在關鍵時刻無法及時介入。這種自動化偏誤使得「要求人類檢查 AI 輸出」在實務上變得極其困難。更有討論指出，這揭示了 AI 無法完全取代人類職業的關鍵原因：機器無法承擔法律責任。當錯誤發生時，必須有人被解僱或入獄，而 AI 無法被追責。這種責任真空正是許多企業在導入 AI 後發現投資報酬率不如預期的主因，因為只要還需要「人類在迴圈中」進行最終審核，生產力的提升就相當有限。

最後，部分技術導向的網友建議，法律體系應建立自動化的引用文獻檢索系統，強制要求所有判例必須經過資料庫比對驗證。然而，更深層的憂慮在於，如果連司法體系這種理應最重視事實與證據的機構都開始失守，這可能預示著整體社會在資訊真實性上的集體崩壞。

延伸閱讀

在討論中，網友分享了其他地區類似的 AI 司法爭議案例，包括美國聯邦法官因使用 AI 導致裁決錯誤的報導，以及 Ars Technica 針對律師隨意引用 AI 生成內容的深度追蹤。此外，也有人提到英國 Doughty Street Chambers 針對 AI 虛假案例對司法體系影響的分析報告。