Google 的 AI 總覽可能詐騙你。以下是如何保持安全

Wired - AI

13 天前

AI 生成摘要

Google 的 AI 總覽，這些彙整網路資訊的摘要，不僅容易出錯，還被刻意注入詐騙資訊，可能將使用者帶入有害的詐騙。本文解釋了這些詐騙如何運作，並提供如何保持安全的建議。

Google 的 AI 總覽可能會詐騙你。以下是如何保持安全 | WIREDMenuMenuAccountAccountChevronExpandSearchCommentLoaderSave StoryCommentLoaderSave StoryTriangleXLargeChevronFacebookXPinterestYouTubeInstagramTiktok

現在，當你執行搜尋查詢時，Google 並不是向你顯示傳統的連結列表，而是打算推出 AI 總覽：從網路上抓取的資訊的綜合摘要，加上一些文字預測魔法，並以聽起來盡可能準確和可靠的方式打包在一起。

我們之前已經寫過關於這些 AI 總覽的一些問題，這些總覽經常包含錯誤或胡說八道，當然也剽竊了真正知道你輸入 Google 的問題答案的人類作家的作品。但還有另一個問題——這些 AI 答案實際上可能很危險。

與歷史上所有其他新技術一樣，詐騙現在也進入了 AI 總覽，顯然是在 Google 的 AI 答案中注入了你不應該信任的欺詐電話號碼。以下是正在發生的事情，以及如何確保你的安全。

《華盛頓郵報》和 Digital Trends 都發現了詐騙支援號碼出現在 Google AI 總覽中的案例，這些報告分別出現在 Facebook 和 Reddit 上。信用合作社和銀行也警告他們的客戶注意這些詐騙。

這似乎不是一個全新的問題，但現在 Google 搜尋的運作方式，它被賦予了一個新的轉折。

以下是發生的情況：不幸的受害者在 Google 上搜尋公司名稱以尋找聯絡電話號碼，然後撥打 AI 彈出的號碼。這實際上並沒有連到相關公司，而是連到某個假裝是該公司的人，然後試圖從來電者那裡獲取付款資訊或其他敏感細節。

目前尚不清楚這些假號碼是如何被植入的，但最好的猜測是它們與主要公司的名稱一起發佈在網路上多個低調的地方。然後，AI 總覽會出現並將它們撈起來，而沒有進行適當的檢查來驗證資訊。

當然，不良行為者植入誤導性電話號碼並不是一個全新的危險；錯誤資訊已經存在於網路上很長很長一段時間了。但是 AI 總覽的設計，它從網路上挑選資訊並將其呈現為事實，而不是鼓勵你自己進行研究，這使得人們更容易受到這種詐騙的影響。

Google 表示，它正在積極打擊這些詐騙者，並且正在繼續推出更新，以使其垃圾郵件檢測系統更強大。“我們的反垃圾郵件保護措施在將詐騙排除在 AI 總覽之外並在可能的情況下顯示官方客戶支援號碼方面非常有效，”該公司在給 WIRED 的一份聲明中表示。

當然，這不僅僅發生在 Google 搜尋上。安全研究人員已經展示了如何將惡意文字隱藏在電子郵件中——並且可能也隱藏在文件中——然後由 AI 抓取和總結，並提供給將其視為準確和真實的用戶。這個問題也出現在其他 AI 搜尋引擎中。

避免這種詐騙伎倆的建議很簡單：不要相信你在 AI 總覽中讀到的一切，尤其是在涉及具體事實、數字或電話號碼時。Google 的 AI 技術很容易從網路上獲取過時或可疑的資訊以及準確的數據，而且鑑於 AI 總覽介面的呈現方式，很難區分兩者。

如果你正在尋找聯絡電話號碼或類似的東西，請搜尋你試圖聯絡的公司，然後使用公司自己網站上的詳細資訊：這可能需要額外點擊一兩次，但為了確保你處理的是正確的聯絡資訊，這是值得的。

無論你從哪裡獲取資訊，都需要保持謹慎，尤其是在與客戶服務代表打交道以及討論與付款或個人資訊有關的任何事情時。理想情況下，你希望通過第二次 Google 搜尋來驗證你撥打的任何號碼。

Google 也建議這樣做。該公司表示，它最近推出了一些更新，以進一步提高 AI 總覽的詐騙保護，但它仍然鼓勵人們通過執行額外的搜尋來仔細檢查電話號碼。

目前，沒有辦法關閉 AI 總覽。如果 Google 決定為你的查詢提供它們，你所能做的就是滾動略過它們，或者切換到不同的搜尋引擎。Google 可能正在努力從結果中刪除虛假的電話號碼，但我們知道生成式 AI 的本質不是簡單地模仿資訊，而是潤飾它——這不可避免地會導致問題。

隨著我們的搜尋越來越依賴 AI，這可能意味著更自然和對話式的用戶體驗，但對於某些查詢來說，舊方法是最好的。例如，你可能想與 Gemini 聊聊你下一次度假的想法。但是，當涉及到實際尋找關於酒店、遊輪或旅行社的準確資訊時，也許讓 AI 退出。

在你的收件箱中：註冊我們新的 Tracker: ICE 電子報

TikTok 現在收集更多你的數據

大新聞：ICE 假裝自己是一支軍隊，但它會讓士兵喪命

微劑量服用抗憂鬱藥的效果與喝咖啡差不多

Marhaba，世界！介紹 WIRED 中東

10% 折扣獨家 Squarespace 促銷代碼 2026

顯示器最高可享額外 $900 折扣 LG 促銷代碼

10% 折扣 Dell 新客戶優惠券代碼

30% 三星優惠券 - 優惠計劃 2026

10% 折扣 Canon 促銷代碼 + 最高 30% 折扣

50% 折扣 Doordash 新用戶和現有用戶促銷代碼