Microsoft Research
As synthetic media grows, verifying what’s real, and the origin of content, matters more than ever. Our latest report explores media integrity and authentication methods, their limits, and practical paths toward trustworthy provenance across images, audio, and video. The post Media Authenticity Methods in Practice: Capabilities, Limitations, and Directions appeared first on Microsoft Research .
AI 生成摘要
隨著合成媒體的增長，驗證內容的真實性與來源變得比以往任何時候都更加重要。我們最新的報告探討了媒體完整性與認證方法、其局限性，以及在圖像、音訊和影片中實現可靠來源驗證的實踐路徑。
來自微軟《媒體完整性與驗證：現狀、方向與未來》報告的洞察
在觀看網路上的圖像和影片時，區分事實與虛構已變得日益困難。具備韌性且值得信賴的技術，可以幫助人們判斷他們所看到的內容是由相機或麥克風捕捉的，還是由 AI 工具生成或修改的。
我們將旨在幫助觀看者驗證數位內容來源和歷史（即「來源溯源」，provenance）的技術稱為「媒體完整性與驗證」（Media Integrity and Authentication, MIA）方法。這項技術由致力於推廣這些能力的標準組織 所推動，再加上浮水印和指紋識別等補充方法，隨著能夠大規模創建逼真圖像、影片和音訊的 AI 系統快速發展，已變得至關重要。
我們的團隊意識到網路內容完整性演變的一個轉折點，這是由四種力量匯聚所驅動的：
合成媒體日益飽和：受高保真內容生成工具的普及，以及網路上 AI 生成或修改媒體的爆炸式增長所驅動。
即將出台的立法：國內和國際上都在尋求定義「可驗證」溯源在實踐中應意味著什麼。
執行者的壓力日益增加：需確保驗證信號清晰且有用，特別是當相關法規於 2026 年生效導致信號增加時。
對潛在對抗性攻擊的警覺性提高：這些攻擊試圖利用真實性系統中的弱點。
溯源信號的實用性和可信度（無論是證明內容為合成，還是對現實場景的真實捕捉），不僅取決於技術的進步，還取決於更廣泛的數位生態系統如何採用、實施和管理這些工具。圍繞促進一致性和清晰度的實施選擇進行協作至關重要，以確保透明度信號能增強而非削弱公眾信心。
為了應對這些挑戰，我們對 MIA 方法的現實限制、邊緣案例以及新興的「攻擊面」進行了全面評估。今天，我們在中發表了我們的發現。該報告總結了所學到的經驗，並概述了未來幾年加強媒體完整性的實踐方向。
播客系列 [ ](https://www.microsoft.com/en-us/research/story/ai-testing-and-evaluation-learnings-from-science-and-industry/) 了解微軟如何借鑒其他領域的經驗，將評估與測試推進為 AI 治理的支柱。
在分頁中開啟
我們的研究認識到，不同的媒體完整性與真實性方法服務於不同的目的，並提供不同層級的保護。在詳細定義每種方法後，我們專注於圖像、音訊和影片中的安全溯源 (C2PA)、不可見浮水印以及軟雜湊指紋識別 (soft hash fingerprinting)。
基於我們對這些 MIA 方法在不同媒介、攻擊類別和現實工作流中的評估，出現了幾項新發現，包括兩個新概念：
高置信度溯源驗證 (High-Confidence Provenance Authentication)：這是一項關鍵能力，用於在定義的條件下，以高度確定性驗證關於資產來源及其修改的聲明是否有效。
社會技術溯源攻擊 (Sociotechnical Provenance Attacks)：旨在進行欺騙並能夠反轉信號的攻擊，使真實內容看起來像合成的，而合成內容看起來像真實的。
根據我們的發現，我們確定了進一步加強媒體驗證的四個有前景的方向，並提出了支持更有效實施策略和未來決策的建議。我們在下方總結了發現與方向，更多細節請參閱報告。
| 有前景的方向 | 高層級研究發現 |
| :--- | :--- |
| 實現高置信度溯源驗證 | – 實施和顯示方式的選擇可能會影響溯源指標的可靠性以及公眾對其的解讀方式。
– 在高安全性環境中創建並簽署媒體，並使用 C2PA 溯源清單，可實現高置信度驗證。
– 當不可見浮水印與 C2PA 溯源清單連結，作為在清單被移除時恢復溯源資訊的額外層時，在大量的圖像、音訊和影片中實現高置信度驗證也是可能的。
– 指紋識別並非高置信度驗證的推動因素，且在大規模應用時可能涉及高昂成本。然而，它可以支援手動鑑識。 |
| 減輕社會技術溯源攻擊造成的混亂 | – MIA 方法容易受到針對溯源的社會技術攻擊，這可能會誤導公眾。如果過度依賴低質量信號，會導致對資產溯源的混亂和錯誤信任。
– 將安全溯源與不可見浮水印方法分層並連結以實現高置信度驗證，也是威懾並減輕攻擊影響的一個有前景的選擇。
– 使用缺乏驗證的方法可能會產生意外後果，例如在缺乏安全溯源的情況下使用可見浮水印。如果這些可見的披露被按字面意思接受，可見浮水印可能會在偽造情況下引起混亂，或阻礙人們透過驗證工具諮詢高置信度的溯源資訊。
– 能讓使用者探索清單細節的 UX 設計（例如編輯發生的位置或感興趣的區域）具有減少混亂並支援鑑識和事實查核工作的潛力。 |
| 在邊緣設備上啟用更具信任的溯源 | – 當溯源是由傳統離線設備（例如沒有連網功能的相機或錄音設備）添加時，高置信度結果是不可行的。
– 在離線設備的硬體層中實施安全封閉區 (secure enclave)，對於使捕捉到的圖像、音訊和影片的溯源更具信賴感至關重要。 |
| 投資於持續的研究與政策制定 | – 這三種方法都為組織提供了解決營運挑戰的有價值工具，例如預防欺詐、風險管理和數位問責。
– 使用者體驗 (UX) 與顯示方式是極具前景的研究方向。重要的方向包括在人們所在之處顯示溯源資訊的串流內工具，並區分高置信度與低置信度的溯源信號。
– 利益相關者應進行持續的分析和紅隊演練，透過技術手段、政策和法律來識別並減輕弱點。 |
這份報告標誌著我們新篇章的開始。這建立在多年的基礎工作之上，從 2019 年，到 2021 年共同創立 C2PA，並幫助催化了一個現已發展到擁有超過 支持 C2PA 內容憑證的生態系統。這項研究代表了該長期承諾的最新演進。
我們希望透過分享我們的經驗，能幫助他人為這一重要浪潮做好準備，特別是隨著生成技術的加速發展和溯源信號的倍增。這項工作已經在微軟的各項產品中展開。總之，這些方向突顯了生態系統協作、強化和創新的機會，使驗證信號不僅僅是可見的，而且在整個內容生命週期中都是穩健、有意義且具備韌性的。
在分頁中開啟這篇文章 最初發表於 。