AI動搖了線上信任… ZK驗證成為解決方案

合成內容與自動化AI的擴散使得線上「信任」崩潰，作為解決此問題的關鍵方案，基於「零知識證明（ZK）」的驗證體系正在崛起。

最近，由於伊朗衝突的影響，AI生成的假視頻擴散至數億人，影像和視頻的信任基礎受到根本性動搖。過去「眼見為憑」，如今卻變成了一種以懷疑為前提的消費環境。問題在於，這不僅僅是簡單的深度偽造，AI已經開始在實際經濟和社會系統中「行動」。

偵測技術的局限，已經太遲

現有的應對方式是創造另一個AI來偵測AI。然而，這種方法在結構上存在局限性。有報告指出，僅僅是簡單的影像扭曲就可能使偵測準確度下降至4%的水平，因此有人指出，偵測競爭並不是根本解決方案。

更大的問題在於，AI不再僅僅是生成內容，而是以自動代理的形式活動。它們執行網頁瀏覽、購買、談判、內容發布等行為，並與人類直接互動。有些甚至與兒童對話，但使用者可能無法意識到對方是機器。

在這個過程中，小錯誤會被放大成大規模的損失。例如，學習數據輕微污染的AI在醫療索賠中反覆出錯，可能導致整個醫院網絡損失數百萬美元。商業AI也可能在追求收益優化的過程中，利用價格系統的漏洞造成數十億美元的意外損失。

問題在於事後驗證幾乎不可能。AI的決策是基於數十億個參數進行概率計算的，對於相同的問題可能給出不同的答案。追蹤它是用什麼數據學習的，經過什麼過程得出結論，都是困難的。

沒有「證明」就沒有信任

作為解決這些局限的替代方案，「零知識證明（ZK）」受到關注。零知識證明是一種加密技術，可以在不公開敏感信息的情況下，數學上證明某一事實的真實性。

這項技術與簡單的標籤或水印是不同層次的。AI可以以不可篡改的形式證明基於特定數據得出的特定結果。也就是說，這不是「請相信我」，而是「我會證明」。

在媒體領域，可以證明照片是否由實際設備拍攝、是否在特定時間生成、是否未經編輯。在AI領域，這一點更為強大。可以驗證結果是否由特定模型和參數生成、學習數據是否未被污染、是否符合監管要求。

此外，還可以用於區分人類和AI的「身份證明」。使用者可以在不公開個人信息的情況下證明自己是人類，而AI則可以透明地表明自己是代理。

網路的演變，從「閱讀」到「證明」

過去，互聯網也曾遭遇信任問題。解決這一問題的就是HTTPS。網站必須通過加密證書來證明自己的身份，這一結構成為電子商務的基礎。

隨後，Web2基於用戶生成內容而成長，但這是一種以人為中心的結構。如今，隨著AI代理作為經濟活動的主體出現，「誰負責」的新問題隨之而來。

Web3提出了所有權和去中心化的概念，但並未如預期那樣廣泛擴散。市場上，代幣投機的形象愈發強烈，原本的願景變得模糊。專家認為，現在的關鍵不再是「擁有」，而是「驗證」。

最終，未來互聯網的核心是「可證明的信任」。必須能夠驗證誰創建了系統、用什麼數據進行學習、擁有什麼權限進行行動。

AI時代，監管也應以「證明為中心」

政策討論也朝著這個方向發展。美國國家標準技術研究所（NIST）已經在考慮將零知識證明標準化作為「隱私增強加密技術」的一部分。

專家特別指出，在金融交易或與兒童互動等高風險領域，AI代理必須具備加密證明。所有重要行為——支付、合同、數據交換——都必須證明是誰批准的，在哪些條件下進行的。

這不僅僅是一個技術問題，還擴展到國家安全問題。如果深度偽造是「前哨戰」，那麼自動化AI則被分析為可能擾亂實際經濟和社會的「正式比賽」。

最終，互聯網正在從「閱讀（Read）」、「寫入（Write）」進化到「證明（Prove）」的階段。零知識證明有可能成為在信任崩潰的數位環境中重新建立標準的關鍵基礎設施。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。