從理專到秘書，看 AI 代理的信任挑戰：我們能相信人工智慧的自主決策嗎？

隨著 AI 代理 (AI agent) 技術在矽谷迅速擴張，2024 年投入資金高達 82 億美元，這些自主系統正逐步滲透金融、基礎設施及決策層面。然而，在這場技術革命背後，一個關鍵但常被忽略的問題浮上檯面：「我們如何驗證 AI 代理的行為是否可信？」

Silicon Valley poured $8.2B into AI agents last year.

Soon, they will control our money, infrastructure, and decision-making.

But there’s one problem no one’s talking about:

How can we verify if AI agents are telling the truth? pic.twitter.com/zEj7z5mGyX

— Sergey Gorbunov (@sergey_nog) April 22, 2025

矽谷熱投 AI 代理，但信任基礎仍是「黑盒子」？

Chainlink 共同創辦人 Sergey Gorbunov 昨晚發文指出，目前 AI 代理雖被包裝成能獨立完成複雜任務的自主系統，但其實多數仍屬「黑盒子」式運作——即使用者無法得知其內部決策過程，只能選擇盲目信任：

真正具自主能力的 AI 代理應同時具備「不可停止」與「可驗證」的特性，然而現今的系統往往不符合這個標準。

(AI 世界的 USB-C 介面：Model Context Protocol（MCP）是什麼？AI 助手的通用上下文協定解讀)

為何「可驗證性」才是真正的安全保障？

Gorbunov 強調，可驗證性代表 AI 代理需要能清楚說明「它做了什麼？怎麼做？是否有遵守預定規則？」：

若缺乏這些機制，當 AI 代理獲得關鍵基礎設施的控制權，將可能釀成極大風險。這種「驗證鴻溝 (verification gap)」，一旦未被妥善處理，恐怕會成為科技發展中的隱患。

三種 AI 代理類型，各有不同驗證需求

根據 EigenLayer 創辦人 Sreeram Kannan 所述，AI 代理依服務對象可分為三類：

• 個人代理 (Personal Agents)：主要服務個人，如數位助理，驗證需求相對較低。

• 公共代理 (Commons Agents)：服務社群，需要中等強度的驗證以確保公平與可信。

• 主權代理 (Sovereign Agents)：完全獨立於人類操作之外，需具備最高級別的驗證能力。

未來五年內這些主權代理可能控制數兆美元的資產，若驗證機制不夠成熟，將如同「在流沙上蓋房子」。

三層次驗證系統：重建 AI 代理的信任基石

為解決驗證問題，Kannan 則提出一個三層次的驗證框架：

1. 前瞻性驗證 (Proactive Verification)：任務執行前就進行評估。

2. 回溯性驗證 (Retroactive Verification)：任務完成後回頭審查其正確性。

3. 並行驗證 (Concurrent Verification)：任務執行中持續監控與記錄。

這個架構可使 AI 行為透明化，以提升信任度。

從保險理賠到預測市場：可驗證 AI 的實際應用

Kannan 還提到可驗證 AI 代理在保險理賠中的潛在應用，目前保險業由單一公司兼任發行與審核角色，常引發信任危機：

透過可驗證 AI 代理，理賠程序可轉為獨立審核，並以透明機制執行與審計，增強公平性與公信力。

此外，平台如 EigenBets 結合 ZK-TLS 與可驗證推論層技術，能讓預測市場運作更透明，減少對中心化權威的依賴。

(Sam Altman 三大觀察：成本每年降 10 倍、AI 代理成新工作標準、無法被 AI 取代資產將升值)

區塊鏈 + AI：打造 AI 代理的未來門票

面對愈加複雜的 AI 系統，Gorbunov 認為區塊鏈技術能提供必要的加密信任基礎，並協助建立強而有力的驗證架構：

結合區塊鏈的 AI 代理，不僅可提升可信度及靈活性，更讓智能合約真正變得「智能」，為未來 AI 應用鋪路。

文末，Gorbunov 也附上其在 YouTube 節目《The Future of AI》連結，強調 AI 代理未來的關鍵發展不只是打造更強大的模型，而是能夠：

• 證明其行為成果

• 透明呈現推理過程

• 透過加密機制贏得信任

他強調：「唯有實現這三大目標，AI 代理才能在未來的系統中安全運行。」

這篇文章 從理專到秘書，看 AI 代理的信任挑戰：我們能相信人工智慧的自主決策嗎？ 最早出現於 鏈新聞 ABMedia。