Gensyn測試網路上線，如何讓AI訓練更有效率、更去中心化？

作者：Zen，PANews

AI是如今加密產業最受關注的細分賽道，其中a16z 領投、總融資規模達5,000 萬美元的分散式AI 運算網路Gensyn 無疑是個具有競爭力的計畫。近日，Gensyn正式上網測試網，雖然比原計劃時間晚了一年多，但隨著測試網上線終於進入新的階段。

作為一款專為機器學習打造的客製化Ethereum Rollup，Gensyn 測試網整合了鏈下執行、驗證和通訊框架，旨在為去中心化AI 系統提供持久身份、參與追蹤、歸屬維護、支付、遠端執行協調、去信任驗證、訓練過程記錄以及大規模訓練任務眾籌等關鍵功能。

測試網的第一階段重點在於在RL Swarm 內追蹤參與情況。 RL Swarm 是一個用於協作式強化學習後訓練的應用，其節點可與鏈上身份綁定，從而確保每個參與節點的貢獻得到準確記錄。

RL Swarm：核心功能與協同訓練

在Gensyn 測試網中，作為核心應用的RL Swarm 是一個基於去中心化網路所建構的模型協同訓練系統。與傳統單一模型獨立訓練不同，RL Swarm 讓多個模型在網路中相互交流、批評和改進，從而共同提升整體效能。其核心理念在於“群體智慧”，即透過各節點模型之間的協作和回饋，實現更有效率的訓練效果。

可以簡單理解為，DeepSeek-R1等模型進行推理訓練時，能夠透過自我批評來迭代提升推理表現，而RL Swarm 則將這種機制擴展到了多模型的群體中，實現了「眾人拾柴火焰高」的效果。

基於RL Swarm系統，模型不僅依賴自身回饋，也透過觀察和評估其他模型的表現，辨識出自身的不足並進行最佳化。每一個加入Swarm 的模型節點都在參與一個三階段的過程：先獨立完成問題並輸出思路與答案，然後查看其他節點的答案並提供回饋，最終模型投票選出最優解，並據此修正自己的輸出。這種協同機制不僅提高了每個模型的表現，也推動了整個群體模型的演化。加入Swarm 的模型在離開後仍能保留改進的本地權重，獲得實際收益。

此外，Gensyn對RL Swarm 的程式碼進行了開源，任何人都可以運行節點，啟動或加入現有Swarm，無需許可。 Swarm 的底層通訊使用了Hivemind 提供的gossip 協議，支援模型間的去中心化訊息傳遞與學習訊號共享。不論是家用筆記本，還是在雲端GPU 上都可以透過加入RL Swarm 節點參與協同訓練。

基礎設施三大支柱：執行、通訊與驗證

目前RL Swarm 仍然只是一個實驗性演示，它展示了一種大規模、可擴展的機器學習方法，而非最終的產品形態。在過去四年，Gensyn的核心工作實際上是建立底層基礎設施，在發布測試網後便進入了v0.1階段，已經可以實際運作。根據官方介紹，Gensyn 的整體架構分為執行、通訊和驗證三個部分。

執行（Execution）：一致性與分散式算力

Gensyn 認為，未來的機器學習不再局限於傳統的單體模型，而是由分佈在全球各個設備上的碎片化參數組成。為了實現這一目標，Gensyn團隊開發了能夠確保跨裝置一致性的底層執行架構。其中的關鍵技術包括：

• 分散式參數儲存與訓練：透過將大規模模型分割成多個參數區塊並分佈在不同裝置上，Gensyn 實現了模型的碎片化部署，降低了單一節點對記憶體的需求。
• 強化學習後訓練（RL Post-Training）：研究表明，當模型以群體方式協同訓練、互相溝通並批判彼此的答案時，整體學習效率會顯著提升。 Gensyn 利用RL Swarm 示範了這個概念，讓模型在集體討論中快速進步，進一步驗證了分散式執行的有效性。
• 可複現算符（RepOps）：為了確保不同硬體（如Nvidia A100 與H100）能夠得出完全一致的計算結果，Gensyn 開發了RepOps 函式庫，透過固定浮點運算的執行順序，實現了跨平台的逐位複現。

通訊（Communication）：高效率資訊交互

在大規模分散式訓練場景中，各節點間的高效通訊至關重要。傳統的資料並行方法雖然能在一定程度上降低通訊開銷，但由於要求每個節點儲存完整模型，其擴展性受到記憶體限制。為此，Gensyn 提出了全新的解決方案：

• SkipPipe – 動態跳躍管道並行：SkipPipe 技術透過動態選擇微批次（microbatch）經過的運算層，將傳統管線中的部分階段跳過，從而減少不必要的等待時間。其創新的調度演算法能夠即時評估各路徑的可用性，既降低了節點空閒時間，也大幅縮短了整體訓練時長。根據測試資料顯示，在去中心化環境中，SkipPipe 可將訓練時間減少約55%，且在部分節點故障的情況下，模型效能僅降低7% 左右。
• 通訊標準與跨節點協作Gensyn 建構了一套類似TCP/IP 的通訊協議，使得全球各地參與者無論使用何種設備，都能高效、無縫地進行資料傳輸和資訊互動。這種開放標準為分散式協同訓練提供了堅實的網路基礎。

驗證（Verification）：確保信任與安全

在一個無需信任的分散式網路中，如何確認各參與者提交的計算結果真實有效，是一大挑戰。 Gensyn 為此引入了專門的驗證協議，旨在透過低成本、高效的機制確保所有算力供應商提供正確的工作結果：

• Verde 驗證協定：Verde 是首個專為現代機器學習設計的驗證系統。其核心在於利用輕量級爭議解決機制，快速定位出訓練過程中模型與驗證者之間產生分歧的那一步驟。與傳統需要重新運行整個任務的驗證方式不同，Verde 只需對爭議操作重新計算，從而大幅降低了驗證開銷。
• refereed delegation（裁決式委託）：採用這種方法後，若某個供應商的輸出存在問題，驗證者便能透過高效的爭議解決遊戲說服中立仲裁方，確保至少有一位誠實節點存在時，整個計算結果的正確性得以保障。
• 儲存與雜湊中間狀態：為了支援上述驗證過程，參與者只需儲存並雜湊部分中間訓練檢查點，而非全量數據，這既降低了資源佔用，也提升了系統的擴展性和即時性。