OPML: 區塊鏈上的樂觀主義機器學習

OPML(樂觀主義機器學習)是一種新型技術,可在區塊鏈系統上執行AI模型推理和訓練/微調。與ZKML相比,OPML能夠以更低成本、更高效率提供機器學習服務。OPML的門檻較低,普通PC無需GPU即可運行包含大型語言模型的OPML,如26GB大小的7B-LLaMA模型。

OPML採用驗證遊戲機制來確保ML服務的去中心化和可驗證共識。其流程如下:

1. 請求者發起ML服務任務
2. 服務器完成任務並將結果提交到鏈上
3. 驗證者檢查結果,如有異議則啓動驗證遊戲
4. 通過智能合約對爭議步驟進行仲裁

單階段驗證遊戲

單階段驗證遊戲類似於計算委托(RDoC)機制。OPML的單階段驗證遊戲具有以下特點:

• 構建用於鏈下執行和鏈上仲裁的虛擬機(VM)
• 實現專門的輕量級DNN庫,提高AI模型推理效率
• 使用交叉編譯技術將AI模型推理代碼編譯爲VM指令
• VM鏡像通過默克爾樹管理,只將根哈希上傳到鏈上

性能測試表明,在普通PC上,基本AI模型(MNIST分類DNN)的推理可在2秒內完成,整個挑戰過程可在2分鍾內完成。

多階段驗證遊戲

爲克服單階段驗證的局限性,OPML引入了多階段驗證遊戲:

• 只在最後階段在VM中計算,其他階段可在本地環境靈活執行
• 利用CPU、GPU、TPU等硬件加速能力
• 通過減少VM依賴提高執行效率

多階段OPML的核心思想是將DNN計算過程表示爲計算圖,在計算圖上進行驗證博弈。這種方法可以充分利用GPU或並行處理的優勢,顯著提高性能。

一致性與確定性

OPML採用以下方法確保ML結果的一致性:

1. 使用定點算法(量化技術)減少浮點舍入誤差
2. 採用跨平台一致的軟件浮點庫

這些技術有助於克服不同硬件和軟件環境帶來的計算差異,保證OPML結果的可靠性。

OPML仍處於開發階段,歡迎有興趣的開發者參與貢獻。