Polyhedra與伯克利RDI合作推出生產級AI大模型驗證系統
Odaily星球日報訊 Polyhedra 攜手柏克萊RDI 推出首個可驗證大語言模式(LLM)的零知識證明系統。正如HTTPS 為網路通訊建立了安全保障,這個系統為AI 領域建構了驗證基礎設施。該系統無需公開模型或數據,即可高效驗證AI 性能與合規性,速度比之前的方法快20,000 倍。目前已經可以快速驗證包括Llama 3-8B 在內的大語言模型。 核心亮點如下: - Polyhedra 創新技術:零知識機器學習(zkML)技術就像互聯網中的HTTPS 協議,使得無需洩露模型或資料細節即可驗證AI 系統的性能與合規性,保護隱私安全。 -效能卓越:Expander 大幅提升驗證效率,單執行緒驗證速度比現有方法快20,000 倍,支援VGG-16 每張影像2.2 秒、Llama-3 每個Token 150 秒。 -開發者友善:zkPyTorch 編譯器無縫整合PyTorch,為開發者提供簡單易用的工具。 應用情境: - AI 服務品質保證- AI 訓練資料合規化-公平資料自動交易市場- AI Agent 責任分配- AI Agent 合規性-金融服務合規性驗證此系統不僅解決了AI 模型驗證中的合規難題,也為AI 安全性和可信度提供了全新的解決方案。