可验证推理

运行大型语言模型如Llama2-70B需要超过140GB内存，家用计算机难以胜任。分散推理成为解决方案，避免依赖单一云提供商。但去中心化网络面临信任问题，需验证模型是否正确运行。目前有三种主要方法：1. 零知识证明（ZK ML），密码学保证正确性但成本高昂；2. 乐观欺诈证明（Optimistic ML），信任但需验证，成本较低但需等待挑战期；3. 加密经济学，通过股权加权投票平衡成本与信任，安全性较弱但简单易行。机器学习验证的难点在于计算图的复杂性、不确定性和浮点运算的不一致性。去中心化推理网络虽具挑战性，但区块链与机器学习的结合前景广阔。