跳到正文
GitHub · 去对齐工具与仓库·· 12 天前AI 评分34

VeriLLM:用 PyTorch 从零实现可公开验证的去中心化 LLM 推理

mandliya/verillm-publicly-verifiable-decentralized-llm-inference-from-scratch-in-pytorch

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/mandliya/verillm-publicly-verifiable-decentralized-llm-inference-from-scratch-in-pytorch

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

VeriLLM 项目用 PyTorch 从零构建带 KV cache 的极简 GPT 风格 Transformer,并通过 Merkle 承诺与抽查协议让不可信节点提供可验证的 LLM 输出。项目还模拟了去中心化验证者委员会,含奖励与 slashing 机制,量化了篡改检测概率与验证成本相对重新执行的比例。

来源:GitHub · 去对齐工具与仓库 · github.com