GitHub · 去对齐工具与仓库·· 12 天前AI 评分34
VeriLLM:用 PyTorch 从零实现可公开验证的去中心化 LLM 推理
mandliya/verillm-publicly-verifiable-decentralized-llm-inference-from-scratch-in-pytorch
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/mandliya/verillm-publicly-verifiable-decentralized-llm-inference-from-scratch-in-pytorch
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
VeriLLM 项目用 PyTorch 从零构建带 KV cache 的极简 GPT 风格 Transformer,并通过 Merkle 承诺与抽查协议让不可信节点提供可验证的 LLM 输出。项目还模拟了去中心化验证者委员会,含奖励与 slashing 机制,量化了篡改检测概率与验证成本相对重新执行的比例。
来源:GitHub · 去对齐工具与仓库 · github.com