GitHub · 去对齐工具与仓库·· 12 小时前AI 评分36
Tangle 推出 llm-inference-blueprint:vLLM 匿名 LLM 推理蓝图
tangle-network/llm-inference-blueprint
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/tangle-network/llm-inference-blueprint
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Tangle 发布 llm-inference-blueprint,让运营方通过 vLLM 提供 LLM 推理服务,用户可用 Shielded Payment Gateway 的 shielded credits 匿名付费。该蓝图支持两条支付路径:TangleProducer 链上任务可验证结果,x402 HTTP 则在 /v1/chat/completions 提供快速私有推理,每个实例仅承载单个模型。组件包括 Rust operator、Solidity 合约 InferenceBSM(含 24 项测试)和兼容 OpenAI 接口的 TypeScript SDK。
来源:GitHub · 去对齐工具与仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。