跳到正文
我的
GitHub · 去对齐工具与仓库·· 21 小时前AI 评分36

paged-serving v0.2.0:Rust 实现的 LLM serving 控制面与 OpenAI 兼容 API

holtwood-systems/paged-serving

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/holtwood-systems/paged-serving

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Rust 实现的 LLM serving 控制面 paged-serving 核心(分页 KV、continuous batching、调度、OpenAI 兼容 API)已达 v0.2.0 稳定状态,默认 CPU 参考执行器,tiny-llm cargo feature 下接入真实 CUDA 后端并启用 block_tables 分页 KV 上传。RTX 4090 上 0.5B W8A16 的 c1→c8 共 12 个 run 全部通过 10% 收敛门,聚合吞吐 284.8→302.3 tok/s。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。