SHARD 发布 Windows 本地 AI 运行时,可预判模型能否跑
热点事件历史事件
SHARD 发布 Windows 本地 AI 运行时,可预判模型能否跑
1 篇报道1 个报道来源12 天前更新
先了解这件事
AI 综述
开发者 avelone123123 在 GitHub 发布 SHARD v1.7.0,一个 100% 本地的 Windows AI 运行时。其核心功能 shard fit 预检会在下载模型前,按实时硬件算出每个量化档的 VRAM/RAM 占用、GPU 层数和预计 tok/s,并给出 GPU / HYBRID / IMPOSSIBLE 的结论。
AI 根据报道生成 · 7 天前更新
最新进展11月11日 12:04
SHARD 发布 Windows 本地 AI 运行时,下载前预判模型能否在你的硬件上跑报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- GitHub · 灵魂体仓库精选SHARD 发布 Windows 本地 AI 运行时,下载前预判模型能否在你的硬件上跑
avelone123123 在 GitHub 发布 SHARD v1.7.0,一个 100% 本地的 Windows AI 运行时,核心是 shard fit 预检:下载模型前按实时硬件算出每个量化档的 VRAM/RAM 占用、GPU 层数和预计 tok/s,给出 GPU / HYBRID / IMPOSSIBLE 结论。后端通过 llama.cpp llama-server 子进程(约 50 MB 自动下载)运行 GGUF 模型,提供 OpenAI 和 Anthropic 兼容 API,可一键接入 Claude Code、Cursor、Aider 等工具;另有可选的 C++20/MASM AVX2 原生内核。