跳到正文
热点事件历史事件

SHARD 发布 Windows 本地 AI 运行时,可预判模型能否跑

1 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

开发者 avelone123123 在 GitHub 发布 SHARD v1.7.0,一个 100% 本地的 Windows AI 运行时。其核心功能 shard fit 预检会在下载模型前,按实时硬件算出每个量化档的 VRAM/RAM 占用、GPU 层数和预计 tok/s,并给出 GPU / HYBRID / IMPOSSIBLE 的结论。

AI 根据报道生成 · 7 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. GitHub · 灵魂体仓库精选
    SHARD 发布 Windows 本地 AI 运行时,下载前预判模型能否在你的硬件上跑

    avelone123123 在 GitHub 发布 SHARD v1.7.0,一个 100% 本地的 Windows AI 运行时,核心是 shard fit 预检:下载模型前按实时硬件算出每个量化档的 VRAM/RAM 占用、GPU 层数和预计 tok/s,给出 GPU / HYBRID / IMPOSSIBLE 结论。后端通过 llama.cpp llama-server 子进程(约 50 MB 自动下载)运行 GGUF 模型,提供 OpenAI 和 Anthropic 兼容 API,可一键接入 Claude Code、Cursor、Aider 等工具;另有可选的 C++20/MASM AVX2 原生内核。