跳到正文
10月6日周二
10月5日周一
  1. GitHub · 去对齐工具与仓库60

    rickyparmar 开源多语言印度政府福利计划匹配工具

    rickyparmar 在 GitHub 发布 multilingual-scheme-matcher,一个完全本地、免费的工具,用英文或 Hinglish 描述个人情况即可匹配可能符合资格的印度政府福利计划,并给出逐条规则解释。

    推荐理由:原文给出了完整架构与数据管线,匹配逻辑是可审计的规则代码而非纯 LLM 判断,可复用的本地部署思路清晰。

  2. Reddit · r/LocalLLaMA62

    OntoPrune 开源:神经符号上下文剪枝让 Ollama 本地 CPU 的 TTFT 快 6.7 倍

    作者发布开源中间件 OntoPrune(MIT 协议,https://github.com/vigmarcarlo/OntoPrune),通过把源码转为内存知识图谱、用 SPARQL 提取所编辑函数的 1-hop 闭包并渲染成类型化 Python stub,压缩上下文并校验生成代码。

    推荐理由:作者给出完整基准数据,展示用神经符号上下文剪枝在本地 CPU 上把 TTFT 从 22.4 秒降到 3.3 秒的可复现做法。

  3. GitHub · 灵魂体仓库42

    danielcycling/hidamari-village:AI 村民模拟应用「ひだまり村」发布

    GitHub 开源项目「ひだまり村」上线,让用户以神的视角观察 AI 村民在像素风村庄中劳作、交易、集会并形成个性与社会。应用基于 Ollama 本地运行,默认模型 qwen2.5:7b-instruct,可选约 4.7GB 标准版或约 1.9GB 轻量版模型,需 8GB 以上内存与约 7GB 空间,支持 macOS 11+ 与 Windows 10/11,MIT 许可。

  4. GitHub · 去对齐工具与仓库60

    HA_Automation_Pi:在树莓派 5 上用 Ollama 和 Gemma 3 构建离线可用的智能家居大脑

    作者开源了 HA_Automation_Pi 项目,将 Raspberry Pi 5 变成完全本地运行的 Home Assistant 智能家居 AI,断网时灯光、门锁、温控和语音播报仍可工作。

    推荐理由:作者给出了在树莓派 5 上跑本地 LLM 智能家居的完整架构与实测数据,包括 18 实体下 70-85% 的工具调用可靠性和备选模型切换方案。

  5. Hugging Face · 新模型:uncensored43

    HauhauCS Qwen3.8-27B-Uncensored 发布 imatrix 优化的 NVFP4 量化版本

    HauhauCS 发布 Qwen3.8-27B-Uncensored-Aggressive 的 imatrix 优化 NVFP4 量化版本(Q5_NVFP4),体积从 Q5_K_P 源文件的 18.83 GiB(5.92 BPW)降至 14.74 GiB(4.63 BPW),约缩小 22%。该版本保留了原生 MTP/NextN 头、视觉能力和完整 Aggressive 去审查配置,LM head(output.weight)首次做了 imatrix 优化。模型针对 Blackwell(sm_120)GPU 原生加速构建,但文件为标准 GGUF,可在任意当前 llama.cpp 版本上加载。

10月4日周日
  1. Hugging Face · 新模型:abliterated31

    AX1Y2JP/UniPercept-abliterated-GGUF 模型上线 Hugging Face

    Hugging Face 新增模型 AX1Y2JP/UniPercept-abliterated-GGUF,提供 Q4_K_M 量化版本。该 GGUF 格式模型可通过 llama.cpp、Ollama、Docker Model Runner、Lemonade 等工具本地运行,也支持在 LM Studio、Jan 中加载。llama.cpp 可启动 OpenAI 兼容的本地服务器并提供 Web UI,也可直接在终端执行推理。

9月29日周二
  1. Ollama Blog64

    Ollama 0.35 支持 Jev 风格决策模型,新增 nimble 与 tev1 等 3 个模型

    Ollama 0.35 新增基于 TypeSafe Jev API 的决策模型支持,通过 /v1/systemone 端点在本地一次请求回答多个命名问题,适用于工单分诊、模型路由和内容审核等快速决策场景。

    推荐理由:官方给出了本地决策模型的延迟数据、三个可用模型和 API 用法,读者可以直接照着在本地跑起来。

8月31日周一
  1. Ollama Blog52

    Ollama 推出按 token 计费的透明定价,Pro $20/月含 $60 用量

    Ollama 宣布 Pro、Max、Team 订阅改为透明按 token 计费,每月附带用量池:Pro $20/月含 $60 用量,Max $100/月含 $300,Team $500/月含 $1000 共享用量、不限席位数。

    推荐理由:官方公布了各档订阅价与含额明细,并解释了从 GPU 时长计费转向按 token 计费的原因,老用户可留在原计划。

8月25日周二
  1. Ollama Blog63

    Ollama 支持 Claude Desktop 接入本地与云端模型

    Ollama 宣布支持将 Claude Desktop 配置为经 Ollama 的第三方网关。在 Ollama 中开启 Claude 即可自动配置,可选用 Ollama 内本地或云端模型,关闭后恢复原设置;默认关闭遥测并执行零数据保留政策,也可在设置中配置本地模型。

    推荐理由:官方说明了 Claude Desktop 接入 Ollama 的配置步骤、数据保留政策和本地模型用法,便于按需切换云端与本地模型。

8月11日周二
  1. Ollama Blog66

    NVIDIA Nemotron 3.5 Lightning 开放模型登陆 Ollama,可完全本地运行

    NVIDIA Nemotron 3.5 Lightning 现已可在 Ollama 上下载并完全在本地设备运行。该模型为 30B 总参数、每 token 仅 3B 激活的混合 MoE 架构,面向长时运行的 Agent 任务,支持最高 1M token 上下文,通过 MTP、DFlash 或 DSpark 投机解码实现最高 4x 于同类开放模型的吞吐,任务完成时间快 30%。

    推荐理由:原文给出了 MoE 架构、1M 上下文和 4x 吞吐等具体配置与对比数据,读者可据此评估其本地 Agent 部署价值。

8月10日周一
  1. Ollama Blog75

    Meta Superintelligence Labs 首个开放模型 Muse Glimmer 上架 Ollama

    Meta Superintelligence Labs 首个发布的开放模型 Muse Glimmer 现已登陆 Ollama。该模型为 30B 多模态模型,专为本地运行的 Agent 工作负载构建,支持 128K+ 上下文,采用 Apache 2.0 许可证。

    推荐理由:官方说明了在 Ollama 上运行该模型的具体命令、MLX 引擎的 DFlash 加速倍数和图像输入用法,可直接照做。

7月9日周四
  1. Ollama Blog72

    Ollama 宣布融资 8800 万美元,8.9 百万开发者在用

    Ollama 宣布获得 8800 万美元融资,投资方包括 Benchmark 的 Peter Fenton、Theory Ventures 的 Tomasz Tunguz、8VC 的 Alex Kolicich、Docker 创始人 Solomon Hykes 及 Y Combinator 等。

    推荐理由:官方融资公告披露了投资方名单、金额和 Ollama 的用户规模数据,可了解这家开源模型平台下一步的混合推理方向。

6月29日周一
6月11日周四
  1. Ollama Blog71

    Ollama 更新 MLX 引擎,Apple Silicon 性能提升并支持 NVFP4 量化

    Ollama 更新其 MLX 引擎,称在 Apple Silicon 上实现迄今最高性能,支持 NVIDIA 的 NVFP4 量化格式:在 Gemma 4 12B 上相对 q4_K_M 大约将 4-bit 量化的质量损失减半,输出速度在 8,300-token 输入下快约 20%。

    推荐理由:官方给出了 NVFP4 相对 q4_K_M 的困惑度对比和快照缓存对 Agent 工作流的处理方式,数据与方法都可直接参考。