跳到正文
  1. Reddit · r/LocalLLaMA63

    ggufbench 实测 8 个本地 GGUF 模型的 agent 编码能力:27B 级已够用

    作者 /u/Joralk_ 自建 harness,在 2× RTX 5080 上以统一采样配置实测 8 个本地 GGUF 模型的工具调用、代码与 agent 任务,每任务跑 3 个种子并统计均值与标准差。结果显示 125B 的 Qwen3.8-Flash-Next 并非榜首,35B MiniCPM-V-4.7 与 27B Qwen3.8 在 agent 任务上与其持平,工具调用可靠性比模型规模更关键;开启 thinking 模式使 27B 代码分从 0.79 升至 0.93、agent 分从 0.90 升至 0.96,但延迟从 36 ms 增至 629 ms 且每调用多花约 253 个中位 token。

    推荐理由:作者自建 harness 实测 8 个本地 GGUF 模型的工具调用与 agent 编码表现,还给出 thinking 模式开关的量化代价,方法可复用。

  1. Reddit · r/LocalLLaMA66

    Kimi K3 发布三个月后实测:本地几乎跑不动,小模型已追平

    Reddit 用户 /u/Sanbi_Ai 复盘 Kimi K3 发布三个月后的实际使用状况:全模型 1.56 TB,Unsloth 推荐的最小量化为 594 GB,需约 610 GB RAM+VRAM,装不进 512 GB;1-bit 量化与全模型下一 token 一致率 79%,2-bit 达 90% 但需 861 GB。其在 Artificial Analysis 指数已从 57 降至 44,GLM-5.3(753B)得 45,Step 5 Preview(600B)以 44 追平;自家 API 仅 43 tok/s,AA agentic 基准平均每任务近一小时、超 $10。许可证非 MIT,公司若 12 个月内总收入超 $20M 需与 Moonshot 另行签约。

    推荐理由:作者用 Unsloth 量化文档和 AA 数据逐项核算了 Kimi K3 的本地运行门槛、API 速度和许可证限制,信息可直接用于部署决策。

  1. GitHub · 灵魂体仓库58

    super-squalo 开源 best-llm-for CLI 汇总各模型基准成绩与价格

    super-squalo 在 GitHub 开源 best-llm-for,用 npx best-llm-for 在终端按代码、图像、视频、智能体、数学、推理六个领域查看各模型基准成绩与价格,并提供网页版。只保留模型厂商自己发布的分数,弃用厂商发布会上对竞品的成绩共28条,自报成绩与第三方实测分开标注,数据由 GitHub Action 每日重建、可离线使用,另附带 Claude Code skill 供项目内直接引用该数据。

    推荐理由:它把各家只挑对自己有利的分数拼成终端里的一张总表,只保留模型厂商自报成绩并区分自报与第三方实测,信息口径比较透明。

  1. Hugging Face Blog70

    Hugging Face 推出 Open TTS Leaderboard:多语言 TTS 与语音克隆的可扩展评测

    Hugging Face 推出面向开源与多语言 TTS 的 Open TTS Leaderboard,用客观指标替代难以扩展的 arena 式人工投票。评测维度包括基于 Qwen3 ASR 的 WER/CER 可懂度、H200 GPU 上的 RTFx 与 TTFA 速度、以及 WavLM 嵌入余弦相似度(SIM)衡量说话人相似度,将单模型评测从数周缩短到数小时。

    推荐理由:用 WER、SIM、TTFA 等客观指标把评测周期从数周缩到数小时,并解释了开源模型在 arena 榜单上代表性不足的原因。

已经到底了