跳到正文
10月26日周一
  1. GitHub · 去对齐工具与仓库68

    anbow1 开源本地 LLM 编码评测套件 llm-code-eval 并公布五套测试结果

    anbow1 开源了针对本地大语言模型的编码评测仓库 llm-code-eval,含 base、hard、practical、tools、scene 五套测试,覆盖 Three.js/TypeScript、Python、日常改码、工具调用和大型图形任务。实测显示 RTX 5090 上六个设置在 base 套件得 100%,Qwen3.8-27B GSQ-RCO IQ3_XXS MTP 在 RTX 4080 上以 99.2% 排总榜第一;DeepSeek-V4.1-Flash 全部运行得 100%,192 GB 内存把速度从 11 提到 24-26 tok/s;GLM-5.3-Flash 在 h_p3_line_diff 上 7 次中 6 次超时。

    推荐理由:原文给出五套本地模型编码测试的实测数据,按最高分与多轮均值双排序,读者可据此判断量化档位和推理档位对结果的影响。

  2. GitHub · 灵魂体仓库24

    G-llm-benchmark:Strata 与 Claude Haiku、Sonnet、Opus 编码智能体的成本×质量基准测试

    GitHub 上一个名为 G-llm-benchmark 的项目正在构建编码智能体的成本×质量基准,对比本地运行的 Strata(独立运行或由 Opus 驱动)与 Haiku、Sonnet 和 Opus 的表现。目前四个任务已全部写好,所有参赛者通过了 smoke runs,validate、plan、run、collect 和 smoke 等状态命令可用,依赖包括 Linux、uv、Claude Code、Firejail 和 jq。作者将手动比较各交付物,完整报告尚未出炉。

10月25日周日
  1. Reddit · r/LocalLLaMA24

    Beam 1.0 501B A23B 发布 9 天后,LocalLLaMA 用户的使用体验如何?

    Reddit r/LocalLLaMA 用户分享了发布 9 天后测试 Beam 1.0(501B 参数、23B 激活)的体验:借助第三方 provider 运行速度很快,能轻松浏览大型代码库,在 Rust、PHP、Python 和 JS 上表现良好,回答简洁有度且会使用技能。缺点是偶尔循环、部分 toolcall 失败,3D 能力弱且无视觉功能。

  2. GitHub · 灵魂体仓库61

    llm-deployment-benchmarks 实测开源模型何时能替代 Claude Opus 5.5

    作者发布 llm-deployment-benchmarks 项目,在 Fireworks AI 上做两组实验,比较开源模型与 Claude Opus 5.5 的准确率、延迟和成本。支持工单分诊任务中,GPT-OSS 120B 以 34–45 倍更低成本追平 Claude Opus 5.5,9B 模型响应快 4–7 倍也打平,而对含噪标签微调反而变差;国际象棋任务中,对 73k 局面的微调把合法走子率从 36% 提到 71%,但最佳走子准确率仍是 3%,只有前沿级开源模型 Ember-1 接近 Claude,约为每步 4 倍时间和成本。

    推荐理由:作者用支持工单分诊和国际象棋两类任务实测开源模型与 Claude Opus 5.5 的差距,结论是 prompt 质量常比模型大小更关键。

  3. GitHub · 灵魂体仓库40

    ds-ml-bench:面向大模型的数据科学与机器学习任务评测基准

    ds-ml-bench 是一个用于评测大语言模型在数据科学与机器学习任务上表现的 benchmark 测试框架。每个任务是 tasks/ 下的独立 Python 模块,通过适配器层接入模型,由 Claude 作为 judge 按评分标准打分,覆盖数据清洗、EDA、特征工程、建模、统计、排序推荐(如 MovieLens 和 Recall@k)及 ML 系统设计等类别。用户复制 config.example.yaml 并通过环境变量配置 MOONSHOT_API_KEY 与 ANTHROPROPIC_API_KEY 即可运行。

10月24日周六
  1. Reddit · r/LocalLLaMA26

    16GB VRAM/32GB RAM 下多模型算法任务测试 V2:CyberTiel 与 Ornith 表现亮眼

    一位 r/LocalLLaMA 用户发布了自己在 16GB VRAM、32GB RAM 环境下进行的 5 项算法任务模型测试 V2,相比上一版收紧了任务设置并更换了参测模型阵容,同时开源了 GitHub 仓库供他人复现。结果显示 CyberTiel 和 Ornith 表现意外出色,而 LFM 和 Mellum 在真实负载下表现不佳。

  2. Reddit · r/LocalLLaMA31

    Spark X2.6 4B 实测:同尺寸中表现出色

    Reddit 用户实测 Spark X2.6 4B,称其工具调用能力在同级模型中表现出色。在 pi cli 测试中,它能编写 Blender Python 脚本生成并渲染红色立方体,理解复杂 Rust 代码库,12 次工具调用即完成任务,还能读取全局 agents.md 并在每轮后列出变更文件。模型小、速度快、KV cache 占用小,temp 1.0 下思考精准,但缺少视觉能力,MTP 支持即将跟进。

  3. Reddit · r/LocalLLaMA54

    Kimi K3.1 与 GPT-6 Astra 同任务 Agent 实测对比

    作者让 Kimi K3.1 与 GPT-6 Astra 各跑一次相同的 Three.js 3D 飞行 Agent 任务并对比数据。K3.1 用时 12:28、20 步、读 725K prompt tokens、输出 49.2K tokens,Astra 用时 9:17、35 步、读 1.2M prompt tokens、输出 22.2K tokens;K3.1 推理占比 56%、成本约 $1.1-1.4(估算),Astra 约 $2.63。作者指出步数少可减少 prefill 负担但 decode 更重,并提醒本地部署需在所有子调用中固定 temperature 为 1;K3.1 因图像审查工具参数错误盲跑,Astra 首跑因工具参数问题被拒 29 次调用。各仅一次运行,成本为估算。

10月23日周五
  1. Reddit · r/LocalLLaMA66

    Flint 40B-A2.5B vs Ornith 1.5 35B-A3B vs Nemotron 3.5 Lightning 本地编码 agent 横评

    作者在相同的 Opus 5.5 规划、3 worker 并行设置下,用 llama.cpp Q8_0 在 RTX PRO 6000 Blackwell 96GB 上实测三个小型 MoE 编码同一个 Three.js 万圣节连锁反应场景。Flint 40B-A2.5B 综合最优:墙钟 7:36、修复 6 次、Opus 花费 $0.41;Nemotron 3.5 Lightning 解码最快但生成约 5 倍 token、修复 16 次、花费 $0.95,其编辑成功率仅约 17%。作者指出换 worker 模型使规划者账单从 $0.41 涨到 $0.95,裸 tok/s 并不决定总耗时,且三者在单轮内都没产出完全可用的场景。

    推荐理由:同一任务同机实测三个小型 MoE 当编码 worker,给出 token 消耗与 Opus 花费对比,显示编辑成功率比裸速度更影响实际耗时。

  2. Reddit · r/LocalLLaMA33

    Qwen 3.8 Flash Next(129 GB)在量化对比中胜过 DeepSeek V4.1 Flash 1017(187 GB + 203 GB Engram)

    Reddit 用户用修改版 BenchKit 对比 Qwen3.8-Flash-Next-W4A16-FP8PLE(129 GB)与 DeepSeek-V4.1-Flash-1017 2.6 bit 量化版(187 GB + 203 GB Engram),Qwen 以 25/25 满分胜过 DeepSeek 的 23/25。HumanEval 第 22 题上 Qwen 18.8 秒答对,DeepSeek 思考 127.9 秒后陷入循环被终止;第 24 题 DeepSeek 等待 297.7 秒未答出,Qwen 34.5 秒给出正确答案。作者表示将继续使用 Qwen。

10月22日周四
  1. Reddit · r/LocalLLaMA63

    ggufbench 实测 8 个本地 GGUF 模型的 agent 编码能力:27B 级已够用

    作者 /u/Joralk_ 自建 harness,在 2× RTX 5080 上以统一采样配置实测 8 个本地 GGUF 模型的工具调用、代码与 agent 任务,每任务跑 3 个种子并统计均值与标准差。结果显示 125B 的 Qwen3.8-Flash-Next 并非榜首,35B MiniCPM-V-4.7 与 27B Qwen3.8 在 agent 任务上与其持平,工具调用可靠性比模型规模更关键;开启 thinking 模式使 27B 代码分从 0.79 升至 0.93、agent 分从 0.90 升至 0.96,但延迟从 36 ms 增至 629 ms 且每调用多花约 253 个中位 token。

    推荐理由:作者自建 harness 实测 8 个本地 GGUF 模型的工具调用与 agent 编码表现,还给出 thinking 模式开关的量化代价,方法可复用。

  2. Reddit · r/LocalLLaMA50

    Ornith-1.5-122B:有人把它放进 coding agent 试过吗?

    Ornith-1.5-122B 是一个 MoE 推理模型,支持 tool calling 与 256K 上下文窗口,官方自测在 SWE-bench Pro 得 76.9 分,高于 Qwen3.8-Flash-Next 的 43.9,但在 Terminal-Bench 2.1 上以 81.2 略低于 83.4。已有 Ollama 发布,Q4_K_M 约 77GB,另有运行时内存开销。发帖者想了解它在陌生仓库和长任务中的表现。

10月21日周三
  1. Reddit · r/LocalLLaMA51

    Qwen3.8-Flash-Next 对比 Opus 5.5:同一 Rust 任务六组合 12 次基准实测

    /u/deepu105 在 r/LocalLLaMA 发布受控编码评测:以 LlamaStash 路线图中的保存与恢复 llama-server KV cache 功能为同一任务,6 种模型与 harness 组合各跑 2 次共 12 个 PR,全部通过端到端测试。Claude Code + Opus 5.5 xhigh 平均 6.94/8 分,Claude Code + Flash-Next 为 5.5 分,Pi + Flash-Next 为 5.06 分;Opus 代码质量领先(82% vs 68%/66%),差距集中在边界情况、测试与文档。

10月20日周二
  1. Reddit · r/LocalLLaMA53

    Qwen3.8-Flash-Next 与 Opus 5.5 六组实测对比:真实 Rust 功能任务上 Opus 平均 82% 对 68%

    /u/deepu105 在 r/LocalLLaMA 发布受控对比:用 LlamaStash 路线图中的真实 Rust 功能(卸载前保存并恢复 llama-server 的 KV cache)作为统一任务,六种组合各跑两次共 12 个 PR,全部通过端到端测试。Claude Code + Opus 5.5 平均得分 82%,Claude Code + Flash-Next 为 68%,Pi + Flash-Next 为 66%,差距主要在边界情况、测试和文档;Flash-Next 耗时为 Opus 的 1.1 到 2.1 倍,但本地运行(Strix Halo 笔记本上约 Q4 量化、4.16 bpw、70W TDP)几乎零成本。

  2. Reddit · r/LocalLLaMA31

    Nvidia Nemotron 3.5 Super 120B 与 Qwen 3.8 27B 对比:HTML 动画叙事与可视化能力测试

    Reddit r/LocalLLaMA 用户用"降噪耳机原理"单文件 HTML canvas 动画提示词对比 Nvidia Nemotron 3.5 Super VL 120B A12B(Q4_K_M)与 Qwen 3.8 27B(Q8_0)。前者思考 7 分钟、31 tps,后者思考 20 分钟、15 tps,测试在 AMD Strix Halo 128GB、Win11 LM Studio 上进行,Nemotron 效果明显更好。

  3. GitHub · 去对齐工具与仓库47

    Kodeverse:10 美元编程订阅方案对比——OpenCode Go 与 Command Code GOAT 逐模型比较

    Kodeverse 是一个静态 Astro 页面,逐模型对比同为每月 10 美元的 OpenCode Go 与 Command Code GOAT 两个编程订阅方案。在 26 个双方均公布额度的模型中,Command Code GOAT 在 14 个上领先,OpenCode Go 领先 9 个,3 个持平;OpenCode Go 按模型月度限额的 20%(5 小时)和 50%(一周)推导上限,Command Code GOAT 则为每模型固定 $14/5 小时、$35/周。数据直接读取厂商页面并标注读取日期,GitHub Action 每 6 小时刷新一次。

  4. GitHub · 灵魂体仓库45

    五个 LLM 挑战用 COBOL、ALGOL 68、Eiffel 写老语言程序:8 个项目全部通过已知答案验证

    来自五个实验室的 AI 模型(Claude Opus 5.5、GPT-5.x、Gemini、Grok、Kimi K3)接受挑战,用训练语料稀少的老语言 COBOL、ALGOL 68 和 Eiffel 编写 8 个带已知答案的程序,全部通过验证,其中 3 个首次通过。5 次首试失败均源于保留字(BAR、REPORT、ROUNDED)和声明语法,而非算法逻辑。代码以 MIT 许可开源,可运行于 Ubuntu 的 gnucobol 和 algol68g。

10月19日周一
  1. Reddit · r/LocalLLaMA44

    DeepSeek-V4.1-Flash-1017 在 AA 与 Vals 指数上的 Terminal-Bench 4.0 得分差异分析

    DeepSeek-V4.1-Flash-1017 的 Terminal-Bench 4.0 得分在不同评测中差异明显:模型卡报告 42.3%,AA 报告 34%,Vals 指数报告 31.82%。模型卡称使用 Claude Code harness 跑分,作者推测 AA 与 Vals 使用 mini-swe-agent 导致分数偏低,且每任务 8 小时时限下推理速度会影响结果。若按 42.3% 计,该模型与 Fable 5(2026 年 6 月 9 日发布)水平相当。

10月18日周日
  1. Reddit · r/LocalLLaMA31

    新一代本地编程 LLM 表现相当不错,远超过去的大参数模型

    一位 Reddit r/LocalLLaMA 用户自建测试:让模型学习一种新图形语言的语法并生成可被程序解析的图形。Qwen 3.8 与 Ornith-1.5 表现最佳,两者仅 27B,却在语法理解和想象力上击败了 DeepSeek 4 flash、Qwen 3.5 122b、GLM 4.7 等更大的本地模型,想象力甚至超过 Haiku 5.5;GLM 4.7 已生成 66k token 思考仍未完成。

  2. Reddit · r/LocalLLaMA72

    RX 9060 XT 16GB 上十个模型跑五项编码任务实测

    作者在一张 RX 9060 XT(16GB)上用五项编码任务实测十个模型,每轮只给 spec 文件,需自行产出 solution.py 和 test_solution.py 并跑测试,由模型看不到的 checker 评分,单格上限 1750 秒。deepseek-v4.1-flash 云端 API 与 Qwen3.8-27B UD-IQ4_XS+MTP(kvstream fork)均 5/5,前者 236 秒 43k tokens,后者 94 分钟 185k tokens;其余本地模型多在 4/5 或更低,c4、c5 是主要分水岭,失败集中在 tie-break 规则、嵌套组解析和用 re 回溯导致超时或内存暴涨。

    推荐理由:作者自建带盲测 checker 和性能门槛的编码评测,在 16GB 显卡上实测十个模型,失败原因逐个拆到具体规则和实现细节。

10月17日周六
  1. GitHub · 灵魂体仓库49

    15 个本地 LLM 俄罗斯方块编程实测:千分制排名

    一个 GitHub 仓库用同一指令让 15 个本地 LLM 各自制作俄罗斯方块网页游戏,以 1000 分制排名。测试在 AMD Strix Halo(Radeon 8060S、64GB 统一内存)上用 llama.cpp b11701 router 模式运行,Agent 为 opencode v1.18.35,每模型独立会话、bubblewrap 沙箱隔离并禁网,单次限时 60 分钟。评分由 headless Chrome 实机操作测试(含 10 张截图)加代码评审组成,图形与手感由人工确认,结果写入 RESULTS.md。

  2. Reddit · r/LocalLLaMA28

    Qwen 3.8 Flash Next 真有那么强吗?作者实测对比 Qwen 3.8 27B 后表示存疑

    一位 r/LocalLLaMA 用户在 4x 3090 上实测 Qwen 3.8 Flash Next UD-Q4_K_XL,与 Qwen 3.8 27B Q8 直接对比后认为差距明显,Flash Next 并不如社区宣称的那样好。在用两个提示词生成 Windows 俄罗斯方块独立 .exe 的测试中,27B 模型首提示出现两个 bug(暂停和游戏结束后按键仍生效),但第二次提示自行修复;strata 框架跑 4 小时未产出可玩 exe,生成速度虽快但结果比 llama.cpp 更差。

  3. Reddit · r/LocalLLaMA31

    Nemotron 3.5 Bolt 真实任务评测:与 Qwen Flash Next 各胜一局

    一位数据工程师用两个真实 ETL 任务(重构 run.sh、编写 orchestrator.py)实测 Nemotron 3.5 Bolt,并以 Qwen Flash Next(UD-IQ4_XS、llama.cpp)的已完成结果作对照,由 Gemini 评审。结果两者各胜一局:Nemotron 在脚本重构上胜出,Qwen 在 orchestrator.py 上胜出。作者认为 Nemotron 3.5 Bolt 足以胜任其工作负载,在其服务器上平均速度约 130t/s,且 2-bit 量化下表现令人印象深刻。

10月15日周四
  1. Reddit · r/LocalLLaMA34

    LocalLLaMA 实测:模型差异可能来自损坏的工具模板与文件名问题,而非模型本身

    一位 LocalLLaMA 用户用 MCP host 和 ML-Flow 追踪本地模型工具调用后发现,Gemma4:27b 更新后工具调用失败从大量降为零,而 Gemma e2b 和 qwen2.5 仍频繁失败,问题多出在默认工具模板与 harness 配置不匹配。文件名中使用括号也会破坏部分工具。作者认为比较开源模型优劣时需先排除 harness 与任务差异。

  2. Reddit · r/LocalLLaMA22

    Strata 与 Swift 1.5 为速度牺牲智能?LocalLLaMA 用户实测对比 27B 模型

    Reddit r/LocalLLaMA 用户实测发现,Strata 模型即使量化到 27B 3.8 UD Q4 仍感觉智能不足,难以编写基础 3D 游戏和 2D 平台游戏,且比 27B 需要更多 shots 和 compactions。Swift 1.5 27B 同样表现更差,DeepSeek Flash V4 在 Q2 量化下没有这种明显下降。结论:不赶时间建议用 27B Q4(慢 3x 到 5x)或常规 flash 模型,追求极速编码可选 Next flash strata。

  3. Reddit · r/LocalLLaMA37

    Qwen 3.8 27B 与 Flash Next 125B 同题对比:威胁监测项目的代码评审、测试与双方失败点

    同一提示词下,Qwen 3.8 27B 与 Flash Next 125B 分别构建实时网络威胁情报平台(FastAPI、异步摄取、WebSockets、Three.js 地球)。两者均未满足完整需求,但 27B 的代码库更值得修复延续:Flash Next 测试更多(34 通过 vs 16 通过),却出现 Feodo 适配器 5 条记录解析 0 条、DShield 误读列、重复摄取致 count=100 变 200 等数据契约错误。

  4. Reddit · r/LocalLLaMA31

    Qwen 3.8 27B 与 Flash Next 125B 在同一威胁监控项目上的代码评测:测试、集成与双方失败点对比

    同一提示词下对比 Qwen 3.8 27B 与 Flash Next 125B 构建实时网络威胁情报平台(Python、FastAPI、WebSockets、Three.js 地球仪)。两者均未完整满足提示词;Flash Next 125B 的 pytest 测试 34 通过、27B 为 16 通过,但 Flash Next 多个核心数据契约损坏,如 DShield 适配器把子网前缀 24 当作活动计数。作者认为 27B 的提交更值得修复和继续构建,并强调这是单次产物对比而非受控能力研究。

10月13日周二
  1. Reddit · r/LocalLLaMA32

    Qwen3.8-Flash-Next 125B-A6B NVFP4 在 Strata 分支上完成 Three.js 跑马挑战

    Reddit 用户用 sergqwer 的 Strata 分支(strata-nvfp4)在单张 RTX 5090 32GB 上运行自行转换为 NVFP4 的 Qwen3.8-Flash-Next 125B-A6B hybrid MoE,完成 Three.js 低多边形 3D 马循环动画挑战。纯智能体工作时长 23m 10s,共 87 步、124,443 输出 token,cache 命中率 99.0%,解码中位 116 t/s,262,144 上下文下 33 分钟内零压缩。

10月12日周一
  1. Reddit · r/LocalLLaMA29

    Opencode 与 Codex harness 对比:同一模型表现差异大引发讨论

    一位 r/LocalLLaMA 用户测试发现,同一模型在 Opencode 和 Codex 官方 harness 下表现不同:Codex 模型遵循指令,而 Opencode 下的模型频繁拒绝请求、附加安全提示,对生物和核相关内容过度谨慎。测试在最高思考档位下用 Sol 6.1、Astra、GLM 5.3、Muse、Spark 1.3、Qwen 3. Max 多模型并排对比,结果一致。

  2. Reddit · r/LocalLLaMA27

    LocalLLaMA 用户自建 C# 网络电台播放器基准,实测本地模型真实代码能力

    一位 Reddit 用户分享了一个自建基准:让模型用 C# 写一个带 TUI 的网络电台流播放器,测试本地模型的真实能力而非速度。在 RTX 3090 上,Qwen 3.8 27B(119K 上下文,70tok/sec)与 Qwen Next Flash(128K 上下文,120tok/sec)各需至少两小时多轮调试才能跑通,但调试和探测能力出色;GPT 6.1 Sol(High reasoning)则一次生成可用 WUI 应用并附带电台搜索和收藏功能,约 20 分钟、花费 69 美分。

10月11日周日
  1. Reddit · r/LocalLLaMA27

    LocalLLaMA 网友实测 Qwen3-Coder-30B 不同 endpoint 下的编程表现

    一位 Reddit r/LocalLLaMA 用户用 Ryzen 9 AI HX 370、W7800 48GB eGPU 和 LM Studio 0.4.25 测试 QWEN3-CODER-30B-A3B-INSTRUCT-UD-Q8_K_XL 生成图片放大 webapp。VS Code + Cline 走 LM Studio endpoint 时,Vulkan 和 ROCm 分别在 310 秒和 250 秒一次成功生成 56kb / 71kb 的可用 html+js;而走 Ollama endpoint 时,agent 堆出 290MB 的 node_modules 项目,"Browse files" 按钮和拖拽功能反复修复 57 分钟仍失败,重复测试 20 分钟后才可用。

  2. Reddit · r/LocalLLaMA32

    工程师实测 Gemma4-31B、Qwen3.8-27B 与 6.1-Sol 的软件工程能力对比

    一位有约 20 年经验的软件工程师用相同的 Q4 量化模型测试 Gemma4-31B 与 Qwen3.8-27B 做代码分析和项目编写。代码分析两者质量相当,Gemma4 效率更高(约 10 次服务器调用对 Qwen 的 20-30 次);新建 C#/WPF 项目中 Qwen3.8 经 1 次修订达到可用的 B+ 水平,优于 Gemma4 的 B-。作为对照的 GPT 6.1-Sol 一次通过、获评 A+,明显领先两个开源模型。

  3. Reddit · r/LocalLLaMA37

    三款 Qwen 3.8 量化模型在 4 档思考力度下解 AtCoder 近期题目对比

    一位 Reddit r/LocalLLaMA 用户在 5060ti 16GB 上用 AtCoder 近 30 天的 14 道题测试三个 Qwen 3.8 量化版本:Swift 1.5 IQ2_XS、Flash Next IQ3_S 和 27B IQS_3,各跑 none、low、medium、xhigh 四档思考力度,思考 token 上限 32k,全程耗时近 11 小时。结果显示提升思考力度主要带来 CAP 触顶而非解题提升,关闭思考则明显退化;Flash IQ3_S 解题最多且更快,是速度与准确性的最佳折中。

10月10日周六
  1. GitHub · 灵魂体仓库26

    MapleSugarstone/StrangeRPGBenchmark:AI 模型生成的方块 RPG 游戏合集仓库

    StrangeRPGBenchmark 仓库收录了不同 AI 模型编写的基于方块的 RPG 游戏,并通过 GitHub Pages 提供卡带式菜单页面和可玩版本。其中 8 款游戏已可玩,包括由 Qwen 3.8 27B 生成的 Patchwork(经 Claude Opus 5.5 润色)以及多款 Claude 模型作品,golden 与 diamond 状态标记杰出游戏。仓库使用 Node 18+ 的 tools/build-site.mjs 构建站点,并在每次 push 到 main 时通过 GitHub Actions 自动发布。

  2. GitHub · 灵魂体仓库47

    loktar00/llm-website-demos:10 个模型网站生成输出画廊

    Jason 的 day-0 基准测试活动收集了 10 个模型的网站生成结果,每个模型接受同一组网站提示词(手绘日志、risograph 印刷站、瑞士/粗野/装饰艺术微站、Virtual Boy 复古页等),共 92 个网站单元。每个站点为单个自包含 index.html,无构建步骤、无框架,所有输出未编辑,可在浏览器直接打开或经 GitHub Pages 在线浏览。个别单元标记为 Self-fix 或 Hand-patched,Astra 因服务会话未达 verified-ready 状态而无单元收录。

  3. GitHub · 灵魂体仓库59

    karpathy-jev 技能发布:用 Jev 独立证据审查替代 AI 编码 Agent 自评

    reliable-era 发布 karpathy-jev,一个 Claude Code 技能,在首次编辑和声明完成前的固定检查点收集 diff、命令与真实 exit code,交由独立的 TypeSafe Jev 判定 proceed 或 revise。SWE-bench Verified 20 任务上,Claude Code + Sonnet 5 下该方案解决 20/20,虚假完成声明 0 次(原生 2 次),最后一次编辑后真正跑测试的比例 13/20(原生 1/20);解决数差异在 n=20 下不显著,单任务中位耗时 +8%。实验还发现 Sonnet 在 112 次运行中从未主动打开自愿式技能,强制 hooks 是行为改变的关键。

    推荐理由:原文同时给出方法和实测数据,读者可以对照三种方案看到强制钩子与提示词自评在行为上的真实差别。

  4. Reddit · r/LocalLLaMA31

    Mellum2.1-12B-A2.5B 在 Pi Coding Agent 上实测:意外好用,但不擅长一次性项目

    Reddit 用户实测 JetBrains 的 Mellum2.1-12B-A2.5B(Q8)搭配 Pi 和 llama-server,五个 one-shot 测试结果参差:Flappy Bird 能完成但画面简陋,Browser OS、Minecraft 等表现不佳。模型工具调用和 agentic 行为出色,能发现并修复自己的编辑错误,还成功完成修改现有项目代码等任务。在 8GB VRAM + 32GB RAM 笔记本上以 131K 上下文跑出约 40 t/s。