跳到正文
  1. Reddit · r/LocalLLaMA60

    Reddit 用户分享让大模型写计划、本地 9B 模型执行的 briefing 文件

    Reddit 用户 /u/Electrical_Ninja3805 公开一份 briefing 文件,让 Claude Code 等强模型写规格与任务卡,由本地 8-bit Ornith 1.5-9B 执行命令、构建、git 等机械性工作,以降低 Claude token 开销。文件涵盖小模型能力预期、精确到文件行范围与预期输出的任务写法、每任务新会话等运行规则,以及用 git 和日志而非模型自述做验证。实测中 9B 完成 75-commit 的双仓库合并且回归测试全过,但耗时约一天,远慢于 Claude 单独约一小时。

    推荐理由:作者给出一份可直接复用的 briefing 文件,并附 75-commit 合并实测与耗时对比,读者可据此评估本地小模型跑编码任务的取舍。

  1. AIHOT · 精选58

    Browser Use 作者整理让编程智能体使用已登录 Chrome 的六种方案

    Browser Use 作者整理了让 Claude Code、Codex、Gemini CLI、Cursor 等编程智能体使用已登录 Chrome 的六种方案。其中 Claude 订阅用户可通过 claude --chrome 使用 Claude in Chrome 扩展。

    推荐理由:由 Browser Use 作者整理,汇总了主流编程智能体复用已登录 Chrome 的多种可行方案,方便读者按自己所用工具对号入座。

  2. GitHub · prompt 工程新仓库58

    ai-coding-playbook 仓库发布 AI 编码方法论教程,含 14 个可装进 Claude Code 的 skill

    作者 DJtx001 发布 ai-coding-playbook 仓库,主打让 AI 编码产出可以被验证的完整方法论,不绑定模型或编辑器。内容包括 6 章 HTML 主教程、一页纸速查手册,以及来自 obra/superpowers 的 14 个 skill 完整副本和离线安装脚本,可复制到 ~/.claude/skills/ 使用。核心主张包括 TDD 闸门、要求出示命令加输出加退出码的验收方式、按爆炸半径路由任务复杂度、会话卫生和用子代理独立核对 SPEC。

    推荐理由:给出完整的可验证工作流方法论,含两道验收闸门和 14 个 skill 的安装与出处,任何模型和编辑器可直接套用。

  1. Reddit · r/LocalLLaMA63

    零基础用户用 Claude Code 搭建 Strix Halo 本地 LLM 工作站,Qwen3.8-Flash-Next 180B 跑到 46-53 tok/s

    一位从未写过代码的 Reddit 用户在 r/LocalLLaMA 记录了用 Claude Code 兼任顾问、系统管理员和导师,七周内搭起一台约 3,450 美元的 Strix Halo 迷你主机(Ryzen AI Max+ 395,128 GB 统一内存,2 TB NVMe)的全过程。最终 Qwen3.8-Flash-Next 180B-A6B 写入 46-53 tok/s、prompt 处理约 771 tok/s,Qwen3.6-35B-A3B 达 76.5 tok/s,推理栈完全离线运行,夜间由编码 Agent 和浏览器 QA Agent 无人值守开发替代一款 40 年老程序的原型。

    推荐理由:零基础作者用 Claude Code 当系统管理员从零搭起本地推理机,给出完整硬件选型、内核坑和逐项优化前后数据,可迁移到类似自建场景。

  1. AIHOT · 精选57

    Anthropic 指南:何时把子智能体合并进主 Agent 循环

    Anthropic Applied AI 团队发布指南,讲解何时把 orchestrator 下的路由器、规划器和领域子智能体合并进单个主 Agent 循环。文中对比显示,带 skills 的单智能体在质量上常优于一提示全包和子智能体设计,且成本和延迟更低;一家客户改用单循环后运行时间约快 2x。

    推荐理由:Anthropic 给出了多智能体与单循环架构的选择判据,附质量与成本延迟对比,可迁移到自己的 Agent 设计。

  1. GitHub · 去对齐工具与仓库57

    LLM-Infrastructure 开源:用动画讲解 AI 回答生成的四课交互教程

    GitHub 用户 abidaziz1 开源了 LLM Infrastructure, Animated,一个包含四个动画课程的交互式网页项目,共 81 个场景,展示一次 AI 回答如何生成。课程覆盖从键盘到 GPU 的完整链路、Claude Code 背后的 Agent while 循环、Prompt Caching 的 KV cache 与缓存分层原理,以及 token 为何耗时 30 ms 的 prefill 与 decode 差异。项目用纯 HTML、CSS、JavaScript 和 SVG 构建,无框架无构建步骤,打开 index.html 即可运行,支持滑块交互、测验、深浅色主题、reduced-motion,并附带基于 Playwright 的 headless Chromium 场景测试。

    推荐理由:用纯 HTML/CSS/JS 做的四个动画课程,把一次 AI 请求从按键到 GPU 的完整链路拆成 81 个可交互场景,无需安装即可在浏览器打开。

  1. GitHub · 灵魂体仓库55

    AgentLab:浏览器中运行的中英双语 AI 智能体交互式课程

    GitHub 用户 renrenmimi 发布 AgentLab,一个中英双语、纯浏览器运行的 AI 智能体交互课程,共六组十四个节点,覆盖模型输出、系统提示词、成本随轮数平方增长、上下文溢出、工具选择错误、prompt injection、权限、重试与幂等、以及用十个保存任务衡量改进。默认使用录制数据模拟响应,无需 API key;内容与页面分别由 verify.mjs(24 项检查)和真实浏览器套件(123 项断言、三档宽度、覆盖率 89.7%–91.6%)自动验证。作者还复盘了三个检查器教训,包括旧的选择器清单只测到 43 个表面却报满分、三处已发布对比度缺陷漏检,并改为遍历渲染树并自断言覆盖下限。

    推荐理由:这个开源交互教程把智能体的成本、上下文、工具误用等坑做成可操作演示,并详细记录了对比度检查器失灵的教训,方法可迁移到类似项目。

  2. Reddit · r/LocalLLaMA63

    Reddit 用户用 Strix Halo 加 CMP 170HX 搭建本地 Agent 双机推理系统

    /u/Edenar 在 r/LocalLLaMA 分享了一套本地 Agent 部署:用 $500 购入的 CMP 170HX 经 cmpunlocker 解锁到 64GB 显存,通过 USB4 eGPU dock(pcie2x4)接上 Framework Desktop 128GB。Strix Halo 上跑 qwen 3.8 flash next(约 1600-1800 tok/s pp、60 tok/s tg)作主 Agent,CMP 170HX 并发跑 2 个 qwen 3.8 27b(w8a16 量化、各约 200k 上下文)作子 Agent,实际 4 小时会话聚合 1747 tok/s pp、100 tok/s tg。

    推荐理由:作者给出完整硬件配置、量化方案和实测吞吐数据,可当作低功耗多卡本地 Agent 部署的参考样本。

  1. Hugging Face Blog70

    Hugging Face 博客:如何用 ML Intern 以约 103 美元自制 7 个小模型

    作者用 HuggingChat 里的 ML Intern 在几天内自制了 7 个开源模型(含 citrus-disease-vlm-instruct、Huggy LoRA、Pocket rewriter 0.8B、Agate 4-step 等),总算力成本约 103 美元。文中公开全部提示词(GitHub 仓库 yvrjsharma/ml-intern-prompts),并总结了三条关键写法:让 Agent 先报基线再训练、先跑小规模冒烟测试、设定预算上限并要求超支前请示;例如 citrus 项目用 3,017 张标注图微调 Qwen3.5-2B,测试集准确率从基座 14.9% 提升到 52.8%,成本约 1.90 美元。

    推荐理由:作者把 7 个提示词原样公开,预算上限、基线对比和冒烟测试的写法可以直接搬到自己的 Agent 训练项目里。

  1. GitHub · 去对齐工具与仓库60

    carl90s/agent-teardown 将《深入理解 AI Agent》拆成 12 关卡与 6 个离线实验

    GitHub 仓库 carl90s/agent-teardown 把李博杰《深入理解 AI Agent:设计原理与工程实践》306 页内容拆成 12 个关卡、44 张概念卡、12 个模拟器和 6 个离线 Python 实验。全部离线运行,不需要联网、API key 或安装依赖(实验只需 Python 3.10 与 numpy),实验用 mockllm.py 假 LLM 并以 assert 自检结论;代码与文字讲解以 MIT 发布,不含原书 PDF 或原文抽取文本。

    推荐理由:把一本书的 Agent 概念拆成可离线运行的模拟器和带 assert 自检的实验,学习路径可直接迁移到其他主题的自学设计。

  2. Reddit · r/LocalLLaMA67

    双 CMP 170HX 64GB 本地跑 GLM-5.3-Flash 384K 上下文约 90 tok/s,并对比 Qwen3.8

    /u/Prudent_Appearance71 在 2 张 64GB CMP 170HX 上用 EXL3 3.05bpw 让 GLM-5.3-Flash 目标权重完全驻留 HBM,配合 6bpw DFlash2 草稿模型和环形缓存跑通 384K 上下文,解码约 90 tok/s,配置和脚本已开源在 https://github.com/Flun/glm53-flash-cmp170hx-exl3。

    推荐理由:作者在同一台机器上实测两套本地部署方案,把原始推理速度和真实智能体任务完成时间分开对比,思路对搭建类似配置有参考。

  1. GitHub · 去对齐工具与仓库57

    tmall-genie-llm 开源:把天猫精灵语音问答代理到 OpenAI 兼容大模型 API

    believening 开源 tmall-genie-llm 项目,将天猫精灵的语音问答代理到 OpenAI 兼容的大模型 API,默认使用 OpenCode Zen 免费模型(如 deepseek-v4-flash-free)。部署在 Claw Cloud Run 日本区节点,同时解决 Zen 免费模型不对大陆 IP 开放和阿里技能云需公网 HTTPS 回调两个问题;联网搜索采用三段式设计,搜过的问题总延迟约 3-6 秒,月成本约 $2-3 在免费额度内。

    推荐理由:原文给出了从镜像构建到天猫精灵技能配置的完整部署步骤和免费额度成本,方法可直接照做复现。

  2. GitHub · 灵魂体仓库65

    alicexl/mini-agent:用 6 个 demo 拆解 Agent 工程底层机制

    alicexl 在 GitHub 开源 mini-agent 项目,用 6 个递进的最简 demo 拆解 Claude Code、Cursor、Devin 这类自动干活工具的底层机制,核心公式为 Agent 效果 = LLM 能力 × Agent 工程。demo1 为 ReAct 循环 base,demo2-6 分别正交叠加记忆、工具扩展、规划、多 Agent 与约束五条轴;每个 demo 附讲稿、约 400-720 行可直接运行的 agent.py 和 README,默认通过智谱 BigModel 的 Anthropic 兼容网关调用 glm-5.2 模型,换官方 API 只需改 BASE_URL 和 MODEL。

    推荐理由:用 6 个递进可运行的 demo 拆解 ReAct、记忆、工具、规划、多 Agent 与约束各轴,适合想从零看懂 Agent 工程底层机制的读者。

  3. Reddit · r/LocalLLaMA60

    Mac Studio M5 Ultra 256GB 单机跑四个开源模型做真实 Agent 工作的实测

    作者在一台 Mac Studio(M5 Ultra,256 GB 统一内存)上同时驻留四个开源模型,按大模型/小文本/小视觉/决策四槽位分工处理真实 Agent 工作。工作档为 Qwen3.8 Flash Next(99 GB)+ Gemma 4 26B 4-bit + Qwen 3.6 35B-A3B + Clef-Flash 9B,留 82 GB 给上下文;智能档为 DeepSeek V4 Flash 4-bit(常驻 128 GB)。实测吞吐:Qwen3.8 Flash Next 生成约 51-58 tok/s(投机解码草稿接受率 55-65%),DeepSeek V4 Flash 生成 27-31 tok/s。

    推荐理由:作者实测了四模型共驻一台 Mac Studio 的内存预算与吞吐数据,还给出本地模型尚不能胜任规划角色的具体分工方案。

  1. Reddit · r/LocalLLaMA71

    Reddit 用户开源 Sentinel:用代码护栏而非提示词构建本地第二大脑

    Reddit 用户 /u/dimensionof0 开源了 the-sentinel(MIT 协议),一个在代码层而非提示词层设置护栏的本地 LLM 知识库系统,防止模型自引输出导致知识库被污染。

    推荐理由:作者用实测数据对比了提示词与代码护栏的效果,并给出 6 GB 显存下的具体运行方案,方法可直接迁移到类似知识库项目。

  2. GitHub · 去对齐工具与仓库57

    jev-cookbook:把 Jev 判定器接入 AI 助手的实战手册

    作者把小型判定器 Jev 接入自己的 AI 助手并使用一个多月,开源了含接入指南、判定点清单、影子期评测方法与踩坑集的实战手册(https://github.com/zhaoyanan-pixe/jev-cookbook)。手册总结 6 条原则,如失败必须 fail-open、先影子后放权、硬红线不进判定流程,并给出各任务族可靠度从 90%+ 到 15% 不等的实测观察,强调效果依场景而定。

    推荐理由:作者用一个月实战总结出先影子后放权的接入方法,并给出不同任务族可靠度差异的实测数据,方法可迁移到自己的 AI 助手。

  3. GitHub · 灵魂体仓库63

    realtime-voice-deep-dive:从零构建实时语音Agent的离线模拟实验仓库

    alexvervloet 发布 realtime-voice-deep-dive 仓库,用完全离线、无需 API key 的确定性模拟器讲解实时语音Agent的构建。

    推荐理由:用离线模拟器拆解实时语音Agent的帧流、状态机、barge-in与延迟预算,并给出pipeline与speech-to-speech的选型对比。

  1. GitHub · 去对齐工具与仓库59

    JadELHAJJ-prog 开源本地 AI Agent 项目 local-ai-agent

    作者开源了一个完全本地运行的 AI Agent 项目 local-ai-agent,支持浏览网页、执行代码和分析图像、视频与文档。

    推荐理由:作者完整公开了本地 Agent 的架构、工具清单和 8GB VRAM 下的模型切换细节,可复现也可借鉴到类似项目。

已经到底了