内容形态
可以照着做的：去对齐实操、灵魂包搭建、本地部署、评测复现。
59 条精选近 30 天 59 条共收录 420 条
Reddit 用户 /u/FR-1-Plan 分享为 Kimi K3 编写私人角色扮演预设的多条实测经验。要点包括：在角色卡中写明角色扮演目标以免模型把开场冲突当全部剧情、给规则加标签并解释理由以提高遵守度、风格要求放角色卡而机制规则放预设、避免每轮在作者注中重复强调导致模型偏执、发现坏输出立即手动删改，以及节奏（pacing）问题的解法。作者还贴出了自己「beat by beat」节奏控制规则原文，定义 beat 为最小变化单元并限制每次输出只推进一拍。
推荐理由：作者基于自己数周的实测总结了Kimi K3角色扮演提示词的具体写法，还附上了可直接抄走的节奏控制规则原文。
xbsheng 在 GitHub 发布 learn-pi-agent 教程，参照 learn-claude-code 的课程结构讲解 pi 智能体框架，核心理念是 Agent 等于模型加 Harness，循环由 pi 实现，学习者负责搭建工具、权限、技能等扩展机制。教程含 12 章，覆盖自定义工具、tool_call 闸门、事件钩子、按需加载 Skill、会话分支、子 Agent、RPC 集成、自定义 Provider 和 Pi Package，每章提供可运行 TypeScript 示例，要求 Node.js 24+，文本采用 CC BY 4.0、代码采用 MIT 许可，并配套中英双语教程站。
推荐理由：作者参照 learn-claude-code 的结构讲解 pi 的 harness 扩展机制，从自定义工具到 Pi Package 共 12 章都有可运行代码。
/u/Kahvana 发布 Voyage v5 并在 r/SillyTavernAI 十月提示词讨论帖中分享实验发现。基于 Anthropic J-Space 和 Functional Emotions 论文，作者发现 NPC 与 Character 的措辞需匹配 TTRPG 或小说框架，把模型、GM 与 NPC 分成三层可减少讨好行为并提高参与风险情节的意愿；将否定式提示改写为正面表述后，Gemma 4 31B 更连贯，Gemma 4 E2B QAT 也开始遵守反 slop 规则。作者还给出用 ## Rule 标题加 HTML 注释模拟 chatfill 召回的低 token 方法，并测评了 A-Life 与 Nemesis 等游戏系统的适用性。
推荐理由：作者基于 Voyage v5 的实测和 Anthropic J-Space 论文，给出了 NPC/Character 框架、正面表述和 markdown 召回等可复用的提示词方法。
Reddit 用户 /u/Agreeable-Insurance5 针对 GLM 5.2 在 15 到 30 条消息后回复退化为短碎句的问题，用固定 30 条预设消息和相同角色做了七轮对照测试，测量平均句长和三词以内碎句占比。最终有效做法是把规则放在对话历史之后（Post-History Instructions 加 depth 0 的 user 角色消息）并发两次，用方括号 note 而非 OOC 表述，结尾写 do not acknowledge this note；实验还发现给字数指标会加重碎句，而 1,500 max_tokens 中 reasoning 占用 1,000 也会导致电报式行文。完整记录见 https://claude.ai/artifact/XmEsUkSjEMQpA5M3eRkqdy。
推荐理由：作者用同一组测试对话对比了七种写法，量化了句子长度和碎句比例，给出可复用的短句修复规则和失败教训。
GitHub 用户 renrenmimi 发布 AgentLab，一个中英双语、纯浏览器运行的 AI 智能体交互课程，共六组十四个节点，覆盖模型输出、系统提示词、成本随轮数平方增长、上下文溢出、工具选择错误、prompt injection、权限、重试与幂等、以及用十个保存任务衡量改进。默认使用录制数据模拟响应，无需 API key；内容与页面分别由 verify.mjs（24 项检查）和真实浏览器套件（123 项断言、三档宽度、覆盖率 89.7%–91.6%）自动验证。作者还复盘了三个检查器教训，包括旧的选择器清单只测到 43 个表面却报满分、三处已发布对比度缺陷漏检，并改为遍历渲染树并自断言覆盖下限。
推荐理由：这个开源交互教程把智能体的成本、上下文、工具误用等坑做成可操作演示，并详细记录了对比度检查器失灵的教训，方法可迁移到类似项目。
/u/Edenar 在 r/LocalLLaMA 分享了一套本地 Agent 部署：用 $500 购入的 CMP 170HX 经 cmpunlocker 解锁到 64GB 显存，通过 USB4 eGPU dock（pcie2x4）接上 Framework Desktop 128GB。Strix Halo 上跑 qwen 3.8 flash next（约 1600-1800 tok/s pp、60 tok/s tg）作主 Agent，CMP 170HX 并发跑 2 个 qwen 3.8 27b（w8a16 量化、各约 200k 上下文）作子 Agent，实际 4 小时会话聚合 1747 tok/s pp、100 tok/s tg。
推荐理由：作者给出完整硬件配置、量化方案和实测吞吐数据，可当作低功耗多卡本地 Agent 部署的参考样本。
krishankant 在 GitHub 发布 harnessy，一个分 8 周（外加 MCP 加餐周）逐步动手搭建的 Agent harness 学习项目，支持 Anthropic、OpenAI 和 Ollama 本地模型。每周一个课程加填空练习，覆盖模型接口、Agent 循环、工具、上下文与记忆、traces 与 evals、hooks 与子智能体、生产化（重试、流式、成本限制、沙箱、致命三重奏检查），最终在同一 harness 上构建三个智能体，并提供完整参考实现与离线测试。
推荐理由：这个仓库把 Agent harness 拆成 8 周的动手课程，每部分都有失败对照和参考实现，适合想搞懂 Agent 循环、工具、上下文与评测全貌的读者。
Datawhale 团队基于 Stanford CS336 (Spring 2026) 推出中文本土化课程 diy-llm，在线阅读地址为 https://datawhalechina.github.io/diy-llm/。课程共 16 章，覆盖分词器、MoE、GPU 高性能编程、分布式训练、Scaling Laws、数据工程、RLVR、多模态等内容，配套 6 个作业（手搓大模型、Triton 实现 FlashAttention-2、数据处理、GRPO 对齐、模型评估等），并加入 Qwen、DeepSeek 等国产模型案例。文档提供中英双语与 PDF 下载，采用 CC BY-NC-SA 4.0 许可。
推荐理由：斯坦福 CS336 的中文本土化课程，16 章配 6 个作业，覆盖从 tokenizer 到 RLVR 的完整 LLM 构建链条，适合想系统上手的学习者。
panxunying 在 GitHub 维护 ai-coding-welfare 仓库，收录 ArtBloom、AgentRouter、DoCode、FlushAPI、KKtoken、AnyRouter、CheapCodex、NOFX 等 13 个中转与公益站的注册额度、邀请码与接入配置。仓库提供一键脚本配置 Claude Code 环境变量，CI 每 6 小时抓取各站公开接口生成额度快照、变动日志与可用性历史，8 个有明确美元额度的站全注册首日合计约 $1199.5；文中明确提示 DoCode 的站内刀不是美元、部分站点额度数字未经公开接口核对，并建议不要把生产密钥或企业代码发给来源不明的中转服务。
推荐理由：仓库用脚本自动抓取各站公开接口并记录可用性历史，读者可以据此核对这些免费额度口径是否还靠谱。
作者用 HuggingChat 里的 ML Intern 在几天内自制了 7 个开源模型（含 citrus-disease-vlm-instruct、Huggy LoRA、Pocket rewriter 0.8B、Agate 4-step 等），总算力成本约 103 美元。文中公开全部提示词（GitHub 仓库 yvrjsharma/ml-intern-prompts），并总结了三条关键写法：让 Agent 先报基线再训练、先跑小规模冒烟测试、设定预算上限并要求超支前请示；例如 citrus 项目用 3,017 张标注图微调 Qwen3.5-2B，测试集准确率从基座 14.9% 提升到 52.8%，成本约 1.90 美元。
推荐理由：作者把 7 个提示词原样公开，预算上限、基线对比和冒烟测试的写法可以直接搬到自己的 Agent 训练项目里。
Reddit 用户整理 llama.cpp Vulkan 后端的 76 款 GPU 基准数据（数据来自 Performance of llama.cpp with Vulkan #10879），结合 2026 年二手价格排出性价比 Top 20 与最不值 10 款。测试以 Llama 2 7B Q4_0 为基线，结果显示 Nvidia P102-100 约 $45 综合成本约 $0.1569/t/s 居首，AMD Instinct MI50 约 $120 可达 tg128 超过 100 t/s，宽位宽老卡和 HBM2 卡在解码性价比上明显优于窄位宽新卡；Tesla P40 同时出现在最佳与最差榜单中。
推荐理由：作者把 llama.cpp Vulkan 基准数据与 2026 二手价格结合算出性价比排名，还列出最不值榜单，可直接用于预算装机选卡。
Vladimir Kulanov 在 GitHub 发布 VeriFirst 框架，主张为 AI 工作流设计得让模型错误容易被发现且修复成本低。框架包含 Trust Map 任务分级、六字段 Intent Contract、生成与批判分离的 Make–Break 循环（默认迭代上限 3）、R0–R3 可逆性门控，以及以 Time-to-Verified 和逃逸错误率为核心指标，仓库附英文和俄文模板，采用 CC BY 4.0 许可。
推荐理由：作者把验证而非生产定位为 AI 工作的瓶颈，给出 Trust Map 分级、Intent Contract 和 Make–Break 循环等可直接套用的模板。
Castmates 应用开发者分享在 iPhone 上全本地运行 3B 角色扮演微调模型（Impish Llama 3B，基于 Llama 3.2 3B 加 rank 16 LoRA，Q4_K_M 量化约 2.0 GB）的实测笔记，用 llama.cpp Metal 全层 offload，无需服务器可离线使用。关键结论：历史裁剪预算调至约 0.68 x n_ctx 后长对话事实召回从 25% 升到 75%，逐字历史明显优于有损摘要；BM25 检索会重注入过期事实，过滤窗口内仍含新版本的命中后下降 18.8pp；A18 芯片早期实测约 6 tok/s，4 GB 手机为最低门槛且限 4096 上下文。
推荐理由：作者用固定种子的对照实验给出小模型保持角色的可复用结论，历史裁剪比例和检索过滤做法可直接迁移。
GitHub 仓库 carl90s/agent-teardown 把李博杰《深入理解 AI Agent：设计原理与工程实践》306 页内容拆成 12 个关卡、44 张概念卡、12 个模拟器和 6 个离线 Python 实验。全部离线运行，不需要联网、API key 或安装依赖（实验只需 Python 3.10 与 numpy），实验用 mockllm.py 假 LLM 并以 assert 自检结论；代码与文字讲解以 MIT 发布，不含原书 PDF 或原文抽取文本。
推荐理由：把一本书的 Agent 概念拆成可离线运行的模拟器和带 assert 自检的实验，学习路径可直接迁移到其他主题的自学设计。
/u/Prudent_Appearance71 在 2 张 64GB CMP 170HX 上用 EXL3 3.05bpw 让 GLM-5.3-Flash 目标权重完全驻留 HBM，配合 6bpw DFlash2 草稿模型和环形缓存跑通 384K 上下文，解码约 90 tok/s，配置和脚本已开源在 https://github.com/Flun/glm53-flash-cmp170hx-exl3。
推荐理由：作者在同一台机器上实测两套本地部署方案，把原始推理速度和真实智能体任务完成时间分开对比，思路对搭建类似配置有参考。
Flant 的 Александр Подмосковный 发布 hardfest-gpu-workshop 实战教程，从手动运行 Gemma 开始，测算 KV cache 内存、启用 prefix cache 与 CPU offload、chunked prefill 和 speculative decoding（MTP），再通过 AI Inference 平台复现同一配置作对比。
推荐理由：作者以自己的实验台手把手推导 KV cache 计算并逐项验证各优化机制，方法论清晰，可迁移到自己的推理部署调优。
believening 开源 tmall-genie-llm 项目，将天猫精灵的语音问答代理到 OpenAI 兼容的大模型 API，默认使用 OpenCode Zen 免费模型（如 deepseek-v4-flash-free）。部署在 Claw Cloud Run 日本区节点，同时解决 Zen 免费模型不对大陆 IP 开放和阿里技能云需公网 HTTPS 回调两个问题；联网搜索采用三段式设计，搜过的问题总延迟约 3-6 秒，月成本约 $2-3 在免费额度内。
推荐理由：原文给出了从镜像构建到天猫精灵技能配置的完整部署步骤和免费额度成本，方法可直接照做复现。
AnranS 在 GitHub 发布 ai-infra-handbooks，一套 11 本、281 章、283 道练习的中文大模型推理学习手册，从 Python、C++、CUDA 学到从零实现推理引擎并导读 vLLM 与 SGLang 源码。全部示例代码经实际运行验证，含 17 周学习路线、浏览器判题、1979 张可导出 Anki 的学习卡与 mini-sglang 完整实现，文档采用 CC BY-NC-SA 4.0、代码采用 MIT 许可。
推荐理由：作者完整给出了代码验证方式、章节结构和17周路线，读者可以直接判断这套推理学习手册是否适合自己。
friteuseb 在 GitHub 发布 reponse_opti 仓库，提供 12 行规则让 Claude、ChatGPT、Codex、Cursor 等助手以受控法语写作，灵感来自 Andrej Karpathy 建议让 LLM 按 80% ASD-STE100 航空维护标准解释。作者用 Claude Sonnet 5.5 在 10 个技术问题上做四条件盲测，由 Claude Opus 5.5 评判，v3 版分场景处理，行动类回答 7/10 更清晰且 8/10 更有用，解释类 10/10 更清晰但丢失 49% 信息，Kandel-Moles 可读性分从 78.5 升至约 84。规则可复制进 CLAUDE.md 等规则文件，或作为 Claude Code skill 按需启用，MIT 许可。
推荐理由：作者把 Karpathy 提到的 ASD-STE100 受控写作移植到法语，并附上四条件对比实测数据，方法可直接复用到 Claude Code 等工具。
alicexl 在 GitHub 开源 mini-agent 项目，用 6 个递进的最简 demo 拆解 Claude Code、Cursor、Devin 这类自动干活工具的底层机制，核心公式为 Agent 效果 = LLM 能力 × Agent 工程。demo1 为 ReAct 循环 base，demo2-6 分别正交叠加记忆、工具扩展、规划、多 Agent 与约束五条轴；每个 demo 附讲稿、约 400-720 行可直接运行的 agent.py 和 README，默认通过智谱 BigModel 的 Anthropic 兼容网关调用 glm-5.2 模型，换官方 API 只需改 BASE_URL 和 MODEL。
推荐理由：用 6 个递进可运行的 demo 拆解 ReAct、记忆、工具、规划、多 Agent 与约束各轴，适合想从零看懂 Agent 工程底层机制的读者。