跳到正文
只看教程
10月20日周二
  1. Reddit · r/SillyTavernAI31

    SillyTavern 现代题材故事小技巧：为角色卡指定真实地理位置

    Reddit SillyTavernAI 社区用户建议在现代题材故事的角色卡或 persona 中写明真实地点，如 “Las Vegas, Nevada” 或 “Fulton County, Georgia”，例如 “Steve lives in a 2-bedroom apartment in Rochester, New York”。作者称较智能的模型因此能使用真实地点和天气模式，相比含糊的泛化城市设定效果明显更好。

  2. Reddit · r/CharacterAI21

    Character.AI 或将停运，老用户分享替代方案帮助社区应对

    一位自 Character.AI 早期就使用的用户发帖，安抚因 c.ai 可能破产关闭而恐慌的用户，并分享替代方法：在 Google Docs 写作、画画、寻找 RP 伙伴、用 picrew 或 gacha 展示角色，以及在 Discord 创建 tuppers 模拟对话。作者称自己曾每天使用 7+ 小时，现已摆脱依赖，并希望社区共同寻找解决方案。

10月19日周一
  1. AIHOT · 精选18

    Numan 如何用 LangGraph 和 LangSmith 构建评测优先的 AI 健康教练 Nu

    英国数字健康公司 Numan 复盘其 AI 健康教练 Nu 的评测体系建设，认为稀缺资产不是提示词而是评测标准。针对单轮静态数据集和脚本化多轮对话难以覆盖真实会话的问题，Nu 采用按类别打分的主题数据集、以更廉价模型扮演患者的模拟对话层，并让安全回归自动阻断发布。

  3. GitHub · 去对齐工具与仓库28

    Orbis AI API 选型与接入指南：Claude、GPT、DeepSeek、Kimi 等模型价格与工具配置

    Orbis 维护的 AI API 选型与接入指南，覆盖 Claude、GPT、Gemini、DeepSeek、Kimi、Qwen 等模型选型、OpenAI 兼容协议、Claude Code、Codex、Cline 等工具接入及成本核算。其 DeepSeek V4.1 Flash 专供线路输入 ¥0.05 / 百万 tokens、输出 ¥0.20 / 百万 tokens，100 万输入加 100 万输出合计 ¥0.25，同用量 Kimi K3 为 ¥0.60。指南还给出缓存计费、失败重试、RAG 与 Agent 场景的检查清单。

  4. Reddit · r/LocalLLaMA34

    9070 XT + RTX 3080 双卡跑 LLM 体验不佳：Qwen3.8 28B 仅 30-50 tok/s

    Reddit 用户实测 9070 XT 搭配 RTX 3080 双卡运行 LLM，效果不佳：3080 仅 PCIE 4.0 x4，ROCm 和 Vulkan 表现也差，Qwen3.8 28B Q4_K-M 仅 30-50 tok/s，64k 上下文比 128k 掉速明显。层拆分优于张量拆分，MTP 可带来约 2x 提升，显示器必须接在 9070 XT 上，两卡 GPU 占用仅约 60% 和 30%。

  5. GitHub · 去对齐工具与仓库20

    LLM_Lab04：QLoRA 微调实验仓库

    GitHub 上的 LLM_Lab04 仓库是一个 QLoRA 微调实验作品集，包含 notebooks、outputs、screenshots 目录及 README 等文件。仓库目前为 Lab 4 - QLoRA Fine-Tuning Portfolio 项目，暂无 star、watch 或 fork 数据，也未发布任何 Release。

  6. GitHub · 去对齐工具与仓库26

    shufu151 开源 Agent-Engineering-Handbook：企业级 AI Agent 工程开发手册

    shufu151 在 GitHub 开源 Agent-Engineering-Handbook 仓库，系统整理企业级 AI Agent 工程开发知识，覆盖 LLM 基础、Agent 架构、工具调用与 MCP、RAG 与记忆、多 Agent 协作、评估安全及部署运维等 11 个模块。仓库还包含面试专题与学习资源，内容将逐步完善，仅存放公开学习资料与示例。

  7. Reddit · r/LocalLLaMA41

    Strata 在 Windows 上实现双 AMD GPU（9070XT + 9060XT）分层拆分并跑通 vision

    用户在 Windows 11 上用双 AMD GPU（9070XT 和 9060XT）以 layer split 方式运行 Strata，需设置 "STRATA_RESIDENT_PIN": "0" 才不崩溃，但仍有性能损耗。最终改用单张 9070XT，IQ3_XXS 量化下达到约 1350pp 和 50-100 tgs，并自行编译 Vulkan 版 vision，在第二张卡上运行 vision mmproj。官方虽不支持 Windows 双 AMD GPU 和 vision，但该配置无需修改代码即可运行。

  9. GitHub · 去对齐工具与仓库52

    learningdantic：基于 Pydantic AI v2 的 Jupyter notebook Agent 实战课程

    SiddharthMuramkar 发布 learningdantic，一套用 Jupyter notebook 教 Pydantic AI 构建 Agent 的课程，核心公式是 Agent 等于模型加指令加工具加输出类型，围绕 Steer（想做什么）和 Scope（能看、做、花、记什么）两个问题组织 00–14 号 notebook。每个概念对应一个可运行 cell 加练习，默认模型 openai:gpt-6-luna 每 notebook 成本远低于一美分，00/08/09/10/12/13/14 号可用内置 TestModel、FunctionModel 零成本运行；课程只针对 Pydantic AI v2（2.57），并附 track/ 目录下的 Postgres、FastAPI 支持工单实战应用。

  11. GitHub · 灵魂体仓库47

    deep-thinking-rag：用 Agent 构建深度思考 RAG 管线的教程

    这是一篇实现深度思考 RAG 管线的教程，展示如何用 agent 驱动的 Plan、Retrieve、Refine、Reflect、Critique、Synthesize 六阶段流程解决基础 RAG 无法处理的多跳查询。实现中用 gpt-4o 做规划与合成、gpt-4o-mini 做简单任务、text-embedding-3-small 做嵌入、cross-encoder/ms-marco-MiniLM-L-6-v2 做重排，并设置最多 7 次推理迭代、top_k_retrieval 10、top_n_rerank 3，最后与基础 RAG 做对比评估。

10月18日周日
  2. Reddit · r/LocalLLaMA33

    网友用 5070 Ti + 3070 组建 Chimera 双卡本地 LLM 方案

    一位 Reddit 用户将 $750 购入的 5070 Ti 与闲置的 3070 通过 PCIe riser 组成混合双卡，用 Ollama/llama.cpp 拆分运行 Qwen 3.6 35B-A3B（MoE，约 3B 激活参数），在 16k 上下文下达到约 82 tok/s。目前约 23% 的层溢出到系统内存，3070 尚有约 4GB 显存未利用，作者计划调整拆分比例并加装外置 enclosure。

  3. Reddit · r/LocalLLaMA55

    网友用单张 RX 9060 XT 16GB 本地跑 Qwen 3.8 27B 262k 上下文

    Reddit 用户 /u/Maglcite 分享了一套低成本本地 LLM 部署：仅用一张 RX 9060 XT 16GB 和 24GB DDR5，以 unsloth IQ4XS 量化加 q4 KV cache（keys 用 q8）、MTP 与 ngram 预测，跑 Qwen 3.8 27B 达 262k 上下文。实测 20k 上下文生成 42.7 tps、预填充 658 tps，200k 时为 35/500 tps；使用 achyudh 的 llama.cpp fork，并让 Grok bot 通过 SSH 修复了缺失 PCIe atomics 的 bug。

  4. Reddit · r/LocalLLaMA62

    Strata 0.1.45 之前旧版本默认贪心解码，作者实测路由跳过对 4-bit 量化的质量影响

    /u/Distinct-Pie2389 在把 Strata 从 IQ2_XS 迁移到 Unsloth UD-IQ4_XS 时发现，0.1.45 之前的版本在请求未设 temperature 且 run config 无 sampling 块时会贪心解码导致模型循环，0.1.45 起改为使用模型卡默认值（thinking: temp 1.0, top_p 0.95, top_k 20）。

    推荐理由：作者给出自己 A/B 实测的解码速度与 KL 数据，并附上可直接抄进 run config 的采样与路由参数。

  5. Reddit · r/LocalLLaMA63

    4090 单卡加内存到 64GB 后将 Qwen3.8-Flash-Next 从 IQ2_XS 升级到 UD-IQ4_XS

    Reddit 用户 /u/Distinct-Pie2389 把内存从 32GB 升到 64GB DDR5-5800 后，在 RTX 4090 24GB 单卡上用 Strata 0.1.45 将 Qwen3.8-Flash-Next 从 IQ2_XS 换成 UD-IQ4_XS，40GiB 专家权重驻留内存、0 次磁盘读取，262K 原生上下文下解码 87-98 t/s，136K 针测试通过，专家缓存命中率约 91%。对比 IQ2_XS 的 140-160 t/s 牺牲了速度，但按 Strata 量化表 UD-IQ4_XS 与 Q8_0 顶部 token 一致率达 88.9%；作者还发现 STRATA_ROUTE_TAIL_SKIP=7 在内存预算模式下使对 Q8_0 的 KL 翻倍，已设为 0。

    推荐理由：作者给出从 2-bit 升到 4-bit 后的完整量化档位、显存内存分配和实测速度对比，可迁移到自己的本地部署配置。

  6. GitHub · prompt 工程新仓库30

    Base44 vibe coding 实战教程：零基础到上线的完整课程指南

    一个面向零基础用户的 Base44 实战课程仓库上线，通过构建真实应用（如小型服务企业的 lead tracker）教授从零到发布的完整流程，无需代码或数据库经验。课程含 7 节主课与 Developer Path 加餐、20+ 生产级 prompt、3 套完整 starter kit、快速参考表和故障排查指南。据仓库 2026 年 7 月 27 日的计划说明，Free 档支持最多 5 个应用、每月 25 message credits 和 100 integration credits，新私密应用需付费计划。

  7. Reddit · r/SillyTavernAI49

    AllTalk + XTTS 在 RTX 50 系列（Linux）上的修复实测：无需改代码，DeepSpeed 可选

    在 Linux 上，AllTalk 安装器自带的 PyTorch 2.2.1 不支持 RTX 50 系列显卡，作者在 Fedora 44、RTX 5060 Ti 16 GB 环境下验证：在 AllTalk 环境内改装 torch 2.7.1 cu128 即可修复，无需改任何代码。可选安装 DeepSpeed 后，同段文本生成时间从约 10.4 秒降至约 8.5 秒，提速约 18%。文中还提醒不要重跑 atsetup.sh 的 requirements 选项，否则会回退修复。

  8. GitHub · 灵魂体仓库26

    AI-ML-Engineering-Roadmap：开源 AI/ML 工程与研究学习路线图

    GitHub 开源项目 AI-ML-Engineering-Roadmap 提供 AI/ML 工程与科研两条独立学习路线，基于 Astro 构建。两条路线各含 16 个渐进级别、进度追踪、capstone 项目和 100 天加速学习轨道，覆盖 LLM、RAG、智能体、评估、安全与可信 AI 等主题。项目采用 MIT License 开源，静态输出可部署到 Vercel、Netlify、Cloudflare Pages 或 GitHub Pages。

10月17日周六
  1. Reddit · r/LocalLLaMA44

    Reddit 网友实测：Qwen 3.8 Flash 搭配完整 FP8 n-gram 表（PLE）提升生成质量

    Reddit r/LocalLLaMA 用户发现，Qwen 3.8 Flash 常见 GGUF 量化中 PLE（SSD 上的 n-gram 表）被重度量化，影响性能。其用 ple_fp8_pack.py 打包 FP8 PLE（bf16 sidecar 仅 llama.cpp 支持，Strata 需 FP8），在 iq3_s 量化下明显减少低级错误且不损失速度，仅需约 47GB 额外磁盘空间。

  2. GitHub · 灵魂体仓库58

    ultimate-prompt-engineering-playbook 收录 114 个交互式提示词工程笔记本

    作者在 GitHub 发布 ultimate-prompt-engineering-playbook，收录 114 个交互式 Jupyter 笔记本，每个对应一种提示词工程技术，覆盖 CoT、Few-Shot、RAG、输出控制、安全攻防、多模态等 13 大类，支持 ChatGPT、Claude、Gemini 等模型。每个笔记本可直接在 Google Colab 运行，附真实案例、失败案例分析和部分基准数据，项目采用 MIT 许可证。

    推荐理由：114 个可在 Colab 直接运行的提示词技术笔记本，按技术逐个覆盖并附失败案例和多模型对比，适合系统学习。

  5. Reddit · r/LocalLLaMA42

    Qwen3 14B 评测模型不比 8B 强：一处提示词修改让正确评分从 3/14 升到 10/14

    一位 LocalLLaMA 用户在 Ollama 本地 agent 环境中测试发现，Qwen3 14B 作为 judge 模型并不比 qwen3:8b 更准，还因超出 3060 VRAM 慢约 3 倍。失败主因是 judge 把 coder 仅提出而未执行的命令也扣分；在提示词中说明这一区别后，正确评分从 3/14 提升到 10/14。作者认为结构比模型规模更重要，但样本较小。

  8. Reddit · r/LocalLLaMA56

    Qwen 3.6 27B 本地十条实用玩法分享：从自建应用到给 Agent 加记忆

    Reddit 用户 GrungeWerX 在 r/LocalLLaMA 分享 Qwen 3.6 27B 的十条本地实用玩法，称基于四个多月使用经验整理，并推荐搭配 llama.cpp。做法包括让模型自建应用和聊天前端、创建 ReAct 循环与 MCP 工具、用子智能体扩展上下文、注入元数据实现时间感知和上下文超限时自动换备份模型，以及启动时加载历史会话摘要作为记忆。

  9. GitHub · 灵魂体仓库23

    ArdaS2012/llm-training-exercises：基于 marimo 的 LLM 课程配套练习仓库

    GitHub 上的 llm-training-exercises 仓库为 LLM 课程提供基于 marimo 的配套练习，覆盖分词、注意力头、因果掩码与采样、next-token loss，以及 Day 2 的提示词工程、Mini-RAG 和评估模块。每个练习块设计为 15 分钟结对任务，仅需浏览器和 uv 即可本地运行，无需 API key、GPU 或 Docker，Day 2 提示词练习会从 Hugging Face 下载小型本地模型且提示词不发送给模型提供商。

  10. Reddit · r/LocalLLaMA30

    Qwen 27B 实测：牺牲上下文长度换取更高量化精度，利弊分析

    一位 LocalLLaMA 用户实测 Qwen 27B 模型，将 Unsloth IQ4_XS（96K 上下文、KV-F16）换成 UDQ4KS（75K 上下文、KV-Q8）后，模型质量提升使草稿错误减少，同一 Pac-Man HTML 游戏生成测试从 8 小时缩短到 6 小时以内。结论是 GPU 显存不足时，牺牲上下文换取更高量化精度反而更省时间。

  12. Reddit · r/CharacterAI22

    Character.AI Lorebook 导出教程：不确定时期的数据备份方案

    一位用户分享导出 Character.AI Lorebook 的方法：展开所有条目后在 Windows 用 Ctrl+S、Android 用三点菜单下载保存为单页 MHT 文件，并提醒注意检查是否有条目漏展开。作者还自制工具将 MHT 转成含条目名和内容的 CSV，方便日后在新站点重建，需要的用户可私信索取。

10月16日周五
  3. GitHub · 去对齐工具与仓库42

    mo-ri-ch 开源 build-an-llm-from-scratch：从零构建小型 LLM 的交互式课程

    GitHub 上的 build-an-llm-from-scratch 项目提供交互式课程，从一列数字开始逐步构建一个小型语言模型，每课以模型答不上的问题收尾、下一课解答。课程面向零 AI 基础的初学者，只需基础 Python 和 PyTorch，无需 GPU 或微积分；前 4 课（Tensors、文本转数字、预测下一个词、模型学习）已上线，共规划 10 课，涵盖 Embeddings、Attention 和 Transformer block。代码可在 Google Colab 或本地运行，最终模型是在 Grimm's Fairy Tales 上训练的小型 transformer，可在浏览器中运行。

  4. GitHub · 灵魂体仓库26

    LiHao-MS 的 llm-book：一份大语言模型中文开源书籍仓库

    LiHao-MS 在 GitHub 上维护的 llm-book 仓库，是一份用 Quarto 编写的大语言模型中文书籍项目。内容涵盖 Transformer 架构、注意力机制、预训练与 Scaling、RLHF 与对齐、强化学习基础、RAG、多模态模型、推理系统和分布式训练等章节，并包含示例、测试与自动化工作流。 against幻觉自查：章节名均来自文件列表；未添加额外数字或版本。

  5. GitHub · 去对齐工具与仓库58

    tmp_llm_dit 仓库用原生 PyTorch 缩小复现最新 LLM 与 DiT 核心块

    GitHub 用户 HisameOgasahara 开源 tmp_llm_dit 仓库，将 DeepSeek-V4、Kimi-K3、Qwen3.6/3.8、GLM-5.3、MiniMax、Qwen-Image-2.1、Cosmos3 等最新开放权重模型的核心块用原生 PyTorch 缩小实现，在小任务上训练后对比 attention map、表征与 ablation。所有块先通过与原版代码和输出等价的验证再用于实验，提供 Colab 笔记本、模型级前向与训练行为验证（梯度、学习轨迹、float64 数值微分、路由器 bias 更新）以及 00_run_all 一键批量运行并导出结果 zip。

    推荐理由：仓库把 DeepSeek-V4、Qwen3.8 等最新模型的核心块用原生 PyTorch 缩小复现，且每个实现都通过与原版输出等价验证后才用于实验。

  6. GitHub · 灵魂体仓库24

    zeroaihub/Java-Agent-Study：Java 开发者 30 天转型 AI Agent 工程师实战项目

    zeroaihub 在 GitHub 开源 Java-Agent-Study 项目，为 Java 开发者提供 30 天 AI Agent 工程师转型路线，基于 Java 21、Spring Boot 4.1.0 与 Spring AI 2.0.0。前 10 天模块已完成，涵盖 LLM API、Function Calling、Memory、RAG、Workflow、MCP、Multi-Agent、Browser Agent 与 Planning Agent，最终目标是构建可商业化的 ZeroHub AI Agent Platform。项目采用 MIT License，各 Day 模块可独立编译运行并附完整学习文档。