跳到正文
  1. GitHub · prompt 工程新仓库58

    ai-coding-playbook 仓库发布 AI 编码方法论教程,含 14 个可装进 Claude Code 的 skill

    作者 DJtx001 发布 ai-coding-playbook 仓库,主打让 AI 编码产出可以被验证的完整方法论,不绑定模型或编辑器。内容包括 6 章 HTML 主教程、一页纸速查手册,以及来自 obra/superpowers 的 14 个 skill 完整副本和离线安装脚本,可复制到 ~/.claude/skills/ 使用。核心主张包括 TDD 闸门、要求出示命令加输出加退出码的验收方式、按爆炸半径路由任务复杂度、会话卫生和用子代理独立核对 SPEC。

    推荐理由:给出完整的可验证工作流方法论,含两道验收闸门和 14 个 skill 的安装与出处,任何模型和编辑器可直接套用。

  1. GitHub · 去对齐工具与仓库57

    LLM-Infrastructure 开源:用动画讲解 AI 回答生成的四课交互教程

    GitHub 用户 abidaziz1 开源了 LLM Infrastructure, Animated,一个包含四个动画课程的交互式网页项目,共 81 个场景,展示一次 AI 回答如何生成。课程覆盖从键盘到 GPU 的完整链路、Claude Code 背后的 Agent while 循环、Prompt Caching 的 KV cache 与缓存分层原理,以及 token 为何耗时 30 ms 的 prefill 与 decode 差异。项目用纯 HTML、CSS、JavaScript 和 SVG 构建,无框架无构建步骤,打开 index.html 即可运行,支持滑块交互、测验、深浅色主题、reduced-motion,并附带基于 Playwright 的 headless Chromium 场景测试。

    推荐理由:用纯 HTML/CSS/JS 做的四个动画课程,把一次 AI 请求从按键到 GPU 的完整链路拆成 81 个可交互场景,无需安装即可在浏览器打开。

  1. GitHub · 灵魂体仓库58

    ultimate-prompt-engineering-playbook 收录 114 个交互式提示词工程笔记本

    作者在 GitHub 发布 ultimate-prompt-engineering-playbook,收录 114 个交互式 Jupyter 笔记本,每个对应一种提示词工程技术,覆盖 CoT、Few-Shot、RAG、输出控制、安全攻防、多模态等 13 大类,支持 ChatGPT、Claude、Gemini 等模型。每个笔记本可直接在 Google Colab 运行,附真实案例、失败案例分析和部分基准数据,项目采用 MIT 许可证。

    推荐理由:114 个可在 Colab 直接运行的提示词技术笔记本,按技术逐个覆盖并附失败案例和多模型对比,适合系统学习。

  1. GitHub · 去对齐工具与仓库58

    tmp_llm_dit 仓库用原生 PyTorch 缩小复现最新 LLM 与 DiT 核心块

    GitHub 用户 HisameOgasahara 开源 tmp_llm_dit 仓库,将 DeepSeek-V4、Kimi-K3、Qwen3.6/3.8、GLM-5.3、MiniMax、Qwen-Image-2.1、Cosmos3 等最新开放权重模型的核心块用原生 PyTorch 缩小实现,在小任务上训练后对比 attention map、表征与 ablation。所有块先通过与原版代码和输出等价的验证再用于实验,提供 Colab 笔记本、模型级前向与训练行为验证(梯度、学习轨迹、float64 数值微分、路由器 bias 更新)以及 00_run_all 一键批量运行并导出结果 zip。

    推荐理由:仓库把 DeepSeek-V4、Qwen3.8 等最新模型的核心块用原生 PyTorch 缩小复现,且每个实现都通过与原版输出等价验证后才用于实验。

  1. GitHub · 灵魂体仓库59

    Datawhale 发布 diy-llm 中文版 CS336 课程,16 章配 6 个动手作业

    Datawhale 团队基于 Stanford CS336 (Spring 2026) 推出中文本土化课程 diy-llm,在线阅读地址为 https://datawhalechina.github.io/diy-llm/。课程共 16 章,覆盖分词器、MoE、GPU 高性能编程、分布式训练、Scaling Laws、数据工程、RLVR、多模态等内容,配套 6 个作业(手搓大模型、Triton 实现 FlashAttention-2、数据处理、GRPO 对齐、模型评估等),并加入 Qwen、DeepSeek 等国产模型案例。文档提供中英双语与 PDF 下载,采用 CC BY-NC-SA 4.0 许可。

    推荐理由:斯坦福 CS336 的中文本土化课程,16 章配 6 个作业,覆盖从 tokenizer 到 RLVR 的完整 LLM 构建链条,适合想系统上手的学习者。

  1. Reddit · r/LocalLLaMA67

    双 CMP 170HX 64GB 本地跑 GLM-5.3-Flash 384K 上下文约 90 tok/s,并对比 Qwen3.8

    /u/Prudent_Appearance71 在 2 张 64GB CMP 170HX 上用 EXL3 3.05bpw 让 GLM-5.3-Flash 目标权重完全驻留 HBM,配合 6bpw DFlash2 草稿模型和环形缓存跑通 384K 上下文,解码约 90 tok/s,配置和脚本已开源在 https://github.com/Flun/glm53-flash-cmp170hx-exl3。

    推荐理由:作者在同一台机器上实测两套本地部署方案,把原始推理速度和真实智能体任务完成时间分开对比,思路对搭建类似配置有参考。

  1. GitHub · 去对齐工具与仓库57

    tmall-genie-llm 开源:把天猫精灵语音问答代理到 OpenAI 兼容大模型 API

    believening 开源 tmall-genie-llm 项目,将天猫精灵的语音问答代理到 OpenAI 兼容的大模型 API,默认使用 OpenCode Zen 免费模型(如 deepseek-v4-flash-free)。部署在 Claw Cloud Run 日本区节点,同时解决 Zen 免费模型不对大陆 IP 开放和阿里技能云需公网 HTTPS 回调两个问题;联网搜索采用三段式设计,搜过的问题总延迟约 3-6 秒,月成本约 $2-3 在免费额度内。

    推荐理由:原文给出了从镜像构建到天猫精灵技能配置的完整部署步骤和免费额度成本,方法可直接照做复现。

  2. GitHub · 灵魂体仓库65

    alicexl/mini-agent:用 6 个 demo 拆解 Agent 工程底层机制

    alicexl 在 GitHub 开源 mini-agent 项目,用 6 个递进的最简 demo 拆解 Claude Code、Cursor、Devin 这类自动干活工具的底层机制,核心公式为 Agent 效果 = LLM 能力 × Agent 工程。demo1 为 ReAct 循环 base,demo2-6 分别正交叠加记忆、工具扩展、规划、多 Agent 与约束五条轴;每个 demo 附讲稿、约 400-720 行可直接运行的 agent.py 和 README,默认通过智谱 BigModel 的 Anthropic 兼容网关调用 glm-5.2 模型,换官方 API 只需改 BASE_URL 和 MODEL。

    推荐理由:用 6 个递进可运行的 demo 拆解 ReAct、记忆、工具、规划、多 Agent 与约束各轴,适合想从零看懂 Agent 工程底层机制的读者。

  3. GitHub · 去对齐工具与仓库58

    LLM_Hub_Linear_Algebra:面向 AI 工程师的 12 套线性代数交互讲义上线

    BrendanJamesLynskey 在 GitHub 发布十二套线性代数演示讲义,覆盖向量、矩阵、SVD 到张量代数,并将每个概念落到 Transformer 具体组件,包括 MLP 上下投影、注意力作为随机矩阵乘、LoRA/MLA 低秩技巧、RoPE 的 2D 旋转、FlashAttention 的分块 GEMM 以及 einsum 与大模型并行。

    推荐理由:十二套交互式讲义把线性代数逐条落到 Transformer 具体组件上,从 LoRA 到 FlashAttention 都有对应可视化,可按需单章查阅。

  1. GitHub · 去对齐工具与仓库57

    jev-cookbook:把 Jev 判定器接入 AI 助手的实战手册

    作者把小型判定器 Jev 接入自己的 AI 助手并使用一个多月,开源了含接入指南、判定点清单、影子期评测方法与踩坑集的实战手册(https://github.com/zhaoyanan-pixe/jev-cookbook)。手册总结 6 条原则,如失败必须 fail-open、先影子后放权、硬红线不进判定流程,并给出各任务族可靠度从 90%+ 到 15% 不等的实测观察,强调效果依场景而定。

    推荐理由:作者用一个月实战总结出先影子后放权的接入方法,并给出不同任务族可靠度差异的实测数据,方法可迁移到自己的 AI 助手。

  2. Reddit · r/LocalLLaMA68

    RX 580 8GB 上通过 Vulkan 跑 6 个 LLM 加 SD 3.5 和 Whisper 并附实测基准

    /u/Heavy-Level-5215 在被 ROCm 放弃的 RX 580 8GB 上改用 Mesa RADV 的 Vulkan 路线,通过 OpenAI 兼容路由在单卡上运行 qwen2.5-coder 1.5B/7B。

    推荐理由:作者用 Mesa RADV 走 Vulkan 路线让被 ROCm 放弃的 RX 580 跑起多模型栈,并给出各模型实测吞吐与换模型耗时数据。

  3. GitHub · 灵魂体仓库62

    observability-deep-dive 仓库发布:离线实战搭建 LLM 应用长期可观测性

    alexvervloet 发布 observability-deep-dive 仓库,一个离线可运行的 LLM 应用可观测性实战教程,默认无需 API key。

    推荐理由:用确定性流量模拟器生成六周含真实事故的日志,读者可离线亲手搭出漂移检测、采样评审和告警调参的完整监控栈。

已经到底了