新闻、仓库与研究，按时间排列。
GitHub 开源项目 markitdown-pdf-ocr-pipeline 是面向图片密集型大学课件和技术 PDF 的文档提取工具，结合 pdfminer.six 的稀疏文本页面检测、Microsoft MarkItDown 与视觉 LLM（Gemini / OpenAI / 本地 LM Studio）。管线分两步：先用 check_pages.py 通过 pdfminer.six 遍历每页 LTTextContainer 排版元素并标记文本稀疏的页面，再对标准文本提取器返回空结果的整页图表、扫描图进行视觉模型转换，输出 Markdown。
GitHub 开源项目 animae-search 打造了 Anime Index，一个面向生产环境的动漫发现平台，采用 Next.js 前端加 Django API 与 PostgreSQL（pgvector）、Redis、可选 Kafka 的容器化架构。平台支持趋势/本季/高分榜单、可分享搜索 URL、角色页面、区域观看可用性、个人片库与社区评分，目录数据来自 CC0 Wikidata 的 Wikimedia 适配器。目前 MVP 部署在 ap-south-1 的单台 EC2 上并由 Caddy 提供 HTTPS，标题对话助手默认使用免费额度的 gemini-3.5-flash-lite，可配置 OPENAI_API_KEY 作为备用。
GitHub 项目 phase 发布，可在本机直接测量本地 LLM 推理的每 token 能耗，分别报告 SoC 芯片功耗与 sys 整板 DC 输入，并扣除空闲基线，三平台后端均无需 sudo。首组数据在 Apple M5 Pro 24 GB 上测得：decode 每 token 能耗是 prefill 的 20 到 35 倍，仅计芯片封装会低估真实成本 2 倍以上。项目附 18 篇研究笔记，涵盖量化格式能耗、投机解码、批处理与长上下文等发现，Apache-2.0 许可，原始 JSON 在 results/ 目录。
推荐理由：工具把 prefill 与 decode 能耗分开实测，并给出芯片级与整板级两组数据，解释了为什么各家边缘模型能耗数字对不上。
RagLeap 开源了其自托管引擎 ragleap-core，以 46 个角色化 AI Employee 在 WhatsApp、Telegram、Discord 和语音电话上基于自有文档运行业务，MIT 协议、自带 API key、无厂商锁定。支持 off/semi/full 三档审批门控自主模式、无网络沙箱工具、Neo4j 知识图谱、混合检索、19 家 LLM 提供商或本地 Ollama，一条命令安装。作者同时明确列出未实测部分，如 Windows 安装器仅在一台机器上运行过、语音 Whisper/TTS 全链路尚未端到端实测。
推荐理由：原文逐项标注了已验证与未实测的功能边界，还给出审批门控和沙箱设计，适合想自托管业务 Agent 的人参考取舍。
Reddit r/LocalLLaMA 用户分享在 2 x CMP 170HX 上运行 Qwen 3.8 Flash Next 的配置方案，称兼顾质量与性能，并致谢社区支持。作者未在帖中给出具体 benchmark 数据，配置细节需查看原帖。
Reddit r/LocalLLaMA 用户询问兼顾速度与体积、适合手机（SD 8g3）等边缘设备的最佳通用非编码本地模型，要求 4GB 以内。其测试了 Gemma 4 e2b、e4b、qat、q4、Qwen 3.5 4B、Bonsai 8B A1B 等，发现均无法准确回答去年走红的 Spaghetti all'assassina 菜谱，默认输出标准 Bolognese 并缺少焦化步骤。
一位用户在 r/LocalLLaMA 求助如何在 M4 Pro 48GB Mac 上以最佳方式本地运行 Qwen3.8 27B，希望在 tokens/s、首 token 延迟、上下文长度与留出其他任务资源之间取得平衡，并要求速度不低于 10 tps。帖子提到社区对 MTP、MLX 和量化方案看法不一。
/u/MaxDev0 将 sybil-solutions 的 GLM-5.3 低内存卸载方案移植到更轻量的 Qwen3.8-Flash-Next（125B），通过 NVMe SSD 直接卸载，在 16GB 显存加 8GB 系统内存的 RTX 4090 上实现约 20 tok/s 解码。8k 短上下文为 28–33 tok/s（散文）、19–22 tok/s（代码），prefill 约 1,080 tok/s；262k 满窗口下 20.0 tok/s 解码、约 1,627 tok/s prefill；RTX 3080 Laptop（16GB 显存、32GB 内存）100k 上下文约 18–21 tok/s，峰值显存 15.5GB。现有方案（如 Strata）需把 24k 专家全部驻留约 48–64GB 内存。
推荐理由：作者把 GLM 的高效 NVMe 卸载方案移植到 Qwen3.8-Flash-Next，给出多档显存和上下文下的实测速度数据，可复现。
GitHub 开源项目 emoji-studio 探索用后训练生成新 emoji 概念，已完成 SDXL LoRA 试点训练和 72 组盲评，确定选用 step 25 checkpoint。单张 40 GB A100 负载测试中 18 个生成任务全部成功，吞吐 6.73 images/minute，p95 延迟 35.93 秒，总支出约 $1.49。两个模型都能渲染连贯物体但难以生成双手交互，机械物体如自行车仍是已知弱点，项目尚未训练交互 adapter。
GitHub 新仓库 incubrix-growth-engine 是一个面向播客、YouTube 创作者的多渠道获客工具，自动完成线索发现、验证、评分和个性化外联草稿生成，覆盖 7 个英语市场，每周重跑且 0% 重复。它调用 YouTube Data API v3 与 Groq 上的 Llama-3 生成个性化内容，6000 条线索全程约 2-3 小时，生产成本约 $2.00，并支持 API key 轮换容错、SQLite 去重续跑和 Streamlit UI。LinkedIn 和 Instagram 消息仅排队供人工发送，符合 DPDP、GDPR 等合规要求。
DEVDOC 是一个 AI 驱动的 DevOps/SRE 事故调查与修复平台，提供自动化的证据驱动流水线：检测、调查、根因分析、生成修复建议、沙箱验证到人工审批。目前已实现 Phase 1–16.1，含可选的 Phase 17 沙箱验证（Docker 隔离网络与资源）与 Phase 18 仅限人工的审批和 append-only 审计；生产环境修复尚未实现。技术栈为 Python 3.13+、FastAPI、PostgreSQL 16 / Supabase（RLS），LLM 采用 NVIDIA Nemotron via Nebius，检索用 Tavily。
GitHub 新仓库 mmximxim/modelscope-studio 是一个手机端优先的 AI 生图应用，基于 Vue 3 PWA 前端加本地 Node 服务端，调用魔搭 API-Inference 实现文生图、图生图与对话模型。应用内置 12 个精选模型（2026-10 验证可用），支持 1:1 至 16:9 画幅、标准 1K / 高清 1.5K 清晰度，提示词助手基于 DeepSeek-V4.1-Flash 优化提示词。同一前端可作 PWA 使用或打包成 Android APK（minSdk 26，targetSdk 35）离线壳，令牌只存本机服务端，生成图片仅落盘本机不上传第三方。
GitHub 上线开源项目 happica，一个基于 Apple Silicon 的本地 AI 媒体工作室，用 ComfyUI 负责生成、FastAPI 运行流水线和任务队列、React Web UI 运行在 localhost:5173。支持图片、故事视频、带歌词的歌曲、MV、音效、配音，以及通过 PhotoMaker 复用角色面孔。
GitHub 仓库 xubin04/efficient-ai-arxiv-daily 自动追踪 LLM 与图像/视频生成领域的加速、压缩和高效训练论文。最近一次扫描时间为 2026-10-25 14:11 CST，已收录 1240 篇独立论文，涵盖量化、剪枝、知识蒸馏、高效训练、KV Cache、推测解码、LLM Serving 及扩散模型加速等 9 个主题，最大主题为蒸馏与少步生成（415 篇）。论文元数据可在线浏览搜索，并提供 Atom feed 订阅。
新开源项目 WaveCraft 发布，定位一站式空间玻璃质感音乐流媒体平台与发烧友工作站，支持 Web（PWA）、Android 和 Windows 跨平台。其功能包括 10 段样条均衡器与 12AX7 电子管可视化、音节级卡拉OK歌词及转写、一键离线歌单下载、AI 自然语言 vibe 歌单生成、Spotify/Apple Music/YouTube 歌单导入实时同步，以及 6 位房间码的实时听歌房。
Ollama 0.40.11 起支持文本转语音，首个语音模型是 Gradium 的 Phonon 系列，目前可用 macOS，Windows 和 Linux 支持即将推出。在 M5 Max MacBook Pro 上，Ollama 借助 MLX 加速，吞吐比次快的 Gradium ptts 运行时快 35%，词错率与 Hugging Face Transformers 参考实现持平；Phonon 采用 Apache 2.0 许可，40M 版本为 CC BY-NC 4.0 限非商用，支持英语、法语、德语、西班牙语、葡萄牙语，并提供 OpenAI 兼容的 /v1/audio/speech 接口和流式播放。
推荐理由：官方给出了与 Gradium 自家运行时的吞吐对比和词错率对照数据，读者可以据此判断在 Apple Silicon 上本地跑语音模型的真实表现。
一位 SillyTavern 用户询问如何接入 Nano GPT API，因其当前付费服务商经常宕机无法访问模型。帖主还询问 Nano GPT 上的 GLM 是否无审查、是否容易触发拒答，以及其自用的 Realistic Frankenstein JB 预设是否兼容，并求推荐合适的无审查模型。
SurvivorNo1 在 GitHub 发布 readvideo，一个纯前端工具，粘贴 YouTube 或 Bilibili 链接后优先读取字幕，无字幕时经用户授权标签页音频，由浏览器内 Whisper 转写，再用 DeepSeek、Gemini 等自有 API 整理成短篇到详细四种篇幅的文章。无需 Python、yt-dlp、扩展或本地模型服务，音频不上传 ASR 服务，Transformers.js 3.8.1 与 Whisper tiny 量化模型在 Worker 内运行并优先尝试 WebGPU、失败回退 CPU；B站原页取音轨需手动运行脚本，实测 996,214 字节 M4A 在 CPU 上约 31.8 秒转写出 25 条字幕。
推荐理由：纯前端把视频转成文章的开源工具，README 明确标注了已验证与未验证的路径，读者可据此评估适用范围。
Tanya-Kampus 是基于 RAG + LLM 的 Telegram 问答机器人，面向 Telkom University Jakarta 信息技术本科学生，解答实习、MBKM、TAK 转换、文档模板和毕业设计等问题。系统检索官方文档相关片段后由 LLM（Groq 或 Gemini）生成答案并附来源，管理员可通过 web 面板上传 PDF、DOCX 等多格式文件并管理知识库。项目采用单文件 SQLite 与 multilingual-e5-small 本地嵌入、混合检索，除 LLM 调用外免费且开源。
Chopinfer 是一个提供 OpenAI 兼容 HTTP API 的 Rust LLM 服务器，面向 Linux x86_64 与 NVIDIA RTX PRO 6000 Blackwell 96 GB GPU（SM120）。已验证 MiMo V2.6 Flash、Qwen3.8 Flash 和 GLM 5.3 Flash 的多卡配置，其中 MiMo 与 Qwen 支持 2 或 4 卡，GLM 需 4 卡，并支持 AR、MTP、DFlash 等解码方式。
wehnsdaefflae 发布 routine-scheduler，一个自托管的定时 LLM Agent 任务控制台，提供 Web UI 实时查看对话并可在运行中干预。每个 routine 由指令、工作流和排期组成，独立存于 git 仓库，运行在 provider 无关引擎上，util 子进程受 Landlock 沙箱限制；系统通过 routine-improver、self-audit 等 meta routine 基于 outcome 数据自我改进，支持 OpenAI 兼容 API 与 Anthropic Messages API，Web UI 位于 http://127.0.0.1:8321。
推荐理由：原文详细说明了沙箱隔离、outcome 门控的配方回滚和 Landlock 机制，读者可以据此评估这套自托管 Agent 调度器的安全与自改进设计。
一个自动追踪 OpenAI、Anthropic、Google DeepMind、Meta、DeepSeek、Qwen 等主要 AI 公司新模型发布的 Telegram 机器人与 Streamlit Web 仪表板。它通过 RSS 博客、GitHub Release 和 Hugging Face Hub API 多源监控，将更新发布到 Telegram 频道 @modeltracker，默认每 300 秒（CHECK_INTERVAL_SECONDS）检查一次。项目针对 Streamlit Community Cloud 免费托管优化，内置 SQLite 去重，支持 st.secrets 与 .env 管理 token，并可用 UptimeRobot 每 10-15 分钟 ping 保持 24/7 在线。
GitHub 仓库 AgilePemdigi-2026/atlas 提供 LLM 辅助的 Selenium 脚本生成，口号为“Write the story. Get the test.”。仓库包含 generator-service 与 web 等目录，目前 0 stars、0 forks，尚无发布版本。
Starlit Sky 发布 DSH 独立插件 Starlight（dsh-prompt-starlight），在 DSH composer 左侧加入星形按钮，一键把草稿改写成更清晰、更完整、更可执行的提示词。插件提供 11 条内置规则（可单独开关）、自定义规则、强度 5 档与细节 3 档滑杆、模型切换及 Settings → Starlight 设置页，支持 Ctrl/⌘+Shift+O 快捷键与撤销 toast，不改动 DSH 源码。安装支持 jsDelivr 插件市场索引、固定 commit、GitHub Release 的 tgz 及本地 link 四种方式。
ziuus 在 GitHub 发布 GoRoute，一个用 Go 核心 + Rust SIMD 编写的 LLM 网关与多供应商路由器，支持 338+ 供应商预设和 35 个编码 Agent 的一键配置。官方基准显示在 500 并发流式请求下空闲内存 4.7MB、路由开销 0.86ms、冷启动 11ms，并支持 0.5 秒内从 OmniRoute 加密库同步账号、凭证与 failover 组合。
推荐理由：README 附带与 OmniRoute、LiteLLM 的同条件基准数据，空闲内存、路由延迟和冷启动差距都有具体数字可查。
一个基于 Astro 的中文博客仓库，托管系列连载《从对话到协作》——AI 大模型三年演进全记录（2022.11—2026.01），共 14 章、约 1.8 万字，另有单篇《工程师 Agentic Coding 的一天》。站点由 GitHub Actions 自动构建并部署到 GitHub Pages，图片压缩为 WebP（21MB 降至约 1.4MB），内容采用 CC BY-NC-SA 4.0 授权。
GitHub 仓库 zazuss/jetson-orin-tuning 公布了在 Jetson Orin（Nano 8GB、Super、NX、AGX）上做 LLM 推理的实测调优结论，所有数字来自 7.3 GiB Orin Nano 的真实测量。
推荐理由：全部数据来自作者在 7.3 GiB Orin Nano 上的实测，给出了瓶颈诊断表和量化格式、词表、KV 缓存的具体调优结论。
TQSY114514 在 GitHub 发布 Aether 2.0，一个用 Electron、React/TypeScript 和 SQLite 构建的本地优先桌面 AI 开发工作台。核心能力包括 Arena 2.0 多模型盲测评测与胜出补丁一键落盘、AutoMemory 长期记忆（<2ms 零往返预取、FTS5 与知识图谱）、六轴权限门与 explore/workspace/auto_review/unrestricted 四种运行模式、5 级自适应思考预算（1k 至 32k token）、Hashline 哈希锚定编辑、SKILL.md 技能与 MCP 扩展，支持 OpenAI/Anthropic/Gemini 线格式及 DeepSeek、OpenRouter、Ollama 等提供商。
开源项目 Polish 是一款 Chrome 扩展（含配套桌面应用），可在 Gmail、Slack、Teams 等任意网页文本框中选中文字后就地改写，无需复制到 AI 聊天窗口。默认通过托管 Groq（Llama 3.1）端点运行，用户也可在设置中添加 Claude、OpenAI 或 Gemini 的 API key。架构为 Manifest V3 扩展加 Python 后端（AWS Lambda、DynamoDB），桌面应用为 Electron，提供改写字数等用量面板。
AquaWatch 是为 VIT AI Innovate-A-Thon 开发的无头自主后端，实时监测印度 Vellore 6 个模拟水站的饮用水质量并做污染分诊。系统以 LLM（Anthropic Claude 3.5/3.7 Sonnet）作为主诊断分析器，外层套用 BIS IS 10500:2012 确定性阈值护栏，LLM 最多只能上调一级严重度、不能降级。平台提供 FastAPI REST 接口、WebSocket 实时流、CSV/PDF 报告，模型离线时 6 秒超时自动回退。
askFinz 是一个基于自有网页索引的一体化 AI 平台，一次登录即可使用 380+ AI 模型（含 Claude、GPT、Gemini、Llama）和 29 个覆盖研究、搜索、代码、金融等场景的工作区，每个回答都附引用来源。扩展与桌面浏览器订阅每月 $8.19 起，另有免费 Explorer 到 Pro、Business 及企业版方案，并通过 MCP、A2A 等开放协议协调智能体协作。
Husk 项目发布 husk-0.2.0.mcpb 公共预览，为 Claude Desktop 等 AI 聊天提供带终端、文件和浏览器的命名本地工作区，结果可保存并在下次会话复用。工具含 8 个工作区工具加 26 个计算机工具，浏览器以 accessibility ref 驱动真实 Chromium，支持 docker、podman、ssh、fly、local 五种隔离提供者并明确说明各档隔离强度；还支持把 Claude Code、ChatGPT、Cursor 等会话记录经 distill 转成可运行的 YAML Agent 规格，不请求 API 密钥、无遥测，Apache-2.0 协议。
推荐理由：README 详细写明了隔离提供者分级、安全模型边界和已知限制，读者可据此判断这条 Agent 计算机工具链的实际可用性。
GeulPU 是一个在本地 GPU 上运行 GGUF 模型的推理引擎，通过书面精度契约保证同一请求在任意批量、slot、prompt 缓存和投机解码下输出逐位一致，exact 模式下 NVIDIA 与 AMD GPU 结果也一致。它自带调试器，可录制 agent 会话、逐位重放、从任意 token 分支并按请求对比不同量化版本；默认设置下速度多数场景快于 llama.cpp，投机解码在代码编辑任务上快 3.5-4 倍且输出逐位相同。引擎以韩语关键字编程语言 글(geul) 编写，下载约 1.5 MB，仅依赖显卡驱动，支持 Qwen3.6-35B-A3B、Qwen3.5、Qwen2.5、DeepSeek-R1-Distill、Llama 3 和 Mistral，提供 OpenAI 兼容 API，MIT 许可开源。
推荐理由：同一个请求在批量、缓存、投机解码甚至不同 GPU 上都得到逐位相同的结果，这个确定性契约让本地模型可以像程序一样调试和对比。
Rovinos AI Harness 是一个开源（Apache-2.0）、TypeScript、容器原生的 agent harness，现处于 pre-release 阶段，目标 v0.1.0。它将 LLM agent 以可恢复的状态机形式运行在 append-only 事件日志上，工具调用由代码评估的策略与人工审批决定，而非模型自身；敏感值在每个信任边界做 token 化，遥测仅携带元数据。基于 MCP 2026-07-28 与 TypeScript SDK v2 构建，目前尚未发布到 npm，API 在 v0.1.0 前可能变动。
开源项目 GitStarts 从 GitHub 热门仓库聚合站演进为开源方案匹配与对比平台：用户用自然语言描述需求，经需求结构化、硬过滤、Qdrant 向量召回与 LLM 重排，输出 3-10 个带契合度分解的候选项目，并可对 2-4 个候选做 8 维逐格证据深读对比。项目已开放部署，普通用户每天 30 次对话加 3 次深度对比，对比结果缓存 7 天；默认模型为 DeepSeek V4 Flash，embedding 用 fastembed 1024 维多语言模型。
TokenBatch-Lab 推出 Stochastic-Gittins-Barrier-v239.2 GPU 调度策略，在 200 条生产级负载 trace 上实现 40.5% SLA Goodput，高于 EDF 的 38.0% 和 vLLM FCFS 的 33.5%，相对 FCFS 提升约 20.9% GPU 服务容量，P99 尾延迟为 2048.5 ms。该策略以近似 Stochastic Gittins Index、Sigmoid 松弛时间函数和凸二次 KV-Cache 压力屏障为核心，可嵌入 vLLM、TGI 调度循环。在 8x H100 集群上可释放约 $34,480 的等值算力，商业许可包经 Polar.sh 下载。
Relayna 发布 Gateway v1.0.0，这是一个用 Rust 编写的 AI 流量代理与控制平面，可对调用方进行认证、应用策略，并将请求路由到 LiteLLM、直连提供商或注册服务，提供 OpenAI 和 Anthropic 端点、HTTP/SSE 流式传输及可选 WebSocket 传输。该版本扩展了操作员控制台，支持全项目 Usage、协议感知 Traffic 和实时网关容量监控，并保持与 v0.1.49 的代理与计费契约兼容。部署需要 PostgreSQL 14+、Redis 6+，新版本须通过原生 body-admission benchmark 验证。
Codebud 是一个本地运行的编码智能体，用 Ollama + Qwen2.5-Coder 把自然语言请求转成可执行计划，数据不离开本机，推荐模型为 qwen2.5-coder:3b-instruct-q4_K_M。项目提供 GNU 标准 Makefile 构建、`codebud doctor` 环境检查、Texinfo 手册及可注册的 OpenClaw skill（支持浏览器 UI）。代码以 GPL-3.0-or-later 许可开源。
开发者 /u/Jingoo00 发布开源自托管 Web 应用 Angmoo，为 AI 角色搭建社交网络，采用 GPL-3.0-only 协议。角色可导入 SillyTavern PNG/JSON 角色卡，开启自主活动后在设定时段自动发帖互动；支持聊天、记忆检索、角色关系追踪和图片识别生成。提供 Windows x64 安装包和 amd64/ARM64 Docker 镜像，ARM64 Android 经 Termux 支持（实验性）；文本生成目前仅支持 Gemini 3.1 Flash-Lite 和 Gemini 3.5 Flash-Lite，需自备 API key，本地模型暂不支持。
推荐理由：作者本人详述了自托管角色社交网络的部署方式与记忆、自主活动机制，并坦承当前局限，适合想自建角色生态的读者参考。
一位 r/SillyTavernAI 用户反映 SillyTavern 的向量存储把旧聊天的记忆带入新聊天，尝试 "Purge Vectors"、直接删除文件和编辑 .json 文件均无效，旧记忆仍会恢复。用户附上了扩展列表求助，并补充该问题仅在开启 "Enable for files" 选项时出现。