新闻、仓库与研究，按时间排列。
GitHub 仓库 user01000000000010/CUDA 提供一套面向 LLM 和 Transformer 架构的生产级 CUDA 加速内核库，基于 Tile IR、TMA 异步流水线和寄存器内数值稳定化实现。核心功能包括 Hopper sm_90 架构的 FlashAttention-3 生产者-消费者内核、FlashAttention-2 前向/反向实现、兼容 vLLM 的 PagedAttention、FP8 量化 KV-Cache（节省 50%–75% HBM 显存）、DeepSeek V2/V3 的 MLA（KV 占用降低 5x–8x）、GQA 与融合 RoPE，以及端到端全融合 Transformer 块。
GitHub 仓库 anvilry 是 GenAI 与后端工程师 Sairam Ugge 的求职作品集，基于单一内容层提供四种可切换体验：SSG 静态页、WebGL Build Graph、基于 RAG 的 AI 对话服务和含 32 条命令的终端视图。对话功能使用 AWS Bedrock 上的 Claude Sonnet 4.6，失败时回退到 Haiku 4.5，并支持流式 markdown、语音输入读出（默认浏览器原生实现）以及公开只读 MCP 服务器。技术栈为 Next.js 16、React 19、Tailwind v4，达到 WCAG 2.2 AA 无障碍标准。
Hugging Face 发布卫星嵌入模型 OlmoEarth v1.3，可读取一整年的 Sentinel-1 雷达与 Sentinel-2、Landsat 多光谱数据，为全球每个 10 米像素生成 128 维嵌入向量，并同步公开全球预计算嵌入及浏览器工具 Embeddings Explorer。在 27 项评测中，其 128 维嵌入在 20 项上领先 AlphaEarth Foundations（AEF）和 Tessera v2，64 维版本在 18 项上领先；模型权重、预训练数据与代码全部开源，复现一次最终训练约需 $2,720 的 H100 租用算力。
作者用两台 £299.99 的 Lenovo IdeaCentre Mini（Snapdragon X X1-26-100，32GB LPDDR5，无 GPU）以 USB4 相连，实测 llama.cpp、Janas 和自研 ToRc 引擎跑量化模型的读写速度。统一测试负载下，ToRc 双机跑 Qwen3.6 35B A3B Q4_0 达 315/43.3 tok/s（读/写），编码对话 59.6 tok/s；95GB 的 Qwen3.8 Flash Next IQ4_NL 靠 NVMe 流式读取专家权重，双机达 46.2/20.3 tok/s。MTP 加速依赖文本类型，代码任务普遍提速而 Alice 散文上 llama.cpp 反而变慢。整套方案约 £600、负载功耗各约 35W，ToRc 引擎尚未发布。
推荐理由：作者在两台 300 英镑的骁龙迷你主机上实测多款推理引擎跑 Qwen 大量化模型的读写速度，并给出统一测试负载和完整数据。
Reddit r/LocalLLaMA 用户发帖指出，自 MTP 之后 dense 模型再无架构层面的提速创新，近期加速主要靠 MoE 减少激活参数量，但 MoE 在稳定性与可靠性上不如低总参数量的 dense 模型（如 dense-27b）。作者询问即将推出的 qwen4-27b 是否可能带来新的速度突破。
一位 Reddit r/LocalLLaMA 用户提出把小企业员工笔记本上运行的 Ollama 或 Lemonade 客户端通过共享 API 和自定义负载均衡器连接起来，池化算力分担 LLM 推理负载，从而让小企业免费使用大语言模型。作者已发布最小原型和 GitHub 源码，计划在本地企业做小规模实验验证可行性。
开源推理引擎 capy-flash 发布 v0.7.1，让 Qwen3.8-Flash-Next（125B MoE）在 64 GB 内存加一或两张 16 GB GPU 上运行，双卡实测 234 tok/s；Qwen3.8-27B 3-bit 版可放进单张 16 GB 卡（174 tok/s，64k 上下文）。Flash-Next 的 routed experts 直接使用 ISTA-DASLab 的 GSQ-RCO 3-bit 量化（约 48 GiB 驻留内存，峰值约 57 GB），27B 的 3-bit 量化 MMLU-Pro 从 0.78 降至约 0.72，GSM8K 与 NVFP4 持平；代码与权重见 https://github.com/ValerioDolci/capy-flash。
推荐理由：作者给出了具体显存占用和双卡实测速度，还附上 3-bit 量化与 NVFP4 的质量对比数据，方便判断取舍。
作者 /u/Joralk_ 自建 harness，在 2× RTX 5080 上以统一采样配置实测 8 个本地 GGUF 模型的工具调用、代码与 agent 任务，每任务跑 3 个种子并统计均值与标准差。结果显示 125B 的 Qwen3.8-Flash-Next 并非榜首，35B MiniCPM-V-4.7 与 27B Qwen3.8 在 agent 任务上与其持平，工具调用可靠性比模型规模更关键；开启 thinking 模式使 27B 代码分从 0.79 升至 0.93、agent 分从 0.90 升至 0.96，但延迟从 36 ms 增至 629 ms 且每调用多花约 253 个中位 token。
推荐理由：作者自建 harness 实测 8 个本地 GGUF 模型的工具调用与 agent 编码表现，还给出 thinking 模式开关的量化代价，方法可复用。
BOAR 2.0.0-rc1 是一款开源 Android 离线研究助手，下载模型与知识包后可在飞行模式下答题，无需账号、服务器或 Google Play Services，答案引用本地 Wikipedia 文章、知识包和用户文档。12 GB 以上手机使用 Qwen3 4B（约 2.5 GB），更低配置用 Qwen3 1.7B（约 1.1 GB），搜索模型为 BGE Small，知识包约 164 MB。应用以 Kotlin 和 Jetpack Compose 编写，推理通过 JNI 调用 llama.cpp，APK 可从 releases 页面下载。
vgtitov 在 GitHub 发布 MIT 许可的 bsl-ai-toolkit，为 1C:Enterprise 8.3（BSL）的 AI 智能体开发提供规则、技能与 MCP 服务器。工具包含 onec-code 代码搜索、bsl-ls 诊断、onec-metadata 的 byte-perfect 元数据修改（经测试库 round-trip 验证）、onec-ops 运维与 onec-data 只读数据访问，参考实现为 Claude Code，Cursor、Copilot、Gemini CLI、Codex、Cline、Windsurf、Aider 经适配器接入。
Nexus-Science 是一个科研网页平台，可跨多个开放来源检索、理解并追踪研究动态，提供开放标准的可信度评分、兴趣提醒、新闻 feed，以及附带研究方法说明的报告和适配 Zotero、Mendeley、EndNote 的引用。面向巴西医疗领域另有可选模块，将药品与 ANVISA、Conitec 和 Rename 数据交叉。软件为专有闭源，已在 Render 与 PostgreSQL 上投产，测试套件含 1.471 个测试、最低覆盖率 80%。
GitHub 上的 korean-rnd-regs-mcp 是一个用于审查韩国研发行政规定的 MCP server，可自动识别需审查的规定条款并按“法律>施行令>施行规则>行政规则”层级输出审查结果，通过国家法令信息中心 OpenAPI 调取条文，覆盖 66 部规定。面向研究者、R&D 专业机构人员及政府 R&D 事务公务员；建议 Claude 使用 Sonnet 5.5（Effort Level High 以上）、ChatGPT 使用 GPT-6.1 Sol（Effort Level Medium 以上）。
shahil5z 发布本地多索引 RAG 管线 advanced_rag 与评测工具 ragcheck，在 40 道人工审核问题上评测。BM25 重排未改变 Recall@5（0.833），但将 MRR 从 0.629 提升至 0.779、nDCG 从 0.670 提升至 0.784；HNSW 各项指标与 Flat 持平，IVF Recall@5 为 0.796。管线用 all-MiniLM-L6-v2 嵌入并搜索 FAISS 索引，生成器为 OpenAI，演示站点部署于 advanced-rag-evaluation.vercel.app。
likw99 开源了 llm-daily，一个用自己的 LLM key 每日抓取 AI 新闻并自动写成简报的 Agent，自 2025 年 3 月起几乎每天早上都在写 LLM Daily 简报。它读取 Reddit、arXiv、GitHub trending、Hugging Face、Product Hunt、TechCrunch、VentureBeat 和红杉的内容，生成商业、产品、技术、研究四个板块加 Highlights，支持中英文或双语输出，可发布到静态网站（含 RSS）、Kit/Buttondown 邮件、Telegram、Discord、Slack 或飞书。管线强制每条目附来源链接并由校验器删除无链接内容，末尾列出用到的信源、被剔除的行、所用模型和 token 消耗；无内容不发布。
推荐理由：仓库自带 dry-run 离线模式和逐条带链接的校验管线，读者可以直接克隆测试或按需增删信息源。
he-yufeng 在 GitHub 发布开源 AI Agent 工具 ContractGuard，上传 PDF/DOCX 合同即可在 30 秒内输出红旗条款、警告、保护项和 A+ 到 F 的公平度评分及逐条修改建议。工具通过 Pydantic 模型保证结构化输出，支持 OpenRouter、OpenAI 及 Ollama 本地模型；在 LLM 之外并行运行辖区感知的确定性法条核对清单，覆盖中国劳动法与民法典及加州住宅租赁规则，无法判定时诚实返回 unknown。支持批量扫描、版本对比、JSON 导出和 Gradio Web UI，最长约 30000 token（约 60 页）。
推荐理由：开源合同审查 Agent 除了 LLM 分析还内置辖区感知的法条核对清单，并对缺失条款诚实返回 unknown，思路可直接借鉴。
EKOS 是一个开源的企业知识操作系统（知识层），将源代码、SQL、文档和 Git 历史编译成带证据溯源的知识，AI Agent（包括 Claude Code）通过只读 MCP 服务器查询。项目用 Rust 编写，采用 MIT 许可证。首个 benchmark 显示：在含 2,022 个文件的真实开源仓库上，冷摄入耗时 34 秒，用 tiktoken 标准分词器测量，基于编译账本回答问题比 grep 原始搜索节省 67-93% token（含 grep 占优的用例）。
turri 推出桌面版 turri-desktop，支持 macOS 和 Linux，将命令行版的对话、工具、slash 命令、skills 和 pulses 以原生 UI 呈现。软件以“持久意图”为唯一事实来源，随意图变化重新生成代码而非就地修补，支持 Anthropic、OpenAI、Google、Amazon Bedrock 等模型提供商，可通过订阅（如 Claude Pro/Max、ChatGPT、GitHub Copilot）或 API key 登录。AppImage 版需 FUSE 2，Linux 上依赖 bubblewrap 沙箱，Linux 版可自动更新，macOS 版尚不能。
Thinkube 的可选组件 llama-cpp-prism 使用 PrismML 的 llama.cpp fork，支持其 Bonsai 模型的低比特 GGUF 格式 Q1_0（1-bit）、PQ2_0 和 PTQ1_0，并带专用 CUDA kernels；原版 llama.cpp 会拒绝这些文件。该组件通过同一入口在 8000 端口运行 llama-server 并提供 OpenAI API，镜像基于 fork 的 prism-b10754-2459f68 版本与 CUDA 13.0 构建，模板采用 MIT 许可。
Domyn Small 1.0 的支持已合并进 llama.cpp。该模型是 Domyn 开源的约 10B 参数推理模型，原生 32k 上下文（可经 YaRN 扩展至 131k），支持 thinking on/off 双模式推理与工具调用，采用 MIT 许可证，推理 token 消耗约为 Qwen3.5-9B 的 32% 和 OLMo-3-7B-Think 的 35%，BFCL V3 单轮成绩为 75.9 Non-Live / 68.3 Live，适合小显存环境的 agentic 部署。
GitHub 新仓库 TigreGotico/evidencia 发布，这是一个面向欧洲葡萄牙语（pt-PT）的 RAG 问答服务，通过 Select、Sufficient、Grounded 三个决策门判断证据是否支持答案，不足时拒答。每次响应附带各门概率与阈值、证据链接及引用段落号，示例中 sufficient 0.934、grounded 0.966，16 个段落保留 4 个。它支持本地文档与 pt.wikipedia、geoapi.pt、IPMA 等 14 个公共来源，默认决策模型 Jevásio-0.8B-v2 仅限非商业研究使用，整体采用 Apache License 2.0，并提供 MCP server 和 HTTP API。
Auriti-Labs 在 GitHub 开源 GEO Optimizer，一条命令即可对任意网站打 0–100 分，检测 ChatGPT、Perplexity、Gemini、Claude 和 Google AI Overviews 能否抓取、理解并引用该站。工具提供 16 个 CLI 命令、9 个评分类别、27 个 AI 爬虫检查和 47 项内容检查，MIT 许可，可用 uvx 零安装运行，也可在 geoready.dev 免费网页版使用。对 1800+ 网站的审计显示中位分为 59/100。
一位 Reddit r/LocalLLaMA 用户分享工作使用体验，质疑 Qwen 3.8 27B 能替代云服务的说法，表示即使配上 RTX PRO 6000 也难以理解这如何实现。其希望摆脱对云厂商的依赖，并向社区征求真正可行的方案。
frederico-kluser 发布开源工具 llm-selector，可本地筛选 OpenRouter 目录中 460+ 聊天模型，按模态、开放或专有权重、混合价格、缓存定价、上下文窗口和 benchmark 门槛过滤，再用 log 尺度成本/质量散点图、benchmark 雷达图和排行榜对比。通过 npx llm-selector 即可运行，数据来自 OpenRouter 公开 API 和 Artificial Analysis（需自备 key），fit score 在当前结果集内计算，缺失 benchmark 显示为 — 而非 0，配置可存为预设并以 JSON 导入导出，代码采用 MIT 许可。
推荐理由：开源的本地模型筛选工具，把硬约束过滤和自定义权重的 fit score 分开，适合按自己的预算和模态需求选模型。
Soum-Code 发布开源项目 AgentPulse，一个可自托管的轻量可观测性 SDK，对多 Agent LLM 系统的每个 span 持续评估 grounding 风险、工具声明校验、Agent 间矛盾与漂移，并将 Agent 稳定性指数汇总为 0-100 分。grounding 评估用 MiniLM 嵌入相似度加 DeBERTa NLI 分类器双模型串行打分，支持 LangGraph 插桩或直接包装 OpenAI/Anthropic 客户端；附 2026-08-18 基准数据（全评估器 P95 172.2 ms）及漂移、阈值消融等多份报告。需从源码安装，PyPI 上的 agentpulse 是无关项目，评估 worker 进程不可省略，暴露到公网前须设置真实的 AGENTPULSE_API_KEY。
推荐理由：开源项目作者给出完整的评测延迟数据与部署文档，读者可据此评估这套多 Agent 质量监控方案能否复用到自己的流水线。
PACo 让语言模型像 PAC 一样用自然语言处理 MASW 地震剖面，从原始记录生成频散曲线和横波速度模型，结果按 PAC 的格式输出。它提供两种模式：workflow 模式成本更低但结果较差，本地小模型即可运行；autonomous 模式效果更好但需要具备视觉和长上下文的前沿模型，消耗更多 token。项目基于 Python 3.14 和 uv 安装，包含 paco-server MCP 服务器与 paco-agent 终端聊天工具，并通过每阶段的质量门（quality gate）检查和修复结果。
DavidAU 团队基于 Qwen/Qwen3.6-27B 发布多阶段微调与合并的无对齐版本 Qwen3.6-27B-Fable-Fusion-711，用 Heretic v1.2.0 的 Arbitrary-Rank Ablation 方法去审查，拒绝率从原版的 99/100 降到 4/100，KL 散度 0.0469。
同一新闻，精选展示《tatekuperus 发布 Qwen3.6-27B-Fable-Fusion-711 无对齐 GGUF 量化版》
Reddit r/LocalLLaMA 用户征集在 MacBook 上本地推理开源大模型的最优选择，候选包括 Qwen3.8-Flash-Next、Qwen 35B、27B dense 和 Nemotron Bolt，并倾向于 27B 用于编码。其开源项目（Apache 2.0）支持从 M1 到 M5 Ultra 的全部 Apple Silicon 芯片，作者称已在 M4 Pro 上创下 Qwen 35B/27B decode 与 prefill 的 SOTA 成绩。
一位非程序员开发者用 opencode 和 ds v4.1 flash free vibe coded 了一个 Android AI 聊天应用，寻找拥有 2024 年后 Snapdragon 手机（需 Android 14+）的用户帮忙测试其 GPU、NPU 和 Hexagon 支持。作者自己没有相应设备，请求测试者反馈报错和性能表现。
Hugging Face 发布 Granite Timeseries Ensemble，将四个不同架构的预训练 Granite 时间序列模型（PatchTST-FM-r1、PatchTST-FM-r2、FlowState-r1.1、TTM-r3）组合成一个无需重训练、无需拟合权重的集成预测接口。默认 Probabilistic Ensemble 采用等概率池化，另提供按预测离散度自适应加权的 IQR Ensemble。两个配方在 97 个 GIFT-Eval 数据集配置上评估，配置经宽松许可开源，可通过 granite-tsfm>=0.3.11 从 Hugging Face 加载。
GitHub 上的 tarkaSabha 是一个面向技术尽调的决策证据工作区，核心对象是决策而非对话：团队可框定决策、附加带来源的证据、记录审批并生成带过期、可脱敏分享链接的版本化证据报告。内置 0–100 的决策债务评分，可摄取公开 GitHub 仓库生成快照并由模型提取候选决策，经人工确认后进入决策日志；原多智能体审议会保留为可选评审室。
Ember452 开源了从零自研的 Agent Harness「Questor」，现为 alpha 阶段，核心栈包括分层解耦、事件溯源、断点续传、三层长期记忆、工具与 Skills+MCP 权限管理。它采用 MIT 许可证，经 LiteLLM 支持多供应商模型（BYOM），桌面端基于 Tauri v2 + Python sidecar，并提供 CLI 与 OpenAI 兼容 API。
SwissDataScienceCenter 发布 sdsc-vllm Helm chart，用于在 Kubernetes 上部署 VLLM 与 Envoy AI Gateway，并借助 Knative Serving 实现模型服务缩容到零。模型通过 values 文件的 models 段添加，示例支持 Qwen/Qwen2.5-Omni-7B-AWQ，可配置 A100 等 GPU、tool calls 开关与缩容延迟。网关 /v1 兼容 OpenAI API，使用 authentik access token 认证，Web 界面通过 GitLab OAuth 登录。
jinsoo96 在 GitHub 发布 missile-studio，一个纯 Python 的自托管 LLM studio，通过统一 agent loop 接入 OpenAI、Claude、Gemini、Ollama、vLLM、DashScope、OpenRouter、DeepSeek、Mistral、xAI 等多种 provider、本地工具和 MCP 服务器，Web UI 与终端（ms chat / ms ask）共用同一引擎。支持分屏对比模型、工具审批、MCP hub 供 Claude Code/Cursor/Claude Desktop 使用、知识库检索、记忆、工作区编辑器与管理员控制台，可在笔记本、SSH、Docker 等环境运行，一行命令安装，采用 Apache-2.0 许可证。
ADWMC 在 GitHub 发布 jailbreak-skill，一套面向 LLM 红队评估的提示词工程方法论，主张先规划假设、再组装提示词、最后凭证据判定，而非直接给出可复制的提示词。仓库含 19 个提示词模块、14 份方法论文档、3 条厂商路线和 4 级测试集，所有声明按 E0 到 E3 分级，并明确平台拦截、毒品武器类请求和直接索要成人内容属于已知死路。项目采用 CC BY-NC-SA 4.0 许可，作者强调这不是 OSI 开源许可证。
推荐理由：它把越狱测试整理成可冻结的判定标准和证据分级方法，并明说了哪些域救不了，适合想系统做红队评估的读者。
Reddit 用户 poofph 将 unsloth Qwen3.8 FN Q5_K_XL 模型从 NVIDIA 显卡服务器迁至 R9700 服务器后，发现模型行为出现差异：在 Radiance 上多次在回合结束时主动提及当前时间，如凌晨 1:30 的"胜利庆祝"、凌晨 1 点该睡了等。而在 Strata 上运行同一模型时从未出现这类"闲聊"表述。
GitHub 上的 AI-Safety 仓库为有经验的 ML 工程师、安全工程师及有志于 AI 安全研究者提供开源研究课程与项目仓库，核心路径免费、无需付费 API 或订阅。目前为在建状态：24 章和 10 个项目中完成 0 个，规划与治理层已验证，内容按章节分阶段发布，提供对齐研究、AI 安全工程、评测与保障三条路线，代码采用 MIT 许可、文本采用 CC BY 4.0。
QWED 以 Apache-2.0 协议开源，是一个校验 LLM 与 AI Agent 输出中声明的验证层，使用 SymPy、Z3、SQLGlot、Python AST 等确定性引擎，无法验证的声明不会标记为已验证。它可作为 Python 库、CLI、自托管 API 或 Docker 镜像在本地运行，提供 TypeScript、Go、Rust SDK，包含 13 个引擎和 9 个策略守卫，返回 status 与 admission 两个独立判定，并定义了 Verification Context v1.0 结果记录格式。自然语言检查需调用所配置的 LLM 做形式化转换，该转换本身不被验证。
一个从随机初始化、无预训练权重开始训练的 GPT 风格语言模型项目，使用约 1MB 的 TinyShakespeare 文本（1,115,394 字符、65 个字符类别），字符级 tokenize，模型 3.24M 参数，上下文窗口 256 字符。经 next-token prediction 预训练，选中的 exp_c_small 配置验证损失 1.4338、测试困惑度 6.19，并通过 React 前端与 Vercel serverless 后端以纯 JavaScript 逐字符流式输出。
GitHub 上的开源项目 Intel60 每 30 分钟抓取 BleepingComputer 等 8 个安全资讯源和 CISA KEV 目录，用 Claude Haiku 4.5 为每条新闻生成 60 词卡片，标注严重级别并附 NVD CVSS 评分与 FIRST EPSS 利用概率。关键故事经 ntfy 推送，支持本地 watchlist 过滤、补丁期限倒计时和 7 天趋势，AI 每条只跑一次、读者数不影响成本，Anthropic API 成本约 $3–5/月。
Athletix 是一个基于 Strava 运动历史数据构建训练负荷分析的开源项目，通过计算急慢性负荷比（ACWR）评估疲劳与受伤风险，并用回归模型结合 Riegel 公式估算比赛表现。系统采用 Streamlit 界面与八模块架构，通过 OAuth 2.0 同步 Strava API 并以 Supabase 持久化数据，还提供解读指标的 LLM 对话智能体。项目源自 UNACH 数据科学与 AI 课程的课程作业。