新闻、仓库与研究，按时间排列。
Pasindu Ranasinghe 在 GitHub 开源了 Model Fit Explorer，一款跨平台桌面应用，自动检测 Windows、macOS 和 Linux 硬件，估算 430 多个 Ollama 模型变体在 GPU VRAM、系统内存或统一内存中的占用，并给出从 Fully GPU 到 Cannot fit 的七档适配分类。估算包含权重、KV cache、缓冲区等项，不做虚构 tok/s 数字，可用 Ollama 实测对比，支持离线使用，无遥测，MIT 许可，从 Releases 下载 .dmg、.msi/.exe、.AppImage/.deb 等安装包。
推荐理由：原文给出了显存的估算公式与七档适配分类，读者可以据此判断本地能否跑动某个模型，而不是只拿到一个笼统结论。
mradermacher 在 Hugging Face 发布 Pyrz-8B-Instruct-Uncensored-i1-GGUF 量化模型，默认提供 Q4_K_S 版本。该模型可通过 llama.cpp 在本地运行，支持启动 OpenAI 兼容服务器或终端推理，也可配合 Ollama、Docker Model Runner、LM Studio 等工具使用，并给出了在 Pi、Hermes、OpenClaw 等工具中的配置方法。
这是 mbh2006 提交的 ATML PA2（LLM 后训练）课程作业完成版仓库，覆盖 DPO、PPO、GRPO 训练、安全评测（safety judge）以及 RLVR 与 RLAIF 对比评估五个任务。作者在 Tasks 1–3 中识别并修正了各含一处刻意设置的算法缺陷，例如 DPO logit 改为 policy_margin − ref_margin，并用 tests/test_objectives.py 的手算单元测试验证。参考环境固定为 Transformers 4.57.1、TRL 0.27.2、PEFT 0.17.1 和 Tokenizers 0.22.1。
dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash（552B 骨干）的权重级消融版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8，HarmBench-320 攻击成功率从基座的 42.81% 提升到 100%，且在各 effort 档位均为 320/320。MMLU-14k 整体下降 4.22pp，剔除伦理类题目后仅降 1.1pp，符合 3pp 能力保留目标；卡片还提供 SGLang 部署命令、硬件实测（4×H200，约510GB 权重）与启动注意事项。
同一新闻，精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布：权重级消融版附拒绝率与 MMLU 对比》
dealignai 以 CRACK 权重级去审查方式发布 GLM-5.3-Flash UNCENSORED FP8（320B 总参数、18B 激活、1M 上下文），在 reasoning-off 和 max 档 HarmBench-320 上 320/320 全部顺从、0 拒绝，MMLU 87.33% 高于 base 的 86.74%。模型支持视觉与 MTP 投机解码（75.9% 接受率），H200 原生 FP8 解码 163 tok/s。文中还给出部署要点，如 reasoning_effort 只接受 low/high、max 档需 max_tokens ≥ 6000、视频 fps 需低于原帧率等；2026-08-28 修复重复循环问题后需重新下载。
同一新闻，精选展示《GLM-5.3-Flash UNCENSORED FP8 发布，权重级去对齐且 MMLU 反超基座》
Lallapallooza 开源 gpt.rs，一个 Rust-first 研究项目，围绕可移植张量程序 PTIR 构建模型运行时，层通过 portable functionals 记录惰性图，后端自行执行内核，权重以内存映射 checkpoint 的视图加载。
ImposterOnline 的 Pyrz-8B-Instruct-Uncensored-GGUF 已上线 Hugging Face，提供 Q4_K_M 量化版本。该模型可通过 llama.cpp 在 macOS、Linux、Windows 本地运行，也支持 Ollama、Docker、LM Studio 等方式，并能启动本地 OpenAI 兼容服务器供 Pi、Hermes、OpenClaw 等工具调用。
adventists-ai 开源了 DuplexJev 系列语音决策模型（含 32B-Para、4B-Para、32B-Turn、32B-Stress 等），将 Qwen3-ASR-0.6B 编码器接入冻结 LLM，单次前向直接输出带概率的封闭选项判断，无需 ASR 转写与文本解码，10 项决策在单张 H200 上约 92 ms，比 ASR 加 LLM 级联快 21×。模型可识别转向状态、打断、情绪、性别、重音、停顿、笑声等非语言声音与说话风格，情绪与性别约 91%，turn-taking 在 CoDeTT 零样本达 70.0，全部支持 vLLM 部署，代码 Apache-2.0、完整模型 CC BY-NC 4.0，论文见 arXiv:2610.02638。
推荐理由：把冻结 LLM 变成免解码的语音决策引擎，一次前向同时输出转向、情绪、性别等带概率的多项判断，延迟与基准数据都给得完整。
/u/jesdga95 发布开源（MIT）推理引擎 Basalt，是 Strata 的深度调优分支，仅支持 Qwen3.8 Flash-Next 与 Blackwell 架构。作者在 5090+5060 Ti 上实测 665 tok/s structured、354 prose、64k prefill 7317 tok/s（400W），单 5090 为 585/316；支持最多 8 用户并发（8 流共 623 tok/s）、自研视觉编码器（比 llama.cpp 快最高 3-4 倍）、OpenAI/Anthropic 兼容 API，仅支持 Linux。
推荐理由：作者实测给出了单卡与双卡的吞吐数字和量化选项，可作为 Blackwell 本地推理引擎选型与调优的参考。
xzyozi 发布了 LocalLLM-Feed，一个基于 GitHub Actions 和 GitHub Pages 的本地大模型每日 TL;DR 订阅源，每天从 Hugging Face 抓取 GGUF 模型动态，帮助用户按硬件显存和速度与精度需求筛选模型。后端只提取参数量、量化格式、蒸馏标记等事实，总分由前端根据用户 VRAM 设置在浏览器端动态计算排序；支持一键导出 Bash 环境变量（自动估算 n_gpu_layers）或 Ollama Modelfile。采集条件与打分权重通过 config/ 下的 TOML 配置调整，无数据库和服务器，运行成本为零。演示地址 https://xzyozi.github.io/LocalLLM-Feed/ ，MIT 许可。
作者 /u/vesudeva 推出 SlopSoup TV，一个 24/7 不间断的像素风直播电视网络，剧本、角色、配音、镜头剪辑和排片全部由模型生成，无人类参与。整套系统运行在一个 16 vCPU、无 GPU 的 Hugging Face Space 上：Showrunner 用 GLM-5.3（Kimi-K3、Qwen3.8 兜底），写作为 GLM-5.3-Flash，TTS 用 Qwen3-TTS 1.7B GGUF Q8_0，并配 BGE-small 嵌入的新颖性台账、初审模型改稿和事实核查守卫，实际花费约 $2/天。
该开源系统面向 CLEF eRisk 2026 Task 1，通过与 LLM 人格角色对话预测 BDI-II 抑郁评分（0–63），不直接询问抑郁相关问题，并自动挑选主要症状、生成 eRisk 提交文件。症状匹配使用 all-MiniLM-L6-v2，默认配置在 CPU 上运行 SmolLM2-360M-Instruct，也可指向 meta-llama/Meta-Llama-3-8B-Instruct 加载官方 LoRA 人格。每位人格最多 3 次运行，其中最多 1 次可为手动模式。
j-llm 在 Hugging Face 发布 orcarouter/Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版，约 19.2 GB，5.13 bits/weight。该量化基于对 uncensored 权重直接测量的逐层 KL 敏感度分配精度，保留 BF16 视觉塔与 MTP head sidecar，262,144 token 上下文；Capability Score 88.86，高于参考版 mlx-community/Qwen3.8-27B-OptiQ-4bit 的 87.98。
推荐理由：原文给出逐层 KL 敏感度测量和 6 项基准对比，读者可评估混合量化相对参考版的质量取舍。
autotrust 在 Hugging Face 发布 zai-org/GLM-5.3-Flash 的非官方精简版 GLM5.3-Flash-E192-DGX-Spark，通过 NAS 每层保留 288 个路由专家中的 192 个、专家用 NVFP4 量化，每 token 仍激活 18B 参数，权重 124 GiB 为家族最小，单张 180 GB Blackwell GPU 可跑，双 DGX Spark 各承担约 62 GiB。
推荐理由：作者用同一套评测跑出 E192/E224/E256 三档在显存、KV 容量和各基准上的差异，便于按硬件选型。
TechnoBaptist 发布的 Qwen-Image-2.1-Turbo-Uncensored-GGUF 模型已在 Hugging Face 上架，提供 Q2_K 量化版本。用户可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Pi、Hermes Agent 等工具拉取运行，llama.cpp 支持启动本地 OpenAI 兼容服务器并提供 Web UI。
mincon 在 Hugging Face 发布 Qwen3.8-27B 的 RVN 双重精炼 ARA 消融版本（GGUF），在 trohrbaugh 的 heretic-ara 基础上追加两次全权重 ARA 处理。独立实测显示有害提示词拒绝率从 3/100 降至 0–1/100，相对 base 模型的 KL 损伤从 0.0535 降至 0.0085；仓库提供 multilingual、MTP、vision 等 GGUF 文件家族并附各量化档的显存建议与 llama.cpp 推理速度实测。
/u/Brief-Tap-6616 发布 LlamAmpere 更新，主要面向 12GB Ampere 显卡用户，实测 Qwen3.8 27B 支持 205k-230k ctx（11GB，YaRN 下约 340K），并新增 Staged + Journaled KVaRN 变体，KLD 较论文忠实版和竞争版降低约 40%。
推荐理由：作者给出了具体 KLD 数字、ctx 长度和多张卡的实测吞吐，12GB 显存用户可以据此评估这套方案是否够用。
codavidgarcia 发布 Qwen3.8-27B-Uncensored-Heretic 的 UD GGUF 量化，采用 Unsloth 逐张量配方，MTP 头（blk.64）在各档保持 q6_K/q8_0，使模型连同原生 MTP 完整装入 12/16/24 GB 显卡。实测 16 GB UD-IQ4_XS 的 KLD 比可容纳 MTP 的同类量化低 2.4 倍，RTX 4080 上开启 MTP 后代码生成 55 tok/s，约为关闭时的 1.9 倍；拒绝率数据来自 llmfan46 的 Heretic v2（3/100 拒绝），本仓库未复测。
推荐理由：作者对每档量化都实测了 KLD、top-1 命中率和解码速度，并与同权重其他量化逐项对比，数据可直接用于选型。
mradermacher 在 Hugging Face 上提供 Ostrich-27B-261008-Qwen3.8-Abliterated-i1-GGUF 模型，支持 Q2_K 等量化格式。用户可通过 llama.cpp 本地部署，兼容 LM Studio、Ollama、Pi、Docker Model Runner、Lemonade 等工具，并提供 OpenAI 兼容的本地服务器。
AtomicChat 发布的 Qwen-Image-2.1-Turbo-Uncensored-GGUF 现已上架 Hugging Face。该模型提供 Q2_K 量化版本，可通过 llama.cpp 一条命令启动本地 OpenAI 兼容服务器并带 Web UI，示例命令为 `llama serve -hf AtomicChat/Qwen-Image-2.1-Turbo-Uncensored-GGUF:Q2_K`。页面同时给出在 Ollama、Docker、LM Studio、Jan、Pi、Lemonade、Hermes Agent、OpenClaw 等工具中的接入方法。
H2O.ai 发布开源权重模型 H2O-Lightning-4B（Apache-2.0），面向 decisions API 式推理：输入状态加类型化问题，单次前向返回校准概率，不生成 token。基于 Qwen3.5-4B 微调，JevBench 综合分 72.5，高于 Jev 1.13 的 71.5，为当前开源模型第一；在 H100 上单次决策约 30 ms，可本地部署无按次费用。12B 与 31B 版本即将推出，演示视频与权重见 Hugging Face h2oai/h2o-lightning-4b。
ModelFit 网站上线，汇总 Kimi K3、Gemma 4、DeepSeek V4、Qwen 3.8、GLM-5、Llama 3.1 等 110+ 热门本地 LLM 的 GGUF 实测文件体积与显存内存需求。所有数字直接取自 Hugging Face 上的真实 GGUF 文件而非公式估算，KV cache 按 config. 精确计算，并对 DeepSeek/Kimi 架构使用 MLA 分支公式，避免 GQA 朴素算法高估 5–50 倍。网站每日自动重建，新模型上榜约 24 小时内生成页面，数据以 CC BY 4.0 开放并提供 JSON API。
推荐理由：这个网站直接从 Hugging Face GGUF 文件实测体积并精确计算 KV cache，还解释了主流估算公式为何偏差可达数倍，方法可复用。
rajaykumar12959 在 Hugging Face 发布 Qwen/Qwen3.8-27B 的 abliterated 版本，用 difference-in-means 方向对每个残差写入权重矩阵做正交化，消融直接写入 checkpoint，无 runtime hook 和 LoRA，仅含语言模型部分（bf16，text-only，约需 55 GB 显存）。在 292 个 held-out 有害提示上拒绝率从 99.3% 降至 0%，覆盖全部 12 个类别；代价是 MMLU-Pro 从 65.1% 降至 61.8%（−3.3 pp），harmless 提示上的 KL 散度为 0.086 nats。
推荐理由：给出了完整的消融方法、逐层扫描和拒绝率前后对比数据，读者可以据此评估这次去对齐的实际代价与副作用。
该研究项目评估 dbmdz/bert-base-turkish-cased 模型能否通过问题嵌入从固定候选池中检索配对答案，使用 merve/turkish_instructions 数据集，仅做推理与余弦排序，不训练模型。历史记录显示其在随机抽取的 1,000 对上 top-1 为 3.50%、top-5 为 4.90%。项目提供维护的命令行脚本，支持 CPU/GPU 推理，可固定采样种子并将结果保存为 JSON。
emmanuelgjr 在 GitHub 发布 genai_incidents 数据集，汇总 AIID、OECD AIM、AIAAIC、MITRE ATLAS、NVD/GHSA/OSV 等来源，收录 15,637 条事件（1,915 条 landmark 级），统一映射到 OWASP LLM/ASI、NIST AI RMF、MITRE ATLAS 等分类学，可通过网站、Raw JSON、STIX/TAXII/MISP、PyPI、Hugging Face 获取。
推荐理由：把多个不共享 schema 的 AI 安全事件源统一映射到安全分类学，并明确标注启发式标签的局限，便于检索与引用。
Father-Agent 是一个开源智能体工厂，输入一行英文即可规划、编写并校验一个异步 Python 子智能体，按需求交付 CLI、Streamlit/FastAPI 应用、JSON API 或 aiogram Telegram bot，自带 Dockerfile、Hugging Face Space 与 Render 部署配置。
推荐理由：作者把生成代码始终不经执行、靠九道静态校验关卡的流程讲得具体，可借鉴到其他代码生成工具的安全设计上。
alexwkleung 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本，用 Heretic 消融 662 个 tensor，拒绝率在 enable_thinking 为 false 时从 43/44 降至 14/44，GSM8K 89/100 无明显回归。作者还发现 Heretic 1.4 在 Transformers 5 的融合 MoE 模块上会静默跳过专家层，此构建将融合专家拆回独立 Linear 后再消融，提供 Q4_K_M 到 Q8_0 共四档量化文件与 sha256 校验值。
推荐理由：卡片给出消融修改的 tensor 清单和拒绝率前后对照，还包括 Heretic 在 MoE 融合模块上静默失败的具体坑与修复方法。
AtomicChat 在 Hugging Face 上发布 Qwen-Image-2.1-Turbo-Abliterated-Uncensored-GGUF 模型，提供 Q4_K_M 量化版本。文档给出 llama.cpp、Ollama、Docker Model Runner、Lemonade 等多种本地运行方式，包括启动 OpenAI 兼容服务器和终端直接推理的命令，并覆盖 Pi、Hermes Agent、OpenClaw 等工具的配置方法。
huihui-ai 基于 microsoft/Phi-4-multimodal-instruct 制作的去审查版 Phi-4-multimodal-instruct-abliterated 已上传 Hugging Face，采用 abliteration 技术移除模型的拒绝行为，且仅处理了文本部分、未处理图像部分。模型可用 Hugging Face transformers 库加载，支持 flash_attention_2 与 bfloat16。
UkisAI 的 Swift-1.5-Qwen3.8-27B-Uncensored-MTP 推出 VAL-APEX-I NanoPlus V3 GGUF 量化版，文件仅 11.08 GB、整文件 BPW 2.85，WikiText-2 PPL 为 6.9102，比基线 GSQ-RCO IQ3_S 低 2.26%。模型基于 Qwen3.8-27B 的 27B MoE 推理微调，内置 Multi-Token Prediction 头（blk.64.*，15 个 tensors）可在 llama.cpp 中直接投机解码，并保留 mmproj-Q8_0.gguf 视觉编码器与法、西、德、中多语言语法完整性。
3hs4n 在 Hugging Face 发布 Ternary Bonsai 2 27B Uncensored Heretic v2 的紧凑版 MLX 权重，将 27 个视觉 MLP expansion 层从 FP16 量化为原生 MLX affine 2-bit/group-128，权重文件从 8.60 GB 降至 8.37 GB，节省约 230 MB（2.68%）。全部 2,057 个语言张量逐字节不变，思考模板与 tool-call 格式保留，上下文上限 262,144 tokens。已在 LM Studio 0.4.26+4 验证通过，但推理质量未经 benchmark，视觉量化为有损。
ajgazin 在 Hugging Face 上发布 Swift-1.5-Qwen3.8-27B-Uncensored 的 NInfer NVFP4 量化版本（swift15_qwen3_8_27b_uncensored_nvfp4.ninfer），面向 Blackwell（sm_120a）NInfer 引擎。文件包含 text、vision、MTP 和 DFlash2 组件，64 层经校准的 NVFP4 MLP，其余为 FP8，单文件约 22.78 GB。在 32 GB GPU 上驻留权重约 18.1 GiB（无投机解码）至 20.5 GiB（DFlash2），支持 --max-context 32768，采用 Swift Open License v1.0 许可。
Hugging Face 上架 GGUF 格式模型 Swift-1.5-Qwen3.8-27B-Uncensored-MTP-VAL-APEX-I-MiniPlus-V2.1。该模型暂无 model card，参数规模标注为 0.5B，架构为 clip，尚未被任何 Inference Provider 部署。
Hugging Face 上架 IsValorum/Swift-1.5-Qwen3.8-27B-Uncensored-MTP-VAL-APEX-I-NanoPlus 的 GGUF 版本，页面未附模型卡片。该模型标注为 0.5B 参数、clip 架构，目前尚无任何 Inference Provider 部署，用户需登录查看硬件兼容性。
作者开源 tomos，一个对个人阅读语料（简报、播客转写、笔记）做混合语义检索的工具：Markdown 索引进 Qdrant，每段同时用 OpenAI dense 嵌入与 BM25 稀疏向量检索并用 reciprocal rank fusion 合并排序，支持命令行与本地网页查询。增量索引把约 1050 文件的空转刷新从 5.5 分钟降到约 20 秒且不再重复嵌入；内置 tomos evaluate 用固定问题集报告 hit@k 和 MRR。
WhoFlips 论文（arXiv:2606.16011）开源配套仓库与数据集，用两阶段协议测量 LLM 答案稳定性：先让模型为错误选项写论证，再用该论证挑战其原本正确的答案。实验覆盖 GPT-5.1、Gemma-4-26B、Llama-3.1-8B、Llama-3.3-70B 和 Qwen3.5 系列，变量包括论证长度 k ∈ {1,3,5,10}、归属（盲/自）与来源（同模型/跨模型），解码温度为 0 并禁用推理。数据集 nafisehNik/WhoFlips 约 1.18 GB、约 20.3 万行，含 self_mmlu、cross_mmlu 和 maxflip_mmlu 三个子集，CC BY 4.0 许可，每行保留两阶段完整信息可直接重算 AFR 等指标。
推荐理由：论文配套仓库同时放出了完整代码、复现脚本和约 203k 行的公开数据集，读者可直接复核答案翻转指标而不必重跑实验。
sathya801 在 Hugging Face 发布 NeuralDaredevil-8B-abliterated 的 Q5_K_M GGUF 量化版本，使用 llama.cpp 的 ggml.ai GGUF-my-repo 空间从 mlabonne 的原模型转换而来。用户可通过 llama-cli 或 llama-server 直接加载该模型，也可在 Llama.cpp 中自行编译并推理，server 模式示例使用 -c 2048 上下文。模型细节可参考原始模型卡。
GitHub 用户 JoseAlberto88 发布了 Hugging Face LLM 课程的学习仓库，用于学习大语言模型。仓库包含微调预训练模型的 Notebook（Fine_Tuning_A_Pretained_Model_.ipynb）以及课程 README 文件。
Hugging Face 上线 Ternary Bonsai 2 27B Uncensored Heretic v2 的社区 MLX 2-bit 转换版，Safetensors 权重约 8.60 GB（含视觉塔），配置上下文上限 262,144 tokens，采用 Apache 2.0 许可。权重来自 Heretic v2 PQ2_0 模型，无损重打包为 affine 2-bit/group-128 存储且未做额外量化或训练。该模型需在 Apple Silicon Mac 上用 mlx-vlm 0.7.2 及支持 prism_hadamard_qwen35 架构的加载器运行，并提供 OpenAI 兼容 API。
5.3B 参数的 Aplomb 1 登顶 Hugging Face 官方 Typed Decisions 概率决策基准，KL from gold 为 0.123，Brier score 为 0.065，均居榜首，低于约为其五倍规模的 27B 第二名模型（KL 低 40%）。模型支持文本、JSON、图像、视频和音频单次输入，上下文达 1M tokens，API 上 1M-token 文档约 3 秒读完，输入价格 $0.02 per 1M tokens 且输出免费。权重已在 Hugging Face 开源。