新闻、仓库与研究，按时间排列。
GitHub 仓库 Rami2212/PSSN-LLM-Reasoning 提出了用于提升 LLM 推理效率的 Predictive Semantic State Navigation（PSSN）项目，基于未量化 Qwen/Qwen3-4B 模型，在 Hugging Face GSM8K 数据集与 Google Colab 上搭建。项目包含 CoT 基线、答案抽取与准确率评估，默认生成长度 1,024 tokens，使用 BF16（不支持时 FP16），初始实验在固定 seed=42 的 75 题 GSM8K 开发子集上运行，结果以 JSONL 记录 token 数、延迟和 CUDA 峰值内存。
GitHub 仓库 dryvist/mlx-benchmarks 提供了一套针对 MLX 量化和本地托管 LLM 在 Apple Silicon 上的可复现基准测试框架。它通过统一版本化的 schema. 结果契约、mlx-bench-publish 发布流水线和 Gradio 查看器，把 lm-eval 与 vllm benchmark_serving 等上游评测工具的原始输出转换后上传到 Hugging Face 数据集，文件名按内容寻址避免覆盖，并可读作 pandas DataFrame。
推荐理由：原文讲清了跨评测工具的统一结果契约与发布流水线，读者可以借此复用在 Apple Silicon 上量化模型的本地评测。
Hugging Face 上发布 abliterated 版 Qwen3.8 Flash Next 的 GSQ-RCO 量化 GGUF（IQ3_XXS 源变体），共 2 个分片合计 83.14 GB，仅支持文本。实测生成速度约 21.13 tokens/s，比未修改的 ISTA IQ3_XXS 快约 31%，下载体积大 9.6%；MMLU 82.68%、GSM8K 86.72%、IFEval 85.16%、HumanEval 66.46%，质量等同尚未证实。仅供研究用途，需保留 Qwen Community License 1.0。
Reddit 用户发布仅 19,969 参数（81 KB FP32）的语言模型 MacroStories，比 1M 参数的 TinyStories 模型小约 50 倍，采用 32 维隐藏状态、378-token 词表和共享权重循环复用的单个 decoder block。它虽非通用 LM，但能在受限故事分布内生成 100–300 词、含目标与结局的连贯叙事，且在 CPU 上即可极快运行、无需 GPU。
Methane 在 Hugging Face 发布 Qwen3.8-Flash-Next 的去对齐版 GSQ-RCO 量化 GGUF 模型，保留 1,078 个 ISTA 张量，并对来自 windowsxp811203 去对齐检查点的 146 个 BF16 张量重新量化。实测生成速度约 31 tok/s，比未改动的 ISTA IQ3_XXS 快约 31%，下载体积大 9.6%；MMLU 82.68%、GSM8K 86.72%、strict IFEval 85.16%、raw HumanEval 66.46%，除编码外三任务平均变化 −0.66 个百分点，等质量尚未证实。
推荐理由：作者给出了与原 ISTA 量化的速度和四项基准对比数据，读者可据此评估这个去对齐量化版本的实际代价。
mradermacher 在 Hugging Face 上发布 Swift-1.5-Qwen3.8-27B-Abliterated 的 i1-GGUF 量化模型，提供从 i1-Q2_K（11.0 GB）到 i1-IQ3_M（12.9 GB）等多种 imatrix 量化版本，并附 0.1 GB 的 imatrix 文件供用户自行量化。该模型为视觉模型，mmproj 文件放在 static 仓库中。
Hugging Face 上线 mradermacher 制作的 Swift-1.5-Qwen3.8-27B-Abliterated GGUF 量化模型仓库。该模型基于 Qwen3.8 架构，参数规模 27B，采用 abliterated 去对齐处理，以 GGUF 格式提供，便于本地部署使用。
开发者 doss1232 在 Hugging Face 上传了基于 unsloth/Qwen3.5-9B 微调的 uncensored_qwen3.5_9B 模型，采用 apache-2.0 许可证，训练过程借助 Unsloth 实现 2 倍加速。该模型已有 185 个微调衍生版本。
Radar HuggingFace Dataset 是一个开放、持续更新且版本化的 HuggingFace 生态数据集，由 HF//RADAR 生成，每天 06:00、14:00、22:00 三次导出，记录新发布模型、作者、许可证、下载与 likes 等真实热度、参数量及格式（GGUF、MLX、safetensors），并用 removed/removed_at 标记被悄然下架的模型。每个模型含 JSON 元数据与西班牙语技术卡片，通过编号 release 提供可审计历史快照，采用 CC-BY-4.0 许可。
开发者 alice-kroi 发布 cultist-llm 项目，用《密教模拟器》和《司辰之书》的本地游戏文本微调 Qwen3，让模型学会游戏晦涩书卷气的写法，可生成卡牌描述、事件叙事、结局文本并做中英互译。语料由脚本从本地安装的游戏抽取，共 20,110 个文本单元、59,018 条训练样本，经 LLaMA-Factory LoRA/QLoRA 在 16GB 显存 GPU 上训练，已发布 0.6B 和 4B 两个合并模型到 Hugging Face，实测 4B 语感和格式遵循度更好，代码 MIT 协议开源。
cajeta-llm 是 cajeta 生态的 decoder-only LLM 推理引擎，从 Hugging Face safetensors 和 GGUF 加载 Llama 系开源权重，基于 cajeta.math.Tensor 与 cajeta.xpu 端到端实现，不复用 llama.cpp 代码。2026-10-01 在 RTX 4090 上实测 Llama-3.1-8B-Instruct Q4_K_M：decode 约 165 tokens/秒、接近 llama.cpp，prefill 3.7k tokens/秒仍待优化；目标支持 Llama 3.x、Mistral、Qwen2/3、Gemma 3。
vamsi513 在 GitHub 发布 EvalForge，一个基于 FastAPI、Next.js 16 和 SQLAlchemy 的 LLM 评估平台，提供 5 信号确定性评分、OpenAI/Anthropic/Mistral/Ollama judge 适配、实验排行榜、发布门禁与异步任务，已部署在 AWS EC2 和 Vercel 并附在线 demo。60 例 judge 基准显示三种 judge 的平均分数在 n=60 下无统计差异，本地 qwen2.5:7b-instruct 与 OpenAI 通过率一致度 93.3%、Cohen's kappa 0.859。
推荐理由：作者用真实 API 调用实测了各家 LLM judge 的延迟、成本与一致性，还给出拒绝措辞掩盖泄密这一评分陷阱的具体案例。
ReubenNewman 在 Hugging Face 上架 Qwen3-4B-2507-Instruct-Uncensored 的 Q8_0 GGUF 量化版本。该模型可在 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner 等多种工具中运行，并支持通过 llama-server 或 vLLM 启动 OpenAI 兼容 API 服务。
tryAGI 在 GitHub 发布基于 HuggingFace Hub、TGI 和 TEI OpenAPI 规范自动生成的 C# SDK。该 SDK 提供 HuggingFaceClient、HuggingFaceInferenceClient、HuggingFaceEmbeddingClient 三个类型化客户端，支持 Microsoft.Extensions.AI 的 IChatClient 与 IEmbeddingGenerator 接口，可用于聊天补全、流式输出、嵌入生成、重排序与相似度计算，面向 net10.0，支持 NativeAOT 与 source-generated JSON，所有客户端需使用 HuggingFace API key 认证。
/u/Heretical-Tandem 发布 Ruach Studio 首个 release candidate，围绕 m-a-p 的开源歌曲模型 YuE2 在本地 GPU 上实现写词后自动作曲、演唱与渲染。支持最长 8 分钟整曲，先以 ABC 生成可编辑的旋律与和弦谱，可导入自有乐谱或 MIDI；RTX 3090 上 6:12 歌曲生成耗时 126 s，7:25 歌曲耗时 198 s。内置 bf16 LoRA 训练、坏谱秒级检测、BS-Roformer/htdemucs 分轨、remaster、UniverSR 放大与 Whisper 歌词校验，可导出 REAPER/DAproject 工程文件。
推荐理由：围绕开源歌曲模型 YuE2 搭建的全流程本地音乐工作室，给出了 RTX 3090 上的具体生成耗时和硬件要求，便于评估是否可用。
mradermacher 在 Hugging Face 发布 qwen3.5-9b-uncensored 的 i1-GGUF 量化版本。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio 等工具本地运行，示例采用 Q4_K_S 量化，支持启动 OpenAI 兼容本地服务器或终端直接推理，也可接入 Pi、Hermes、OpenClaw 等 Agent 工具。
Gogeta70 基于 heretic-gguf 对 ukisai/Swift-1.5-Qwen3.8-27B-GSQ-RCO-GGUF 做 abliteration，发布可去除审查的 LoRA 适配器，适用于基于 Qwen 3.8 27B 的 Swift 1.5 模型。Heretic 报告拒绝率为 16%、KL Divergence 为 0.3059，作者自测未发现拒绝行为。该适配器会移除基座模型内置的安全护栏，使用风险由用户自行承担。
Robert Tand 开源 PrismaQuant，一个混合精度 LLM 量化工具，用 AURA 分配器（KL-Fisher 探针乘以生产渲染权重误差，解多选背包）为每个 Linear 选格式，发布前用 held-out 真实 KL 验证。输出 compressed-tensors（vLLM 原生）、GGUF（llama.cpp 与 vLLM）和 Tessera 三种容器，均无需 fork 推理引擎。实测：Qwen3.6-27B 5.5 bpp 工具调用 91/100 超 BF16 的 86/100；Ornith-1.0-35B 4.75 bpp 从 70 GB 降到 23 GB；Tencent Hy3 295B-A21B 量化到 2.80 bpp GGUF 后单张 DGX Spark 可跑。
ElBruno.S1Mini 是一款开源免费工具，可在本地自动清理语音转写文本，删除"um"等填充词、修复结巴并补全标点。它使用约 200 MB 的 s1-mini 模型（Qwen3 的精简版），通过 ONNX Runtime GenAI 完全离线运行，无需 GPU。目前仅支持 Windows，应用本身不到 50 MB，文本不会上传到任何云端。
GitHub 用户 wdenejko 发布 aviai 仓库，一个用于应用 LLM 实践的个人学习沙盒，采用 uv workspace 结构，涵盖数据集构建、eval harness、微调与 RAG。其中 avtext 项目构建 METAR/TAF 解码数据集与评测基准，并验证对 Gemma 4 E4B 做 LoRA 微调能否超越基座模型，成果 aviai-e4b 已上线 Hugging Face；dsbench 为 Qwen3.x-35B 微调研究提供执行验证基准，v1 与 v2 均已可用。
作者 Mal1cc 在 Hugging Face 放出 Qwen3.5-9B 的 HERETIC 无审查微调版，用 Unsloth 在本地硬件上以 Claude 4.6 大型蒸馏数据集微调，称将 Qwen 思考替换为 Claude 4.6 式思考且基准有所提升。去审查数据显示 100 题拒绝数从原版 100 降至 6，KL 散度 0.0793；ARC 等 7 项基准给出 thinking、instruct 版与原模型对比分数，视觉输入经测试可用，视频部分未测试。建议最低 q4ks（非 imatrix）或 IQ3S（imatrix）量化，默认上下文 256k，其他版本仍在测试中。
推荐理由：作者给出了各基准的前后对比、KL 散度和 100 题拒绝率数据，读者可以据此自行判断这个去对齐微调版的质量。
Goghor 在 Hugging Face 上发布基于 Qwen3.8 的 27B 参数模型 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-INT8-W8A16-MTP，采用 INT8 W8A16 量化，模型大小 28B params，以 Safetensors 格式提供。该模型目前未被任何 Inference Provider 部署，README 暂无内容。
Huihui-Qwen3.8-27B-abliterated 模型的官方 VAL-APEX-I 量化版 MiniPlus V2.1 发布，体积 15.33 GB（3.93 BPW），WikiText-2 困惑度 6.1466，较 BF16 仅上升 2.44%，达到 Q5_K_M/Q6_K 边界质量。该版本在 24GB GPU 上支持完整 256K 上下文，192 个 DeltaNet SSM 状态张量保持 F32 无压缩，输出头采用 Q6_K 保护。另有 11.90 GB 的 NanoPlus 版本可在 16GB 硬件上运行。
Huihui-ai 的 Huihui-Qwen3.8-27B-abliterated 模型推出 VAL-APEX-I NanoPlus 量化版，体积仅 11.90 GB（2.85 BPW），可在 16GB GPU 上运行，并支持 24GB GPU 跑满 256K 上下文。WikiText-2 困惑度为 6.4238，较 BF16 基线仅升 7.06%，达到 Q4_K_M 质量档。全部 192 个 DeltaNet SSM 循环状态张量保持 F32 无压缩，输出头采用 Q6_K 保障语法稳定性。
minas2025 基于 sh0ck0r/Qwen3.5-0.8B-heretic 用 QLoRA（4-bit）微调出 Qwen-3.5-0.8B-Uncensored-Conversational，使用含 11,400 条温暖对话数据的 minas2025/warm-chat-12k 数据集，让 0.8B 模型以热情、口语化风格聊天且无拒绝回答。模型提供 Q8_0 GGUF（约 812 MB），上下文 2048，可在 LM Studio、Ollama、llama.cpp 中加载。
infosave 在 Hugging Face 发布 Qwen-Image-2.1-Uncensored-CMF，这是面向 Cortiq 运行时的单文件图像生成模型，大小 12.745 GB、15.59B 参数，内含 DiT、文本/视觉编码器、VAE 和 tokenizer，支持 CPU、原生 Metal 和 Vulkan 路径。实测 RTX 4090 Vulkan f16 回退路径下 1024×1024、40 步端到端耗时 29.13 秒；上游 GGUF 版本无内置安全检查器，采用 Qwen 研究许可，仅限非商业研究用途。
Shellar 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的无审查微调版 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored，提供 regular 与 MTP 两种 GGUF 量化。作者称 8bit 下 ARC-C 达 735、ARC-E 达 882，4bit 为 719，均高于原版 Qwen3.8-27B（8bit ARC-C 0.591），思考 token 减至原版的 1/2 到 1/10。
IsValorum 发布 nerkyor/Qwen3.8-27B-EfficientThink-Uncensored-K3-Opus5-Grok4.6-GPT5.6Sol-SFT-SimPO-DFlash2 的官方 VAL-APEX-I MiniPlus V2.1 GGUF 量化版，针对混合线性-二次注意力架构采用 814 条细粒度张量规则。该版本有效位宽 3.93 BPW、文件 15.08 GB，目标 Q5-Q6 感知质量，8K 上下文全 GPU 卸载约需 14-16 GB VRAM，遵循 Apache 2.0 许可。
jingamin 在 Hugging Face 上架 OpenAi-GPT-oss-20b-HERETIC-uncensored-NEO-Imatrix-gguf 量化模型，提供 Q5_1 等版本。
jingamin 在 Hugging Face 上发布 abliterated 去审查版 GPT-oss-20b 的 GGUF 量化模型，提供 Q5_1 等量化版本。该模型可通过 llama.cpp 本地运行，支持启动 OpenAI 兼容服务器和终端推理，也可在 Ollama、LM Studio、Docker Model Runner、Lemonade 等工具中使用。
Hugging Face 的 Merve 在开发者大会上做了关于 llama.cpp 的演讲，涵盖本地 AI 生态基础概念，包括 prefill 与 decode 的区别、内存类型以及投机解码（speculative decoding）等内容。演讲资料已公开分享，作者请求使用者注明出处。
Hugging Face 上架 jingamin/OpenAI-36B-Brains20x-Uncensored-IQ4_NL.gguf 量化模型（IQ4_NL）。该模型为 36B 参数的无审查版本，可通过 llama.cpp 的 llama serve 或 llama cli 直接加载，支持本地 OpenAI 兼容服务器、终端推理、预编译二进制、源码编译及 Docker 运行。
Hugging Face 上架 jingamin/OpenAI-gpt-oss-20B-GPT5.1-5.2-DISTILL-Heretic-Uncensored-MXFP4.i1-Q5_K_M.gguf 模型，为 gpt-oss-20B 的无审查蒸馏量化版本。
Hugging Face 上架 jingamin/OpenAI-20B-NEOPlus-Uncensored-Q5_1.gguf:Q5_1 量化模型，提供 llama.cpp、Ollama、Docker Model Runner、Lemonade 等多种本地运行方式。
一位 Reddit 用户公开了业余研究项目：给 21M 模型外挂 16.8M 行、共 6.4B 参数的学习向量查找表，每 token 只读 33M 参数，效果与同在 500M Wikipedia tokens 上训练的 114M 稠密模型相当。
推荐理由：作者公开了完整代码、模型和失败记录，还给出 SSD 内存映射下 140 tok/s 的实测数据，可复现成本仅约 70 美元。
作者 /u/ricyoung 发布了 Bev，一个基于 Qwen3.5-9B 微调、故意选最差答案的决策模型，在 324 个保留决策上正确率仅 1.9%，平均置信度 96%。
面壁的 MiniCPM-V 4.7 系列新增 1B 版本，Instruct 模式下基础能力超越 MiniCPM-V 4.6，并在综合得分与推理效率上大幅超过 Qwen3.5 0.8B。该模型采用 LLaVA-UHD v4 的 intra-ViT 早压缩技术，支持 4x/16x 视觉 token 混合压缩，可部署于 iOS、Android 和 HarmonyOS，并提供 SGLang、vLLM、llama.cpp、Ollama 推理支持及 GGUF、BNB、AWQ、GPTQ 与 FP8 量化版本。
kacakto 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本，提供 BF16、Q8_0、Q6_K、Q4_K_M 等多种格式，其中 Q4_K_M 约 4.60 GB，被推荐为体积与质量的最佳平衡。
Google DeepMind 发布开放权重的多模态嵌入模型 EmbeddingGemma 2，可将文本（含代码）、图像、视频、音频及其组合映射到统一的 768 维向量空间，权重已上架 Hugging Face（https://huggingface.co/google/embeddinggemma-2）。
Google DeepMind 开放 EmbeddingGemma 2 嵌入模型权重，总参数 740M，将文本（含代码）、图像、视频和音频统一映射到 768 维向量空间。