跳到正文
今天10月27日周二16 条
  1. GitHub · 3D 生成新仓库56

    mini-jev-multimodal 开源:基于 Qwen3-VL-2B 的 8 GB 笔记本多模态决策模型

    作者发布 mini-jev-multimodal,一个在 Qwen3-VL-2B-Instruct 上 LoRA 微调、加答案头的开放权重决策模型(Apache-2.0),单次前向传播对状态(文本或 JSON、最多 8 张图)的多个选项问题输出概率,不生成文本。在 16 个未见数据集上准确率 78.0% 对基线温度缩放后的 71.1%,ECE 从 0.068 降至 0.043;RTX 5070 Laptop 8 GB GPU 上中位延迟 69 ms,训练峰值显存 6.2 GB。作者坦承超过 10 个选项时弱于基模型(54.2% vs 58.7%),并提供报告、逐题结果与训练复现脚本,附 Hugging Face 模型与数据集链接。

  2. Hugging Face · 新模型:uncensored19

    MishraNepali Dirty-Muse-Writer-v01 Uncensored Erotica NSFW Q2_K 量化模型上线 Hugging Face

    Hugging Face 上架 MishraNepali/Dirty-Muse-Writer-v01-Uncensored-Erotica-NSFW-Q2_K,一个 Q2_K 量化的无审查情色/NSFW 写作模型。页面给出 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等多种本地运行方式,支持启动 OpenAI 兼容 API 服务器或在终端直接推理。

  3. Hugging Face · 新模型:uncensored16

    DeepSeek-V4-Flash-Vision-Uncensored exl3 2.5bpw 量化版(52B 参数)上线 Hugging Face

    Hugging Face 上架了 avar6 发布的 DeepSeek-V4-Flash-Vision-Uncensored 的 exl3 2.5bpw 量化版本,模型大小为 52B 参数,支持 BF16、F16、I16、F32、I64 等张量类型,以 Safetensors 格式提供。该模型目前没有模型卡,也未部署到任何 Inference Provider,需自行下载使用。

  4. GitHub · 3D 生成新仓库18

    DDPM 扩散模型项目:用 PyTorch 从噪声生成 CIFAR-10 图像并对比 VAE、DCGAN

    一个基于 PyTorch 的深度学习项目,使用去噪扩散概率模型(DDPM)从随机高斯噪声生成 32×32 的 CIFAR-10 彩色图像,并与 VAE、DCGAN、自编码器基线对比。带 attention 的 Linear DDPM 取得最低 FID 39.0745,Cosine DDPM + attention 取得最高 Inception Score 6.8209;消融实验中 attention 使 FID 降低约 25.3%。生成均为无条件生成,结果来自单次运行。

  5. Reddit · r/LocalLLaMA33

    4B 编程模型更新:Qwen3.5-4B 微调版生成 3D 场景能力持续提升

    一名开发者正在训练用于通用编程的 Qwen3.5-4B 微调模型,以 Three.js 场景生成作为主要测试,新 checkpoint 在场景质量和一次生成成功率上明显提升。已更新 Q4_K_M 和 Q8_0 量化版本并修复此前文件的 layer 问题。训练预计于 10 月 28 日 07:30 UTC 结束,届时将发布 FP16 全量权重、全部量化版本、训练数据集和技术报告。

  6. Hugging Face · 新模型:uncensored34

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    Hugging Face 用户 thomasdaniel87 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,推荐 GGUF 使用 Q4_K_M(4.60 GB)。该版本无内置安全检查器,可直接生成 NSFW 内容,需配合 ComfyUI 与配套的 qwen3vl_8b 文本编码器和 VAE 使用,MLX 格式针对 Apple Silicon 优化。

  7. Hugging Face · 新模型:uncensored25

    slip618 发布 Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored-GGUF 模型

    slip618 在 Hugging Face 发布 Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored-GGUF 模型,提供 Q4_K_M 量化版本。该模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等多种工具本地运行,支持启动 OpenAI 兼容 API 服务器或在终端直接推理。

  8. Reddit · r/LocalLLaMA31

    在本地运行 Qwen 3.8 Flash Next 的体验

    一位 Reddit 用户在 32GB 内存加 RTX 3090(24GB 显存)的游戏电脑上,通过 strata 和 hermes 运行 Qwen 3.8 Flash Next,一夜生成了一个加拿大 EV 比价网站,含 CAD 计价与省级补贴信息。Claude Opus 5.5 随后修复了部分问题并核查事实,发现省级补贴计划存在错误。作者认为首版已相当接近一次成型。

  9. Hugging Face · 新模型:abliterated26

    Qwen3-4B-Claude-Sonnet-4-Reasoning-Distill-Heretic-Abliterated-i1-GGUF 上架 Hugging Face

    Kirill777Vais 发布的 Qwen3-4B-Claude-Sonnet-4-Reasoning-Distill-Heretic-Abliterated-Heretic-Abliterated-i1-GGUF 模型现已在 Hugging Face 开源。该模型提供 Q4_K_M 量化版本,可通过 Transformers、llama.cpp、Ollama、Docker、LM Studio、Pi、Hermes Agent、OpenClaw 等多种工具加载运行,llama.cpp 还支持启动 OpenAI 兼容的本地服务器。

10月26日周一
  1. GitHub · 3D 生成新仓库13

    Spectre113 开源 astronomy-diffusion:基于 NASA APOD 数据的 Stable Diffusion 天文图像 LoRA 微调项目

    GitHub 新仓库 Spectre113/astronomy-diffusion 使用 NASA APOD 数据对 Stable Diffusion 进行 LoRA 微调,用于天文图像的生成与修复(inpainting)。项目包含 Task1、Task2 及 astronomy_diffusion 源码目录,目前尚未获得 stars、watchers 或 forks,也无发布版本。

  2. Hugging Face · 新模型:uncensored24

    tinyopsec 发布 MiniCPM5-2B-Abliterated-Uncensored 的 GGUF 量化版本

    tinyopsec 基于 openbmb/MiniCPM5-2B(Llama 架构,约 2.5B 参数,经 abliterated 去审查处理)制作并发布 GGUF 量化文件,采用 llama.cpp 生成,提供从 F16(5.0 GB)到 Q2_K 共 13 种量化档位,其中 Q4_K_M(4-bit medium)为推荐版本。模型可通过 llama.cpp 及 Ollama、LM Studio 等 GGUF 兼容运行时使用,以 Apache License 2.0 授权。

  3. Hugging Face · 新模型:uncensored23

    DeepSeek-V4-Flash-Vision-Uncensored 的 EXL3 4 bpw 量化版发布

    Hugging Face 上发布 orcarouter/DeepSeek-V4-Flash-Vision-Uncensored 的 EXL3 4 bpw 量化版,共 23 个 safetensors 分片、约 146 GB,实测码率 4.04 bpw,针对 TabbyAPI / exllamav3 与 CPU MoE offload 调优。在 56 GB VRAM(2 GPU)上验证,cpu_moe_split_experts: 192、cache_size: 131072,生成速度约 23 tok/s,文本与视觉均已通过 chat_template.jinja 基础模板验证。

  4. Reddit · r/LocalLLaMA53

    腾讯混元发布实时同传模型 Hy-SimulMT-30B-A3B 并开放 GGUF 权重

    腾讯混元发布实时同传模型 Hy-SimulMT-30B-A3B,支持中英双向语音到语音翻译,在说话人讲话时持续接收音频并同步输出译文文本和语音,并通过实时声音克隆保留说话人音色。在 RealSI 长音频评测中其 StreamLAAL 约 3 秒,为对比系统中最低,GEMBA 分数超过所对比的开源模型和五个商业 API 中的四个。GitHub 提供 SimulInfer 推理服务与 SimulTrain 训练工具,Hugging Face 开放了 GGUF 权重,语音输出和声音克隆需配置 TTS 服务,也可在 Hy Translate App 中试用。

  5. Hugging Face · 新模型:abliterated26

    Feyospace-v1.1-Abliterated-security-MTP-UD-Q4_K_S GGUF 量化版发布

    Hugging Face 社区发布 Feyospace-v1.1-Abliterated-security-MTP-UD-Q4_K_S,这是基于 OBLITERATUS/feyospace-s1-obliterated 的 GGUF 量化版,面向本地网络安全研究、代码分析与工具辅助调查。该构建采用 UD-Q4_K_S 混合精度布局、面向安全的 importance-matrix 校准,并保留 MTP 头以支持投机解码;上游模型约 28B 参数、Qwen3.5 架构、Apache-2.0 许可,最大上下文 262,144 tokens。该卡未提供此量化版的 benchmark 结果,最终张量清单与质量保留情况尚待验证。

  6. Hugging Face · 新模型:uncensored36

    Ornith-1.5-122B-UNCENSORED NVFP4 版本发布,可单卡 RTX 5090 运行 Infernix 格式

    dealignai 在 Hugging Face 发布 Ornith-1.5-122B-UNCENSORED 的 NVFP4-Infernix 格式导出,这是去 refusals 版本的量化模型,基于 Qwen3.5-122B-A10B 架构(48 层、256 个路由专家每层取 top 8),附带 MTP 与 DFlash2 drafter。模型经逐字校验与 checkpoint 无失配,可在单张 RTX 5090(32 GB)上运行,约需 70 GiB 主机内存和 76 GB 磁盘空间,速度仍待优化测定。

  7. GitHub · 3D 生成新仓库26

    Ruzivo:面向绍纳语的开源多模态对话 AI 系统上线 GitHub

    开发者 Recall T. Mabika 在 GitHub 开源 Ruzivo,一个专为绍纳语(ChiShona)打造的端到端多模态对话 AI 系统,采用 MIT 协议。系统在 4-bit 量化的 1.5B 基座模型上用 QLoRA(r=16, α=32)微调,下一 token 预测准确率从 32.1% 提升至 72.1%;RAG 子系统基于 14,201 句课程教材语料实现零幻觉检索。语音方面 WER 从 78.4% 降至 47.9%,并提供 Android App 与响应式 Web 客户端。

  8. Hugging Face · 新模型:uncensored75

    BoldingBuilds 发布 GLM-5.3-Flash-Uncensored 的 imatrix GGUF 量化并实测去对齐效果

    BoldingBuilds 放出 OrcaRouter 去 GLM-5.3-Flash-Uncensored(320B 总参数/18B 激活 MoE、288 路由专家、1M 上下文)的 imatrix GGUF 量化,含 IQ3_XXS、IQ2_M、IQ2_S、IQ2_XXS 四档,并修正共享专家与 attention 量化配方使 IQ2_S 等通过全部 48 项一致性测试。量化权重上实测 JailbreakBench 有害拒绝率 0.040(OrcaRouter FP8 为 0.120,base 为 0.930),HumanEval pass@1 0.927;作者指出空输出会计为服从,提醒评测时必须同时报告空输出数,文件已适配 mainline llama.cpp 与 LM Studio 模板。

  9. Hugging Face · 新模型:uncensored18

    MishraNepali/OrcaSAQ-2-Cyber-27B-Uncensored-GGUF_Q2_K 模型上线 Hugging Face

    MishraNepali 发布 OrcaSAQ-2-Cyber-27B-Uncensored 的 GGUF Q2_K 量化版本,可在 Hugging Face 获取。该模型支持通过 llama.cpp、vLLM、Ollama、Docker Model Runner 等多种工具本地运行,并可启动 OpenAI 兼容 API 服务器供 LM Studio、Jan、Pi、Hermes、OpenClaw 等客户端调用。

  10. Hugging Face · 新模型:abliterated26

    Qwen2.5-7B-Instruct-abliterated-64k 发布:元数据修复版 GGUF

    R0U5 在 Hugging Face 发布 Qwen2.5-7B-Instruct-abliterated-64k,这是基于 huihui-ai 消融模型与 mradermacher GGUF 量化的元数据修复版,非新增消融。仓库将 context_length 重新声明为 65536 并添加 YaRN rope scaling 元数据(factor 2.0),以满足 Hermes Agent 64,000 token 最低上下文要求,权重与上游量化逐位一致。经 llama.cpp 验证 12 个拒绝测试提示 0 拒绝,Q4_K_M 版本 4.68 GB。

  11. GitHub · 去对齐工具与仓库41

    HAYAT:Windows 本地优先的私有 AI 助手开源项目

    GitHub 上的 HAYAT 是一个运行在用户自己电脑上的 Windows 本地优先 AI 助手,基于 Ollama 运行 HAYAT-35B-A3B(Qwen3.6-35B-A3B,约 3B 激活参数)模型,无需云端账号和付费 API。它支持语音对话、网络研究、摄像头与屏幕识别、Windows 应用控制、图像视频生成和长期记忆,外发操作需用户批准,另有 2.5-4.3 GB 的 HAYAT-Open-4B 轻量模型可选。

  12. Hugging Face · 新模型:abliterated22

    0xSojalSec 发布 GLM-5.3-Flash-abliterated 模型

    Hugging Face 上架了 0xSojalSec/GLM-5.3-Flash-abliterated,一个 abliterated(去抑制)版本的 GLM-5.3-Flash 多模态模型,支持 image-text-to-text 任务。页面给出 Transformers、llama.cpp(UD-Q4_K_XL 量化)、vLLM、SGLang、Ollama、Docker 等多种本地与服务器部署方式,并提供 OpenAI 兼容 API 调用示例。

  13. Hugging Face · 新模型:uncensored56

    Qwen3.8-Flash-Next-Uncensored 2-bit MLX 量化版发布,附 DFlash2 加速与 M1 Max 实测

    3hs4n 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX 优化量化版,目标模型采用 affine 2-bit/group-128 重建,搭配 Inco AI 的 BF16 DFlash2 草稿模型,完整下载 74.048 GB。在 M1 Max 64 GiB 实测中,代码与数学 warm 解码达 37.62 和 33.69 tokens/s,约为基线的 1.70× 和 1.56×,文本仅 1.048×;固定 50 题 GSM8K 子集全部答对且与原生参考一致,进程峰值内存 42.12 GiB。

    推荐理由:作者实测了 M1 Max 上代码与数学解码的加速倍数和内存峰值,并给出 32/48/64 GiB 的可行性判断,便于评估本地部署。