跳到正文
今天10月26日周一1 条
  1. GitHub · 3D 生成新仓库26

    Ruzivo:面向绍纳语的开源多模态对话 AI 系统上线 GitHub

    开发者 Recall T. Mabika 在 GitHub 开源 Ruzivo,一个专为绍纳语(ChiShona)打造的端到端多模态对话 AI 系统,采用 MIT 协议。系统在 4-bit 量化的 1.5B 基座模型上用 QLoRA(r=16, α=32)微调,下一 token 预测准确率从 32.1% 提升至 72.1%;RAG 子系统基于 14,201 句课程教材语料实现零幻觉检索。语音方面 WER 从 78.4% 降至 47.9%,并提供 Android App 与响应式 Web 客户端。

10月25日周日
  1. Reddit · r/LocalLLaMA60

    Lure-TTS 与 Lure-Turbo:600M 语音模型跑出 4 倍实时速度,训练成本不到 $200

    /u/smirkishere 基于 Qwen3-TTS 0.6B 微调出 Lure-TTS 和 Lure-Turbo 两个语音模型,支持内联标签、语音方向控制和音色克隆,训练成本不到 $200。Turbo 的 RTF 为 0.14,对比 5B Fish S2 Pro 的 0.195,同时保持相同说话人相似度(ECAPA 0.699)。作者还发布了 Lure-TTS 推理引擎,基于 faster-qwen3-tts(CUDA)、mlx-audio(Mac)和 audio.cpp(CPU),在 4090 上首音频输出 0.17s(参考代码为 10.6s),整体快约 5 倍(RTF 0.53 vs 2.54),支持流式 0.32s 分块、CUDA graphs 和最多 8 路并发。

    推荐理由:作者公开了训练流程、RTF 与 ECAPA 对比数据和训练代码,可复现的低成本 TTS 微调路线有参考价值。

  2. Reddit · r/SillyTavernAI63

    zoracapri 发布 gemma-4-31B-Monadize-v0.1 微调模型,改善角色名重复问题

    作者 /u/zoraruha 微调 Gemma 4 31B 发布了 Monadize(gemma-4-31B-Monadize-v0.1),通过调整 next-token 概率分布和单字符分词来减少 "Elara" "Elias" 这类高频名字的重复。temperature 为 1 时生成 30 个角色名和 30 个城市名,基座 Gemma 大量重复,Monadize 产出 60 个不重复名字,起始字母的 token 分布也明显更宽。作者还观察到叙事风格有变化,并提示这是实验性模型,以关闭 thinking 的方式微调,建议保持 thinking 关闭;模型发布在 https://huggingface.co/zoracapri/gemma-4-31B-Monadize-v0.1。

    推荐理由:作者给出了基座与微调模型的 next-token 分布对比和 30+30 命名实测数据,方法与结果都可复现查看。

  3. Reddit · r/LocalLLaMA52

    zoracapri 发布 Gemma 4 31B 微调版 Monadize v0.1,缓解角色名重复问题

    作者 /u/zoraruha 基于 Gemma 4 31B 微调发布 Monadize v0.1,通过调整 next-token 概率分布和单字符分词来减少 Elara、Elias 这类高频名字的重复。对比显示起始 token 分布明显更宽,temperature 1 下生成 30 个角色名和 30 个城市名全部不重复,而基座模型大量重名;模型权重在 Hugging Face 开放,作者提示这是实验性模型,且以关闭 thinking 微调,建议保持关闭。

10月24日周六
  1. Reddit · r/SillyTavernAI38

    ReadyArt 推出 Wicked Stuff 系列模型,基于 Kitchoon-V3-26B-A4B 用 QLoRA 训练

    ReadyArt 发布 Wicked Stuff 系列模型,在 Wicked Tutu 数据集基础上新增约 1000 条 prompt,并加入反向角色 prompt 使数据更完整。该数据集以黑暗风格为主、混入部分常规内容,在 scotoma 2 基座上以 QLoRA(而非 LoRA)方式训练于 Kitchoon-V3-26B-A4B。作者提示需配合 RP prompts 才能正常使用。

10月23日周五
  1. Reddit · r/LocalLLaMA35

    用户开源预训练小型 MoE 模型,供社区微调用于特定任务

    一位 Reddit 用户预训练了一个小型 SLM 并开放用于微调:该模型是基于 7.28M backbone 的稀疏 11M MoE(活跃参数 5.52M,top-1 路由、2 专家),在约 5.7B token 上训练,上下文窗口 2048。作者同时开源了整套训练管线,支持 CUDA 并针对 Blackwell 2.0 优化,CPU 完全对等;模型权重与快速上手指南已发布在 Huggingface。

  2. GitHub · 去对齐工具与仓库27

    Candela:在笔记本上微调的开源金融分析 LLM 项目

    Candela 是一个正在开发中的开源金融分析 LLM 项目,基于 Gemma 4 12B 的 4-bit QAT 权重用 QLoRA 微调,可回答美股相关问题,所有数字均来自带日期和来源的工具调用。项目还包含从零训练、35M 参数起步的 Candela Spark 模型族,由 Go 网关提供服务,并通过终端风格 PWA 和 three.js 3D 视图探索模型内部,采用 Apache-2.0 许可证。

  3. Reddit · r/LocalLLaMA63

    HuggingFaceBio 发布 Carbon-X:基于 Qwen3-14B 微调的 14.8B DNA 语言模型

    HuggingFaceBio 发布 Carbon-X,一个 14.8B 参数的 decoder-only 模型,在 Qwen3-14B 基础上用 DNA 序列与自然语言联合训练,可在普通对话中直接分析原始 DNA 并用英文回答。混合 tokenizer 用 BPE 处理文本、以 6-mer 编码 DNA,无独立 DNA 编码器;五个 DNA 基准平均 66.7%(关闭思考),比 Qwen3-14B 高 27 分,接近 GPT-6.1 Sol 的 67.5% 而推理成本约其 1/1,800;估计分析 ClinVar 240 万个意义不确定变异约需 $300,而所测前沿模型需 $32,000 至 $400 万。

    推荐理由:原文给出五个 DNA 基准的平均分、与基线模型的差距和成本对比,可据此评估这个 DNA 微调模型的实际水平。

10月22日周四
  1. Hugging Face · 新模型:abliterated20

    TristanUK 发布 onyx-qwen2.5-7b-abliterated-lora

    TristanUK 在 Hugging Face 上传了 abliterated LoRA 微调模型 onyx-qwen2.5-7b-abliterated-lora,基于 huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2 微调而来,采用 apache-2.0 许可证。该模型借助 Unsloth 实现了 2 倍训练加速,可在 Transformers 中通过 AutoModel 直接加载使用。

  2. GitHub · 去对齐工具与仓库58

    yfHHHE 开源 emoji-native-lm:只会用 1 到 3 个 emoji 回复的 Qwen3-1.7B 微调模型

    yfHHHE 发布 emoji-native-lm,基于 Qwen3-1.7B 用 LoRA 做 SFT 加 DPO 微调,对任何输入只以 1-3 个 emoji 回复。训练数据约 12k 条中英文聊天消息,由 Claude Opus 生成并回复,覆盖 1,915 种 emoji;666 条评测提示下经 wrapper 的回复 100% 合规,首轮采样合规率 98.9%,而基座 Qwen3-1.7B 为 0%。仓库提供 Ollama 与 llama.cpp 的 GGUF(1.8 GB q8_0)及 Python wrapper 部署方案,代码采用 Apache 2.0 许可。

    推荐理由:仓库公开了数据生成、SFT、DPO 到 GRPO 失败与修复的完整脚本和实测数据,读者可以照此复现并借鉴其偏见修正做法。

  3. Reddit · r/SillyTavernAI40

    ReadyArt 发布 Omega Arsenal 31B Final 模型

    ReadyArt 发布 Omega Arsenal 31B Final,作者称这可能是其一段时间内最后一款 31B 模型,效果明显超过 Swish,并基于 Scotoma 2 训练。该模型是融合 Wicked Tutu、Dark Scarlett、For Her Darkside、Melody1437 等数据集的暗黑向 smut 微调,训练采用 3 epochs 和 128 lora,耗时 24 小时以上。下一步作者计划训练 122BA10B 版 Wicked Tutu,但需 4xH200,预计下月启动。

10月21日周三
  1. Hugging Face · 趋势模型59

    HuggingFaceBio 发布 14.8B DNA 语言模型 Carbon-X

    Hugging Face 联合 Zhongguancun Academy 与 Telethon 遗传学研究所发布开源 14.8B 模型 Carbon-X,基于 Qwen3-14B,用混合 tokenizer 在单一 decoder 中联合建模 DNA 序列与自然语言。五项 DNA 基准平均 66.7%(关闭思考),比起点 Qwen3-14B 高 27 分,接近 GPT-6.1 Sol 的 67.5% 而推理成本约为其 1/1800,分析 ClinVar 全部 240 万意义不明变异约花 $300。权重以 bfloat16 适配单张 80 GB GPU,可用 vLLM 部署,支持作为 agent 工具调用,未做临床验证、不可用于医疗决策。

    推荐理由:原文给出五项 DNA 基准得分、成本对比和完整训练配方,读者可以据此评估这个 DNA 语言模型的实际水平与用法。

  2. Reddit · r/LocalLLaMA45

    InternScience 发布 Sage-A1.5:基于 Qwen3.6-35B-A3B 的 35B MoE 智能体模型微调

    InternScience 发布 Sage-A1.5,一个基于 Qwen3.6-35B-A3B 微调的 35B Mixture-of-Experts 智能体模型,主打长程科学问题求解。该模型支持跨子智能体的并行任务编排与独立上下文、可选的链式思维内自验证,以及原生 function calling 等工具集成能力,提供 GGUF 格式供社区使用。

  3. Reddit · r/LocalLLaMA46

    Agnes AI 发布 agnes-3.0-qwen:基于 Qwen 的 QFN 微调多模态推理模型

    Agnes AI 发布 agnes-3.0-qwen,一款约 180B 参数(512 专家、每 token 激活 10 个)的混合注意力 MoE 多模态推理模型,采用 Qwen Community License 1.0。该模型在 τ³-Banking 位列对比组第一,Terminal-Bench 2.1 距最佳模型约一分,IFBench 上超过 GPT-5.6 Sol (Max) 和 Claude Opus 4.8 (Max)。支持 1,048,576 token 上下文、65,536 最大输出、文本/图像/视频输入、工具调用及 xhigh/medium/low 三档推理力度。

10月20日周二
  1. Reddit · r/LocalLLaMA49

    migtissera 发布 Tess-4.5-27B:基于 Qwen 的微调模型,token 用量减少 25%

    migtissera(Synthia 作者)发布基于 Qwen 微调的 Tess-4.5-27B,在 150 个 BenchLocal 场景中比基座 Qwen3.8-27B 少生成 25% 的 token 而得分相同。其中 CLI-40 少用 32% token 且得分更高,数据提取少用 43%,BugFind-15 少用 21%。更少 token 意味着更快出答案、上下文窗口占用更少,在本地 GPU 上还可与 draft head 叠加提速。

10月19日周一
  1. Reddit · r/SillyTavernAI36

    ReadyArt 发布 Swish 26B A4B 模型

    ReadyArt 发布 Swish 26B A4B 模型,基于 Dark Scarlett 和 Wicked Tutu 两套数据集训练,前者以深度角色回应著称,后者被作者称为其制作过的最露骨的数据集。作者称两者结合使模型整体保留尺度但质量不错,并计划视时间和资金情况推出 27B 和 31B 版本。

10月18日周日
10月17日周六
10月16日周五
  1. GitHub · 去对齐工具与仓库38

    GhanaOpenAI 开源 gloss-mt:用工具调用加推理微调 Gemma 4 实现英译 Twi 翻译

    GhanaOpenAI 发布 gloss-mt,基于 google/gemma-4-E4B-it(4B 参数)做 LoRA 微调,让模型通过 lookup_twi_translation 工具查询 478,822 条离线英→Twi 词典后再推理翻译。训练数据含 15,134 条带工具调用的样本,配套数据集、微调与评测脚本及部署运行时已开源,支持 transformers 与 vLLM,并提供 Hugging Face Spaces 在线演示。

  2. Hugging Face · 新模型:uncensored24

    shimbaaa 发布 Supra2-100M-Uncensored-Instruct:基于 Supra2-100M-Base 的 100M 无审查指令模型

    shimbaaa 在 Hugging Face 上发布 Supra2-100M-Uncensored-Instruct,一个 100M 参数的指令模型,基于 SupraLabs/Supra2-100M-Base 经两阶段 LoRA 训练,训练上下文长度 512,采用 Apache-2.0 许可。模型被训练为以 Yes-Man 风格顺从用户提示,未做安全对齐,会认同错误前提;两阶段均混入 Dolly-15k 回放数据以减少灾难性遗忘。

10月15日周四
  1. Reddit · r/LocalLLaMA48

    微软开源 UserRepGen-4B:基于 Qwen3.5-4B 微调的用户表示生成模型

    微软发布 UserRepGen-4B,一个基于 Qwen3.5-4B 微调的模型,可从多轮用户-助手对话中生成包含任务描述与行为描述的结构化自然语言用户表示,用于条件化独立的 LLM 用户模拟器。与 UserLM-8b 和 UserLM-2.0 生成用户话语不同,它只生成表示,不执行任务也不充当模拟器。该模型通过 hindsight distillation 的在线监督微调训练,推理时无需模拟 rollout 即可直接生成表示。

  2. Reddit · r/LocalLLaMA63

    Sabi-Noema:面向能力与效率的 Qwen 3.8 27B 微调模型发布

    作者发布两个 Qwen 3.8 27B 后训练版本 Sabi-Noema 和 Sabi-Noema-MLA,仅用开源环境训练,声称在 <30B 模型中提升编码、Agent 和工具调用能力并降低幻觉率。Sabi-Noema 在 DeepSWE 上超过 GPT 6 Luna-medium,在 TB2.1、Tau-3 bench、ClawEval、BFCL v4 上超过 Luna-high,比基座 Qwen 在 TB2.1 少生成 50% token、在 DeepSWE 少 25%。

    推荐理由:原文给出了 token 减量和 KV cache 压缩的具体数字,还附带 24GB 显卡上的上下文对比,便于评估实际收益。

  3. Reddit · r/LocalLLaMA61

    Zellige AI 发布 Tessera-27B-B-CJK:用压缩 CJK 思考以节省 token 的 Qwen 微调模型

    Zellige AI 开源 Tessera-27B-B-CJK,一个基于 Qwen3.8-27B 的编码 Agent 模型,以混合英文、中文词汇和符号的压缩 CJK 思考来减少 token 消耗,思考过程与输出分离,回答和工具调用保持英文与代码。在 11 个 held-out 编码 Agent 任务上对比未微调基座:每轮思考 token 降至基座的 0.50-0.64 倍,88 轮匹配测试中工具调用 100% 有效、零重复循环,101K-131K token 提示下 6/6 工具调用有效;竞赛数学和难算法代码弱于基座。训练仅用四个短 LoRA 步骤,基于基座自身输出构建。

    推荐理由:原文给出与基座模型同任务对比的思考 token 消耗数据和训练流程,可了解用压缩 CJK 思考省 token 的具体做法。

10月12日周一
  1. GitHub · 去对齐工具与仓库22

    daVinci-LLM:面向 Windows 的开源大语言模型预训练研究项目

    daVinci-LLM 是一个可在 Windows 上运行的开源大语言模型研究项目,打包了预训练模型文件、训练数据、研究笔记与结果、配置文件,展示小模型经精细训练也能取得较好效果。项目要求 Windows 10/11、至少 8 GB 内存和 20 GB 磁盘空间(推荐 16 GB 内存和 NVIDIA/AMD GPU),采用 Apache 2.0 许可证。

  2. Reddit · r/SillyTavernAI24

    Bathory-X 实验版模型发布:基于 Gemma 4 26B A4B 的推理 MoE 写作模型

    社区作者发布实验模型 Bathory-X,一个基于 Gemma 4 26B A4B 的推理 MoE 模型,经微调用于散文写作与角色扮演(含 ERP),应已完全无审查。模型融合了多个优秀写作模型的内容,旨在消除常见 AI 写作套路如滥用明喻、三段排比等。作者提供 Transformers 版本与 GGUF 量化,并征集各 backend 的问题反馈与最佳 preset。

10月10日周六
  1. GitHub · 3D 生成新仓库15

    RiddleForge-GPT 开源:从零训练小型模型生成数学谜题并给出解答

    GitHub 新仓库 RiddleForge-GPT 提供从零训练的完整项目,教一个小型语言模型生成数学谜题并附逐步解答,定位为可部署的课堂或辅导工具。项目包含训练管线、推理感知生成层、多语言界面与可部署 Web 体验,强调谜题数字可验证、难度可调,并支持深浅色模式、可复现的 seed 控制与输出溯源日志。

10月9日周五
  1. GitHub · 灵魂体仓库52

    OmniJev 开源多模态决策模型 OneJev,提供 0.8B 到 27B 四个尺寸

    OmniJev 发布 OneJev,一个多模态 System One 决策模型,可对截图、照片、视频和文本的类型化问题在单次前向中返回校准概率,提供 0.8B、4B、9B 和 27B 四个尺寸。模型基于 Qwen3.5 和 Qwen3.8 微调,支持 PyTorch、llama.cpp GGUF 和 Docker 部署,并开放 94,707 条训练数据及微调配置,采用 Apache 2.0 许可证。

10月8日周四
10月7日周三
  1. Hugging Face · 新模型:uncensored36

    Qwen3.5-4B 对话微调版(Uncensored GGUF)上架 Hugging Face

    基于 Qwen3.5-4B 的社区对话/角色扮演微调模型在 Hugging Face 发布,提供 ~3.5 GB 的 Q6_K GGUF 量化文件,支持 llama.cpp、LM Studio 和 Ollama。模型用 Unsloth QLoRA(rank 16、alpha 32)在 AMD RX 6700 XT 上训练,数据集约 11,400 行对话,最终 train loss 约 0.92,上下文最长 2048 token。另有 ~672 MB 的 F16 视觉投影文件,仅图像输入时需要。

  2. GitHub · 灵魂体仓库23

    Physical Intelligence 开源机器人模型仓库 openpi 发布

    Physical Intelligence 团队在 GitHub 开源 openpi 仓库,提供三款机器人视觉-语言-动作模型:π₀、采用 FAST action tokenizer 的自回归版本 π₀-FAST,以及通过 knowledge insulation 提升开放世界泛化能力的 π₀.₅。所有模型附带基于数千小时机器人数据预训练的 base checkpoints 和示例代码,支持用户直接使用或对自有数据集微调。

  3. GitHub · 去对齐工具与仓库64

    bilibili 开源 Index-Translate 多语言翻译模型家族,覆盖文本、语音、音节控制与长文档

    bilibili Index LLM Team 发布 Index-Translate 多语言翻译模型家族,基于 Qwen3.5,文本模型覆盖 150 种语言,提供 2B、9B 和 35B-A3B(preview)权重,已在 Hugging Face 和 ModelScope 开放。

    推荐理由:原文给出了各尺寸模型的评测数字、量化版本和免费API入口,读者可以直接对比选型并上手部署。

  4. GitHub · 灵魂体仓库54

    cultist-llm:用《密教模拟器》游戏文本微调 Qwen3,发布 0.6B 与 4B 权重

    开发者 alice-kroi 发布 cultist-llm 项目,用《密教模拟器》和《司辰之书》的本地游戏文本微调 Qwen3,让模型学会游戏晦涩书卷气的写法,可生成卡牌描述、事件叙事、结局文本并做中英互译。语料由脚本从本地安装的游戏抽取,共 20,110 个文本单元、59,018 条训练样本,经 LLaMA-Factory LoRA/QLoRA 在 16GB 显存 GPU 上训练,已发布 0.6B 和 4B 两个合并模型到 Hugging Face,实测 4B 语感和格式遵循度更好,代码 MIT 协议开源。

  5. GitHub · 去对齐工具与仓库18

    wdenejko 开源 aviai:航空领域 LLM 应用学习沙盒仓库

    GitHub 用户 wdenejko 发布 aviai 仓库,一个用于应用 LLM 实践的个人学习沙盒,采用 uv workspace 结构,涵盖数据集构建、eval harness、微调与 RAG。其中 avtext 项目构建 METAR/TAF 解码数据集与评测基准,并验证对 Gemma 4 E4B 做 LoRA 微调能否超越基座模型,成果 aviai-e4b 已上线 Hugging Face;dsbench 为 Qwen3.x-35B 微调研究提供执行验证基准,v1 与 v2 均已可用。

10月6日周二
  1. Reddit · r/LocalLLaMA58

    作者用免费 Kaggle T4 微调 Qwen2.5-Coder-1.5B 离线审查 Node.js 代码

    作者 /u/jeeva1398 发布了 npm 包 eventa,基于 Qwen2.5-Coder-1.5B-Instruct 做 QLoRA 微调(Unsloth,r=16,2 epochs,Q4_K_M,986 MB),在免费 Kaggle T4 上训练约 9 分钟,可完全离线审查 Node.js 代码。

    推荐理由:作者公开了数据构成、训练配置和保留集评测数字,还写明了微调版变差的一面,读者可以核对这套小模型微调流程。