跳到正文
  1. Reddit · r/LocalLLaMA60

    Lure-TTS 与 Lure-Turbo:600M 语音模型跑出 4 倍实时速度,训练成本不到 $200

    /u/smirkishere 基于 Qwen3-TTS 0.6B 微调出 Lure-TTS 和 Lure-Turbo 两个语音模型,支持内联标签、语音方向控制和音色克隆,训练成本不到 $200。Turbo 的 RTF 为 0.14,对比 5B Fish S2 Pro 的 0.195,同时保持相同说话人相似度(ECAPA 0.699)。作者还发布了 Lure-TTS 推理引擎,基于 faster-qwen3-tts(CUDA)、mlx-audio(Mac)和 audio.cpp(CPU),在 4090 上首音频输出 0.17s(参考代码为 10.6s),整体快约 5 倍(RTF 0.53 vs 2.54),支持流式 0.32s 分块、CUDA graphs 和最多 8 路并发。

    推荐理由:作者公开了训练流程、RTF 与 ECAPA 对比数据和训练代码,可复现的低成本 TTS 微调路线有参考价值。

  1. GitHub · 去对齐工具与仓库58

    yfHHHE 开源 emoji-native-lm:只会用 1 到 3 个 emoji 回复的 Qwen3-1.7B 微调模型

    yfHHHE 发布 emoji-native-lm,基于 Qwen3-1.7B 用 LoRA 做 SFT 加 DPO 微调,对任何输入只以 1-3 个 emoji 回复。训练数据约 12k 条中英文聊天消息,由 Claude Opus 生成并回复,覆盖 1,915 种 emoji;666 条评测提示下经 wrapper 的回复 100% 合规,首轮采样合规率 98.9%,而基座 Qwen3-1.7B 为 0%。仓库提供 Ollama 与 llama.cpp 的 GGUF(1.8 GB q8_0)及 Python wrapper 部署方案,代码采用 Apache 2.0 许可。

    推荐理由:仓库公开了数据生成、SFT、DPO 到 GRPO 失败与修复的完整脚本和实测数据,读者可以照此复现并借鉴其偏见修正做法。

  2. Reddit · r/LocalLLaMA60

    KittenML 开源 Kitten-TTS 2:1.58-bit 三值权重 TTS,CPU 实时运行

    KittenML 发布 Kitten-TTS 2 的代码与权重,称其为首个 1.58-bit(三值)TTS 模型,1.7B 参数,仅靠 CPU 即可实时生成。支持少于 5 秒参考音频的 zero-shot 声音克隆、20+ 语言跨语言克隆,以及重音与情感表达控制;代码和权重开源,提供 GitHub 与 Hugging Face 链接,定位为 ElevenLabs 的开源替代。

    推荐理由:1.58-bit 三值权重让这个 1.7B TTS 只靠 CPU 就能实时运行,对没有 GPU 的本地部署用户是可查的开源替代选项。

  1. GitHub · 3D 生成新仓库62

    Let It Be Simple 开源一步动作生成 VLA 模型代码与权重

    论文《Let It Be Simple: One-Step Action Generation for Vision-Language-Action Models》发布代码与权重,方法只需把训练时间步分布偏向噪声端点 t' = α·t / (1 + (α−1)·t),无需蒸馏、新目标函数或新架构即可训练一步 VLA 策略。论文认为该效应是结构性的:丰富观测 tightly 约束紧凑动作目标,使不可约速度损失在噪声端点坍缩,而非像图像生成那样形成 U 形。

    推荐理由:论文给出把训练时间步分布偏向噪声端点即可训练一步 VLA 策略的方法,并附开源代码、配置和 LIBERO 成功率数据,可复现验证。

  1. GitHub · 3D 生成新仓库58

    neuronet-arena 开源:纯手写神经网络的进化模拟器,实验显示选择压力让觅食效率提升 13.7 倍

    GitHub 开源仓库 neuronet-arena 是一个进化模拟器,40 个智能体在 2D 场地中由各自的小型神经网络驱动觅食避害,网络、遗传算法和随机数生成器全部用 Python 手写,不用 NumPy、PyTorch 或 random。浏览器 JavaScript 演示与 Python 引擎位级一致,通过共享 PRNG、softsign 替代 tanh、Cayley 变换旋转和固定求和顺序规避 IEEE 754 未规定的 tanh、sin、exp 差异。8 个种子各跑 150 代的选择开/关对照实验显示,末代每智能体食物量为 13.39 对 0.98,存活数 33.0 对 13.4;首个版本曾因每代重建种群导致 0/20 进化基因存活,现用回归测试修复。MIT 许可。

    推荐理由:这个进化模拟器用纯手写引擎和双语言位级一致设计,展示了如何让浏览器演示逐位复现 Python 训练结果,方法可迁移。

  2. GitHub · 3D 生成新仓库71

    DMAD 发布:把分布匹配蒸馏改写为对抗蒸馏,4 步生成 MiniMax-H3 音视频

    Texas A&M 与 ByteDance 团队发布 DMAD(Distribution Matching as Adversarial Distillation)仓库及论文(arXiv:2610.02188),将分布匹配蒸馏重构为分类问题,用共享骨干上的两个判别头直接学习 log-density ratio,免去 DMD 所需的辅助扩散模型。基于 MiniMax-H3(33B,文生音视频)训练的 rank-128 LoRA 可将 50 步 teacher 压缩为 4 步生成 1344x768、124 帧、32 kHz 立体声视频;4 步 student 在人类偏好上对 DMD2 达 79.1%、对 rCM 达 84.6%(不含平局)。

    推荐理由:作者把分布匹配蒸馏改写成判别式对抗训练,省掉辅助扩散模型,并给出从 8 GB 消费级 GPU 到 H200 的显存与速度实测数据。

  3. Reddit · r/LocalLLaMA62

    QUASAR 发布 Qwen3.5、Gemma 4 与 Muse Glimmer 的 4-bit QAT 权重,KL 距离低于 Google 与 NVIDIA 官方 4-bit 版

    QUASAR 团队发布多款模型的 4-bit QAT 量化权重,包括 Qwen3.5-4B、Gemma 4 E4B 与 12B、Muse Glimmer 30B,提供 NVFP4(vLLM)和 Q4_0 GGUF(llama.cpp / Ollama / LM Studio)格式,代码与项目页已公开。方法为量化感知蒸馏,以原 BF16 模型为教师在其自身回复上修复量化损失;在 held-out 提示上的 KL 距离普遍低于 Google QAT、NVIDIA NVFP4 等参考版本。

    推荐理由:原文给出与官方 4-bit 版本的 KL 距离和基准对比数据,读者可以据此判断这套 QAT 权重的实际损失有多大。

  1. Reddit · r/LocalLLaMA61

    TYGER 开放权重:单一模型同时做 ASR 与全双工轮次控制

    nineninesix 开放 TYGER 权重,单一模型同时处理 ASR 与全双工轮次控制,能识别说完、被打断和附和的 mm-hm。中位端点延迟 250 ms、80 ms 帧、无 lookahead;配套语音 Agent tyger-s2s 由 TYGER + Gemma 4 E4B + VoxCPM2 组成,单张 32 GB GPU 最多支持 4 路对话,目前仅支持英语。权重在 https://huggingface.co/nineninesix/tyger,代码在 https://github.com/nineninesix-ai/tyger-s2s。

    推荐理由:作者给出端点延迟、帧长和单卡并发数等具体指标,可据此评估这套语音方案在本地部署的可行性。

  2. Reddit · r/LocalLLaMA63

    Telperion 发布 Qwen3.8-27B 潜在注意力变体,KV cache 压缩 4 倍

    Telperion 发布 Qwen3.8-27B 的潜在注意力变体 MLA 和 GLA-g2,将 KV cache 压缩 4 倍,可在消费级硬件上实现近 4 倍最大上下文或近 4 倍并发提升。其中 MLA 变体在 SWE-bench Verified(zero-shot、无工具、n>1500)上得分 42.1%,较原版 39.5% 提升 6.58%,推理 token 减少最多 20%;GLA-g2 面向双 GPU 用户,TP=1 和 TP=2 下均实现 4 倍压缩。

    推荐理由:原文给出了 KV 压缩倍率、SWE-bench 分数和量化后 top-1 分歧率的具体数据,可用作判断 latent attention 变体实际收益的参考。

  1. GitHub · 3D 生成新仓库62

    PlantGen 开源:用 L-system 从开放数据生成植物学准确的 3D 植物模型

    GitHub 新仓库 jferments/plantgen 发布,以开放数据驱动的 L-system 程序在本地确定性生长出植物学准确的 3D 植物模型,内置 152 个物种、62 个科和 15 个生长程序。植物不存储不分发,同一物种和种子在每台机器上逐位一致;编译器据光照、空间与邻居生成四级 LOD 网格与 impostor,可经 plantc export 输出 glTF(.glb)供游戏引擎和 Blender 直接打开。生成器仅依赖 libm、png、serde、serde_json 和 sha2,完全离线且不用 AI;项目不接受外部 issue 和 PR 以防 prompt injection,代码采用 MIT 许可。

    推荐理由:原文详述了以物种数据加 L-system 程序在本地确定性生成 3D 植物的完整方法,可离线复现且不依赖网络或 AI。

  1. GitHub · 灵魂体仓库69

    AINode 开源决策模型 Jebadiah 系列,27B 五个零样本集宏观准确率 78.95

    AINode 开源了 System One 决策模型 Jebadiah,基于 Qwen3.5 和 Qwen3.8 做 LoRA 微调,从单个 label token 的 logits 直接输出校准概率而非生成文本,权重发布在 Hugging Face 的 frontier-infra 集合下。完整仓库包含训练器、数据构建器、评测器与每个 run 的结果记录,全部基于公开许可数据训练;27B 版在五个零样本集上宏观准确率 78.95,JevBench 公开项 0.866 与 Jev 1.13.0 持平,并提供 GGUF、MLX 量化与本地部署方案,代码采用 Apache License 2.0。

    推荐理由:原文完整公开了训练配方、消融记录与逐项评测数据,读者可以据此复现这个决策模型并判断各版本取舍。

  1. GitHub · 去对齐工具与仓库64

    bilibili 开源 Index-Translate 多语言翻译模型家族,覆盖文本、语音、音节控制与长文档

    bilibili Index LLM Team 发布 Index-Translate 多语言翻译模型家族,基于 Qwen3.5,文本模型覆盖 150 种语言,提供 2B、9B 和 35B-A3B(preview)权重,已在 Hugging Face 和 ModelScope 开放。

    推荐理由:原文给出了各尺寸模型的评测数字、量化版本和免费API入口,读者可以直接对比选型并上手部署。

  1. Reddit · r/LocalLLaMA58

    作者用免费 Kaggle T4 微调 Qwen2.5-Coder-1.5B 离线审查 Node.js 代码

    作者 /u/jeeva1398 发布了 npm 包 eventa,基于 Qwen2.5-Coder-1.5B-Instruct 做 QLoRA 微调(Unsloth,r=16,2 epochs,Q4_K_M,986 MB),在免费 Kaggle T4 上训练约 9 分钟,可完全离线审查 Node.js 代码。

    推荐理由:作者公开了数据构成、训练配置和保留集评测数字,还写明了微调版变差的一面,读者可以核对这套小模型微调流程。

  2. GitHub · 灵魂体仓库57

    PoLang(破浪相册)开源:AI Agent 驱动的端侧智能相册应用

    littleseven 在 GitHub 开源了 PoLang(破浪相册),一个 AI Agent 驱动的 Android 智能相册应用,MIT 协议、免费无广告,已上架 Google Play。

    推荐理由:开源的 Agent 驱动相册应用,README 给出了与 Queryable、PicQuery 的逐项能力对比和完整模块架构,可作端侧 AI 应用工程参考。

  3. GitHub · 去对齐工具与仓库59

    jrajath94 开源面向研究工程师的 LLM 知识库仓库

    jrajath94 在 GitHub 发布 llm-knowledge-base,一个面向研究工程师的大语言模型知识库,覆盖数学基础、深度学习、LLM 内部机制、预训练、分布式训练、后训练与 RL、推理服务、Agent 与 RAG、MLOps、GPU kernel 等内容。

    推荐理由:原文列出了知识库的完整卷目和角色路径,读者可据此判断是否适合按岗位规划 LLM 学习路线。

  4. Reddit · r/LocalLLaMA63

    Jeff v1.3 发布:Jeff-Code 让 Qwen 3.8-27B 完成编码任务平均提速 47%

    Jeff v1.3 发布,其中 Jeff-Code 是 Pi(MIT 协议)的分支,内置两个为 Qwen 3.8-27B 训练的 Jeff v1.3 适配器,让一个小型决策模型深入 agent 循环决定何时触发思考。

    推荐理由:原文给出按任务配对的对照数据和置信区间,读者可以据此判断这个决策模型方案在哪些基准上真正省时。

  1. Reddit · r/LocalLLaMA58

    本科生发布自研 4-bit Qwen2.5 量化模型,fp16 精度保持优于官方 AWQ

    一位本科生在 Claude 辅助下开发了一个 GPTQ 量化器,在 Qwen2.5-1.5B 和 7B 上产出 4-bit 权重,由 M. Federico 在 NVIDIA A10G 上用独立脚本复现结果。

    推荐理由:作者给出自建 GPTQ 量化器的具体改进点,并附 fp16 与官方 AWQ 的困惑度和 HumanEval 对照数据,还坦陈了局限。

  2. GitHub · 灵魂体仓库71

    dawnr v5 发布:带七重数学证明的本地编程助手

    trestoncuzzort 发布 dawnr v5,一个基于 Qwen3.5-4B 微调的本地助手,程序答案由 Dafny、Verus、SPARK、Frama-C、Lean 4、Rocq、F* 七个证明器验证后才输出,否则明确拒绝。

    推荐理由:原文不仅给出发布,还附完整实测数字、三次当日勘误和各模型对照表,读者可据此核验每个结论的来源。

  3. Hugging Face · 趋势模型57

    speridlabs 发布 3B 像素空间扩散模型 Iris-3B

    speridlabs 在 Hugging Face 发布 3B 参数的像素空间扩散 Transformer 模型 Iris-3B,不经过 VAE 和潜空间,直接输出每个像素,文生图默认 1024×1024,需 NVIDIA GPU,采用 Apache License 2.0,文本编码器为冻结的 Qwen3-VL-4B-Instruct。

    推荐理由:原文同时给出架构细节、训练步数与 depth、修复任务的量化指标,可作为像素空间生成路线的参考样本。

  4. GitHub · 去对齐工具与仓库62

    PersonaliAI 开源客服系统 Chatty,可自托管并内置语音 Agent 与 MCP 服务器

    PersonaliAI 在 GitHub 开源了 Chatty,一个可自托管的 Zendesk/Intercom 替代品,包含嵌入式聊天组件、基于 LiveKit 的实时语音 Agent 和 55 个工具的 MCP 服务器,支持 RAG 知识库与 WhatsApp/Slack 渠道。

    推荐理由:原文给出完整的自托管部署步骤、环境变量说明与基于自家知识库的 RAG 实现,读者可以直接照着在自己的主机上复现整套客服系统。