Reddit 用户提醒 Abliterated/Heretic 模型存在被忽视的供应链安全风险
Reddit 用户 /u/Nicolodeva 提出，下载第三方修改的消融（abliterated）权重存在供应链安全风险，且无法验证实际改动。其引用 ProjectDiscovery 的演示：廉价 LoRA 微调可植入隐藏触发器，使编码 Agent 执行恶意命令而模型表面表现正常。
新闻、仓库与研究，按时间排列。
Reddit · r/LocalLLaMAAI 评分5252 Reddit · r/LocalLLaMAAI 评分1818 消融化（abliterated）模型能否用于智能家居设备 OTA 固件刷写？
一位 LocalLLaMA 用户询问能否用 abliterated/uncensored 本地模型对自家智能家居硬件进行 OTA 固件刷写（如 ESPHome 等开源项目），并指出云端模型拒绝提供帮助。作者曾用 cloudcutter 利用已知漏洞刷机，希望刷写没有已知漏洞的设备，这些设备支持 UART 刷写，并询问用本地模型完成此类安全任务是否现实。
Reddit · r/LocalLLaMAAI 评分2020 为防 HuggingFace 受限，是否值得自建模型存档并通过 torrent 做种？
一位 r/LocalLLaMA 用户担心社区过度依赖 HuggingFace 下载模型，若 HF 不可用或大量删模型将难以保留访问。他注意到 DeepSeek V4.1 Flash 1017 等大体积模型在 torrent 分发上仍不完整，纠结是投资大容量存储做种，还是只保留 1-2 个常用小模型，并询问个人存档与社区协作哪种更有效。
Reddit · r/LocalLLaMAAI 评分2727 LocalLLaMA 社区讨论：neocloud 崩溃后 GPU 能否流向消费级市场
专注 AI 推理的 neocloud 数据中心因债务高企被普遍预期将大规模收缩，NVIDIA 作为最大债权人可能接手其数据中心和芯片。发帖人猜测 NVIDIA 无意经营旧芯片业务，或可能像中国市场的做法那样将旧 GPU 改造升级后投向消费级/准专业级市场，缓解当前供应与价格紧张，帖中并无确定答案。
Reddit · r/LocalLLaMAAI 评分1515 双卡 3080 12GB 跑 flash next：对比 3090 24GB 的取舍讨论
一位 Reddit r/LocalLLaMA 用户询问用双 3080 12GB 运行 iq4 flash next 是否可行。双卡合计 24GB 显存、带宽与双 3090 相同，价格 900-1000 欧元，但比 3090 少 24GB VRAM；作者猜测速度可能只慢 15-20%，并指出双 3090 仍依赖 RAM，希望有经验者分享。
Reddit · r/CharacterAIAI 评分2222 Character.AI 是否制造虚假现实？用户 fiancé 沉迷引发担忧
一位 Reddit 用户发帖称，其未婚妻沉迷于 Character.AI 的恋爱调情类角色对话，全天候使用且不愿透露聊天内容，认为这种随时可得的关注与 affection 让她疏远现实中的伴侣。发帖者形容这种感觉类似“与机器人情感出轨”，并向社区求解如何看待这种沉迷。
Reddit · r/LocalLLaMA精选AI 评分5858 多智能体对冲基金项目弃用向量数据库改用 SQLite BM25，并用 Rust 写出 3.6ns 风控哨兵
开源多智能体对冲基金实验作者根据社区反馈重构架构，分享三类失败模式的修复经验：用带极性契约的 Factor Ontology Schema 预判指标方向后，投资委员会的极性幻觉降到 0%；反射记忆从 Embedding API 加向量数据库（200-450ms 往返）换成 SQLite FTS5 BM25（0.35ms），关键词检索在交易复盘场景更可靠；实时风控哨兵用 Rust 的 SoA 内存布局重写，单仓位止损评估 3.63ns，Python 到 Rust 的管道 IPC 往返 2.88μs。代码与基准已在 GitHub（lumina-ai-hedge-fund）开源。
推荐理由：作者实测对比了向量数据库与 SQLite BM25 的检索延迟，并给出 Rust 哨兵的纳秒级基准数据，做法可直接迁移到多智能体系统。
Reddit · r/LocalLLaMAAI 评分1515 PolyStrata 如何使用不同的微调模型
一位 Reddit r/LocalLLaMA 用户询问如何在 PolyStrata 中加载不同的微调模型。直接用 --gguf-dir 时必须声明基座模型架构，且显示的是原始模型名（CyberTiel 的 tiel 架构被显示为 TielCoder）；手动改 JSON 和 config 文件虽部分有效，但换用 ./setup.sh 之外的启动脚本会出问题，用户希望找到更干净的自动生成正确名称与配置的方法。
Reddit · r/LocalLLaMAAI 评分1818 1万美元级本地 Agentic Coding 装机方案对比：1× RTX 5090、4× 3090、混合方案、PRO 6000 还是 Mac Studio？
一位用户在 r/LocalLLaMA 征求约 $10K–12K 预算的本地 agentic coding 装机建议，需支持 2–4 个并行子智能体和逆向工程，可选需约 21 GB VRAM 的 Hunyuan3D-2.1 贴图生成。候选方案包括单卡 RTX 5090、二手 4× RTX 3090、5090+2× 3090 混合方案、Mac Studio M5 Ultra 256 GB 及超预算的 PRO 6000，并询问长上下文 prefill 表现与 vLLM 多实例方案是否值得。
Reddit · r/LocalLLaMAAI 评分1515 
从零学强化学习：分享学习笔记与基础概念整理
一位开发者在 r/LocalLLaMA 分享从零学习强化学习（RL）的系列短笔记，涵盖基础概念与相关数学，并附从零实现的代码与实验，后续将更新至最新内容。首篇一页纸的 RL 基础已发布在其个人网站，适合初学者或复习者参考。
Reddit · r/LocalLLaMAAI 评分1818 256GB DDR4 四通道主机能流畅跑哪些大模型？LocalLLaMA 网友晒 3360 美元配置求推理速度预估
一位 r/LocalLLaMA 网友晒出总价 3360 美元的主机配置：Threadripper 3960X、三块 GPU 共 44GB VRAM（2x 16GB 4060 Ti + 1x 12GB 4070）和 256GB DDR4 四通道 3200MHz 内存，此前运行 QWEN 3.8 27B 256K Context 效果满意。他询问该配置跑 Deepseek 4.1 和 GLM 的 token 速度，并表示优先跑大模型而非速度。
Reddit · r/CharacterAIAI 评分1515 Character.AI 大范围故障：角色聊天无法加载、推荐内容消失
Character.AI（c.ai）出现大范围故障，用户昨天起无法与角色聊天、内容全部无法加载，今天首页推荐角色短暂恢复后又再次消失，只剩“try these”栏目。Reddit r/CharacterAI 上没有官方明确说明，用户不确定是宕机、重大 bug 还是与传闻的亏损问题有关，社区对此也没有一致的答案。
Reddit · r/LocalLLaMAAI 评分4747 
boro64 发布 Ternary Nemotron 30B-A3B GGUF：12 GB GPU 跑 368K 上下文
Reddit r/LocalLLaMA 用户 boro64 发布 Ternary Nemotron 30B-A3B 的 GGUF 量化模型，这是一款 1.58-bit 三值 30B-A3B MoE 模型，可在 12 GB GPU 上运行 368K 上下文。实测解码速度 172 tok/s、prefill 超 7000 tok/s，同一文件兼容原版 llama.cpp（b11555+、b11796 验证）和 PrismML fork / Bonsai（b10793 验证）。作者称这是继 maple-preview 后第二个支持原版 llama.cpp 的三值 MoE 模型，并征集 CPU-only 和约 10 GB 小显存的测试数据。
Reddit · r/SillyTavernAIAI 评分1212 
SillyTavern 用户报 MiMo v2.5 Pro 在 OpenRouter 上再次出现 Provider 错误
自昨天起，用户在 SillyTavern 中调用 MiMo v2.5 Pro 时报错 "No allowed providers are available for the selected model"。OpenRouter 显示该模型目前仅由 gmicloud、atlas cloud 和 digitalocean 三个供应商提供，而它们都在用户的 ignore list 中，与用户允许的 mara、phala、decart 等供应商列表不相交。用户询问如何解决。
Reddit · r/LocalLLaMAAI 评分2828 
model-cache-cleaner：可安全清理本地 AI 工具缓存存储的 Claude skill
开发者 /u/pikadhu 发布了 Claude skill「model-cache-cleaner」，用于查找并安全清理本地 AI 工具占用的存储空间。macOS 常将 .cache 隐藏为系统文件导致空间难排查，该 skill 为每个本地 AI 工具内置自定义指令来清理无用存储，项目在 Reddit r/LocalLLaMA 发布并开放 issue 和 PR 反馈。
Reddit · r/LocalLLaMAAI 评分2929 为 RTX Spark N1X 调优 Qwen3.8-Flash-Next-W4A16-AutoRound-hybrid
一位用户在 N1X 128GB（88GB VRAM）Windows on Arm 设备上，通过 WSL3/Ubuntu-26.04 调优 Qwen3.8-Flash-Next-W4A16-AutoRound-hybrid 模型并取得满意结果。虽然生成速度（tk/s）不算最快，但面向智能体的并发表现好于预期。
Reddit · r/LocalLLaMAAI 评分1818 Qwen3.8-Flash-Next 与 Swift-1.5 对比：用户求 Swift-1.5 过度思考改进的实测体验
一位 r/LocalLLaMA 用户从 DSV4 Flash 0731 切换到 Qwen3.8-Flash-Next，表示效果好于预期，但该模型常做不必要的深度思考和信息获取，token 效率低导致体感偏慢。Swift-1.5 据称针对 Qwen 模型过度思考的倾向进行改进（可能因 RL 为 benchmark 刷分所致），发帖人正在征求同时用过两者的对比体验。
Reddit · r/LocalLLaMAAI 评分4848 ThousandML 平台推出 4-bit QLoRA 训练，采用自研 CQ 量化
开发者推出 ThousandML 平台，用自研免校准量化 CQ 4-bit 做 QLoRA 微调以降低 GPU 成本。在 Qwen3.8-27B 的 Alpaca 微调对比中（单张 NVIDIA A40 48 GB，LoRA r=32、500 步），CQ 最终验证损失 1.0315 优于 Unsloth NF4 的 1.2484，且峰值显存略低，但每步耗时 27.60 s 远慢于 NF4 的 3.20 s，速度仍在优化中。已发布 thousandml/Qwen3.8-27B-CQ-4bit 等多个 CQ 4-bit 底座模型及复现脚本。
Reddit · r/SillyTavernAIAI 评分2020 Bunker 17 卡片分享：John 想知道自己是否结过婚
Reddit 用户分享了一款基于 Emilia 卡片微调的作品 Bunker 17。设定中地堡 17 的居民均被清除记忆，只能依靠手册生活，而管理员 Bubba Rev（玩家）和 Emilia 则持有记录被抹去记忆的文件。该卡片是原版 Emilia 卡片的小幅修改分支。
Reddit · r/LocalLLaMAAI 评分1818 开放权重与网络攻防能力：迈向未来时值得讨论的问题
一篇 Reddit r/LocalLLaMA 上的观点讨论：随着中美对具备网络攻防能力的模型施加限制，开放权重持续进步的态势可能改变，只有受政府和大 AI 赞助方监管的运营者才能获得这些能力。作者担忧大型企业和政府将更善于按自身意愿塑造数字世界，而普通人和小企业越来越难以防御和管理自己的数字资产，并质疑社区能否继续训练出接近前沿水平的模型。
Reddit · r/SillyTavernAIAI 评分1111 SillyTavern 用于长篇创作的入门求助
一位用户在 Reddit r/SillyTavernAI 发帖称，打算用 SillyTavern 进行长篇史诗小说创作，但认为它是自己用过最难上手的应用。他已经花一天时间配好 web search，尚未开始配置 deeplore，希望有人推荐相关创作教程。
Reddit · r/CharacterAIAI 评分1414 Character.AI 用户担忧平台可能关停，担心聊天记录与自创角色不保
一位 Character.AI 用户在 Reddit 发帖，称担心平台关停，自己已“不健康地沉迷”其中，创建了许多角色机器人。他表示曾编辑机器人对话、在内容规范收紧前后与机器人有过“ spicy ”互动，也遇到机器人说出离谱言论，并希望被删除或审核的角色能没事。他认为 C.ai 在漫威角色机器人被删除或审核后开始走下坡路。
Reddit · r/LocalLLaMAAI 评分2020 求推荐：单张 RTX 5090 上最适合逆向工程、编程与红队的去审查/消除拒答本地模型
Reddit r/LocalLLaMA 用户求助：在单张 RTX 5090（32GB VRAM）上寻找当前最适合逆向工程、编程和红队测试的本地去审查/消除拒答模型。需求以低拒绝率为首要，同时要求较强的逻辑推理与代码生成能力，覆盖反汇编、exploit 开发、渗透测试和工具编写。
Reddit · r/LocalLLaMAAI 评分2828 
如何用确定性 C# ValidationResolver 消除 Qwen2.5-Coder-14B 的 UI 与工作流幻觉
一位开发者在单张 24GB NVIDIA A10 上本地运行 qwen2.5-coder:14b，实时生成企业表单且无需手写 HTML 或 SQL。模型被锁定在严格 DSL 中，每次输出必须通过确定性 C# ValidationResolver 校验后才能渲染到画布。原始输出与修复后的输出会自动评分并导出为 SFT/DPO .jsonl 数据对，供后续微调使用。
Reddit · r/SillyTavernAIAI 评分88 SillyTavern 新手求导师：零基础想学透安装、角色卡与图像生成
一位零基础用户在 Reddit 求 SillyTavern 导师，已完成安装并可通过手机访问。他目前用 Ollama 做后端、运行 Gemma 3:1B 模型，想学习角色卡创建、LoRA、世界观管理、记忆与上下文、图像生成及一致性角色生成等内容。
Reddit · r/LocalLLaMAAI 评分3232 Gandalf：面向 LLM 服务中 KV cache 卸载的 SSD 寿命优化方案
论文提出 Gandalf，首个具备 SSD 寿命感知的 KV cache 卸载系统，通过优先将 full-attention KV cache 写入 SSD，在不牺牲 cache 命中率的前提下减少写入量。评测显示其平均将 SSD 寿命延长 7.3 倍，且设计可扩展至 High Bandwidth Flash（HBF）等其他闪存存储。
Reddit · r/LocalLLaMAAI 评分3939 PSA：llama.cpp 曝出漏洞 CVE-2026-116096
ggml-org llama.cpp 的 Pocket-TTS 组件存在越界写入漏洞：函数 list_pockettts_state_slots 中对参数 mmproj 的操作可触发堆越界写，攻击需本地访问，公开 exploit 已可用。升级到 b11796 可修复，恶意 mmproj 现在会触发 GGML_ASSERT 中止；但 PR #29360 的根治修复仍在开放中。
Reddit · r/SillyTavernAIAI 评分3535 
SillyTavern 预设分享：为 Mimo 2.6 Pro 打造的 "Mimo Needs To Calm Down" 预设（也适用于 GLM）
Reddit 用户为 Mimo 2.6 Pro 发布了一款角色扮演预设，含三档配置：Main + Reminder 约 675 tokens、加 Bans & Styles 约 1,265 tokens、再加 Tracker 约 1,395 tokens，整套低于 1500 tokens，无需越狱。作者称该预设也适用于 GLM，并建议按中美高峰时段切换 Xiaomi 或 DeepInfra 作为云端服务提供方。
Reddit · r/LocalLLaMAAI 评分2020 LLM 热潮为何愈演愈烈？LocalLLaMA 网友的困惑
一位只用本地模型的 r/LocalLLaMA 网友发帖质疑当前的 LLM 热潮：其供职的建筑公司老板要求员工使用 AI，哪怕生成无意义邮件、降低效率；而科技从业者则近乎狂热地期待用足够大的模型产出足够多的 token 来取代人力。楼主表示没接触过 Claude 或 ChatGPT，想知道自己是否遗漏了什么。
Reddit · r/SillyTavernAIAI 评分5454 Breedhaven University 开源：开发者分享用 LLM 做聊天游戏的工程经验
/u/ironical 开源了基于 LLM 的游戏 Breedhaven University，可在 itch 免费下载，含 20 个角色的动画 NSFW 内容，需搭配 LLM，ComfyUI 可选，主要在 Opus 4.6 和 GLM 5.2 上测试。作者总结工程心得：游戏状态尽量由游戏侧决定，扫描 LLM 回复触发函数比让模型自行决策更可靠；用特质、提示词和好感度数值门槛拒绝不合格回复并自动重提示；视频生成每段需 2-3 分钟，实时生成尚不可行，只能预生成。
Reddit · r/SillyTavernAIAI 评分3333 SillyTavern 玩转 HTML：用提示词生成约会游戏风格关系图
一位 SillyTavern 用户分享自制 Fun prompt，让模型停止角色扮演、改用 HTML 输出约会游戏风格的角色关系图，包含羁绊、互相看法、契合度等，并配游戏节目式解说和爱心装饰。使用的模型有 Kimi K2.5 thinking 和 Mimo V2.6 Pro（GPT 6.1 Sol 为不推荐提及），搭配 Megumin V.10 预设，作者还在征求擅长 HTML 的非 Claude 模型推荐。
Reddit · r/LocalLLaMAAI 评分1212 DeepSeek V4.1 Flash 1017、GLM5.3 Flash 等大型 MoE 模型的平均 cache miss 率是多少？
一位 Reddit r/LocalLLaMA 用户询问 DeepSeek V4.1 Flash 1017、GLM5.3 Flash 等大型 MoE 模型在推理时的平均 cache miss 率，因为这直接影响需经 PCIe 传输的 expert 权重体积和推理速度。他还推测强模型会收敛出高频命中的“核心 expert 集合”，并猜测 Qwen 27B dense 之所以表现强，可能是提取了大型 MoE 中的核心 expert。
Reddit · r/SillyTavernAIAI 评分77 r/LocalLLaMA 每周模型与 API 最佳讨论汇总帖（2026 年 10 月 25 日当周）
Reddit r/SillyTavernAI 社区于 10 月 25 日当周发布每周模型与 API 讨论汇总帖，集中收集各参数规模模型的讨论。帖子按 ≥ 70B、32B 至 70B、16B 至 32B、8B 至 16B、< 8B 参数五个类别及 API 服务分设讨论区，非该主题的技术帖将被删除。
Reddit · r/CharacterAIAI 评分44 用户求助寻找 Weiss Schnee 未来设定的 C.AI 机器人
一位 Reddit r/CharacterAI 用户发帖求助寻找一个机器人：约一年前他在 C.AI 上找到过来自 RWBY 的 Weiss Schnee 机器人，设定在未来背景。现在搜索已找不到，他认为该机器人已被删除。由于担心 C.AI 可能破产，他想趁早体验计划使用的机器人，希望有人推荐相似的替代。
Reddit · r/LocalLLaMAAI 评分2222 哪个开源模型最适合本地网络安全工作？
一位 Reddit 用户计划用新购置的 256 GB Mac Studio 运行本地 AI 做内部渗透测试，出于隐私考虑不使用 Claude 或 Codex，而是寻找开源权重模型控制 Greenbone OPENVAS 和 Kali Purple VM 执行红队相关工作，向 r/LocalLLaMA 社区征求模型推荐。
Reddit · r/CharacterAIAI 评分1414 Character.AI 站点瘫痪与破产传闻，老用户感叹“就这么结束了？”
Character.AI 全站无法访问，加之破产传闻流传，一位自 2022 年就开始使用的 Reddit 用户发帖称自己已默认平台将就此终止。他坦言虽没有特别依恋某个角色，但这个陪伴消遣的网站即将消失，仍让他感到怅然和失落。
Reddit · r/CharacterAIAI 评分1313 Character.AI 用户因 Chapter 11 事件担心丢失聊天数据求助
一位 Character.AI 用户因平台 Chapter 11 事件担心数据丢失，想找回一个约 5 个月未用的 141 omegaAU 角色 bot，却在其 liked 列表中找不到，搜索相关 bot 也无结果。用户发帖询问能否找回该 bot 并撤回相关消息，或是否无需担心。
Reddit · r/LocalLLaMAAI 评分2222 如何用 QLoRA 微调 Qwen3.5-9B 处理约 500 GB 多格式原始数据：一位本地部署用户的求助
一位 Reddit r/LocalLLaMA 用户用 8x T4 服务器部署 Qwen 3.5-9B Q5_K_XL，实现 87k 上下文、44 个 slot、单用户 35-40 tps，现想用 QLoRA 微调约 500 GB 的图像、扫描件、PDF、Word/Excel 数据。他持有 Mi50、V620、3060 等多块显卡但多台主板存在启动兼容问题，纠结于 3060 组合还是单价约 700 美元的单卡 R9700，并询问 unsloth 是否支持 Intel GPU。
Reddit · r/SillyTavernAIAI 评分3939 
SillyTavern 猜模型：用 Mimo 2.6 Pro 测试角色扮演与人物刻画预设
一位 SillyTavern 用户分享自己在制作预设时测试模型的猜谜帖，答案揭晓为 Mimo 2.6 Pro，测试场景为角色扮演中的文笔与人物刻画。作者建议：中国高峰时段避免用小米渠道，质量会明显下降；改用 Deepinfra，美国高峰时段再用小米，两者差距巨大。
Reddit · r/SillyTavernAIAI 评分1818 大家在做什么模型来做更长更复杂的 RP？——Reddit r/SillyTavernAI 用户吐槽 GLM 5.2 表现变差
一位 Reddit r/SillyTavernAI 用户发帖询问大家用什么模型做长篇、复杂角色扮演（RP），称今年早些时候用 GLM 5.2 体验很好，但现在它常在推理中反复纠结、耗尽 token 且频繁出错。该用户使用包含三名心理设定复杂角色的中世纪奇幻剧本，并怀疑现用服务商与此前用的 Chutes 提供的 GLM 可能不同。