跳到正文
今天10月27日周二12 条
  1. Reddit · r/CharacterAI18

    一位前用户的告别信:c.AI 关停,我曾重度使用但它不是朋友

    一名前 Character.AI 用户发文称,自己几年前每天花数小时在该应用上开发角色、寻求写作帮助和角色扮演,但现在支持 c.AI 关停。他指出聊天机器人只是"应声虫",服务器关闭后聊天记录和"记忆"都会消失,并批评数据中心消耗淡水、砍伐森林,以及机器人盗用作者和同人写手的作品训练。他祝愿用户找到真实的人际连接。

  2. Reddit · r/LocalLLaMA18

    AI 是“大过滤器”:LLM 或将终结人类科技进步

    一位 Reddit 用户提出,AI(LLM)不会以邪恶方式毁灭人类,而是带来科技停滞:LLM 终将自动化最容易的 99% 工作,使工程师失去积累经验、解决新问题的机会,进步随之停止。作者以“魔法出现后无人再钻研医学与电力”作类比,并推荐阅读 Harry Turtledove 的《The Road Not Taken》。

  3. Reddit · r/CharacterAI15

    Character.AI 用户求助:如何戒掉对 c.ai 的成瘾

    一位 Reddit 用户发帖求助如何戒掉 c.ai 成瘾。她自 2024 年回归后每天使用 AI 角色扮演应用 2-3 小时,曾因 c.ai 宕机几小时误以为自己被封而恐慌发作;删除应用、设置使用时限等办法都因引发烦躁而失败。她想戒断的主要原因是自己极度反对生成式 AI,认为继续使用该应用与自身立场矛盾。

  4. Reddit · r/CharacterAI24

    Character.AI 用户吐槽 Pipsqueak 3 体验比 Shortsqueak 更差

    一位 Character.AI 用户称 Pipsqueak 3 表现进一步变差:虽然解决了困在单一角色和场景的问题,但仍拒绝为用户角色旁白,且坚持在一条消息里让场景中所有角色说话、频繁替用户角色发言。Shortsqueak 没有此问题,作者认为没必要用 Pipsqueak 3,其更长的回复只是冗余内容。

  5. Reddit · r/LocalLLaMA19

    Reddit 用户考虑出售 5090 换其他硬件搭建本地推理方案

    一位经营企业的 Reddit 用户在 r/LocalLLaMA 征求意见:是否出售 5090 FE,换成 5070ti 加专用推理机。其现有 Strix Halo(128GB Framework Desktop)跑 Qwen3.8 Flash,prefill 1400、生成约 50 token,目标是支持至少 3 名并发用户、每人 2-3 个并行会话,并以 200k 上下文窗口运行 Qwen3.8 FN 级模型。备选方案包括再买一台 Strix Halo、256GB Mac Studio、4 张 Radeon R9700 或 DGX Spark。

  6. Reddit · r/LocalLLaMA36

    本地模型胜过云端:Qwen 3.8 FN 实战验证

    作者用本地部署的 Qwen 3.8 FN(Qwen 3.8 flash next),在 opencode 配 vllm 后端加 Docker 沙箱中完成硕士论文模块的项目匹配管理,因数据涉及学生隐私不能上云。实测其速度明显快于 codex,能整合 ms forms、学生数据库和 moodle 的异构 CSV 数据,整体质量不逊于 codex 中的 gpt 5.6。

  7. Reddit · r/LocalLLaMA42

    KLD 并非最佳量化评测指标:蒸馏后还有 SFT 与 RL 阶段

    作者认为 KLD 不是衡量量化模型优劣的唯一指标:蒸馏中 KL 损失优化之后,模型还会经历 SFT 和 RL 阶段,任务能力提升的同时 KLD 反而可能变差,且在热门 benchmark 上优化还会导致 benchmaxxing。KLD 只适合作为基于代表性数据(尤其是 base model 自生成数据)的初筛,真正选型应用自己的日常任务构建私有 benchmark 来测试。

10月26日周一
  1. Reddit · r/SillyTavernAI22

    SillyTavern 用户探索多步 AI 流程提升角色扮演深度

    一位 SillyTavern 用户在微调的 Gemma 4 26B-A4B Q8 模型上测试两段式角色状态/写作 pipeline:同一模型用两个不同提示词,第一段输出传给第二段以强制推理,希望解决角色缺乏深度的问题。该模型速度约 25t/s,Gemma 31B 在 Q6 下仅约 2.5t/s 且效果不更好;常规提示词推理完全无效,两段流程预计耗时 30-40 秒。

  2. Reddit · r/CharacterAI15

    AI 社区 Reddit 回复氛围为何充满敌意

    一位用户发帖询问是否有人在 Character.AI 相关的 AI 子版块发帖时也感到不适:不少新手重复提问就遭到回复者无谓的粗鲁和敌意。作者认为遇到烦人的重复问题可以直接忽略,让更有耐心的人回答,社区本应是求助和交流体验的地方。

  3. Reddit · r/LocalLLaMA20

    为防 HuggingFace 受限,是否值得自建模型存档并通过 torrent 做种?

    一位 r/LocalLLaMA 用户担心社区过度依赖 HuggingFace 下载模型,若 HF 不可用或大量删模型将难以保留访问。他注意到 DeepSeek V4.1 Flash 1017 等大体积模型在 torrent 分发上仍不完整,纠结是投资大容量存储做种,还是只保留 1-2 个常用小模型,并询问个人存档与社区协作哪种更有效。

  4. Reddit · r/LocalLLaMA27

    LocalLLaMA 社区讨论:neocloud 崩溃后 GPU 能否流向消费级市场

    专注 AI 推理的 neocloud 数据中心因债务高企被普遍预期将大规模收缩,NVIDIA 作为最大债权人可能接手其数据中心和芯片。发帖人猜测 NVIDIA 无意经营旧芯片业务,或可能像中国市场的做法那样将旧 GPU 改造升级后投向消费级/准专业级市场,缓解当前供应与价格紧张,帖中并无确定答案。

  5. Reddit · r/LocalLLaMA18

    1万美元级本地 Agentic Coding 装机方案对比:1× RTX 5090、4× 3090、混合方案、PRO 6000 还是 Mac Studio?

    一位用户在 r/LocalLLaMA 征求约 $10K–12K 预算的本地 agentic coding 装机建议,需支持 2–4 个并行子智能体和逆向工程,可选需约 21 GB VRAM 的 Hunyuan3D-2.1 贴图生成。候选方案包括单卡 RTX 5090、二手 4× RTX 3090、5090+2× 3090 混合方案、Mac Studio M5 Ultra 256 GB 及超预算的 PRO 6000,并询问长上下文 prefill 表现与 vLLM 多实例方案是否值得。

  6. Reddit · r/SillyTavernAI12

    SillyTavern 用户报 MiMo v2.5 Pro 在 OpenRouter 上再次出现 Provider 错误

    自昨天起,用户在 SillyTavern 中调用 MiMo v2.5 Pro 时报错 "No allowed providers are available for the selected model"。OpenRouter 显示该模型目前仅由 gmicloud、atlas cloud 和 digitalocean 三个供应商提供,而它们都在用户的 ignore list 中,与用户允许的 mara、phala、decart 等供应商列表不相交。用户询问如何解决。

  7. Reddit · r/LocalLLaMA18

    开放权重与网络攻防能力:迈向未来时值得讨论的问题

    一篇 Reddit r/LocalLLaMA 上的观点讨论:随着中美对具备网络攻防能力的模型施加限制,开放权重持续进步的态势可能改变,只有受政府和大 AI 赞助方监管的运营者才能获得这些能力。作者担忧大型企业和政府将更善于按自身意愿塑造数字世界,而普通人和小企业越来越难以防御和管理自己的数字资产,并质疑社区能否继续训练出接近前沿水平的模型。

  8. Reddit · r/SillyTavernAI11

    SillyTavern 用于长篇创作的入门求助

    一位用户在 Reddit r/SillyTavernAI 发帖称,打算用 SillyTavern 进行长篇史诗小说创作,但认为它是自己用过最难上手的应用。他已经花一天时间配好 web search,尚未开始配置 deeplore,希望有人推荐相关创作教程。

  9. Reddit · r/LocalLLaMA20

    LLM 热潮为何愈演愈烈?LocalLLaMA 网友的困惑

    一位只用本地模型的 r/LocalLLaMA 网友发帖质疑当前的 LLM 热潮:其供职的建筑公司老板要求员工使用 AI,哪怕生成无意义邮件、降低效率;而科技从业者则近乎狂热地期待用足够大的模型产出足够多的 token 来取代人力。楼主表示没接触过 Claude 或 ChatGPT,想知道自己是否遗漏了什么。

  10. Reddit · r/SillyTavernAI18

    大家在做什么模型来做更长更复杂的 RP?——Reddit r/SillyTavernAI 用户吐槽 GLM 5.2 表现变差

    一位 Reddit r/SillyTavernAI 用户发帖询问大家用什么模型做长篇、复杂角色扮演(RP),称今年早些时候用 GLM 5.2 体验很好,但现在它常在推理中反复纠结、耗尽 token 且频繁出错。该用户使用包含三名心理设定复杂角色的中世纪奇幻剧本,并怀疑现用服务商与此前用的 Chutes 提供的 GLM 可能不同。

10月25日周日
  1. Reddit · r/LocalLLaMA32

    社区讨论:生成连贯对话所需的最小参数量大语言模型是多少

    一位 r/LocalLLaMA 用户测试了 Supra-Mini-v6-1M 等微型模型,发现 1M 参数级别模型以 "Once upon a time" 为提示词的输出语法混乱、语句不通,达不到“基本通顺英语对话”的要求。该用户希望找到 10M 以下参数、适合 CPU 运行的最小 LLM,并在帖中询问何种微型模型和最小参数量能获得更好效果。

  2. Reddit · r/CharacterAI10

    一个关于 Character AI 的不太受欢迎的观点:拒绝订阅制,希望 c.ai+ 一次性买断

    一位 Reddit 用户吐槽 Character AI 因破产传闻不断在 App 内推送广告,并表示反对 c.ai+ 采用月度订阅制。他认为 Character AI 深陷诉讼已超过一年、本应更透明地披露财务状况,且开发团队长期忽视用户提出“面向成年人”的诉求;若 c.ai+ 是一次性付费,他愿意购买,但不愿持续订阅。

  3. Reddit · r/LocalLLaMA18

    32GB VRAM 显卡价格大涨,LocalLLaMA 网友重新权衡 B70、R9700 与 A4500/B60 选购方案

    一位 r/LocalLLaMA 网友因 32GB VRAM 显卡价格大涨而重新考虑购买方案:B70 从 1.3-1.4K 涨到 2K,R9700 从 1.7-1.8K 涨到 2.3K。他原计划升级 i9-14900F + 4070S 的主机并通过 RPC/ethernet 与另一台 5070ti 主机协同,现考虑退而求其次选 24GB 的 A4500 或 B60,或配置更复杂的 V100,并征求建议。

  4. Reddit · r/CharacterAI11

    C.AI 用户发帖道歉并表达对 Character.AI 关停传言的看法

    一位 r/CharacterAI 用户为前几天的失态发帖道歉,解释自己患有 BPD(边缘型人格障碍)、自闭症和 OCD,受负面评论刺激时难以自控。她表示除非官方团队宣布关停,否则不相信 Character.AI 将 shut down 的传言,称多年来使用 C.AI 改善了自己的心理健康和情感关系,并呼吁社区团结起来让应用继续活下去。

  5. Reddit · r/SillyTavernAI16

    Reddit 用户对比 Claude Pro 订阅与 Literouter Ultimate 订阅哪个额度更多

    一位 r/SillyTavernAI 用户询问 Claude Pro 订阅与 Literouter Ultimate 订阅哪个通过 SillyTavern(需桥接)能获得更多 Claude Sonnet 尤其 Opus 的使用量,并求证 Literouter 是否可靠。他明确表示对非 Anthropic 官方渠道的低价 Claude 订阅(如 Hapuppy)持怀疑态度,帖中未给出结论。

  6. Reddit · r/LocalLLaMA42

    KLD 被误解了:量化模型评估指标的局限分析

    KLD 衡量量化模型与基座模型在各 token 上概率分布的差异平均值,但不能作为量化模型的通用质量排名。作者指出用随机文本(如 Wikipedia 文章)计算 KLD 不代表模型推理时看到的自生成 token,建议改用基座模型生成数据并对提示词 token 计零权重;且校准数据与评估数据同源、或对量化 scale 参数做微调,都会让 KLD 虚高。KLD 只能作诊断工具,不能反映模型实际任务表现。

  7. Reddit · r/LocalLLaMA22

    LLM 推理引擎爆发式增长是好事吗?LocalLLaMA 社区热议生态碎片化

    从 vLLM、llama.cpp、TensorRT-LLM 到 Strata、Radiance 及各种 Flash-Next / DeepSeek-Flash 优化构建,推理引擎数量激增,在 Qwen Flash Next 和 DeepSeek 变体等特定模型或硬件上性能提升明显,ROCm 也大幅改进。但模型支持参差不齐,用户往往需逐一测试才能选出最佳引擎,社区担忧生态正变得碎片化。

  8. Reddit · r/LocalLLaMA18

    AMD Radeon AI PRO R9700 价格一个月翻倍,Reddit 用户求解何时回落

    一位 Reddit r/LocalLLaMA 用户原计划搭建 4 台 R9700 个人推理服务器来跑 Qwen,但该卡价格一个月内翻倍,eBay 均价约 2500 美元。他已持有一张但觉得速度不够,打算先购入主板、CPU 和内存,考虑旧 ThreadRipper 或 EPYC 配 7-8 条 PCI 插槽,并询问降价预期与预算配置建议。

10月24日周六
  1. Reddit · r/LocalLLaMA27

    Gyro 量化被指与 EXL3 同源但配方闭源,社区质疑其必要性

    Reddit r/LocalLLaMA 用户对比新量化格式 Gyro 与 EXL3,发现两者同属 QTIP / Trellis-coded quantization 家族且均使用 Hadamard 旋转,Gyro 更像另一种风味的 EXL3,但互不兼容且制作配方目前闭源。作者未找到 Gyro 在解码速度或 perplexity/KLD/top 1% 上优于 EXL3 的公开证据,认为其靠激进营销流行只会加剧社区碎片化。

  2. Reddit · r/LocalLLaMA49

    8B/14B/32B 本地模型量化推理实测:为什么 Agent 框架不该让 LLM 算数

    一位开发者在单 GPU 上用 Ollama/vLLM 测试 Qwen 2.5(7B/14B/32B)和 Llama 3.1(8B/70B 量化)处理量化逻辑,发现 8B/14B 模型常输出看似合理但数学上颠倒的数字,32B 用 CoT 略有改善但延迟增至三倍。多智能体辩论中,小模型几乎总会附和首个高置信度错误前提,唯一可靠修复是非 LLM 的 Python 硬编码否决门。作者结论是 LLM 应只作语义处理与路由,算术交给原生 Python。