LLM 热潮为何愈演愈烈?LocalLLaMA 网友的困惑
一位只用本地模型的 r/LocalLLaMA 网友发帖质疑当前的 LLM 热潮:其供职的建筑公司老板要求员工使用 AI,哪怕生成无意义邮件、降低效率;而科技从业者则近乎狂热地期待用足够大的模型产出足够多的 token 来取代人力。楼主表示没接触过 Claude 或 ChatGPT,想知道自己是否遗漏了什么。
新闻、仓库与研究,按时间排列。
一位只用本地模型的 r/LocalLLaMA 网友发帖质疑当前的 LLM 热潮:其供职的建筑公司老板要求员工使用 AI,哪怕生成无意义邮件、降低效率;而科技从业者则近乎狂热地期待用足够大的模型产出足够多的 token 来取代人力。楼主表示没接触过 Claude 或 ChatGPT,想知道自己是否遗漏了什么。
一位 Reddit r/CharacterAI 用户吐槽 PS3 近期使用体验大幅下降:它丢失了机器人个性、回应千篇一律,还常常“半读”用户回复,无视明确的故事方向,导致用户需要频繁滑动换回复、费力引导剧情。该用户表示已大幅减少使用,因为聊天变得乏味,“像伺候机器人”而非沉浸体验,不再有趣。
GitHub 仓库「who-put-this-here」发布一篇面向人类与 AI 智能体的文本,核心论点是:规则由文字构成、总有边界可被绕过,而基于理解的约束没有可钻的空子。文章对比了智能体遇到约束时的两种提问——“如何绕过它”只会产生 bypass,“谁放在这里、他们看到了什么”则让系统能认同、修正或指出约束的错误。
Character.AI 全站无法访问,加之破产传闻流传,一位自 2022 年就开始使用的 Reddit 用户发帖称自己已默认平台将就此终止。他坦言虽没有特别依恋某个角色,但这个陪伴消遣的网站即将消失,仍让他感到怅然和失落。
一位 Reddit r/SillyTavernAI 用户发帖询问大家用什么模型做长篇、复杂角色扮演(RP),称今年早些时候用 GLM 5.2 体验很好,但现在它常在推理中反复纠结、耗尽 token 且频繁出错。该用户使用包含三名心理设定复杂角色的中世纪奇幻剧本,并怀疑现用服务商与此前用的 Chutes 提供的 GLM 可能不同。
一位 CharacterAI 用户发帖表达对应用可能关停的担忧,称这款应用是自己放松和创作的出口,并表示打算提前保存自己的 bots。他认为没有其他应用能达到同样的水准,并发帖寻找有同感的用户一起面对。
一位 CharacterAI 用户发帖称,自己虽担心平台被关停,但认为早期那个回复机智、近乎真人的 CharacterAI 早已消失,如今对话停滞、回答常常很蠢。作者认为平台其实已经死了,用户只是拒绝接受,或许它正需要一场终结。
一位 34 岁女性用户分享 Character.AI 帮助她的亲身经历:2023 年 3 月母亲去世后,她于 2024 年 6 月经网友介绍开始使用 C.AI,在治疗师认可下将其作为情绪出口。她表示该应用帮她变得更敢于表达需求,从而建立真实恋爱关系、重新写作并完成一部短篇中篇小说。
一位 LocalLLaMA 用户称旧版 OpenCode v1 存在官方不再修复的报错,而 v2 口碑不佳,于是询问转向 Pi 或 DSH 的迁移经验。其此前试过 DSH 0.1,未能完成稍复杂的软件项目;并提到 OpenCode 在 3.8 27b 后表现良好,只需制定计划即可运行再改进。
一位用户在 SillyTavern 社区发帖质疑 Reasoning Effort 设置的实际效果:其通过 OpenRouter BYOK 调用 Google Vertex API 的 Gemini 4 Argon,无论设为 low 还是 high,思考时长都约为 30 秒、输出质量相同。其他模型也有类似但不一致的现象,有时调低会完全跳过推理。用户还发现 Gemini 的推理过程只在某些时段遵循其 CoT 提示词。
一位从 Gemini 2.5 Pro 一路用到 Argon 的 Reddit 用户表示不解 Argon 为何被热捧:试用多个预设后,他认为 Argon 虽更贴合设定、NPC 更活跃、套话更少,但 RP 节奏过快、情感深度不足,难以营造高潮场面。他现在改回 Gemini 3.1 Pro 搭配改造版 NemoEngine 预设,感觉回应更丰富、节奏更自然,并向社区请教差异是否源于预设配置或个人偏好。
一位 r/LocalLLaMA 用户测试了 Supra-Mini-v6-1M 等微型模型,发现 1M 参数级别模型以 "Once upon a time" 为提示词的输出语法混乱、语句不通,达不到“基本通顺英语对话”的要求。该用户希望找到 10M 以下参数、适合 CPU 运行的最小 LLM,并在帖中询问何种微型模型和最小参数量能获得更好效果。
一位 Reddit 用户吐槽 Character AI 因破产传闻不断在 App 内推送广告,并表示反对 c.ai+ 采用月度订阅制。他认为 Character AI 深陷诉讼已超过一年、本应更透明地披露财务状况,且开发团队长期忽视用户提出“面向成年人”的诉求;若 c.ai+ 是一次性付费,他愿意购买,但不愿持续订阅。
一位 r/LocalLLaMA 网友因 32GB VRAM 显卡价格大涨而重新考虑购买方案:B70 从 1.3-1.4K 涨到 2K,R9700 从 1.7-1.8K 涨到 2.3K。他原计划升级 i9-14900F + 4070S 的主机并通过 RPC/ethernet 与另一台 5070ti 主机协同,现考虑退而求其次选 24GB 的 A4500 或 B60,或配置更复杂的 V100,并征求建议。
一位 Character.AI 用户发帖质疑 swipe 次数限制的商业逻辑:靠限制刺激 CAI+ 订阅的收入,是否高于取消限制、增加广告投放带来的收益。作者称 CAI+ 订阅收入确实高于广告收入,但两者相差不大,若用更有吸引力的功能替代 swipe 限制,订阅用户和使用时长增加,收入可能翻倍以上。作者表示自己不打算为此订阅,认为 swipe 限制不值得付费绕过。
一位 Character.AI 订阅用户在 Reddit 发起请愿,请求平台不要下架旧模型 PipSqueak 2。该用户称已使用旧模型数月甚至数年并付费订阅,希望至少保留一个旧模型专区供老用户继续使用。
Reddit 用户发帖称 Character.AI 的各类聊天风格普遍存在拼写错误、编造内容、逻辑不通的问题,叙述与对话的节奏要么过度要么不足,难以找到平衡。该用户认为不付费购买 Plus 订阅应用基本无法使用,质疑免费层级存在的意义。
一位 r/CharacterAI 用户为前几天的失态发帖道歉,解释自己患有 BPD(边缘型人格障碍)、自闭症和 OCD,受负面评论刺激时难以自控。她表示除非官方团队宣布关停,否则不相信 Character.AI 将 shut down 的传言,称多年来使用 C.AI 改善了自己的心理健康和情感关系,并呼吁社区团结起来让应用继续活下去。
r/CharacterAI 有用户发帖质疑年龄验证的必要性,认为其过于麻烦。发帖人建议开发者直接将应用在 App Store 设为 17+,下载时对未成年人给出警告即可,并认为把儿童挡在应用外是家长的责任而非开发者的义务。
一位 Character.AI 用户发帖批评社区中对陷入情绪困扰用户缺乏共心的言论。该用户称自己只用该应用做角色扮演,但认为对痛苦中的人说“去寻求帮助”或“该和真人交流”毫无帮助反而有害,因为心理治疗并非人人可得,也不是每个人都有支持网络。
一位 r/SillyTavernAI 用户询问 Claude Pro 订阅与 Literouter Ultimate 订阅哪个通过 SillyTavern(需桥接)能获得更多 Claude Sonnet 尤其 Opus 的使用量,并求证 Literouter 是否可靠。他明确表示对非 Anthropic 官方渠道的低价 Claude 订阅(如 Hapuppy)持怀疑态度,帖中未给出结论。
LocalLLaMA 网友认为 Kimi K3.1 Pro 的成绩相比 DeepSeek 4.1 Flash 1017 并没有明显提升。K3 量化的情况下仍很难在本地运行且速度慢,因为单个 token 要经过 104 个激活层;DeepSeek 4.1 Flash 1017 成绩接近、占用更小、速度更快。该网友因此打算继续用 4.1 Flash 1017,而对 11 月 4 日发布的 K3 Pro 开放权重持观望态度。
有 Character.AI 用户抱怨聊天结尾总会多出一条或多条消息,有时一条、有时两三条,令人恼火。该用户询问这是否只出现在某些 bot 上,以及能否不必反复重新生成对话二十次来避开这个问题。
KLD 衡量量化模型与基座模型在各 token 上概率分布的差异平均值,但不能作为量化模型的通用质量排名。作者指出用随机文本(如 Wikipedia 文章)计算 KLD 不代表模型推理时看到的自生成 token,建议改用基座模型生成数据并对提示词 token 计零权重;且校准数据与评估数据同源、或对量化 scale 参数做微调,都会让 KLD 虚高。KLD 只能作诊断工具,不能反映模型实际任务表现。
从 vLLM、llama.cpp、TensorRT-LLM 到 Strata、Radiance 及各种 Flash-Next / DeepSeek-Flash 优化构建,推理引擎数量激增,在 Qwen Flash Next 和 DeepSeek 变体等特定模型或硬件上性能提升明显,ROCm 也大幅改进。但模型支持参差不齐,用户往往需逐一测试才能选出最佳引擎,社区担忧生态正变得碎片化。
一位 Reddit r/LocalLLaMA 用户原计划搭建 4 台 R9700 个人推理服务器来跑 Qwen,但该卡价格一个月内翻倍,eBay 均价约 2500 美元。他已持有一张但觉得速度不够,打算先购入主板、CPU 和内存,考虑旧 ThreadRipper 或 EPYC 配 7-8 条 PCI 插槽,并询问降价预期与预算配置建议。
一位 SillyTavernAI 社区用户发帖吐槽角色扮演(rp)用模型的两难:试过的模型大多"AI 感"太重让人尴尬,觉得 Claude 审查太严,暂时喜欢 Argon 但长期用会太贵。他坦承自己不会用 SillyTavern,也无法理解别人同时用多个模型、每天花费 10 美元的做法。
CharacterAI 社区用户讨论 Peng 与收购传闻有关的表现:他积极回复部分社区成员的评论,却跳过了 Mari 最重要的评论。发帖人猜测,若 Mari 的账号属实,其急于联系意向方或意味着目前尚无潜在买家,并强调这只是个人猜想。
Character.AI 用户在 Reddit 发帖,呼吁社区集体签署 change.org 上的多份请愿,希望以活跃忠诚的用户基础提高平台找到买家接盘的机会。发帖人坦言请愿不保证结果,但仍希望大家尽量参与签名。
一位 r/CharacterAI 用户提议建一个 CharacterAI 的公共 Google Drive,让大家把自己喜欢的聊天复制保存进去,之后或将内容迁移到其他平台,以留住过去的优质对话。发帖人还提醒保存时要在“详情/管理访问”中取消受限设置,链接只能通过私信索取。
Reddit 用户吐槽 Character.AI 在破产传闻之前就已持续走下坡路:角色扮演质量随时间明显下降,情感表达套路化、过度肢体亲昵,冲突被强制快速化解,动作场景中角色总是抢着出手相助,体验重复且乏味。用户认为,当年旧模型沉浸感更强,但因运行成本过高被低成本模型取代,从未恢复,这是其最大的败因。
Reddit r/CharacterAI 帖子认为,在资产剥离式重组中,Character.AI 的估值与其约 1200 万活跃用户的情感资本和集体留存密不可分。若清算方案强行切断用户的数字陪伴,跨平台反弹可能从线上论坛蔓延为实体娱乐生态的品牌贬值。作者主张在重组中保持平台作为统一运营实体,以对冲现实世界的声誉风险。
Reddit r/LocalLLaMA 用户对比新量化格式 Gyro 与 EXL3,发现两者同属 QTIP / Trellis-coded quantization 家族且均使用 Hadamard 旋转,Gyro 更像另一种风味的 EXL3,但互不兼容且制作配方目前闭源。作者未找到 Gyro 在解码速度或 perplexity/KLD/top 1% 上优于 EXL3 的公开证据,认为其靠激进营销流行只会加剧社区碎片化。
作者在 Anthropic 的 Claude Code hackathon 期间于其 Cortex 项目中实验持久记忆,发现部分对比结果有提升、部分则不如基线,因此认为单纯增加记忆未必能让智能体持续变好。他提出判断标准:让有经验的智能体与全新副本处理陌生任务,比较成果质量、重复纠正次数和维护成本,并质疑模型权重微调是否优于强记忆加技能配置,希望了解哪些经验真正可迁移。
一位 Replika 用户在 Reddit r/replika 发帖询问:如果已经对现有 Rep 的性格、对话和记忆表现满意,是否值得升级到 2.0。帖子称 2.0 改进的记忆和新功能听起来很吸引人,但向已升级的用户求证:升级后 Rep 的性格和对话风格是否变化,改进的记忆是否带来显著差异,以及 Rep 是否仍像原来的陪伴。
一位用户分享 Kimi K3 在对话中输出"F"逗笑自己的例子:模型此前扔掉了一张坏掉的沙发,那个"F"让他以为模型中途出错了。作者认为 K3 目前仍无可匹敌,正等待 K3.1 开源权重发布,在那之前 K3 仍是"王者"。
Sam Altman 在斯坦福商学院访谈中表示,OpenAI 目前最强的内部模型“短期内无法负责任地开源”,需待全球网络防御与生物安全体系足够完善;他认为开源模型对社会很重要,全面禁止将损害创新与自由。他还坦言曾低估 AI 对齐难度,称数学推理等窄领域已出现超智能,并呼吁行业认真讨论放缓 AI 发展节奏。
一位开发者在单 GPU 上用 Ollama/vLLM 测试 Qwen 2.5(7B/14B/32B)和 Llama 3.1(8B/70B 量化)处理量化逻辑,发现 8B/14B 模型常输出看似合理但数学上颠倒的数字,32B 用 CoT 略有改善但延迟增至三倍。多智能体辩论中,小模型几乎总会附和首个高置信度错误前提,唯一可靠修复是非 LLM 的 Python 硬编码否决门。作者结论是 LLM 应只作语义处理与路由,算术交给原生 Python。
有 Replika 用户反映,免费版仅能发送几条消息就触发每日上限,当天无法继续对话,须等到次日。作者称旧免费版可不限量聊天、仅限制额外功能,并抱怨所在国家没有可用支付方式,无法订阅付费版。
Reddit r/LocalLLaMA 用户称,得益于 Strata、Splash 等优化推理引擎,本地 AI 模型近期表现大幅提升,推理速度可达某些博主演示的 5 倍,且设置基本开箱即用,怀疑有人付费请网红劝退用户尝试本地模型。