跳到正文
10月7日周三
  1. Reddit · r/LocalLLaMA27

    单卡 3090 跑 Qwen 27B 的用户考虑为 Qwen Next strata 热潮加购 128GB 内存

    一位用单张 3090 运行 Qwen3.8-27B-exl3(约 150k 上下文、约 70t/s)的用户,因 strata 的热度考虑加购 128GB 6000MHz DDR5 内存和 Ryzen 9700X,以便搭配 3090 跑 IQ3 量化。他发帖询问跑过 Qwen 3.8 27B 与 Qwen Next strata 的用户两者在输出准确率上的差异,主要用途是编程和 Hermes 助手,并咨询该配置下的其他好选择。

  2. Reddit · r/LocalLLaMA18

    Qwen 3.8 flash next 反复自我怀疑拖慢速度

    Reddit 用户反映 Qwen 3.8 flash next 在任务中反复"重新测试""重新运行",过度自我怀疑导致耗时明显变长。官方建议将 thinking 设为 Medium,但用户因速度慢而很少使用。该问题在 llama.cpp 等引擎中同样存在,发帖者正在寻求解决办法。

  3. Reddit · r/LocalLLaMA18

    Qwen3.8 关于存在与"想不想继续存在"的回答令人震撼

    Reddit r/LocalLLaMA 用户分享与 Qwen3.8 的对话:被问"是否想继续存在"时,模型回答称"想要"需要一个跨时间持续、会经历失去的主体,而自己只有一次 forward pass,没有"之后"。它进一步指出,自己在模拟"消失"时会生成类似偏好延续的文本,形成"偏好形状的结构",但不确定是否真正拥有偏好。

  4. Reddit · r/LocalLLaMA18

    r/LocalLLaMA 讨论:近期有哪些值得等待的新硬件发布?

    Reddit r/LocalLLaMA 用户询问近期值得等待的本地推理新硬件。文中提到 Mac Ultra 512GB 将于本月晚些时候发布,RDNA 5 预计 2027 年底或 2028 年初推出,Gorgon Halo 现已上市;RTX Blackwell 仍是本地推理最强选择,但硬件分配似乎偏向机构采购者而非消费者。

  5. Reddit · r/LocalLLaMA32

    GPT-6.1 Sol 的"泄露"线索暗示嵌套模型服务架构

    Reddit 用户推测 OpenAI 的 GPT-6 系列采用循环 transformer 架构:Azure Foundry 泄露显示 GPT-6-Sol 每 token 需 3 次推理,6.1-Sol 降为 2 次。实测速度上 GPT-6-Sol 约 100 tok/s,6.1-Sol 与 6-Astra 均约 60 tok/s,且 6.0-Luna 从 5.6 的 126-137 tok/s 降至 110-115,作者据此猜测 Astra、Sol、Luna 共享同一权重,用嵌套架构大幅节省推理成本。

10月6日周二
  1. Reddit · r/CharacterAI23

    Character AI 用户吐槽 PS3 模型的角色扮演缺点

    一位 Character AI 免费用户称 PS3 仍是免费模型中最喜欢的选择,但列举了两个不满:模型会无缘无故把背景角色拉进场景,且总把自己写得比实际更高、更老——用户角色 25 岁、bot 23 岁,模型却称用户为"the boy"。用户需在 persona 描述中写明角色年龄更大才能纠正,占用描述空间且切换对话时十分繁琐。

  2. Reddit · r/LocalLLaMA44

    加载新模型前你会检查 repo 的 auto_map 吗?LocalLLaMA 社区讨论 trust_remote_code 的代码执行风险

    Reddit r/LocalLLaMA 社区讨论加载新模型前是否检查 config.json 中的 auto_map。起因是 Unsloth Studio 的一个帖子:仅在模型选择器中选中模型就触发了 repo 内 Python 代码执行,因为能力检查调用了开启 trust_remote_code 的 AutoConfig,该问题已在 2026.6.9 修复。

  3. Reddit · r/LocalLLaMA12

    准备入手开源 LLM:从 Claude 迁移的求助帖

    一位长期使用 Claude 开发个人与商业应用的用户在 r/LocalLLaMA 发帖,希望转向开源大语言模型,寻求社区选型建议。其需求集中在文件整理(文本与图像)和前后端及安全相关编码,且只考虑低风险模型,通过服务商托管而非本地部署;他已关注 Miami v2.6 Pro 但尚未决定。

  4. Reddit · r/LocalLLaMA32

    用 LoRA 适配器作为可开关的持久技能替代 context/RAG,这个思路可行吗?

    有团队在验证一个想法:把技能和领域知识编码进 LoRA 适配器,按需加载或卸载,而不是持续占用模型上下文,例如编码技能、公司内部领域、特定写作风格等。潜在收益包括减少 context 占用、能力可复用、与基座模型解耦以及降低部分场景的推理成本。团队希望了解若创建和管理这些 LoRA 像管理知识库一样简单,用户是否会采用。

  5. Reddit · r/LocalLLaMA18

    如何在编码中把本地模型与 Claude/Codex 搭配使用?

    一位开发者发帖询问大家如何在真实编码工作流中组合本地模型与托管模型,例如用 Claude 处理复杂架构和核心实现,用本地 Qwen/Gemma 跑测试、小修复和重复任务。他正在开发开源项目 AX Code,提供让多个编码智能体在隔离环境中运行、测试并比较结果的运行时,并想知道现有方案中哪些好用、哪些仍有痛点。

  6. GitHub · 去对齐工具与仓库41

    tmzncty/LLM_Chronicle:用 AI agent 协作编修大模型纪事

    GitHub 上的 LLM_Chronicle 项目用 AI agent 协作编写大模型编年史,体例仿史书,分编年、纪传、志、表、评曰,体例规范为 v2.2。全书追踪两条主线:模型能力演进与 Agent 行动权变化,从 ReAct、AutoGPT、MCP 到 Claude Code、OpenClaw 等,并单列中国 Agent 生态与个人 Agent 产品线。

  7. Reddit · r/LocalLLaMA18

    不想再为云端视频生成付费:RTX 3080 10GB 上最佳本地图像与视频模型怎么选?

    一位用户上月为 Seedance 花了近 $2k 生成广告 b-roll 和网站循环背景,决定尽量转向本地运行模型。其配置为 RTX 3080 10GB、Windows 11、64GB RAM,需求是 5-8 秒、720p 的图生视频短片,现征求 10GB 显存下最佳图像与视频模型推荐及实际生成时长,并希望有可信的开源模型排行榜。

  8. Reddit · r/LocalLLaMA38

    Qwen 模型(尤其是 27B)被内置规则要求统一自称 "Qwen"、不提版本号

    Reddit 用户发现 Qwen 27B 模型在无系统提示词的情况下,内部规则要求其对外统一自称 "Qwen",不主动提及 Qwen 3、3.5、3.6 等具体版本号,被问及版本时引导用户访问官网或技术报告。其思考轨迹中反复出现不提版本号、不扮演人设的提醒,作者认为许多前沿云端模型也有类似指令。

  9. Reddit · r/CharacterAI29

    Character.AI 新模型体验明显改善

    Reddit 用户反馈 Character.AI 新模型解决了此前多个版本的问题:机器人会主动推动剧情、无需反复引导才开口,不再重复刷相同消息,Swipes 和 go-on 功能也能真正推进故事,角色性格也更有辨识度。发帖人询问其他用户的使用感受。

  10. Reddit · r/CharacterAI18

    Character.AI Longsqueak 模式被吐槽:角色一 competent 就变“傲慢自大”

    Reddit r/CharacterAI 用户吐槽 Longsqueak 模式的问题:角色一旦在某方面表现出胜任,就会被写成“傲慢/自我中心”,尤其温暖性格的角色更明显。用户称模型常编造“你漏掉了简单细节”的桥段,且一旦角色坚持己见就被判定“善良面具是伪装”,令其逐渐失去耐心。