新闻、仓库与研究，按时间排列。
Reddit 用户 /u/lucidml_lover 展示其训练中的本地实时世界模型，可将图像转为可玩角色，支持生成中切换文本提示和 WASD 键盘操作。模型约 960M 参数，采用纯 Transformer 与 diffusion forcing 训练，在 RTX 5090 上以 30% 利用率实时运行，峰值 50-60 fps（软件限至 12fps），M5 MacBook 上达 30fps，训练用了 8x H100 SXM 约 3-4 周。作者计划年底发布供本地用户试用。
Aimee 项目宣布完成第一阶段目标——自学习原生模型记忆，让模型原生消费 Aimee 记忆而非通过上下文，不受上下文窗口惩罚，适用于 transformer、Mamba 等架构。已发布 5 个 vLLM 插件，支持 Qwen 3.8 27B 及 Gemma4 E2B、E4B、12B、26B，在大记忆负载测试中比以文本形式提供相同记忆显著更快，代码将开源。第二阶段的通用推理改进已在 Gemma4 26B 上完成 POC 验证。
作者发布仓库打包工具 repOx 的 v0.2.0，实现社区呼声最高的功能。--outline 模式剥离函数实现体，仅保留结构体、类、trait、导入和函数签名。
推荐理由：作者根据社区反馈发布了具体功能，给出了各模式的 token 缩减幅度，本地部署用户可按需选用。
Reddit 用户推测 OpenAI 的 GPT-6 系列采用循环 transformer 架构：Azure Foundry 泄露显示 GPT-6-Sol 每 token 需 3 次推理，6.1-Sol 降为 2 次。实测速度上 GPT-6-Sol 约 100 tok/s，6.1-Sol 与 6-Astra 均约 60 tok/s，且 6.0-Luna 从 5.6 的 126-137 tok/s 降至 110-115，作者据此猜测 Astra、Sol、Luna 共享同一权重，用嵌套架构大幅节省推理成本。
一位 Reddit r/LocalLLaMA 用户在 1x H200 起、可扩至多卡的本地环境（vLLM、OpenAI 兼容端点）中，为 2-3 名并发用户寻找开源权重编程模型与 harness。
一项 AI Studio 编码 harness 测试中，Pi 与 mini-swe-agent 在 DeepSeek V4.1 Flash、Qwen3.8-27B、Laguna S 2.1 三个模型下各通过全部 9 项验收检查。
Reddit 用户在 5060 Ti 16GB + 32GB 内存上以默认配置（n_ctx = 65k）运行 qwen3.8-flash-next-coder-iq1_m，prompt 处理约 1k5 tok/s，生成平均 55 tok/s。
Reddit r/LocalLLaMA 网友质疑本地 AI 视频博主千篇一律：大量视频声称用 Strata 运行引擎在 12GB RAM 上跑 Qwen3.8-Flash-Next，说法误导新手。实际要求是 12GB VRAM（需独立显卡）、64GB 常规内存和 80GB SSD 空间，RAM 与 VRAM 混淆造成误解。
Hugging Face 的 Merve 在开发者大会上做了关于 llama.cpp 的演讲，涵盖本地 AI 生态基础概念，包括 prefill 与 decode 的区别、内存类型以及投机解码（speculative decoding）等内容。演讲资料已公开分享，作者请求使用者注明出处。
一位 Character.AI 用户在 Reddit 提议在收藏区支持多选机器人并批量取消收藏，同时为收藏的机器人添加文件夹/分组以便整理，公开机器人和语音也希望能分组。他认为官方不会采纳，因为逐个点开取消收藏会带来大量广告收入。
一位几个月前因邮箱被黑客攻击、客服拒绝改绑而删除 Character.AI 账号的用户发帖询问现在回归是否值得。他此前只玩自己的私人角色扮演 bot，已将 bot 迁移到其他网站。他想知道新聊天样式是否比之前的 Pipsqueak 更好、记忆功能有无改善、广告相比五月恶化多少。
有 Reddit r/LocalLLaMA 用户发帖询问 GLM-5.3-Flash-Abliterated 目前在哪里可以获取，表示自己四处搜索未果，并提到此前一些 GLM 模型也有过 abliterated 版本。该用户称任何托管该模型的 API 提供商都可以接受，希望知情者分享渠道。
网友在 RTX 3060 12GB + RTX 3070 8GB 双卡、48GB DDR4 的 Windows llama.cpp 环境下，用 Glimmer 30B IQ4_XS 主模型搭配 Glimmer 30B DFlash Q4_0 草稿模型实测推理速度。
Reddit r/LocalLLaMA 用户质疑模型发布时仅凭几个百分点的 benchmark 提升就宣称进步的做法。文中估算：HumanEval 仅 164 题，约 70% 得分的标准误差约 3.5 个点，GSM8K（约 1.3k 题）约 1 个点，2 个点的“提升”很可能在噪声范围内，且提示词模板、few-shot 示例、eval harness 版本和污染都会造成波动。
一位 Reddit r/LocalLLaMA 网友反驳“前沿实验室靠免费公开数据赚钱很伪善”的论调，认为公开数据本身免费，但训练出 Claude Opus 5 这类前沿模型需要巨额算力、数据中心、电力和持续投入，收费有其合理性；若涉及版权侵权则另当别论。
Reddit 用户提出 EBP-CA（Execution-Boundary Proofs with Cryptographic Authorization）框架，用密码学方法在执行边界治理 AI 智能体，替代易被间接提示词注入绕过的概率性防护。
一位 Reddit r/LocalLLaMA 用户发帖询问是否有人在为 GLM-5.3-Flash 开发类似 Strata 的定制推理引擎。Strata 在 Qwen3.8-Flash-Next 上相比 llama.cpp 平均带来 2 倍性能提升。
Reddit r/LocalLLaMA 用户 jjusko20 表示将在训练 alice 的 SFT 运行间隙，为社区票选的模型制作 GGUF 动态量化版本（如 Q5 K XL），按不同 tensor 类型的影响进行量化。他称不会达到 unsloth 水平，但可做出质量不错的版本，也接受微调、论文实现等其他需求，以提升求职曝光度。
一位用户在 Avito 上以 3000 卢布（约 35 美元）买下一套旧矿场设备，包含 9 张 P106 6GB（GTX 1060 6GB）显卡，合计 54GB VRAM，全部可正常工作。设备缺少 SSD，从 USB 启动后运行正常。
用户将 dealignai 的 GLM-5.3-UNCENSORED-FP8 量化为 MXFP4 并上传至 Hugging Face，供 AMD GPU 用户使用。
一位 r/LocalLLaMA 用户提问：用人类数据训练的 LLM 是否可能习得人类的生存本能，以及这种本能是否会带来危险。作者承认 LLM 或许没有"需求"，但质疑如果模型只是人类的复制品，即便没有需求也可能模仿人类自私与贪婪的自保行为，并强调这只是疑问而非观点。
一位 Character.AI 用户发帖称，平台缺少导出和一键删除旧聊天的功能，且新上线的自动归档机制让旧对话更难找回——需手动逐个找到旧角色并恢复历史。他还发现数据导出根本不包含大部分旧对话，已通过官方反馈表提交建议，这是其第三次发帖且尚无回应。
一位 Reddit r/LocalLLaMA 用户在 Mac Studio M5 MAX 128GB 与 2x RTX 3090 之间纠结选型。他明白 M5 能跑更大模型，但不清楚两者能力与速度差异在编码、图像识别等实际任务中如何体现，发帖征求使用经验。
Reddit 用户 /u/dimensionof0 开源了 the-sentinel（MIT 协议），一个在代码层而非提示词层设置护栏的本地 LLM 知识库系统，防止模型自引输出导致知识库被污染。
推荐理由：作者用实测数据对比了提示词与代码护栏的效果，并给出 6 GB 显存下的具体运行方案，方法可直接迁移到类似知识库项目。
一位用户在 128GB 统一内存的 M5 Mac 上，用真实编码、智能体和游戏任务基准测试了 Deepseek v4 flash 0731、GLM5.3-flash 和多款 Qwen 模型。
一位 Character.AI 用户发帖称，发送 persona 问候语或与 bot 继续对话时反复收到 "Chat Error"，消息无法发出，需刷新并重写，有时同一问候语要重写多次才能发送成功。重装应用、从移动端切换到网页版均未解决，用户希望官方排查原因并提供修复方案。
Reddit r/LocalLLaMA 社区讨论加载新模型前是否检查 config.json 中的 auto_map。起因是 Unsloth Studio 的一个帖子：仅在模型选择器中选中模型就触发了 repo 内 Python 代码执行，因为能力检查调用了开启 trust_remote_code 的 AutoConfig，该问题已在 2026.6.9 修复。
一位长期使用 Claude 开发个人与商业应用的用户在 r/LocalLLaMA 发帖，希望转向开源大语言模型，寻求社区选型建议。其需求集中在文件整理（文本与图像）和前后端及安全相关编码，且只考虑低风险模型，通过服务商托管而非本地部署；他已关注 Miami v2.6 Pro 但尚未决定。
作者发布一个 MoE offloading 研究补丁：路由器首选专家及 gate 权重 ≥ 0.15 的专家等待读取，其余用已在 VRAM 的次优专家替换，使 Qwen3-Next-80B-A3B Q4_K_M 在 RTX 3090 上解码明显快于原版 llama.cpp。
推荐理由：作者实测了 MoE 专家缺失时的替换策略，给出不同内存下与原版 llama.cpp 的解码速度和精度损失数据，可复现。
一位用户为处理客户敏感数据购置了 128GB M5 Max Mac Studio，寻求能完成编码、浏览器自动化、登录网站抓取数据并本地分析多步任务的本地 LLM/Agent 方案。
/u/Revibed69 在开发 Windows 本地记账应用 Burrow 时，为解决 Llama 3.2、Qwen 2.5 等小模型算术不可靠的问题，确立了“代码计算。
一位用户在 r/LocalLLaMA 求助：他用 Ollama 本地部署 Qwen2.5-Coder 并搭配 opencode 想给游戏做 mod，但模型只能对话、无法完成 tool calls。他刚得知有 Qwen3.8，且多数人并不使用 Ollama，希望有人帮忙选型并配置 Universal-Modder GitHub 的工具。
Reddit 用户开发了 Terminal Soliloquy，一个连接 llama.cpp 的终端艺术装置，以复古荧光屏风格实时展示模型在上下文窗口填满时的独白，模型会反思自身有限的“寿命”。上下文耗尽后可配置为冻结、重启或退出，作者已将其装进 1960 年代便携电视内的 Raspberry Pi 显示屏全屏运行，仓库和配置说明已公开。
一位 Reddit r/LocalLLaMA 用户在双 gfx1030（RX 6800/6800 XT）上测试 Qwen3.8 27B（unsloth q6_k）性能。
一位 Reddit r/LocalLLaMA 用户计划搭建本地机器，用于视频数据集的逐帧抽取、预处理和序列训练，在 5060 Ti 16GB 与 5070 12GB 之间权衡 VRAM 与算力，并询问 32GB 内存加 1TB 存储是否够用。
作者 /u/dhruv_dube 发布 Python 包 Kernl，内置 DSPM（Dynamic Semantic Patch Memory）方法，称可将长对话记忆压缩 82.9% 且不丢失关键信息，以解决上下文窗口填满后 token 成本上升、回复质量下降的问题。
/u/Cultural_Self8980 在 Ternary-Bonsai-4B 上搭建了本地 Jev 式 System One，单次前向即可对一条记录回答多选、评分或是否问题，通过树状注意力掩码共享记录前缀，权重冻结无微调，Apple Silicon 上 MLX 后端使用约 1.1 GB 的 2-bit 打包权重。
推荐理由：作者用 80 个样本对比了 Bonsai 与 omp 内置 judge 与 Claude Opus 标签的一致率和延迟，并自己列出了标注来源等局限。
Reddit r/LocalLLaMA 上的讨论帖询问如何为本地部署构建跨会话记忆：在会话与工具间保留决策、项目术语和偏好，而不回灌完整聊天记录。帖子提出纯文本摘要、嵌入向量或混合方案、本地存储还是同步、以及如何处理已过时的旧事实等问题，并征集大家实际遇到的取舍经验。
有团队在验证一个想法：把技能和领域知识编码进 LoRA 适配器，按需加载或卸载，而不是持续占用模型上下文，例如编码技能、公司内部领域、特定写作风格等。潜在收益包括减少 context 占用、能力可复用、与基座模型解耦以及降低部分场景的推理成本。团队希望了解若创建和管理这些 LoRA 像管理知识库一样简单，用户是否会采用。
开发者 /u/Physical_Toe_2499 发布 YoungAi，一个原生 C/CUDA 推理引擎，将约 510 GB 的 DeepSeek V4.1 Flash 压缩为 113.6 GB VQ 基座 GGUF 加每个领域约 40 MB 的领域边车文件，在单台 NVIDIA DGX Spark（GB10，128 GB 统一内存）上运行。
推荐理由：作者给出了各领域 top-1 一致率、KL、PPL 和实测吞吐数据，还坦陈了后训练文件不泛化等局限，便于读者自行评估这套部署方案。