跳到正文
我的
Reddit · r/LocalLLaMA· /u/either_T_or_F·· 11 小时前AI 评分26

如何管理超出上下文窗口的长期记忆?有哪些可用工具?

Any tools for managing long-term memory beyond the context window?

来源与原文

Reddit · r/LocalLLaMA

作者:/u/either_T_or_F

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xprpm3/any_tools_for_managing_longterm_memory_beyond_the/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位本地 LLM 新手提问:长对话超出上下文窗口后,模型会丢失早期情节与人物关系等细节,如何管理长期记忆。他设想用外部知识库存章节摘要并按需检索注入提示词,但担心摘要属于有损压缩,第 3 章的细节可能到第 40 章才关键却已被丢弃;完整保存历史又面临检索哪些信息的难题。他想了解实践中人们怎么做、效果如何。

来源:Reddit · r/LocalLLaMA · reddit.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。