跳到正文
GitHub · 灵魂体仓库·· 5 天前精选AI 评分55

arhugula-persistent-memory 项目实测把 LLM 权重当数据库写入和查询事实

thestoryportal/arhugula-persistent-memory

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/thestoryportal/arhugula-persistent-memory

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

该 GitHub 项目测试能否像数据库一样把事实直接写入大语言模型权重,再查询、修改并留痕,无需每次重读全部内容,当前结论草案为 NOT-READY-WITH-CONDITIONS。基于 Qwen2.5-3B 用 MEMIT/AlphaEdit 系列方法编辑,批量写入在 3B 规模消除串扰(100%保持),编辑可经受 Q4_K_M 量化并经 llama.cpp 在 CPU 上以约 8–13 tok/s 服务;主要未解问题是多词新造名称的换措辞问答,目前最好成绩为 72 题中答对 24 题。

推荐理由

原文以预注册实验和可复现证据逐项检验把事实写进模型权重当数据库的可行性,并如实报告失败项。

来源:GitHub · 灵魂体仓库 · github.com