跳到正文
GitHub · 灵魂体仓库·· 8 天前AI 评分11

model-detective:仅凭文本输出检测 LLM 量化

janamiliv/model-detective

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/janamiliv/model-detective

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 上的 model-detective 项目研究能否仅通过 LLM 的文本输出来检测其量化状态,并在不同 bit-width 下衡量检测所需的查询次数与危害。项目目前处于 Phase 0 工作进行中阶段,仓库包含 app、configs、src/modeldetective 等模块,尚无 star 与 fork。

来源:GitHub · 灵魂体仓库 · github.com