Reddit · r/LocalLLaMA· /u/Chromix_·· 18 天前AI 评分46
24KB 单文件 HTML-LLM 可生成连贯故事
A 24KB stand-alone HTML-LLM that can generate consistent stories
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Chromix_
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x1obep/a_24kb_standalone_htmlllm_that_can_generate/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit r/LocalLLaMA 用户基于 81KB FP32 的 MacroStory 模型，用本地 Qwen3.8、自适应量化与 QAT 压缩出仅 24KB 的单文件 HTML-LLM，可生成连贯故事，手机上速度可超 60 tokens/秒。模型本体压到 20KB 时 KLD 为 0.01，最终方案 KLD 为 0.04，偶现重复句子。作者还提供了未打包 HTML 与本地 Python 推理文件。
来源：Reddit · r/LocalLLaMA · reddit.com