跳到正文
Reddit · r/LocalLLaMA· /u/circumcised_hobbit·· 5 天前AI 评分24

PolyStrata 体验极佳但仍有自定义模型加载问题

PolyStrata Is so amazing 10/10, but I have a question

来源与原文

Reddit · r/LocalLLaMA

作者:/u/circumcised_hobbit

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xcsi46/polystrata_is_so_amazing_1010_but_i_have_a/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Reddit 用户实测 PolyStrata 后给出 10/10 好评:在 24GB(8+16)内存池上运行 Q3 量化的 CyberTiel,速度达 Ornith1.5 9B 的 2 倍,每秒 50-90 tokens,且能完成 Ornith 无法处理的任务。缺点是 CyberTiel 未被官方支持,需将 GGUF 文件命名为 TielCoderQ3.gguf 才能加载,导致界面仍显示 TielCoder;手动编辑 models.json 和创建 run.sh 后可用,与 Pi Agent 同步良好,但 Pi 缺少 reasoning budget 参数。

来源:Reddit · r/LocalLLaMA · reddit.com