作者用 Rust 搭建离线测试台，把无审查本地 LLM 接入游戏状态与语义记忆

/u/Cybernaut_Mario 在 r/SillyTavernAI 展示了一套全本地 Rust 测试台，用来解决无审查本地 LLM 与游戏状态机、持久语义记忆之间的桥接问题。认知层通过本地 IPC 接收房间向量、背包重量、生命值和 D20 骰子判定等游戏状态，人格记忆与突触状态存在本地 SQLite 和向量日志中，token 经句子累积管线送入离线 Piper ONNX TTS。整套系统在消费级 GPU 上气隙运行，使用量化到 Q4_K_M 的 Gemma 2 9B abliterated 与本地 llama-server，游戏引擎和认知运行时均支持英德双语；作者还向开发者提问实时状态注入时如何权衡延迟与状态注入瓶颈。