Flinlix 发布 llama_chat：为 llama.cpp 复用 KV 缓存的 Python 封装

Flinlix 发布 llama_chat，一个围绕 llama.cpp 的轻量 Python 封装，目标是尽量少做 prefill：保留上一轮的 KV 缓存，只处理真正新增的 token，缓存满时按整条消息淘汰最旧内容并把存活消息的 RoPE 位置下移填补空隙，而不是重新 prefill。作者称从序列开头裁剪旧消息会失效整段缓存前缀，llama-server 的 cache_prompt 同样如此；系统提示词在结构上不可淘汰，淘汰阈值默认为 context_size 的 0.75，另可选 max_history_messages 作为第二个触发条件。