Reddit 用户用 logprob 门控改进本地实时诊疗转写流程

/u/r-chop14 在 r/LocalLLaMA 分享了一个受 Jev 启发的本地实时转写工作流：用 TEN-VAD 分段、Whisper 兼容后端（parakeet.cpp 加载 Parakeet 0.6B 医疗微调模型）转写，CAM++ 声纹做说话人分离，再用小型 LLM 对每句话分类为 NOTE、ACT 或 SKIP，其中 SKIP 缓存延迟送入主模型（主模型为 Qwen3.8-Flash-Next，副模型为 Qwen3.5 4B，经 llama.cpp server）。作者发现仅靠单步解码的概率质量分类约 81% 准确率且 Qwen3.5-4B 几乎不判 SKIP，加入 P(SKIP)≥0.05 且短句改判 SKIP 的启发式后，0 漏判，SKIP 召回率从 0-50% 提升到 75-100%。