热点事件持续更新

BOS token 改变 Ollama 模型部分输出

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Reddit 用户 Full-Travel857 在 Bielik-Minitron 7B v3.0 Instruct（Q4_K_M）上测试发现，Ollama 0.40.14 的聊天模板不添加 BOS token；手动在提示词开头加入 BOS 后，15 个任务中有 6 个响应发生变化。测试在温度 0、种子 42、2048 token 上下文下进行，每次试验前卸载模型且复用缓存 token 数为零。质量测试通过数从 11/15（33/45 次试验）变为 12/15（36/45），差异主要来自波兰语变音符号任务，由 0/3 变为 3/3。作者未断言 BOS 必然提升模型质量，只指出比较不同推理引擎时不能假设相同文本会得到相同输入。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道，了解事件的不同侧面。

11月8日

05:12
Reddit · r/LocalLLaMA
Bielik-Minitron 7B 实验：提示词开头加一个 BOS token 改变了 6/15 个 LLM 响应，这重要吗？
在 Bielik-Minitron 7B v3.0 Instruct（Q4_K_M）上，Ollama 0.40.14 的聊天模板未添加 BOS token；手动在提示词开头加入 BOS 后，15 个任务中有 6 个响应发生变化。质量测试通过数从 11/15（33/45 trials）变为 12/15（36/45），仅波兰语变音符号任务由 0/3 变为 3/3。作者未断言 BOS 必然提升模型质量，只指出比较不同推理引擎时不能假设相同文本会得到相同输入。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。