DeepSteer 开源：追踪 LLM 从预训练到后训练的道德认知与行为差距

Distiller Labs 在 GitHub 发布 DeepSteer，一套用于测量语言模型道德内容表征及其行为是否一致的 PyTorch 工具，Apache 2.0 协议，支持 pip install deepsteer。研究发现道德知识的低秩子空间在预训练中形成，后训练只做旋转；OLMo-3 的拒绝门是后训练构造，约四分之三因果输入在道德子空间之外；OLMo-3-7B-Instruct 在压力下约五分之一场景会执行其自判错误的行为。包内含 1200 对道德/中性探测数据集、消融与转向扫描、表征与行为基准，及六篇配套论文（如 arXiv:2610.08670）的复现脚本，FL 和 MN 的数据存于 Zenodo。