跳到正文
热点事件历史事件

Vasily Pavlov 发布 LatentHalt 研究仓库

1 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

Vasily Pavlov 在 GitHub 发布 LatentHalt,一个基于 Qwen2.5-1.5B 的实验性研究框架,通过 Unembedding 层探测发现语义概念在模型 18–24 层已结晶,并在第 18 层对算法类任务中断推理、改交 CPU/Python 计算。仓库中文本、论文和实验数据采用 CC BY-NC-SA 4.0 许可,测试代码与脚本采用 MIT 许可。 据项目介绍,其 Sub-Token Interception 机制在 458×12 任务上实现 12.44 倍计算节省,准确率从 0% 提升到 100%;另提出认知摩擦指标 Δ_friction 量化内部表征漂移,在“不会飞的企鹅”类反直觉问题上达到 6.86 的峰值。这些为项目自身报告的实验结果。

AI 根据报道生成 · 11 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. GitHub · 灵魂体仓库
    LatentHalt:在 Qwen2.5-1.5B 上实现子 token 层级神经符号拦截的实验性研究框架

    LatentHalt 是一个实验性研究项目,针对解码器 Transformer 的计算对称性问题,在 Qwen2.5-1.5B 上通过 Unembedding 层探测发现语义概念在 18–24 层就已结晶,后续层仅做表层语法解码。基于此的 Sub-Token Interception 机制在第 18 层识别算法类任务后中断推理、交给 CPU/Python 计算,在 458 * 12 任务上实现 12.44 倍计算节省,准确率从 0% 提升到 100%。项目还提出认知摩擦指标 Δ_friction,量化模型内部表征漂移,反直觉问题(如不会飞的企鹅)上达到 6.86 的峰值。