window-ml:一个探索 LLM 推理的假设检验仓库
应用数学家 parawanderer 在 GitHub 开源 window-ml 仓库,实验 LLM 推理问题:服务器能否从实际使用记录中学习模型加载位置与时长、预测解码速度并自我纠正。核心机制是让上下文的每一帧拥有地址,工具输出以短指针引用而不复制回上下文,智能体可据此用选定帧重建窗口并评判结论。代码由智能体编写维护,仓库定位为假设检验装置而非代码库,多数想法尚未实测。
新闻、仓库与研究,按时间排列。
应用数学家 parawanderer 在 GitHub 开源 window-ml 仓库,实验 LLM 推理问题:服务器能否从实际使用记录中学习模型加载位置与时长、预测解码速度并自我纠正。核心机制是让上下文的每一帧拥有地址,工具输出以短指针引用而不复制回上下文,智能体可据此用选定帧重建窗口并评判结论。代码由智能体编写维护,仓库定位为假设检验装置而非代码库,多数想法尚未实测。