Hayate：从大 LLM 知识蒸馏、CPU 上亚毫秒级响应的网页分类器项目

Hayate 是一个独立个人研究项目，目标是用大 LLM 做一次性标注、知识蒸馏出可在普通 CPU 上 1 ms 内完成网页分类的小模型。项目设三个学生档位：哈希词模式加线性层（远低于 1 ms）、固定词向量加线性层（约 1 ms）、int8 紧凑 Transformer（几 ms），并按质量、p50/p99 延迟和每百万页成本评估。项目目前处于规划阶段，计划 2026 年 12 月完成首条精度-速度权衡曲线，仅使用公开数据和模型，采用 MIT 许可证。