arXiv · cs.AI· Yueying Li·· 20 天前AI 评分16
QCATS:查询上下文感知的 Transformer 切片框架,实现高效数据库内预测查询
QCATS: Query Context-Aware Transformer Slicing for Efficient Predictive Query Processing
来源与原文
arXiv · cs.AI
作者:Yueying Li
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.09894v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
QCATS 是一个查询上下文感知的 Transformer 切片框架,利用查询谓词和元数据统计在模型执行前预选上下文对齐的 FFN 切片,实现数据库内高效稀疏推理。框架包含离线专家构建和轻量查询级路由,并引入异步 CPU-GPU 流水线与路由感知批处理等系统优化。在 BERT-base 和 Qwen-0.6B 的四项预测查询工作负载上,QCATS 延迟最多降低 4.42x,预测精度与稠密基线相当。
来源:arXiv · cs.AI · arxiv.org