GitHub · 去对齐工具与仓库·· 18 天前AI 评分21
PSE：在 IBM POWER8 上用 vcipher 硬件 AES 指令加速 LLM 推理注意力
Pyrolignic-paydirt84/pse-vcipher-collapse
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Pyrolignic-paydirt84/pse-vcipher-collapse
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Elyan Labs 的 Scott Boudreaux 发布 PSE，一种在 IBM POWER8 S824 上用 vcipher AES 指令做 O(1) 预过滤、vec_perm 做 Hebbian 坍缩的注意力机制，替换标准全矩阵点积。该方案集成进 llama.cpp 的 Flash Attention，只对 top 25% K-V 对计算完整点积。TinyLlama 1.1B 在 pp128 达到 147.54 t/s，相比 stock llama.cpp 的 16.74 t/s 实现 8.81x 加速；GPT-OSS 120B MXFP4 达 13.71 t/s。
来源：GitHub · 去对齐工具与仓库 · github.com