跳到正文
GitHub · 去对齐工具与仓库·· 19 天前AI 评分38

Cabosse:开源 LLM 推理硬件加速器发布,芯片设计全部公开

cattabiani/cabosse

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/cattabiani/cabosse

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

开源硬件加速器项目 Cabosse 发布,用 SystemVerilog 实现面向 LLM 推理的芯片设计,硬件采用 Solderpad Hardware License v2.1,软件采用 Apache-2.0。项目目标是证明开源 AI 硬件可从公开来源复现,任何人可通过 AWS F2 FPGA 实例重建并运行,首个目标工作负载是 SmolLM2-135M-Instruct 的单流解码。当前 M3 里程碑已完成,BF16/FP32 运算单元与黄金模型位级一致,累加回路在 F2 上以 250 MHz 闭合,下一步是 M4 点积通道。

来源:GitHub · 去对齐工具与仓库 · github.com