跳到正文
更多
GitHub · 去对齐工具与仓库·· 15 小时前AI 评分20

PROJECT-AXIOM-AI-LLM:C++23 与 CUDA 从零打造的零开销多模态 AI 引擎

omid2007hope/PROJECT-AXIOM-AI-LLM

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/omid2007hope/PROJECT-AXIOM-AI-LLM

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Project Axiom 是一个用现代 C++23 与 NVIDIA CUDA 从零编写的裸金属多模态 AI 引擎,去除 Python 框架的垃圾回收、解释器与抽象层开销。它在 Ada Lovelace(sm_89)架构消费级 GPU(如 RTX 4080)上 100% 离线本地运行,使用 CUTLASS v4.8 模板直击 Tensor Core,词表规模 V=65,536,RAM token 缓冲 100,000 tokens,实现亚毫秒级 prefill 延迟与持续学习。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。