跳到正文
GitHub · 灵魂体仓库·· 18 天前精选AI 评分64

lmex:把免费档 LLM API 延迟做成交易所行情的开源项目

saksham10arora-dotcom/lmex

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/saksham10arora-dotcom/lmex

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者发布 lmex 项目,将免费档 LLM API 拟为交易所 ticker,以 TTFT p99 毫秒数为价格,每 :07 由 GitHub Actions cron 运行 llm-latency-bench 基准并将结果提交到仓库,dashboard 用绿涨红跌反转色的蜡烛图展示延迟,错误率超 50% 即停牌。收录 Groq、Google Gemini、Cerebras、OpenRouter 等 7 个模型端点,每 tick 仅 6 到 10 次请求以留在免费额度内,743+ 条历史记录发布为 Kaggle 公开数据集,并附 latency-router 实时选择最快端点。项目 MIT 协议,无服务器,dashboard 由 GitHub Pages 读原始文件。

推荐理由

作者公开了整套测量流程、样本量局限和 p99 取舍理由,方法透明,读者可以直接复用或自己 fork 搭建。

来源:GitHub · 灵魂体仓库 · github.com