跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分45

deepwhale-labs 开源 event-driven-llm:基于 Kafka 的异步 LLM 执行控制台

deepwhale-labs/event-driven-llm

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/deepwhale-labs/event-driven-llm

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

deepwhale-labs 在 GitHub 发布 event-driven-llm,一个用 Kafka 分发任务、PostgreSQL 保存执行记录的异步 LLM 运行控制台。技术栈为 Java 21、Spring Boot 3.5、Kafka 4.3、PostgreSQL 16 与 Coral Protocol 1.4.0,支持单条或最多 50 条批量提交、每条请求最长 32,000 字符、失败重试和 Kafka 分区分配可视化,模型可选 DEMO、Ollama(默认 llama3.2:1b)或 Windows Codex CLI。项目通过 Docker Compose 本地运行,未实现文件上传、任务取消和用户账户。

来源:GitHub · 去对齐工具与仓库 · github.com