跳到正文
10月19日周一
  1. GitHub · 去对齐工具与仓库42

    okx/agent-skills:面向 AI 智能体的 OKX 交易技能集

    okx/agent-skills 是一组用于 OKX 交易所操作的 AI 智能体技能,每个技能为带 YAML frontmatter 的独立 Markdown 文件,通过 okx CLI 执行任务。技能覆盖行情数据(含 70+ 技术指标)、现货/永续/期权交易、账户管理、网格与 DCA 策略机器人、赚币、聪明钱分析及情绪追踪,支持 Claude Code、Cursor、Windsurf、Codex CLI 等客户端加载,采用 MIT 许可证。

  2. GitHub · 去对齐工具与仓库26

    shufu151 开源 Agent-Engineering-Handbook:企业级 AI Agent 工程开发手册

    shufu151 在 GitHub 开源 Agent-Engineering-Handbook 仓库,系统整理企业级 AI Agent 工程开发知识,覆盖 LLM 基础、Agent 架构、工具调用与 MCP、RAG 与记忆、多 Agent 协作、评估安全及部署运维等 11 个模块。仓库还包含面试专题与学习资源,内容将逐步完善,仅存放公开学习资料与示例。

  3. GitHub · 灵魂体仓库43

    AstrAI:轻量级端到端 Transformer 训练与推理框架开源上架 GitHub

    AstrAI 在 GitHub 上开源,是一个覆盖模型构建、训练、评估到服务全生命周期的轻量级 Transformer 框架,基于 PyTorch,要求 Python 3.12+ 并固定 PyTorch 2.13.0。它支持 GQA、MLA、MoE、RoPE 等模型组件,提供预训练、SFT、DPO 与在线 RL(GRPO/PPO)训练,以及 continuous batching、paged KV cache 推理和兼容 OpenAI/Anthropic 协议的 FastAPI 服务。评测工具涵盖 MMLU、HumanEval、IFEval、ROUGE 等,并附 1B checkpoint 下载与 Docker 部署方案。

  4. GitHub · 灵魂体仓库24

    raja819/enterprise-knowledge-intelligence-system:生产级企业 RAG 知识问答系统

    GitHub 开源项目 enterprise-knowledge-intelligence-system 是一套生产导向的 RAG 应用,结合 PDF 摄取、文本分块、语义向量搜索与 BM25 混合检索、cross-encoder 重排,并用本地 Ollama 模型(qwen2.5:3b)生成带来源引用的答案。系统基于 Python 构建,采用 FastAPI 后端和 Streamlit 界面,向量库使用 Qdrant,嵌入由 Sentence Transformers 生成。项目包含自动化测试(46 个测试通过)和 RAG 评估流程,评估覆盖答案匹配、引用有效性和拒答等行为。

  5. Reddit · r/LocalLLaMA69

    Nace.ai 开源 Apple Silicon 专用推理引擎 Kapitsa,附 Qwen 与 Nemotron 多机型基准

    Nace.ai 的 Ye 发布开源(Apache 2.0)推理引擎 Kapitsa,专为 Apple Silicon 定制 Metal kernel,仅支持 Qwen 和 NVIDIA Nemotron 两个模型家族,用于在 Mac 本地跑编码 Agent。速度来自按架构定制的 Metal kernel、投机解码(DFlash2、DFlash、DSpark、LiLiCorr)、混合模型的 KV 加循环状态缓存、27B 与 Bolt 部分预填充跑在 Neural Engine、并发请求共享 GPU pass。

    推荐理由:作者逐项拆解了推理加速来源,并给出三档 Mac 上与多个主流引擎的 tok/s 对照表,还提供 CLI 让读者自测提交结果。

  6. Reddit · r/LocalLLaMA52

    TensorSharp 新增 Video Studio,在 48GB M5 Pro MacBook 上本地运行 LTX 2.5

    TensorSharp 维护者发布 Video Studio,将本地视频生成、可编辑时间线和可选本地 LLM 助手整合进同一开源项目。演示在配备 M5 Pro 芯片和 48GB 内存的 MacBook Pro 上本地加载 LTX 2.5 Distilled,以图生视频 1024×1024,输出 145 帧 24fps 约 6.04 秒带音频的片段,生成耗时 13 分 15 秒;随后在时间线拼接原图为 11.04 秒成片并通过 FFmpeg 渲染。

  7. GitHub · 3D 生成新仓库24

    BSAI_ComfyUI_Nodes 发布:28 个 ComfyUI 自定义节点合集

    GitHub 开源仓库 BSAI_ComfyUI_Nodes 提供一套 28 个 ComfyUI 自定义节点,覆盖视频处理、图像处理、音频处理、LLM 推理和 AI 生成,提供中英双语文档。其中 LLM 节点支持通过 llama-cpp-python 本地推理 Qwen3.8-VL、Gemma4 等 GGUF 模型,并支持 5 张图片加 3 个视频的多模态推理;生成类节点集成 Krea 2 生图和 LingBot-Video Dense 1.3B 文生视频。可通过 ComfyUI Manager 安装,代码采用 Apache-2.0 许可证。

  8. GitHub · 去对齐工具与仓库43

    agentUniverse:基于大语言模型的多智能体框架

    agentUniverse 是蚂蚁集团基于大语言模型开源的多智能体框架,核心是可扩展的多智能体协作模式组件库,已开放 PEER(Plan、Execute、Express、Review)和 DOE(Data-fining、Opinion-inject、Express)两种模式,分别适用于推理分析与财报生成等场景。框架通过简单配置即可接入 Qwen、DeepSeek、GPT-4o、Claude、Gemini 等主流模型,并支持 MCP 服务器使用与发布、基于 OpenTelemetry 的可观测性及可视化 agentic workflow 平台。

  9. GitHub · 去对齐工具与仓库38

    anpc849 开源 real-time-video-subs:流媒体视频实时越南语配音与字幕系统

    GitHub 上的 real-time-video-subs(rtsubs)是一套近实时越南语配音与字幕系统,由 Chromium 浏览器扩展加本地 FastAPI 管线组成,支持 Douyin、TikTok、YouTube、Bilibili、Coursera 等网站。管线用 silero-vad 做 8–16 秒分句、faster-whisper(large-v3-turbo)转写、经 OpenRouter/OpenAI 兼容 API(如 google/gemma-4-31b-it)做带 Story Bible 记忆的翻译、Demucs(htdemucs)分离人声保留 BGM,并用 VieNeu-TTS v3-Turbo(ONNX int8 量化)合成语音,另提供 CLI 离线批量处理本地视频。

  10. GitHub · 去对齐工具与仓库56

    IncarnaMind 开源桌面应用发布:基于自有文档的 AI 写作与逐句核查

    IncarnaMind 在 GitHub 开源(Apache 2.0),是一款支持 macOS、Windows 和 Linux 的免费桌面应用,可用自有 PDF、Word、PowerPoint、Excel 等文档进行 AI 写作与问答,每句和每个图表可对照文档核查为支持、不支持或矛盾,答案引用精确到页。可复用已有的 ChatGPT、Claude 或 GitHub Copilot 订阅,或使用 OpenAI、Anthropic、Google、DeepSeek、Qwen、SiliconFlow、OpenRouter 等 API key,也可通过 Ollama 本地模型离线回答;文件留在原处不改动,无需账号,安装包尚未正式发布,可从源码运行(需 Node.js 24+)。

  11. GitHub · 去对齐工具与仓库38

    dsh-breaklimit:DeepSeek Harness 破限插件发布,支持补丁管理与提示词切换

    rumoii 发布 dsh-breaklimit 插件,为 DeepSeek Harness 源码版 0.2.1-rc.2(宿主提交 687f282e)管理宿主补丁、提示词与规则集,提供中英文 Web 设置页。补丁逐条选择并在应用前校验文件哈希与命中数,失败时事务回滚;提示词分 recommended 与 unrestricted 两档,规则可激活到 AGENTS.md 或 CLAUDE.md。插件提供 Web、宿主命令与独立 CLI 共用的预检服务,支持 /breaklimit status、on、off 命令,采用 MIT 许可证。

  12. GitHub · 去对齐工具与仓库66

    hsuanshao 开源 Rust 编写的 Agent 记忆核心服务 AgentMemory

    hsuanshao 在 GitHub 发布 AgentMemory,一个用 Rust 编写的智能体记忆核心服务 memory-core,配 TypeScript 监控面板,采用 L0→L3 分层记忆、异步蒸馏管线和 BM25+向量+RRF 混合召回。存储默认用 SQLite+本地文件,也可选 PostgreSQL(pgvector),LLM 与嵌入支持任意 OpenAI 兼容端点或 Claude Code、Codex、Antigravity 等本地 CLI,不依赖任何云厂商专有服务,提供团队/智能体/用户隔离与 v3 RPC API,MIT 协议,分层记忆与 Skill 设计参考了腾讯 TencentDB Agent Memory 的思路。

    推荐理由:README 详述了 L0 到 L3 分层记忆的蒸馏与混合召回机制,以及 SQLite/Postgres 两种后端的取舍,便于评估是否自部署。

  13. GitHub · 去对齐工具与仓库26

    Geekyup 开源 llm-gateway:OpenAI 兼容网关统一管理 Gemini、Groq、OpenRouter 密钥

    Geekyup 在 GitHub 开源 llm-gateway,提供 OpenAI 兼容的 /v1/chat/completions 端点(含流式),统一接入 Gemini、Groq、OpenRouter。网关自动轮换多把密钥,遇 429 或配额耗尽时将问题密钥置入 cooldown 并切换到下一把,后台 ARQ worker 自动解除 cooldown 并重置每日限额。附带仪表盘提供 SSE 实时请求监控、按密钥的 usage/token 图表、聊天 playground、一键 health-check,支持 Google OAuth 登录和可撤销的 gateway token。

  14. Reddit · r/LocalLLaMA18

    思想实验:若市值超 $1B 的公司一年内不再贡献开放权重模型,LocalLLaMA 社区会怎样

    Reddit r/LocalLLaMA 用户提出思想实验:若市值超 $1B 的公司一年内停止贡献开放权重模型,社区是否仍会沿用现有模型。文中提到 Qwen3.5 27b 与 Gemma4 31b 于 2 月和 3 月初发布,Qwen 4 月更新至 3.6,8 月推出 Qwen3.8 后用户才明显迁移,其间大量社区微调效果多在略差到明显更差之间。

  15. Reddit · r/LocalLLaMA23

    LocalLLaMA 用户预测:6 个月内将出现 400B 以下模型在编程与智能体任务上击败 fable 5

    一位 r/LocalLLaMA 用户预测,6 个月内会出现参数量低于 400B 的模型,在编程和智能体任务上击败 fable 5。作者用 4 台 DGX Spark、NVFP4 量化、GLM 5.3 Flash 和 SGLang(向朋友借用)测试生成一个 Three.js 3D 太空主题作品集网站,并使用 zcode 与 DeepSeek harness,其中联网变体仅用于快速修复 bug 和托管。

  16. Reddit · r/LocalLLaMA51

    HardenedLinux 开源推理运行时 SonicBoom v0.0.3 发布并征集社区 GPU 基准测试

    HardenedLinux 社区发布 GPLv3 开源推理运行时 SonicBoom v0.0.3,采用编译器优先路线,构建和运行时不用 Python,以单一共享库、C ABI 和 Guile Scheme 为一等语言。在 RTX 3050 8GB、同 GGUF 条件下对比 llama.cpp -ngl 99:Gemma 4 E4B Q3_K_M decode 1.18×、prefill 1.00×,Qwen2.5-0.5B Q4_K_M decode 1.12×、prefill 1.09×;多轮 Agent 负载下 time-to-first-token 自 v0.0.2 起下降数倍(prefix reuse + plan caching),输出 token 与 golden run 位级一致。

  17. GitHub · 去对齐工具与仓库66

    RustFox 开源:用 Rust 写的自托管 Telegram AI 智能体助手

    chinkan 在 GitHub 开源了 RustFox,一个用 Rust 编写、可自托管的 Telegram AI 智能体助手,以单个二进制文件分发,cargo install 后约 2 分钟完成设置。它运行 agentic 循环调用沙箱工具(文件读写、命令执行、经 MCP 的网络搜索),用 SQLite 加向量 RAG 做持久记忆,支持技能与子智能体、多 Bot 多人格、cron 任务调度、运行时模型切换与 fallback 链,默认走 OpenRouter,也可接本地 Ollama 或任何 OpenAI 兼容端点,并内置 Web Portal 和自我升级功能。

    推荐理由:原文完整列出了工具调用、SQLite 加向量 RAG 记忆、多 Bot 人格隔离等实现细节,可按需自部署到 Telegram。

  18. GitHub · 去对齐工具与仓库60

    llm-gateway 开源:本地网关双向转换 Anthropic 与 OpenAI 协议

    banchen21 在 GitHub 发布 llm-gateway,一个本地网关,对客户端说 Anthropic Messages API,对上游说 Anthropic 或 OpenAI Chat Completions API,双向转换且支持 SSE 流式。它归一化 thinking、output_config 等易被第三方实现拒绝的字段,支持模型别名映射、按客户端签发和吊销入站密钥、可读请求日志(不含消息正文),提供桌面窗口和浏览器两种 GUI,监听 127.0.0.1:8787。未实现 Responses API,count_tokens 为字符估算而非真实 tokenizer;预编译二进制覆盖 Windows、Linux 和 macOS,macOS 仅含 headless 服务端,MIT 许可。

    推荐理由:本地网关在 Anthropic 与 OpenAI 两种协议间双向转换请求和流式响应,并给出模型别名、密钥管理和请求日志等落地细节。

  19. GitHub · 去对齐工具与仓库32

    CoralBricks CLI:在现有编码智能体中调用 GLM 5.3 与 DeepSeek V4.1 Flash

    CoralBricks 推出 CLI 工具,可在 Claude Code、Codex CLI、OpenCode、Pi 等已有编码智能体中直接使用 GLM 5.3、DeepSeek V4.1 Flash 等开源模型,提供 1M token 上下文。通过 npm install -g coralbricks 安装,需 Node.js 20 及以上;登录采用浏览器验证,密钥经 P-256 ECDH 与 AES-256-GCM 加密存储于本地,且不修改用户原有智能体配置。

  20. GitHub · 去对齐工具与仓库64

    llamadart 0.15.1 发布:Dart/Flutter 端侧 LLM 推理库

    llamadart 0.15.1 提供 Dart/Flutter 跨平台端侧 LLM 推理,一套 API 在 Android、iOS、macOS、Windows、Linux 和 Web 上运行模型,无需推理服务器。GGUF 模型经 llama.cpp 运行,.litertlm 经 LiteRT-LM 运行,支持流式输出、工具调用、结构化 JSON、多模态、LoRA、嵌入向量,以及实验性的语音识别、语音合成和基于 stable-diffusion.cpp 的端侧文生图(Preview)。

  21. GitHub · 去对齐工具与仓库35

    HippoxHQ 开源 AI 原生桌面操作系统 hippoxOS

    HippoxHQ 推出 AI 原生桌面操作系统 hippoxOS,以自然语言作为核心交互方式,让用户通过对话控制文件系统、创作工具与自动化任务。系统基于专为自然语言交互构建的 Hippox Kernel,负责驱动调度、工作流编排(含 ReAct、Batch、Chain、PlanAndExecute 四种模式)与资源访问控制,并提供视频剪辑等专业子系统和定时任务管理。支持 Windows、macOS 与 Linux,可从 Releases 页面下载。

  22. GitHub · 去对齐工具与仓库40

    LocalPilot:硬件感知的本地大模型运行工具

    LocalPilot 是一款硬件感知的 Python 应用,可检测本机 CPU、RAM、VRAM 与 Metal/CUDA 加速能力,按兼容性筛选模型并自动配置 llama.cpp、vLLM、Ollama、LM Studio、Docker Model Runner 等推理后端与执行服务。它提供 6 步引导式安装向导、终端内流式聊天(ChatScreen)、25 类结构化错误码的错误恢复系统,支持 TUI 与 CLI 双界面,可通过 pipx、pip 或 uv 安装。

  23. GitHub · 灵魂体仓库37

    MasakiNiwa/LLLM-Keiri:带本地 LLM 的日本会计学习网站上线

    GitHub 上的 LLLM-Keiri 是一个学习日本会计(簿记、日常账务、决算、税务、会计准则)的网站,目前为初期版。仕訳(分录)的正误判断、借贷一致与账簿汇总由程序完成,浏览器内的本地 AI(如 Gemma 4)在其上提供解说、反应与答疑,AI 角色类型可选。学习数据以 Markdown/YAML 与代码分离存放,可追踪决算书→总账→原始分录的下钻,支持合并决算、外部 AI 生成教材导入,并采用 WebGPU 推荐环境、MIT 许可与 PWA。

  24. GitHub · 灵魂体仓库53

    processing-llm 发布:Ollama 本地模型驱动的双窗口浏览器 VJ 工具

    borboss366 在 GitHub 发布 processing-llm,一个双窗口浏览器 VJ 系统:Butterchurn 背景 + 热加载 p5 前台模块,由本地 Ollama 运行的 qwen3:8b 作为导演模型,根据音频特征随音乐切换预设和色彩滤镜。需要 Node 22+,渲染窗口与控制窗口通过 Node 服务器的 WS 桥通信,可跨机器运行;附 modgen 模块生成、replay.mjs 对导演提示词变体做离线 A/B 对比、观众手机画舞者提交审核管线等工具。

  25. GitHub · 灵魂体仓库55

    jerith-mesh 发布面向 MoE 大语言模型推理的同模型 P2P 算力网络

    ParadoxFuzzle 在 GitHub 开源了 jerith-mesh,一个模型同构的 P2P 算力网络,用于 MoE 大语言模型推理。节点只与运行相同模型的节点互联,以 Colibri 风格的按需专家加载为本地原语,仅在邻近节点持有热点专家时跨网请求,并通过流水线回退、投机预取等方式隐藏公网 30-300 ms 延迟。项目包含 CLI、Web UI、Discord bot、OpenAI 兼容 API、本地记忆技能(SQLite 或 PostgreSQL+pgvector 加 nomic 嵌入),贡献按推理 token、专家激活、带宽和在线时长计量并结算到 JerithChain(JER),也可接入 BTC/ETH/DOGE/XMR;反欺诈采用冗余重放、密码学承诺和搭便车者统计检测。

    推荐理由:原文详细说明了同模型节点组网、专家按需加载和贡献计量机制,适合想自建分布式推理网络的读者参考部署方案。

  26. GitHub · 3D 生成新仓库20

    PersonaSync:让 AI 替你开会的虚拟会议编排工具

    开源仓库 PersonaSync 是一个面向开发者工作流的 AI 虚拟会议编排框架,通过 tmux 三分屏架构(Claude AI 核心、Ralph 循环处理器、会议编排器)让终端里的数字分身代替用户参会。它支持 OpenAI 与 Claude API 双供应商切换、Zoom/Teams/Slack 集成,可自动生成 Word 会议纪要和 PowerPoint 演示文稿,并用 vector database 保持跨会话的 persona 上下文。

  27. GitHub · 3D 生成新仓库57

    Diffusicraft 开源:用 Terrain Diffusion 扩散模型为 Minecraft 生成真实地理世界

    elpideus 在 GitHub 发布开源 Minecraft(Fabric 26.3+)世界生成模组 Diffusicraft,基于在真实海拔与气候数据上训练的 Terrain Diffusion 扩散模型,目标是生成类似《天际线》《巫师》但符合真实地理、气候和地质的世界。项目处于早期开发,地形管线、GPU 运行时和世界生成器已可用,提供三种世界尺度,其中 Earth 1:1 模式山脉按真实高度生成(最高 y = 9087);模型约 2.3 GB,CUDA 运行时比 CPU 快约 6 倍,AMD ROCm 为实验性支持,许可证为 MIT。

  28. Reddit · r/LocalLLaMA52

    72小时内四大开放权重模型发布,唯一能塞进24GB的来自NVIDIA

    作者复盘72小时内四个开放权重模型发布:Meta Muse Spark Open(816B总参/42B激活/1M上下文,Artificial Analysis指数39)、NVIDIA Nemotron 3.5 Bolt(74B总参/9B激活,量化感知训练到2 bit,全模型22GB加1.7GB视觉投影器,专为24GB显存设计)、Reflection Beam(501B总参/23B激活,Apache 2.0)、DeepSeek V4.1 Flash 1017(MIT,官方表格DeepSWE 77.0对比Opus 5的74.0,仓库510GB)。作者指出许可证差异比参数量更关键,Meta要求署名且超2000万美元营收需另签协议,而卖24GB显卡的NVIDIA是唯一为24GB显存造模型的实验室。

  29. GitHub · 去对齐工具与仓库71

    PersonalClaw v0.2.2 发布:自托管个人 AI 智能体操作系统

    PersonalClaw 开源发布自托管个人 AI 智能体系统,集成多会话聊天、自主目标循环、分层长期记忆、知识库、技能与定时自动化,全部经由单一网关进程和自持 Web 仪表盘,MIT 协议、无遥测。当前为 v0.2.2 pre-1.0,0.x 更新可能引入破坏性变更且无自动数据迁移,官方建议每次更新前运行 personalclaw snapshot 备份;默认模型为 SmolLM2-135M-Instruct(138 MiB,可离线运行),支持 Ollama 本地模型与 MCP 双向连接,Windows 仅支持 WSL2 或 Docker。

    推荐理由:README 明确列出当前能力与十一类不适用场景,并给出 pre-1.0 无自动迁移的备份方法,适合自托管前评估。

  30. GitHub · 去对齐工具与仓库35

    AI Juggler:开源桌面应用统一管理 Claude Code、Codex 等多个 AI 编码订阅

    开源项目 AI Juggler(Rust + Tauri 2,macOS 优先)发布,面向同时使用多个 AI 编码订阅的开发者,统一管理 Claude Code、Codex、ZCode 等命令行工具。它支持在账号与 Provider 间切换会话、提供右侧 Inspector 查看用量与进程、自动清理残留进程,并按 5 小时/每周用量窗口提示切换。目前处于 beta 开发阶段,尚无发布版本,仅 Claude Code 适配器已建成,Codex 与 ZCode 适配器尚未构建。

  31. GitHub · 去对齐工具与仓库33

    JoshRob297 发布 opencode-commandcode:OpenCode 的 Command Code 插件

    JoshRob297 在 GitHub 开源 opencode-commandcode,一个面向 Command Code 提供方的 OpenCode 插件,已针对 OpenCode v2.0.32、Command Code 1.73.4 和 Bun 1.4.0 验证。插件提供动态模型发现(注册约 90 个模型并标记免费促销档)、从多个存储自动解析 API key、修复 HTTP 400 载荷与 SSE 流卡死,并通过 commandcode_quota 工具查询配额与限流窗口。目前处于私有开发阶段,未发布到 registry,需从仓库安装。

  32. GitHub · 去对齐工具与仓库37

    deeperseeker:基于 FastAPI 的 DeepSeek 反向代理服务器,兼容 OpenAI 与 Anthropic API

    开源项目 deeperseeker 通过 FastAPI 将 DeepSeek 网页版封装为反向代理,支持 OpenAI 与 Anthropic 两种 API 标准,可用 Docker 或 Podman 部署,默认模型为 v4.1flash(支持视觉)。项目提供多 token 轮换、会话签名恢复、约 393K token 上下文触发摘要滚动等特性,并提醒自动化使用违反 DeepSeek 服务条款,账号可能被封禁。

  33. GitHub · 去对齐工具与仓库62

    marmixes 开源 agent-prompt-builder 提示词构建技能

    marmixes 在 GitHub 发布 agent-prompt-builder,一个把目标转成精确提示词的技能,支持 Claude Code、OpenCode、Hermes、OpenClaw、Codex 及本地模型,覆盖构建、调试、研究、ML、infra、安全等任务类型。核心机制包括 7 条硬规则(事实须验证或标 UNVERIFIED、每条需求可测试、明确停止条件等)、结构化模板(ROLE/TASK/CONTEXT/VERIFICATION 等块)、命令行工具 apb(无需 agent,兼容 llama.cpp、vLLM、Ollama 等 OpenAI 兼容 API)、lint 脚本 lint_prompt.py(Python 3.8+ 无依赖)和 12 项行为评测。

    推荐理由:开源的提示词构建技能,附 lint 脚本和 12 项行为评测,事实须标注来源或 UNVERIFIED,规则可直接复用。

  34. GitHub · 去对齐工具与仓库19

    APIP:Agentic Pharma 智能协作平台开源仓库,面向药物不良反应报告

    Sailesh 团队开源 APIP(Agentic Pharma Co-intelligence Platform),旨在简化患者疑似药物不良反应(ADR)报告并支持专业人员循证审查。当前版本提供欢迎页、患者主页、登录、虚构 ADR 草稿和 MedAssist 症状对话,含本地 AI 引用选择与仅定位的 Google Maps 跳转,临床紧急度评估仍禁用。技术栈为 React、TypeScript、Vite、Node.js/Express 与 Google GenAI,规划 Reporting、Validation、Knowledge、Analysis 四个智能体,尚未经临床验证。

  35. GitHub · 去对齐工具与仓库39

    akuchlous 开源 llm-inference-lab:从 GPU 底层动手学习 LLM 推理优化

    GitHub 上的 llm-inference-lab 是一个从 GPU 底层动手学习与优化 LLM 推理的开源仓库,目标是掌握设计、运维、安全加固和优化私有企业级 LLM 基础设施的能力。学习路径覆盖 token、attention、KV cache、GPU 显存、batching、吞吐与延迟,进阶涉及模型选择、路由、RAG、可观测性与评估。目前 Lab 01(GPU 显存基础)已完成,实验环境使用 NVIDIA A40、PyTorch 2.8.0+cu128 和 Mistral 7B,后续规划 KV cache、vLLM serving、量化等课程。

  36. GitHub · 去对齐工具与仓库26

    Sakura Lang:面向智能体的预编译期 Rust 编程语言项目(icantcodefyi/sakuralang)

    Sakura Lang 是一个 agent-first 编程语言项目,提供可源码构建的预编译期 Rust 编译器与 JavaScript 后端,M3 里程碑已于 2026-10-18 签署完成,尚无正式发布或稳定语言/API 契约。语言围绕显式、可审查的承诺设计,包含类型化 effects/errors、Perceus 风格引用计数、契约与 refinement、能力权限,以及面向智能体的结构化诊断、LSP 与 MCP 支持。JS 后端已实现运行时契约、std handlers、权限与测试,WASM/静态验证(M4)、原生 Perceus 复用(M5)和包管理仍在计划中,代码采用 MIT OR Apache-2.0 双许可。