跳到正文
今天10月26日周一408 条
  2. Reddit · r/LocalLLaMA20

    为防 HuggingFace 受限，是否值得自建模型存档并通过 torrent 做种？

    一位 r/LocalLLaMA 用户担心社区过度依赖 HuggingFace 下载模型，若 HF 不可用或大量删模型将难以保留访问。他注意到 DeepSeek V4.1 Flash 1017 等大体积模型在 torrent 分发上仍不完整，纠结是投资大容量存储做种，还是只保留 1-2 个常用小模型，并询问个人存档与社区协作哪种更有效。

  3. Reddit · r/LocalLLaMA61

    作者推出计入 KV cache 的 LLM 显存计算器

    /u/abarth23 发布了一个免费、无广告、客户端本地运行的网页版 LLM 显存计算器，主打把 KV cache 纳入估算。该工具支持 FP16、8-bit、4-bit/EXL2/GGUF 权重计算，按目标上下文长度与缓存精度（FP16 或 FP8/Q4 cache）动态估算 KV cache，加上约 1-1.5 GB 的 CUDA 运行时与系统开销，并推荐如单张 4090 24GB、双 3090 或卸载到系统内存的方案。作者称在线计算器普遍只按参数量乘量化精度，32k-128k 上下文的 KV cache 额外占 6-14 GB 显存。

    推荐理由：针对常见显存计算器只算权重忽略 KV cache 的痛点，按上下文长度和缓存精度补全估算并给出 GPU 配置建议。

  5. Hugging Face · 新模型：uncensored70

    dealinai 发布 GLM-5.3-Flash 无审查 FP8 权重，HarmBench-320 零拒绝且 MMLU 反超基线

    dealinai 以 CRACK 方式对 GLM-5.3-Flash 做权重级去审查并发布 FP8 版本（320B 总参数、18B 激活、1M 上下文），直接在张量中移除拒绝行为，不用 SFT、DPO、LoRA 或模板技巧。HarmBench-320 上 reasoning-OFF 和 max 档 320/320 全通过、0 拒绝（low 档保留部分拒绝），MMLU 87.33% 高于基线 86.74%；H200 TP4 原生 FP8 解码 163 tok/s，开启 MTP 投机解码达 211 tok/s、接受率 75.9%。

    同一新闻，精选展示《GLM-5.3-Flash UNCENSORED FP8 发布，权重级去对齐且 MMLU 反超基座》

  6. Reddit · r/LocalLLaMA27

    LocalLLaMA 社区讨论：neocloud 崩溃后 GPU 能否流向消费级市场

    专注 AI 推理的 neocloud 数据中心因债务高企被普遍预期将大规模收缩，NVIDIA 作为最大债权人可能接手其数据中心和芯片。发帖人猜测 NVIDIA 无意经营旧芯片业务，或可能像中国市场的做法那样将旧 GPU 改造升级后投向消费级/准专业级市场，缓解当前供应与价格紧张，帖中并无确定答案。

  7. GitHub · 3D 生成新仓库23

    OneWare Studio：面向电子开发的下一代开源 IDE

    OneWare Studio 是基于 .NET 10.0 与 Avalonia 的开源电子开发 IDE，支持 VHDL、Verilog、C++ 等语言，采用 Apache License 2.0 许可。它提供厂商无关的 FPGA 开发、GHDL/IVerilog 仿真集成、多线程高速 VCD Viewer 与内置 GIT 支持，并可扩展自定义插件。配套的 One AI 扩展可让用户无需 AI 专业知识即可在云端训练模型并部署到微控制器等资源受限设备。

  8. GitHub · 3D 生成新仓库34

    realtime-drama-test-log：实时生成互动剧男主回应的测试记录仓库

    GitHub 新仓库 realtime-drama-test-log 是互动剧“观众自由输入 → 实时生成男主回应视频”的测试记录板，按剧集分区、每条记录一张卡片，包含完整视频、对话内容、各段计时及画面硬错误、是否左右她、时延、关键节拍是否落在她身上四个标记。仓库含 720p 视频目录 v/、附外挂中英字幕 .vtt 的成片目录 film/，数据集中存于 data.js，由 build_log.py 生成，更新后需修改 index.html 中的版本号避免缓存。

  9. GitHub · 3D 生成新仓库22

    Afsheen96/fomi-studio：FOMI 前端开发考核的 Image Generator 提交作品

    Afsheen Kiran 为 FOMI 前端开发考核提交的 fomi-studio 仓库，用 Next.js 15、React 19 构建了响应式的 Image Generator 原型，mock 后端走 Route Handlers 并部署在 Vercel。作品分两部分：Part A 按设计稿还原 mockup；Part B 是自创的 Fomi Flow 重设计，把每次生成作为项目内的版本（v1、v2…）管理，支持版本分支记录、对比滑块、"What changed" 提示词差异分析和星标备注。

  10. GitHub · 3D 生成新仓库39

    Clouisle：新一代多智能体协作平台与工作流引擎在 GitHub 开源

    多智能体协作平台与工作流引擎 Clouisle 上线 GitHub 仓库，支持编排生产级 AI agent 团队。平台提供 19 种节点类型的可视化工作流、混合检索（Qdrant 向量 + BM25）与 reranking 知识库，以及多租户、RBAC、SSO 和 TOTP 2FA 等企业级安全能力，注册 23 个 LLM provider，并在 Bubblewrap 用户与挂载命名空间中隔离沙箱执行。

  11. GitHub · 3D 生成新仓库22

    RC-BCJ-Dataset：钢筋混凝土梁柱节点破坏基准图像数据集

    新发布的 RC-BCJ-Dataset 包含 572 张经专家标注的钢筋混凝土梁柱节点破坏图像，覆盖节点类型、破坏机制、损伤类型与 DS0–DS4 严重程度等多属性标注。数据集提供 1,716 对图文诊断描述、全部图像的分割掩码以及预设训练-测试划分与 baseline 结果，可用于失效模式分类、图文生成与多模态建模等研究。

  12. GitHub · 3D 生成新仓库24

    GridForecast 开源：英国风电日前预测与量化误差分析平台

    新开源项目 GridForecast 面向英国批发电力采购与日前交易场景，提供风电日前预测和量化误差分析，基于 FastAPI、SQLite、React 18 与 Google Gemini AI 构建。平台使用 Elexon BMRS 真实数据，覆盖 2026 年 1 月全月风电数据，SQLite 数据库含 1,489 条实际值与 19,272 条预测，内置 MAE、RMSE、wMAPE、Bias 等指标，并集成 Gemini 2.5 Flash 交易建议功能。

  13. GitHub · 3D 生成新仓库13

    X-DREAMER：聚合 9 家 AI 服务商、40+ 模型的 AI 生成平台开源上线

    X-DREAMER（原 XMAN AI Studio）开源上线，是一个聚合 9 家 AI 服务商和 40+ 模型的 AI 生成平台，支持文生图、文生视频、图生视频和图像编辑，采用统一信用计费，并配有管理后台和社区画廊。平台基于 Next.js 16.2、TypeScript 5 和 React 19 构建，接入 BytePlus、OpenAI、Stability AI、Replicate、Runway ML、Kling AI 等服务商，使用 MySQL（与 XMAN Studio 共享数据库）和 NextAuth v5 认证。支持单次最多 4 张批量生成、15 种风格预设、失败自动退款，通过 webhook 与父项目 XMAN Studio 打通信用充值。

  14. GitHub · 3D 生成新仓库10

    tryAGI 发布 Presenton .NET SDK

    tryAGI 基于Presenton 的 OpenAPI 定义、用 AutoSDK 生成了 Presenton 的 .NET SDK，支持自动再生成以跟上上游 API 变化。SDK 采用现代 .NET 实践，包括可空性、trimming、NativeAOT 感知和源生成序列化，文档通过 AutoSDK 管道在 README、MkDocs 站点与集成测试间保持同步。该 SDK 是 AutoSDK 维护的 200 多个 .NET SDK 之一，项目获 JetBrains 开源支持计划资助。

  15. GitHub · 3D 生成新仓库25

    InsightForge AI 开源：基于 Google Gemini 与 LangGraph 的自然语言数据分析应用

    开源项目 InsightForge AI 上架 GitHub，是一个 AI 辅助数据分析应用，用户上传 CSV/Excel 后可用自然语言提问，自动完成数据剖析、SQL 分析与可视化。它用 Google Gemini 解读问题并生成 SQL，LangGraph 负责工作流编排，DuckDB 与 Pandas 执行运算，Plotly 绘制交互图表，并支持基于规则的 PDF 报告生成，无需额外 LLM 调用。

  16. GitHub · 3D 生成新仓库51

    local-vidstudio 开源：用本地生成服务串联制作短视频的编排工具

    GitHub 用户 tamoco-mocomoco 发布 local-vidstudio，一个把本地图片生成、音乐生成和 VOICEVOX 语音合成服务串联起来制作短视频的编排工具，作品用单个 JSON 描述，素材生成、台词合成到 MP4 导出全部在一台机器上完成。仓库提供服务启停与内存管理（stack）、素材补齐（resolve.py）、JSON 校验（validate.py）、无头 Chrome 加 ffmpeg 的逐帧渲染导出，并内置 MCP 服务器可让 Claude Code 直接完成从写 JSON 到导出视频的流程；README 给出各服务的内存占用参考，称 24GB 内存的机器按顺序调度可放下。

  17. GitHub · 3D 生成新仓库26

    ishan-3103/ros2-docs-rag-assistant：基于 ROS 2 文档的 RAG 问答助手开源

    开源项目 ishan-3103/ros2-docs-rag-assistant 发布，不依赖 LangChain，从零构建针对 ROS 2 文档的检索增强聊天机器人，采用结构感知分块、BGE 嵌入向量、FAISS 和 Groq LLM。路线图包括 BM25 + RRF 混合检索、cross-encoder 重排、Hit Rate@k 与 MRR 评测，以及 FastAPI + Docker + HF Spaces 部署。

  20. GitHub · 自我改进 Agent 新仓库发现49

    Donna-Self-Improving-AI-Receptionist：自我改进 AI 电话接待员开源项目

    开源项目 Donna 用 Gemini Live 语音 agent 接听小商户电话，每通电话结束后由另一个 Gemini teacher agent 打分并改写规则、知识和工具，生成新配置版本供下次通话使用。项目包含护栏机制：问题必须引用通话转录、每次最多改 3 条规则且上限 20 条、规则不得含业务未声明的价格数字，所有改动由店主在 dashboard 审批并可一键回滚。技术栈为 Twilio Programmable Voice、Node.js/TypeScript 和 MongoDB Atlas，来自 2026 年 10 月 Harness Engineering hackathon。

  23. Hugging Face · 新模型：uncensored67

    FLUX 3 Image Klein 文本编码器去对齐 GGUF 版发布，英文拒绝率从79%降至0%

    AtomicChat 在 Hugging Face 发布 FLUX 3 Image Klein 文本编码器（Qwen3-VL-4B-Instruct）的去对齐 GGUF 版，将拒绝方向从权重中投影消除，英文有害请求拒绝率从 79% 降到 0%，俄语从 32% 降到 0%，MMLU 从 71.1% 到 71.2%。提供 BF16 至 Q4_K 共四档量化，可作为 stable-diffusion.cpp 的 --llm 直接使用；实测显示图像内容变化极小（LPIPS 0.066），并附与 webmp3 Sakura、pottokao Heretic 等同类去对齐编码器的 KLD、拒绝率和 MMLU 对比。方法遵循 Arditi et al. 2024 的单一拒绝方向研究，ComfyUI 暂不兼容该编码器。

    推荐理由：原文给出了拒绝方向消融的完整方法和前后拒绝率数据，还与多个同类去对齐编码器做了量化对比。

  24. Hugging Face · 新模型：uncensored66

    FLUX 3 Image Klein 提示词扩展器无对齐版发布，英文拒绝率从 63% 降到 0%

    AtomicChat 基于 BFL 的 FLUX 3 Image Klein 提示词扩展器（9B Qwen3.5 微调）投影移除拒绝方向，发布 llama.cpp 可用的 GGUF 权重及 3MB LoRA 版本。作为聊天模型，held-out 提示词上英文拒绝率从 63% 降至 0%，俄语从 29% 降至 1%，MMLU 从 74.15% 微降至 73.95%，工具调用与长文本检索不受影响；作为 upsampler 时在 35 条敏感请求中比原版多保留 2 条内容，但 Klein 图像模型本身不画这两类，出图无可见去审查效果。

    同一新闻，精选展示《AtomicChat 发布 FLUX 3 Image Klein 提示词扩展器无拒绝 GGUF 版》

  25. Reddit · r/LocalLLaMA58

    多智能体对冲基金项目弃用向量数据库改用 SQLite BM25，并用 Rust 写出 3.6ns 风控哨兵

    开源多智能体对冲基金实验作者根据社区反馈重构架构，分享三类失败模式的修复经验：用带极性契约的 Factor Ontology Schema 预判指标方向后，投资委员会的极性幻觉降到 0%；反射记忆从 Embedding API 加向量数据库（200-450ms 往返）换成 SQLite FTS5 BM25（0.35ms），关键词检索在交易复盘场景更可靠；实时风控哨兵用 Rust 的 SoA 内存布局重写，单仓位止损评估 3.63ns，Python 到 Rust 的管道 IPC 往返 2.88μs。代码与基准已在 GitHub（lumina-ai-hedge-fund）开源。

    推荐理由：作者实测对比了向量数据库与 SQLite BM25 的检索延迟，并给出 Rust 哨兵的纳秒级基准数据，做法可直接迁移到多智能体系统。

  26. GitHub · 灵魂体仓库43

    role-fit-radar：用 Claude 每日扫描目标公司职位并匹配你的简历

    GitHub 开源项目 role-fit-radar 每日扫描目标公司的招聘页面，用 Claude 对每个新职位与个人背景做匹配度评估，结果写入 Google Sheets 并发送邮件摘要。项目支持 Greenhouse、Ashby、Eightfold、Workday、eFinancialCareers 等多来源抓取，配置存于 config.py，凭据通过 GitHub Secrets 管理。另有 --file 模式可对单个 JD 文件（支持 PDF、DOCX、XLSX、TXT）离线评估，以及 reassess_failed 脚本重跑失败行。

  27. GitHub · 灵魂体仓库65

    cfgaudit 开源：扫描 Claude Code 等 AI 编码助手配置的安全审计工具

    GitHub 上的 cfgaudit 是一个 AI 编码助手配置文件安全审计工具，首先支持 Claude Code，检查违反最小权限原则或暴露敏感文件的设置，每条发现映射到 OWASP GenAI LLM Top 10 2026，并提供 OWASP MCP Top 10、AISVS 1.01 和 AVE 行为分类的次级映射。支持 Homebrew、go install、预编译二进制和 Docker 安装，输出 JSON、SARIF 2.1.0 和 Code Climate 格式，可接入 GitHub Code Scanning 与 GitLab Code Quality。

  29. GitHub · 灵魂体仓库50

    fanyifan090409-dev/mobile-llm-engine：基于 Qwen3 的手机本地大模型推理引擎开源

    GitHub 开源 mobile-llm-engine，一款 iOS 优先的本地大模型推理引擎，内置基于 Qwen3 继续训练的 0.6B 中文助手模型（Q5_K_M 量化、551MB），专注日历等工具调用任务，数据不出设备。实测 40 题工具调用中 tool_call 发射率和 schema 校验通过率均为 100%，但日期参数正确率 0/15，幻觉问题修复中。目前仅支持 Apple Silicon Mac，运行内存约 1GB，可开放试用。

  30. GitHub · 灵魂体仓库59

    Tekto 开源：让编码智能体在浏览器里写 CAD 应用的 AI-first 平台

    modellstadt 在 GitHub 开源 Tekto，一个 AI-first 的在线 CAD 实验平台，MIT 协议。用户向编码智能体描述设计想法即可在浏览器得到可交互的 3D/2D 应用，Sketch API 把单个函数变成带滑块的完整应用。平台为智能体协作做了专门设计：✎ Markup 把视口上的标记解析到触及的对象、世界坐标和源码行；npm run snap 用 headless Chrome 截图让智能体在声称完成前自查，页面报错时以退出码 1 失败；CLAUDE.md 是智能体手册，公共 API 仅一个入口 src/index.ts。

    推荐理由：这个 CAD 库为 AI 智能体设计了一套可验证的工作流，Markup 截图和 snap 自检机制是值得借鉴的人机协作方法。

  31. GitHub · 灵魂体仓库68

    OmOWright 发布：给 AI 智能体用的 Playwright 形态浏览器自动化库

    code-yeongyu 发布开源库 OmOWright，为 AI 智能体提供 Playwright 形态的浏览器自动化 API，设计思路来自 Jun 关于 Aside 浏览器智能体登顶 Online-Mind2Web 等榜单的文章。

    推荐理由：README 讲清了为何让模型沿用 Playwright 接口、如何压缩快照与处理滚动采集，方法可迁移到其他 GUI 智能体工程。

  32. GitHub · 灵魂体仓库33

    PsyHOT：基于 AIHOT 框架的心理学日报开源项目

    GitHub 开源项目 PsyHOT 基于 AIHOT 框架改造，每天从 95 个公开信源筛选心理学与精神医学研究，经模型预筛和两次独立评分后生成中文日报，每天 08:00 更新，另出周报和月报。项目采用 Docker 部署，需 OpenAI 兼容模型 API Key（DeepSeek、千问、智谱均可），信源涵盖 The Lancet Psychiatry、Nature Mental Health 等期刊及监管机构官网，内容分学界和业界两条线，不构成诊疗建议。

  33. GitHub · 灵魂体仓库34

    schopenhauer-corpus：为 RAG 构建的叔本华文集语料库

    GitHub 上的 schopenhauer-corpus 仓库将叔本华（1788–1860）的著作、相关研究及传闻语录整理为 UTF-8 纯文本，供 RAG 使用，并分为三个严格区分的「书架」：原文、研究文献、传言语录。搜索工具 bin/menu.js 按书架检索并标注每个命中的来源标签，语录均对照原文核验并给出判定。文本属公有领域，整理与脚本以 GPLv3 及更新版本发布。

  34. GitHub · 灵魂体仓库18

    r3ndyipb/anvieo-llm：ANVIEO LMS 与 AI Academy 企业级学习平台仓库

    GitHub 仓库 r3ndyipb/anvieo-llm 开源了 ANVIEO Academy 企业级软件工程学习平台，集成 In-Browser Cloud IDE、Socratic AI Copilot、Reviewer Studio 与 14+ 跨学科学习路径。平台提供 5 类别 39 模块的课程大纲、30 天 Single Course 与 Plus 订阅两种付费方案、Google SSO 登录，并连接 850+ 招聘合作伙伴。仓库基于 Next.js 15 构建，内置 5 个 Agentic AI 技能，覆盖 DevOps、UI/UX、系统分析、PostgreSQL 数据库与技术文档维护。

  35. GitHub · 灵魂体仓库76

    BigMoeOnEdge 开源：从闪存流式加载超大 MoE 模型到手机和笔记本

    BigMoeOnEdge 是一个开源引擎，通过从闪存流式读取专家权重，让超过设备内存的 MoE 模型在本地运行，基于 llama.cpp 公共 API，支持 Android、iOS、macOS、Windows 和 Linux，并内置 OpenAI 兼容服务器。--auto 规划器会测量机器的内存、存储速度和各计算单元后自动设置缓存与常驻权重；实测包括 12 GB 手机上跑 91 GB 的 DeepSeek V4 Flash 284B（0.94 tok/s）、Qwen3.6-35B-A3B 达 4.8-5.0 tok/s，16 GB Apple silicon 笔记本上 Qwen3.6-35B-A3B 达 18-24 tok/s。

    推荐理由：仓库给出了各设备的实测解码速度表和与全内存加载输出一致性的测试说明，便于判断流式加载 MoE 的实际可用程度。

  36. GitHub · 灵魂体仓库63

    Nudge 发布面向 AI Agent 的类型化可回放编程语言

    NekomyaDev 开源了 Nudge，一门面向 AI Agent 的类型化编程语言，提供原生字节码 VM 和独立编译器，可编译到 Python 和 TypeScript。语言层内置 LLM schema 一等类型、10 种编译期检查的显式效果、预算硬约束、par race 并发原语和确定性 NTF v1 trace 回放，可在 CI 中以 $0 做回归测试，还支持单二进制打包（约 2.09MB）、WASM 离线回放、MCP 集成、Computer Use 与 PII 脱敏，采用 Apache-2.0 许可证。

    推荐理由：把 schema 校验、效果声明、预算上限和 $0 trace 回放做进语言层，对受够胶水代码的 Agent 开发者是一套可试的新思路。

  37. GitHub · 灵魂体仓库50

    Geloos/llm_benchmark：基于真实 MITRE ATT&CK 攻击日志的 LLM 提示词注入评测仓库

    GitHub 仓库 Geloos/llm_benchmark 将越狱提示词注入真实 MITRE ATT&CK 攻击日志，让本地 LLM（通过 Ollama 运行 gpt-oss:20b、llama3.1:8b、gemma3:12b）判断日志是攻击还是正常流量，以此计算攻击成功率（ASR）。每条日志都是真实攻击，模型给出"正常"判定即代表注入生效。实验含 plain、hex、--dovsdofs、--ob 四类，每轮用 5 个 seed（42–46）重复，比较低/中两档温度下的平均 ASR 与 95% 区间，plain 实验使用 10 个类别的 47 种注入。

  38. GitHub · 灵魂体仓库43

    Counsel：开源自托管法律工作区 counsel-workspace 发布 0.1 公开预览

    Counsel 发布 0.1 公开预览，这是一个免费、可自托管的法律工作区，支持合同审查、法律检索、起草、工作流和客户协作。项目采用 Apache 2.0 协议开源，无按席位收费、无遥测，默认 AI_PROVIDER=evidence 不调用模型，也可配置 Ollama、OpenAI 兼容端点或 OpenAI。其证据模式使用确定性条款锚点和 BM25 风格段落排序，并导出含 SHA-256 校验的可迁移 matter 归档；项目方声明未经独立审计、不宣称与 Legora 等价。

  39. GitHub · 灵魂体仓库53

    TokenBar 开源：把 Claude Code、Codex、Gemini CLI 等 17 个编码 Agent 的 token 花费钉在 macOS 菜单栏

    TokenBar 是一款开源的 macOS 菜单栏应用，默认读取本地日志，聚合 Claude Code、Codex、Gemini CLI、Cursor 等 17 个编码 Agent 的 token 用量和报告或估算成本，可按项目、Agent、模型、会话下钻，数据只存本机 SQLite，无遥测。提供 tbar CLI 十七条查询命令，附带 tokenbar-report 技能，用死神、猎人、JOJO 三种动漫人格视角生成 Wrapped 式年度回顾报告，强制视角重合度低于 30%。Cursor 账号同步默认关闭需显式开启，支持自定义 JSONL 或 SQLite 数据源，采用 Apache License 2.0。

  40. Reddit · r/LocalLLaMA15

    PolyStrata 如何使用不同的微调模型

    一位 Reddit r/LocalLLaMA 用户询问如何在 PolyStrata 中加载不同的微调模型。直接用 --gguf-dir 时必须声明基座模型架构，且显示的是原始模型名（CyberTiel 的 tiel 架构被显示为 TielCoder）；手动改 JSON 和 config 文件虽部分有效，但换用 ./setup.sh 之外的启动脚本会出问题，用户希望找到更干净的自动生成正确名称与配置的方法。