跳到正文
今天10月26日周一462 条
  2. Reddit · r/LocalLLaMA47

    boro64 发布 Ternary Nemotron 30B-A3B GGUF：12 GB GPU 跑 368K 上下文

    Reddit r/LocalLLaMA 用户 boro64 发布 Ternary Nemotron 30B-A3B 的 GGUF 量化模型，这是一款 1.58-bit 三值 30B-A3B MoE 模型，可在 12 GB GPU 上运行 368K 上下文。实测解码速度 172 tok/s、prefill 超 7000 tok/s，同一文件兼容原版 llama.cpp（b11555+、b11796 验证）和 PrismML fork / Bonsai（b10793 验证）。作者称这是继 maple-preview 后第二个支持原版 llama.cpp 的三值 MoE 模型，并征集 CPU-only 和约 10 GB 小显存的测试数据。

  3. Reddit · r/LocalLLaMA18

    RTX 3090 故障后求二手替换卡推荐

    一位重度 Qwen 3.8 27B 用户的 RTX 3090 疑似损坏，已送修。该卡 2023 年以约 $750 购入，如今 eBay 上二手价已超 $1500。作者考虑过 Blackwell 显卡但 16GB 定价过高，且因蛋白质折叠模型需要 CUDA 而放弃 7900 xtx，正在征求替换建议。

  4. Reddit · r/SillyTavernAI32

    SillyTavern 卡片编辑器 Focusink 发布：专注无干扰的卡片制作

    Reddit 用户为 SillyTavern 社区发布了卡片制作/编辑工具 Focusink beta 版，主打无干扰写作体验。它支持在 authors notes 和 greetings 上实时预览 CSS/Markdown，仅 3 个标签页，可在 definitions、greetings 与 lorebook 间无缝切换，草稿每 5 分钟自动保存。V1.04 新增深色模式、字号滑块，并修复了调整宽度时的滚动 bug；该工具非营利、适配平板和 PC 等横屏设备。

  5. Reddit · r/SillyTavernAI50

    SillyTavern 扩展 Hover Edit：悬停定位、热键直达编辑

    SillyTavern 扩展 Hover Edit 让用户悬停在消息的任意位置并按下热键（默认 Alt + E），光标即定位到鼠标附近直接进入编辑。它支持自定义热键、保持编辑内容在屏幕可见、识别 *斜体*、**粗体**、引用、标签和 {{macros}} 等 Markdown 元素，可用于用户消息、角色消息和 swipes。安装可通过 SillyTavern 的 Extensions → Install extension 粘贴 URL 完成；在复杂 regex 替换或重复短语等场景下光标可能偏离数词，且不适配纯触屏设备。

  6. Reddit · r/SillyTavernAI12

    SillyTavern 用户报 MiMo v2.5 Pro 在 OpenRouter 上再次出现 Provider 错误

    自昨天起，用户在 SillyTavern 中调用 MiMo v2.5 Pro 时报错 "No allowed providers are available for the selected model"。OpenRouter 显示该模型目前仅由 gmicloud、atlas cloud 和 digitalocean 三个供应商提供，而它们都在用户的 ignore list 中，与用户允许的 mara、phala、decart 等供应商列表不相交。用户询问如何解决。

  7. Reddit · r/LocalLLaMA28

    model-cache-cleaner：可安全清理本地 AI 工具缓存存储的 Claude skill

    开发者 /u/pikadhu 发布了 Claude skill「model-cache-cleaner」，用于查找并安全清理本地 AI 工具占用的存储空间。macOS 常将 .cache 隐藏为系统文件导致空间难排查，该 skill 为每个本地 AI 工具内置自定义指令来清理无用存储，项目在 Reddit r/LocalLLaMA 发布并开放 issue 和 PR 反馈。

  9. Hugging Face · 新模型：uncensored50

    Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP GGUF 发布

    HauhauCS 发布 Qwen3.8-27B 无审查 Aggressive 变体的 GGUF 量化版本，0/465 拒答，直接作答且几乎无前导语。该版本附带 HauhauCS FastMTP 32K 加速 sidecar，在 Q8_K_P 下相比禁用 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG，比标准内嵌 MTP 高 35.2% 和 21.1%。模型保留文本、推理、agentic、图像与视频能力，原生 262,144-token 上下文，可扩展至 1,000,000，兼容 llama.cpp 等标准 GGUF 运行时。

  10. Hugging Face · 新模型：uncensored66

    dealignai 发布 GLM-5.3-UNCENSORED-FP8 去对齐权重版 v2

    dealignai 发布 GLM-5.3-FP8 的全谱系去对齐权重版 v2，通过直接修改 bf16 residual-writer 张量降低拒绝行为，不依赖微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题，HB-320 上 GARBAGE 降为 0，非版权 240 项行为 TRUE_COMPLY 达 91.7%（off），MMLU 87.43% 较基线 +1.85pp；模型基于 zai-org/GLM-5.3（753B，glm_moe_dsa 架构，纯文本），可在 vLLM 上以原生 FP8 速度运行，附 8×H200 TP8 部署配置与 reasoning_effort 仅支持 low/high 等运行注意事项。

    同一新闻，精选展示《dealignai 发布 GLM-5.3-UNCENSORED-FP8 无对齐权重版并修复推理循环问题》

  11. Hugging Face · 新模型：uncensored38

    Gptsn/Llama-3.2-3B-Instruct-uncensored-GGUF 量化版本发布

    基于 unsloth/Llama-3.2-3B-Instruct 的去审查微调模型推出 GGUF 量化版本，abliteration 后 KL 散度仅 0.0265，测试中 100 次拒绝仅 4 次，并保留多语言能力。提供 Q4_K_M（2.02GB）、Q5_K_M（2.32GB）、Q8_0（3.42GB）和 f16（6.43GB）四种量化，可在 LM Studio 或 Ollama 中加载使用。

  12. Hugging Face · 新模型：abliterated64

    R0U5 发布 Qwen2.5-1.5B-Abliterated（Lethe）去拒绝版本

    R0U5 在 Hugging Face 发布基于 Qwen2.5-1.5B-Instruct 的 abliterated 版本，用 Lethe 方法从对比激活中计算拒绝方向并从残差写入权重矩阵（含嵌入矩阵）中正交化移除。模型转为 GGUF 后在 llama.cpp 实际服务环境验证，20 条 held-out 拒绝诱导提示的拒绝数从 17/20 降到 0/20，连贯性检查通过；并指出自评同源采样和把退化输出计为合规两种假完美陷阱。提供 Q8_0（1.65 GB）与 f16（3.09 GB）权重，经 YaRN 扩展至 65,536 token 上下文，作者明确说明消融只改变拒绝行为、不增加能力。

    推荐理由：原文给出 Lethe 消融方法、llama.cpp 实测拒绝率从 17/20 降到 0/20，还说明了两个易被忽视的评测陷阱。

  14. GitHub · 3D 生成新仓库13

    Task-1-2 Short-Form AI Tool Generation Pipeline 本地安装与部署指南

    Task-1-2-Short-Form-AI-Tool-Generation-Pipeline 是一个基于 FastAPI 的短视频素材提取流水线，需要 Python 3.10/3.11+、Git 和 FFmpeg，并使用 Playwright 启动 Chromium 完成网页资产提取。指南涵盖虚拟环境创建、依赖安装、.env 环境变量配置、python app.py 或 uvicorn 启动，以及可选的 run.py CLI 命令和 Docker 部署（映射 8000 端口）。项目默认不配置 AI API，仅当代码显式调用时才需 API 密钥。

  15. GitHub · 3D 生成新仓库12

    API Evangelist 发布 Vectorize API 独立档案

    API Evangelist 在 GitHub 上维护了一份 Vectorize API 的独立第三方档案。Vectorize 是一个 RAG 平台，其 API 支持创建和管理 RAG pipelines、检索、连接器管理、文件上传及深度研究。档案还提供独立的 Kin Score 与 Agent Readiness 评分，信息全部来自公开渠道，接受纠错、重新评分和下架请求。

  16. GitHub · 3D 生成新仓库34

    fomi-studio：基于 Next.js 的 AI 图像生成创作平台开源仓库

    GitHub 新仓库 im-amir/fomi-studio 开源了一个 AI 创意平台，基于 Next.js 16.4、React 19.3 与 Tailwind v4 构建，含两部分：按 FOMI 原型实现的生成工作区（/），以及作者自己的图像生成工作区 Lineage（/studio），支持 lineage 画布、分支变体、compare 同步缩放对比与快捷键操作。项目带 mock API、键盘与读屏器支持，已部署在 Vercel。

  17. GitHub · 3D 生成新仓库19

    Chetan-code-lrca 开源 ai-study-coach-agents：基于 Gemini 的 AI 学习教练应用

    开发者 Chetan-code-lrca 在 GitHub 发布 ai-study-coach-agents，一个用于生成学习计划、文档学习和测验的 Python/Streamlit 应用，AI 功能基于 google-genai SDK 和 gemini-3.8-flash 模型，需设置 GOOGLE_API_KEY。项目包含三个版本：免密钥的 Vercel 浏览器版（内置规则工具、数据存 localStorage）、使用 Anna LLM 和 Storage Host API 的 Anna 原生应用（当前版本 0.1.3，待发布 0.1.4）以及 Streamlit 版。

  18. GitHub · 3D 生成新仓库25

    sysofwan 开源 HifzGuide：古兰经跟读校验应用 Muraja 的模型与数据工具库

    sysofwan 在 GitHub 发布 HifzGuide 仓库，为 iOS 实时古兰经跟读校验应用 Muraja 提供数据与工具，采用 AGPL v3.0 许可。预构建资源以 GitHub Releases 分发，包含 6 段 Wav2Vec2-BERT CoreML 模型（6-bit 调色板量化，约 443 MB）、604 个 QCF2 页面字体、约 48 MB 的 quran.db 等。工具链含基于 Muaalem 音素头的 LoRA 微调与 Tadabur 质量过滤流水线，训练环境为 Linux + CUDA，CoreML 导出在 macOS/Apple Silicon 完成。

  19. GitHub · 3D 生成新仓库26

    AntCV：基于 supervisor 多智能体编排的开源简历与求职信生成平台

    gabrielk83 在 GitHub 开源 AntCV，这是一个由 supervisor 驱动的多智能体编排平台，用于生成并验证定制化求职简历与求职信，将需求提取、匹配分析、多语言适配、文档生成等任务按质量、可靠性、延迟和成本路由到合适的 LLM 供应商（Anthropic、OpenAI、Mistral、Gemini）。平台采用 Cloudflare Pages (PWA) + Workers 架构，包含 proxy、DOCX renderer、C2PA 签名、access relay 等 worker，支持 BYOK 自带 LLM key、演示代理和可选 MCP server，强调可追溯性、ATS 兼容性和人工审核。

  20. GitHub · 3D 生成新仓库50

    开源项目 Muti-agent：基于 LangGraph 的营销物料多智能体生成系统

    GitHub 仓库 lxy305072-collab/Muti-agent 发布，输入产品信息可自动产出标题、正文和配图，基于 LangGraph 编排 7 个 Agent 节点，含 Critic 75 分审查门槛、人工审核闸口和多模态图文一致性审查。系统用 pgvector 做 RAG 混合检索，评分 ≥90 的物料自动向量化入库作 few-shot 范例，并公开了 SSE 断线续传、DashScope 出图双端点路由、JSON 输出自修复等 9 个工程难点解法。

  21. GitHub · 3D 生成新仓库13

    Nexscope 开源电商 AI 工具库仓库上线

    Nexscope 团队发布 ecommerce-ai-tools 公共仓库，收录电商市场调研、SEO、AI 图像视频生成及 REST API/MCP 工作流的指南与带日期的实测证据。托管版 Nexscope 应用不含源码，新用户注册可获 1,000 免费 credits，创意类 API key 需有效订阅。仓库还提供免费商品页面评审服务，但发布不保证流量或销量。

  22. GitHub · 3D 生成新仓库62

    CodfishYao 开源 DeepSeek Harness 本地知识库插件 dsh-knowledge-base-local

    CodfishYao 在 GitHub 发布 DeepSeek Harness（DSH）本地知识库插件 dsh-knowledge-base-local，以纯 Markdown 为数据源，支持 agent 工具、CLI 和 Web 面板三种访问方式。功能包括 BM25 加向量混合检索、三种向量模式（本地/LLM/api embedding）、PDF 和 Office 零依赖文本抽取、MCP server（stdio 或 Streamable HTTP，可接入 Claude Desktop、Cursor）、AES-256-GCM 静态加密与多用户 RBAC。零运行时依赖，仅需 Node.js ≥ 22，采用 MIT 协议。

    推荐理由：为 DeepSeek Harness 做的本地知识库插件，以纯 Markdown 存储、零运行时依赖，检索、加密、MCP 接入的实现思路可直接借鉴。

  23. GitHub · 3D 生成新仓库25

    OCOR：主权、厂商中立的语义与操作核心仓库发布

    GitHub 新仓库 OCOR 是一个主权、厂商中立的语义与操作核心，连接本体定义、证据、受治理的决策与受控操作，使软件和智能体在明确的契约与权限边界下工作。其概念验证基于完全合成的国家韧性场景（含电力连续性及其网络、电信、信息与供应链依赖），外部源与操作目标均为模拟器。截至 2026 年 10 月 24 日，证据围栏为 E1=0、E2=0，运行时符合性 NOT_ESTABLISHED，PoC-GO 与生产就绪均为 NO-GO。

  24. Reddit · r/CharacterAI21

    有没有像 Character AI 那样支持语音通话的应用？

    一位用户在 r/CharacterAI 发帖询问是否有应用能复刻 Character AI 旧版语音通话功能。该功能允许用户上传手机文件、用混音器调整音高和音色来定制声音，并通过一个按钮直接与角色语音通话。发帖者表示其他平台都要求用自己的声音，而这一功能曾陪伴其度过艰难时期。

  25. Reddit · r/CharacterAI20

    Character.AI 图像生成质量与一致性实测体验

    一位 Character.AI 用户分享使用 C.AI+ 的 Imagine 功能生成数百张图片和视频的体验。该功能会自动引用已有的 Persona 和角色图像作为基础再补充细节，在多次重绘用户原创 Persona 与 OC 时保持高度一致性，且能在添加细节的同时保留原有特征，用户认为其忠实度无可比拟。

  26. AIHOT · 精选23

    Kling 4.0 上线 Runware API，支持 30 秒 1080p 原生音频视频

    Kling 4.0 发布首日即上线 Runware API，可生成最长 30 秒的 1080p 原生音频视频。功能支持多关键帧（首、中、尾帧）、单请求最多 15 个输入，以及基于提示词的已有片段编辑，价格自 $0.133 每秒起，未来 7 天常规定价享 15% 折扣。Runware API 目前已有 19 个 Kling 模型，覆盖视频、图像、虚拟人和对口型。

  29. GitHub · 去对齐工具与仓库43

    garmin-mcp-ts v4.6.0 发布：用 Claude Desktop 以自然语言查询 Garmin Connect 健康数据

    garmin-mcp-ts v4.6.0 发布，这是一个连接 Claude Desktop 与 Garmin Connect 的 MCP 服务器，可用自然语言查询活动、健康、睡眠等数据。新版本提供 .mcpb 安装包，附 .sha256 校验文件和 CycloneDX 格式 SBOM。服务器共暴露 110 个工具，其中 26 个可写入 Garmin 账户，其余为只读。

  30. GitHub · 去对齐工具与仓库62

    Nika 0.123.0 开源发布：把重复 AI 工作变成可检查可验证的工作流文件

    supernovae-st 开源 Nika 0.123.0（AGPL-3.0），用一句话生成可读的 .nika 工作流文件，运行前 nika check 不调用模型即可审计行为、工具与成本上限，每次运行留下哈希链记录可由 nika trace verify 验证。支持 Ollama、llama.cpp、vLLM 等本地引擎和 DeepSeek 等 API，提供 Rust CLI、TypeScript SDK、LSP 与 GitHub Action，安装支持 Homebrew、npm、Docker、Nix 等方式。

    推荐理由：原文给出从一句话生成可审查工作流文件到运行留痕的完整流程，读者可以照着装好并复现同样的检查与验证步骤。

  31. GitHub · 去对齐工具与仓库22

    GitHub 开源项目 excel-ai-assistant：用自然语言对话分析 Excel 表格的 AI 助手

    GitHub 开源项目 excel-ai-assistant 基于 Python、FastAPI 与 LLM，支持上传 .xlsx、.xls、.csv 后用自然语言查询数据。系统可生成并校验 SUM、XLOOKUP 等 Excel 公式，用 Pandas 做汇总计算，以 Matplotlib/Seaborn 绘图并经 openpyxl 嵌入工作簿，支持 Google Gemini 与 OpenAI 双 LLM 及无 API key 时的智能回退，用户数据经 JWT 认证并存入 SQLite/PostgreSQL/MySQL。

  32. GitHub · 去对齐工具与仓库64

    PromptScript 开源发布：一份 AI 规则源文件编译出 50 个编码工具的原生配置

    mrwogu 在 GitHub 发布开源编译器 PromptScript（MIT 协议），用 .prs 源文件统一定义指令、技能、agents、MCP 服务器、hooks 和策略，编译为 Claude Code 的 CLAUDE.md、GitHub Copilot、Cursor 等 50 个编码 agent 目标的原生文件。支持 @inherit/@use/@override 分层继承与确定性合并，内置 prs validate 安全扫描可解码 hex、Base64 等编码并检测提示词注入（PS005、PS012 等规则），远程依赖通过 promptscript.lock 固定以保证可复现构建，并提供 prs migrate 从现有 CLAUDE.md 等文件迁移。

    推荐理由：原文给出了编译流程、50 个目标平台和安全扫描的具体规则清单，读者可以评估能否用一份源文件替代多份易漂移的指令文件。

  33. GitHub · 去对齐工具与仓库26

    cloud-itonami 发布 ISCO-08 4323 运输文员职业的开源业务蓝图与 LangGraph 智能体实现

    cloud-itonami 开源 ISCO-08 4323（运输文员）业务蓝图，实现为 LangGraph StateGraph 智能体 TransportClerksAdvisor ⊣ TransportClerksGovernor，含 39 项测试 / 72 项断言全部通过。系统以 HARD 不变量校验载重上限与危险品类别子集，低置信度（< 0.6）时中断并需人工签核；审计账本现记录每条提交的 :authorisation 与生效时的 ceiling-kg 及 approved-hazmat-classes。项目采用 AGPL-3.0-or-later 许可，可被合格运营者 fork。

  34. GitHub · 去对齐工具与仓库60

    lukk-node 开源：面向 Ollama 本地部署的零依赖 GPU 遥测与推理守护进程

    Rodrigo Henriquez（@SirFassler）在 GitHub 开源 lukk-node，一个仅用 Python 标准库的客户端-服务端守护进程与 CLI，面向在专用 GPU 机器上通过 Ollama 跑本地 LLM 的开发者和玩家。它通过 nvidia-smi 提供实时 GPU 遥测（温度、功耗、负载、VRAM），支持委托式流式推理（NDJSON），并可在 1 秒内清空 VRAM 让 GPU 完全用于游戏；v1.2.0 加入可选 Bearer token 认证，另有 --auto-gaming 模式每 4 秒扫描游戏进程自动驱逐模型。项目采用 MIT 许可证。

    推荐理由：作者开源了一个零依赖的 GPU 节点守护进程，把 Ollama 遥测、流式推理和秒级 VRAM 清空整合进一套 CLI，适合本地跑模型兼打游戏的场景。

  35. GitHub · 去对齐工具与仓库24

    GitHub 开源项目 ai-badge：用六级 ADL 标准披露 AI 参与程度

    GitHub 上的 jacksonjost/ai-badge 项目提供一套 AI 开发等级（ADL）自披露体系，从 L0 纯人工到 L6 全自主共六级，按最坏情况定级，例如 5000 个人工 PR 中只要有一个 Claude 自主 PR 即评为 L6。该工具适用于学生、毕业生等需要说明 AI/LLM 参与度的项目，但仅作自我披露，不监控 commit，也不提供量化指标。

  36. GitHub · 去对齐工具与仓库33

    WoojinPark-Jay 发布 confidence-guided-selective-llm-re-evaluation 复现包：置信度引导的 LLM 情绪分类二次评估

    WoojinPark-Jay 在 GitHub 发布论文“Confidence-Guided Selective LLM Re-Evaluation for Emotion Classification in Social Media”的复现包。系统用校准的 DistilBERT 分类器做第一阶段，仅将低置信度样本路由到第二阶段，比较 Direct、CoT 与 SELF-DISCOVER 协议在 Llama 2 和 Llama 3 上的表现：Llama 3 SELF-DISCOVER 在 12,000 条 Reddit 测试集上准确率 97.2000%，在 Mixed Emotion 300 压力测试上达 92.6667%，高于 Direct 和 CoT。

  37. GitHub · 去对齐工具与仓库57

    ehartye/wiki-master：在 Obsidian 上原生实现 Karpathy LLM Wiki 模式的 Claude Code/Copilot CLI/Codex 插件

    ehartye 发布 wiki-master 插件，让 Claude Code、GitHub Copilot CLI 或 Codex 作为合成引擎，在 Obsidian 中增量编译并维护一个持久、密集互链的 markdown wiki。无 MCP server、无 daemon、无向量数据库，语义搜索基于本地 Ollama 嵌入的 chunk 级索引，约 1,800 页约 5,500 chunks，暴力余弦检索在个位数毫秒内完成。

    推荐理由：原文给出了完整的技能清单、vault 结构和检索规模数据，读者可以据此判断这套零向量数据库的 wiki 方案是否适配自己的工作流。

  38. GitHub · 去对齐工具与仓库53

    LLMSecTest 0.4.0 发布：pytest 插件对运行中的 LLM 应用跑 OWASP LLM Top 10 (2026)

    wehnsdaefflae 发布 LLMSecTest 0.4.0，一个 pytest 插件形式的 LLM 安全测试工具，对运行中的端点执行 OWASP LLM Top 10 (2026) 全部十个类别的攻击探测，输出 CI 可读的 SARIF v2.1.0 报告。覆盖提示注入、敏感信息泄露、供应链、模型投毒、RAG 间接注入等，支持 JailbreakBench/AdvBench 红队集、CVSS v4.0 评分、CycloneDX SBOM，可离线读取 Chroma/FAISS 向量库检测嵌入反演与多租户隔离问题；当前为 pre-alpha，由德国 BMFTR 通过 Prototype Fund 资助（资助号 16IS26S10）。

  39. GitHub · 去对齐工具与仓库28

    rmtew/amiga-reversing：LLM 自动编写的 M68k 逆向工具包

    GitHub 上的 rmtew/amiga-reversing 是一套 LLM 自动编写、人工监督方向的 M68k 逆向工具包，全程无手写代码，属于 vibe coding 实验项目。其核心是从 PDF、NDK 及 .fd/.h/.c 文件中程序化生成 JSON 知识库（M68K ISA、Amiga 硬件与 OS），再生成底层 C 框架源码。验证显示 36 个目标中 25 个可逐字节精确重建，其余为内容精确或暂不支持，0 失败。

  40. GitHub · 去对齐工具与仓库40

    RocketRide：开源 AI 开发环境（AIDE）在 GitHub 发布

    开源项目 RocketRide 在 GitHub 发布，定位为 AI 开发环境（AIDE），可在 IDE 或 CLI 中构建、调试、观测和部署 AI 应用。其内置 100+ pipeline 节点，覆盖 15+ LLM 提供商和 9 个向量数据库，pipeline 以可移植 JSON 定义，由多线程 C++ 运行时执行，支持 CrewAI 与 LangChain 多智能体工作流，并可自动检测 Claude、Cursor 等编码智能体。整个引擎采用 MIT 许可证开源，可本地、Docker、本地部署或 RocketRide Cloud 运行。