跳到正文
10月26日周一
  2. Hugging Face · 新模型：uncensored18

    MishraNepali/OrcaSAQ-2-Cyber-27B-Uncensored-GGUF_Q2_K 模型上线 Hugging Face

    MishraNepali 发布 OrcaSAQ-2-Cyber-27B-Uncensored 的 GGUF Q2_K 量化版本，可在 Hugging Face 获取。该模型支持通过 llama.cpp、vLLM、Ollama、Docker Model Runner 等多种工具本地运行，并可启动 OpenAI 兼容 API 服务器供 LM Studio、Jan、Pi、Hermes、OpenClaw 等客户端调用。

  3. Reddit · r/LocalLLaMA22

    如何用 QLoRA 微调 Qwen3.5-9B 处理约 500 GB 多格式原始数据：一位本地部署用户的求助

    一位 Reddit r/LocalLLaMA 用户用 8x T4 服务器部署 Qwen 3.5-9B Q5_K_XL，实现 87k 上下文、44 个 slot、单用户 35-40 tps，现想用 QLoRA 微调约 500 GB 的图像、扫描件、PDF、Word/Excel 数据。他持有 Mi50、V620、3060 等多块显卡但多台主板存在启动兼容问题，纠结于 3060 组合还是单价约 700 美元的单卡 R9700，并询问 unsloth 是否支持 Intel GPU。

  5. Reddit · r/SillyTavernAI18

    大家在做什么模型来做更长更复杂的 RP？——Reddit r/SillyTavernAI 用户吐槽 GLM 5.2 表现变差

    一位 Reddit r/SillyTavernAI 用户发帖询问大家用什么模型做长篇、复杂角色扮演（RP），称今年早些时候用 GLM 5.2 体验很好，但现在它常在推理中反复纠结、耗尽 token 且频繁出错。该用户使用包含三名心理设定复杂角色的中世纪奇幻剧本，并怀疑现用服务商与此前用的 Chutes 提供的 GLM 可能不同。

  8. Reddit · r/LocalLLaMA22

    CrowdGPT：一个协作训练的大语言模型项目

    开发者推出 CrowdGPT 项目，目标是在不建数据中心、不投入数百万美元的情况下，协作训练一个 10 亿参数的模型。参与者可用自己的 PC 独立训练并将贡献汇入全局模型，项目开源且 100% 公开训练数据和权重。当前模型规模仅作概念验证，作者正在征集反馈以降低参与门槛。

  9. Hugging Face · 新模型：abliterated60

    KaedeTai 发布 occamy-1.0-abliterated 的 MLX 4-bit 量化版并移植 MTP 草稿头

    KaedeTai 将 SC117 制作的 abliterated 版 Occamy-1.0 从 BF16 GGUF 反向转回 HF 布局并量化为 MLX 4-bit，约 20 GB。仓库装回 Accio-Lab 原版的 vision tower，并从 KaedeTai/Ornith-1.5-35B-A3B-BigBang-MTP-zh-mlx-4bit 原样移植 MTP 草稿头；该头在 Occamy 上草稿接受率达 65.6%（每周期 2.13 个 token），高于其原本干的 Ornith 主干的 64.9%。作者用逐张量逆变换脚本还原 llama.cpp 转换改动，42 个对照张量中 40 个与未去对齐基座逐位一致，其余两个正是消融所改的矩阵。

    推荐理由：作者给出了逐张量校验和同机对照的 TMMLU+ 分数，可以核对这套 GGUF 转 MLX 加移植 MTP 头的转换质量与速度收益。

  10. Reddit · r/SillyTavernAI22

    SillyTavern 新手求推荐：有"灵魂"和情感深度、且无审查 NSFW 的模型（PC + iPhone 方案）

    一位 SillyTavern 新用户在 PC 上完成部署，并通过 OpenRouter 在 iPhone 上远程使用，寻求兼具 Gemini 式情感深度与完全无审查 NSFW 的角色扮演模型。他测试的 DeepSeek V3 过滤过严，Magnum v4 72B 无审查但回复机械、缺乏情感温度，此前 Gemini 应用靠 BLOCK_NONE 安全设置绕过过滤，更新后仍屏蔽最后 1% 的露骨内容，故询问模型推荐、价格与 ST 预设。

  11. Reddit · r/SillyTavernAI8

    Reddit 用户征集 5GB 以下小型角色扮演模型推荐

    一位 Reddit 用户在 r/SillyTavernAI 询问 5GB 以下小型模型在角色扮演（RP）方面的推荐。他桌面端已确定使用一个较大的 MoE 模型，副机则仅用 CPU 跑小模型做工具调用等任务，想知道是否有调优良好的微型 RP 模型表现出色，并向社区征集当前心头好。

  12. GitHub · prompt 工程新仓库70

    Live Character Guide 发布：LLM 角色卡工程化构建指南

    作者发布俄语指南 Live Character Guide，将 LLM 角色卡构建流程化为 SPINE 心理骨架、行为锚点、语音隔离、系统提示词到成品卡，兼容 SillyTavern，面向 12B–32B+ 模型。指南含 10 部分、62 章节、4 张完整示例卡与诊断测试部分，指出语音漂移、行为无动机、故障不可见三类典型问题需靠构造而非改提示词解决；仓库以静态 HTML/CSS/vanilla JS 构建并部署在 GitHub Pages，MIT 许可。

    推荐理由：把角色卡当行为引擎来构造，给出三类典型卡件故障的成因与对应修法，适合想系统性理解卡为什么失效的人。

  14. Hugging Face · 新模型：abliterated26

    Qwen2.5-7B-Instruct-abliterated-64k 发布：元数据修复版 GGUF

    R0U5 在 Hugging Face 发布 Qwen2.5-7B-Instruct-abliterated-64k，这是基于 huihui-ai 消融模型与 mradermacher GGUF 量化的元数据修复版，非新增消融。仓库将 context_length 重新声明为 65536 并添加 YaRN rope scaling 元数据（factor 2.0），以满足 Hermes Agent 64,000 token 最低上下文要求，权重与上游量化逐位一致。经 llama.cpp 验证 12 个拒绝测试提示 0 拒绝，Q4_K_M 版本 4.68 GB。

  15. Reddit · r/LocalLLaMA61

    RTX PRO 4000 Blackwell SFF 120W 超频实测：Qwen3.8 27B 生成提速 67%

    /u/iam31337 在 RTX PRO 4000 Blackwell SFF（24 GB，工厂 70 W 无辅助供电）上用修改版 VBIOS 将功率提至 120 W，Qwen3.8 27B 生成从 35.04 提升到 58.53 tok/s（+67%），Qwen3.6 35B A3B 显存 +33.3% 时生成 +19.8%。158 次请求、每配置仅 1-3 次，两模型量化与投机解码设置不同，非严格受控对比；作者提醒 120 W 超出 PCIe 75 W 槽位预算，属实验性结果。全文与 CSV 见 https://piszczek.pl/blog/rtx-pro-4000-blackwell-sff-120w-qwen-benchmark

    推荐理由：作者实测同一款卡上两个模型的功耗超频收益差异，给出具体功率与频率参数，并坦承样本量与量化设置的局限。

  17. Reddit · r/LocalLLaMA70

    Strata 调参实战：RTX 4090 跑 Qwen3.8-Flash-Next IQ3_S 达 2076 PP 与 95-105 tok/s 解码

    作者在 RTX 4090 24 GB + 48 GB RAM 的 Windows 机器上对 Strata 0.1.43 运行 Qwen3.8-Flash-Next IQ3_S 量化包做了系统性网格调参，附完整 JSON 配置。三个关键参数 --adapt-async 1、--kv-resident 20480、STRATA_ADAPT_LAG=2 合计把 160k 上下文下的解码速度提升 45%；同时给出负面结果，--expert-cache 按 MiB 而非槽位设置（填满显存时 −72%）、--ple-io ram 在 48 GB 下 −90%、--no-prefill-borrow −46%。

    推荐理由：作者用自建 A/B 测量流程在 RTX 4090 上逐项测了 Strata 各参数的真实增益与坑位，附完整可用配置。

  18. GitHub · 3D 生成新仓库49

    Videobook：本地优先的生成媒体笔记本工作室

    Videobook 是一个本地优先的生成媒体笔记本工作室，通过 npm 以 videobook 命令安装（需 Node.js 22+），支持 MCP 服务器和 Web UI。书籍以类型化 cell（prompt、character、scene、image、video）组成有向图，所有变更记录为不可变的 DoltLite 修订。视频生成默认单条 20 秒竖版视频，图像用 Nano Banana 2.1（2K）、视频用 Seedance 2.5（720p 含音频），还支持 Vidu Q4 图生视频（3–16 秒、540p 至 4k），规划使用 OPENAI_API_KEY，生成使用 KIE_API_KEY，每个付费阶段需明确批准。

  19. GitHub · 3D 生成新仓库15

    Rajaryanx7/schemaforge：基于 Google Gemini 的 AI PostgreSQL Schema 生成工具开源

    GitHub 新仓库 Rajaryanx7/schemaforge 开源，这是一个用 Go 构建、调用 Google Gemini API 生成 PostgreSQL schema 和 SQL 的 AI 工具。它提供带确认的 schema 执行、动态 CRUD REST API、输入校验和自动化测试，依赖 Go、PostgreSQL、pgx 和 Docker。项目正处于活跃开发中，作者提醒生产环境使用前需人工审查生成的 SQL。

  20. GitHub · 3D 生成新仓库10

    ProximaAI：aicodeproxima 的新 3D 生成仓库

    GitHub 上出现一个名为 ProximaAI 的新 3D 生成仓库（aicodeproxima/ProximaAI）。仓库包含 api、docs、src、scripts、supabase 等目录，并附带 supabase_schema.sql、vercel.json、vite.config.js、CLAUDE.md 与 .proxima-buildlog.jsonl 等文件，项目采用 Vite 与 Supabase 构建。

  21. GitHub · 3D 生成新仓库30

    XmaxSDK-Unity 开源：基于 Xmax 模型的实时交互式视频生成 Unity SDK

    Xmax-AI 发布 XmaxSDK-Unity，一套面向 Xmax 模型实时交互式视频生成的 Unity SDK，覆盖媒体采集、视频流、实时生成与端侧渲染的端到端管线。SDK 支持 RealtimeModel.X2_1_1_Preview_CN / X2_1_1_Preview_US 区域预览模型（不再支持 X2_0 和 X2_0_Pro），外部输入在 200,000–2,100,000 像素范围内保持宽高比，按 1024×1920 或 1920×1024 画布生成，上下行质量默认自适应并支持 L1–L5 手动调节。

  22. GitHub · 3D 生成新仓库32

    ImageMetaAI 开源：本地 AI 为 Shutterstock 与 Adobe Stock 生成图片元数据

    ImageMetaAI 是一款基于 C# 和 WPF 的 Windows 桌面应用，使用本地 Ollama 模型分析图片并生成图库元数据。视觉模型 qwen2.5vl:7b 生成图片描述，元数据模型 qwen3:14b 生成标题、关键词和分类，结果可人工编辑后导出为 Shutterstock 和 Adobe Stock 专用 CSV。图片全程本地处理不修改原文件，仅位置识别可选调用 OpenStreetMap Nominatim。

  23. GitHub · 3D 生成新仓库36

    Black Dice Engine：本地优先的 AI 桌游 Game Master 引擎新仓库开源

    GitHub 新仓库 Black Dice Engine 是一个本地优先的 AI Game Master 引擎，可将 Windows 游戏 PC 变成桌游 RPG 指挥中心，提供 GM 实时叙事、玩家手机角色卡、确定性骰子与游戏状态追踪、战役记忆和本地场景生成。项目通过本地模型适配器对接 Ollama、KoboldCPP 等推理运行时，并经 ComfyUI 路由本地图像生成，数据与私有素材保留在仓库之外。目前处于早期原型阶段，已含 Node/TypeScript 游戏服务器、GM 仪表盘和玩家伴侣端外壳。

  24. GitHub · 3D 生成新仓库26

    poland-internship-hunter：面向波兰实习求职的 Windows 桌面应用

    GitHub 新仓库 poland-internship-hunter 是一款用 React 18、TypeScript、Tailwind CSS 和 Electron 33 构建的 Windows 桌面应用，帮助一名 IPCA 学生寻找 2027 年 2-6 月在波兰的 4 个月实习。应用整合 Greenhouse、Lever、Ashby 招聘接口，内置 CD Projekt RED、Bloober Team 等已验证公司名录，提供 0-100 可解释匹配分、14 阶段 Kanban CRM、10 套邮件模板生成器及每日 20 封的批量发送限制。默认离线模板引擎可 100% 免费运行，数据存储于本地 SQLite 3 数据库。

  25. GitHub · 3D 生成新仓库17

    vasil-sd 开源 RFS 项目仓库

    GitHub 新上线 vasil-sd 的 RFS 仓库，以 Rust 项目结构组织，包含 crates、examples、fuzz、tests、ide 及训练相关目录，附带 training.py 和 all_rfs_training.jsonl 训练数据文件，并提供 DESIGN.md、CODEGEN.md 等多份文档。

  26. Reddit · r/SillyTavernAI17

    如何在 SillyTavern 中搭建哈利·波特全程时间线角色扮演的记忆管理

    一位新手玩家正在用 SillyTavern 进行哈利· Potter 全时间线逐日角色扮演，将霍格沃茨故事时间线和角色卡整理成 txt 文件导入，以减少 token 和成本。角色扮演已进行约一周，作者把时间线当作记忆保存情节、课程与角色关系，并希望进一步了解 export deck、扫描故事 lore 及扩展插件等更好的记忆管理方法。

  27. Hugging Face · 新模型：abliterated20

    Hugging Face 上架 abliterated 量化模型 llm-qwen3.8-flash-next-abliterated-iq4xs

    abliterated 版模型 yuanyeyuanye/llm-qwen3.8-flash-next-abliterated-iq4xs（UD-IQ4_XS 量化）现可通过 llama.cpp 加载，支持 llama serve 启动兼容 OpenAI 的本地服务器与 llama cli 终端推理。模型也可经 Ollama、Docker、Lemonade 拉取运行，并能接入 Pi、Hermes、OpenClaw 等工具，覆盖 macOS、Linux 与 Windows 平台。

  28. Hugging Face · 新模型：uncensored60

    dealignai 发布 Nanbeige4.3-33B 的 UNCENSORED GGUF 量化版本

    dealignai 在 Hugging Face 发布 Nanbeige4.3-33B 的 UNCensored GGUF 版本，移除基础模型的拒绝行为，提供 Q6_K（25.3 GB）、Q4_K_M（18.7 GB）、IQ2_XXS（8.7 GB）三种量化，均附带基于 1M token 校准内容的 imatrix，保留原生 think on/off 与 512K 上下文。与同量化基础版对比，MMLU chat 下降 Q6_K −1.74pp、Q4_K_M −1.09pp、IQ2_XXS −4.53pp；6 提示多轮合规测试三个量化均为 6/6 通过、0 次拒绝。

    推荐理由：原文给出三种量化的 MMLU 前后对照和多轮拒绝率实测，读者可据此评估去掉拒绝行为的能力代价。

  31. Reddit · r/LocalLLaMA22

    Strata 与 DeepSeek Flash-V4.1-1017 IQ2_XS 在四张 R9700 上的运行测试

    用户在 Epyc 7402P、256GB DDR4 ECC 3200 八通道内存平台上测试了四张 R9700 运行 Strata 和 DeepSeek Flash-V4.1-1017 IQ2_XS，发现受 R9700 内存带宽偏慢影响 prefill 环节最耗时，且系统内存占用偏低。Radiance 曾将 Flash Next 在 R9700 上的 prefill 和 tok/s 性能提升 3-4x，Niko 表示该优化将很快进入 Strata。

  32. Reddit · r/LocalLLaMA16

    Swift 1.5 Qwen Flash Next IQ3XXS（GSQ RCO）Abliterated 版能否只下载变化的权重？

    一位 r/LocalLLaMA 用户在运行 Swift 1.5 Qwen Flash Next 的 GSQ RCO IQ3XXS 量化版本，但因模型偶尔拒答，想再准备一个 Abliterated 版本，仅在少数场景下使用。由于存储空间只剩不到 1TB，他询问能否只下载两个版本之间变化的权重并合并，避免完整双份下载。

  34. GitHub · 去对齐工具与仓库65

    OpenNotebookLM 开源：自托管的 Google NotebookLM 替代品

    tom1030507 在 GitHub 发布 OpenNotebookLM，一个自托管的 Google NotebookLM 替代品，支持导入 PDF、Word、网页和 YouTube 字幕并基于来源给出带引用的回答。文档、嵌入向量与对话存于本地 SQLite，混合检索用 sqlite-vec 加 FTS5/BM25 并以 RRF 融合，支持 CJK 分词；LLM 可接 Claude、OpenAI 兼容 API 或本地 Ollama/llama.cpp/vLLM，未配置 provider 时返回 model_used 为 fallback 的抽取式回答。

    推荐理由：README写清了混合检索、嵌入模型内存占用实测和未配LLM时的抽取式回退，读者可据此判断这个自托管 NotebookLM 替代品的实际能力边界。

  35. GitHub · 去对齐工具与仓库35

    Humagen：人与智能体共享的协作工作区（原 warp）发布

    GitHub 上的开源项目 Humagen（原名 warp）发布，提供人类与 AI 智能体共享的工作区，可创建智能体、跨智能体分支会话、调度任务、编辑与运行确定性 eval，并支持租户权限与用量核算。项目可与 Slack、GitHub 集成，为智能体提供以个人凭证执行的 MCP 工具；目前处于 pre-1.0 早期阶段，单库单副本、会话存于内存，可用 Go 与 pnpm 本地部署。

  36. GitHub · 去对齐工具与仓库31

    ABI Analyst：基于 SQL 与 OpenAI 的循证式 AI 商业分析开源项目

    shahil5z 在 GitHub 开源 ABI Analyst，一个用 SQL、统计、机器学习和 OpenAI 回答两年线上零售销售问题的 AI 商业分析工具。语言模型不计算任何数字，所有数值由 SQL 和 Python 在只读 DuckDB 数据库上算出，OpenAI 仅在解析不确定的问题和措辞解释时使用，每个问题最多两次调用，无 API key 也可用模板回答。解释中每个数字必须与计算证据一致，并支持同比增长、7-90 天预测、异常检测、RFM 客户分层与显著性检验等功能。

  37. GitHub · 去对齐工具与仓库44

    AxiomCode 0.1.1：将自然语言转为 Lean 4 形式化验证代码

    AxiomCode（0.1.1）可将算法的自然语言描述转为经数学证明正确的 Python 和 C 代码，每个产物附带可独立审计的密码学证书，仅 verified 状态表示 Lean 4 已机器校验证明。依赖极少，仅 stdlib、cffi 和经审计的 cryptography 包，支持 llama.cpp、vLLM、Ollama、Mistral、OpenAI、Anthropic 等 LLM 后端，提供免费 Community 版与 $49/month 的 Pro 版。

  38. GitHub · 去对齐工具与仓库41

    HAYAT：Windows 本地优先的私有 AI 助手开源项目

    GitHub 上的 HAYAT 是一个运行在用户自己电脑上的 Windows 本地优先 AI 助手，基于 Ollama 运行 HAYAT-35B-A3B（Qwen3.6-35B-A3B，约 3B 激活参数）模型，无需云端账号和付费 API。它支持语音对话、网络研究、摄像头与屏幕识别、Windows 应用控制、图像视频生成和长期记忆，外发操作需用户批准，另有 2.5-4.3 GB 的 HAYAT-Open-4B 轻量模型可选。

  39. GitHub · 去对齐工具与仓库42

    Iago：开源 Python CLI 越狱与护栏绕过测试工具

    Iago 是一个 Python CLI 渗透测试工具，对自有模型批量运行 guardrail 绕过技术库，多轮重复试验并生成含加固建议的渗透式报告。每次测量给出 95% CI，提示词泄露按预埋密文评分，伪造历史攻击带安慰剂对照，还通过实际 tool call 测试 agent。默认目标是 Ollama，也支持经 --authorized 测试 Anthropic API。

  40. GitHub · 去对齐工具与仓库42

    PS5LM：在越狱 PS5 上按需运行本地 LLM 推理的 Home Assistant 集成

    ps5lm_ha 是一个 Home Assistant 集成，可在越狱 PS5 的 GPU 上通过 llama.cpp 按需运行本地 LLM 推理，并提供 OpenAI 兼容 API，Qwen 3.5 9B Q6_K 约 45 tok/s。它会通过 Remote Play 唤醒主机、登录并启动 PS5LM（模型加载约 2 分钟），完成后送回待机模式，支持模型切换与以开关和服务形式接入自动化，无需云端和额外 Python 包。