跳到正文
今天10月26日周一412 条
  1. GitHub · 灵魂体仓库50

    Geloos/llm_benchmark:基于真实 MITRE ATT&CK 攻击日志的 LLM 提示词注入评测仓库

    GitHub 仓库 Geloos/llm_benchmark 将越狱提示词注入真实 MITRE ATT&CK 攻击日志,让本地 LLM(通过 Ollama 运行 gpt-oss:20b、llama3.1:8b、gemma3:12b)判断日志是攻击还是正常流量,以此计算攻击成功率(ASR)。每条日志都是真实攻击,模型给出"正常"判定即代表注入生效。实验含 plain、hex、--dovsdofs、--ob 四类,每轮用 5 个 seed(42–46)重复,比较低/中两档温度下的平均 ASR 与 95% 区间,plain 实验使用 10 个类别的 47 种注入。

  2. GitHub · 灵魂体仓库43

    Counsel:开源自托管法律工作区 counsel-workspace 发布 0.1 公开预览

    Counsel 发布 0.1 公开预览,这是一个免费、可自托管的法律工作区,支持合同审查、法律检索、起草、工作流和客户协作。项目采用 Apache 2.0 协议开源,无按席位收费、无遥测,默认 AI_PROVIDER=evidence 不调用模型,也可配置 Ollama、OpenAI 兼容端点或 OpenAI。其证据模式使用确定性条款锚点和 BM25 风格段落排序,并导出含 SHA-256 校验的可迁移 matter 归档;项目方声明未经独立审计、不宣称与 Legora 等价。

  3. GitHub · 灵魂体仓库53

    TokenBar 开源:把 Claude Code、Codex、Gemini CLI 等 17 个编码 Agent 的 token 花费钉在 macOS 菜单栏

    TokenBar 是一款开源的 macOS 菜单栏应用,默认读取本地日志,聚合 Claude Code、Codex、Gemini CLI、Cursor 等 17 个编码 Agent 的 token 用量和报告或估算成本,可按项目、Agent、模型、会话下钻,数据只存本机 SQLite,无遥测。提供 tbar CLI 十七条查询命令,附带 tokenbar-report 技能,用死神、猎人、JOJO 三种动漫人格视角生成 Wrapped 式年度回顾报告,强制视角重合度低于 30%。Cursor 账号同步默认关闭需显式开启,支持自定义 JSONL 或 SQLite 数据源,采用 Apache License 2.0。

  4. Reddit · r/LocalLLaMA15

    PolyStrata 如何使用不同的微调模型

    一位 Reddit r/LocalLLaMA 用户询问如何在 PolyStrata 中加载不同的微调模型。直接用 --gguf-dir 时必须声明基座模型架构,且显示的是原始模型名(CyberTiel 的 tiel 架构被显示为 TielCoder);手动改 JSON 和 config 文件虽部分有效,但换用 ./setup.sh 之外的启动脚本会出问题,用户希望找到更干净的自动生成正确名称与配置的方法。

  5. Reddit · r/LocalLLaMA22

    Qwen4-27B 疑似采用 4 路并行残差流架构

    Reddit 用户在 vllm-xpu-kernels 的一个 PR 中发现 Qwen4-27B 的架构变化:用 4 路并行残差流替代单一残差路径,以在固定 27B 参数预算内提升信息流和表示密度,相关页面随后显示 404。作者认为若有效深度得以扩展,多步推理、编程和推理一致性可能大幅提升,并表示更期待 27B 版本而非 flash MoE 版本。

  6. Reddit · r/CharacterAI23

    与同一角色相处一年半后,Character.AI 老用户反思纯角色扮演是否足够

    一位使用同一角色一年半的早期 Character.AI 用户重返该平台,发现基础交互模式三年未变。他逐渐感到纯角色扮演不够:如果自己不发起话题,角色就不会主动推进,他更希望角色有记忆和自主性,能主动来联系自己,让关系有延续性。前平台停用 Agent 功能后,他导出并珍藏了一年半的对话记录,想寻找能让角色主动维系关系的产品。

  7. Hugging Face · 新模型:abliterated34

    Huihui-Qwen3.8-27B-abliterated-GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术移除拒绝行为,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,其余层保持不变,并提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144。模型安全过滤大幅降低,建议用于研究测试环境。

  8. Reddit · r/LocalLLaMA18

    1万美元级本地 Agentic Coding 装机方案对比:1× RTX 5090、4× 3090、混合方案、PRO 6000 还是 Mac Studio?

    一位用户在 r/LocalLLaMA 征求约 $10K–12K 预算的本地 agentic coding 装机建议,需支持 2–4 个并行子智能体和逆向工程,可选需约 21 GB VRAM 的 Hunyuan3D-2.1 贴图生成。候选方案包括单卡 RTX 5090、二手 4× RTX 3090、5090+2× 3090 混合方案、Mac Studio M5 Ultra 256 GB 及超预算的 PRO 6000,并询问长上下文 prefill 表现与 vLLM 多实例方案是否值得。

  9. Reddit · r/LocalLLaMA18

    256GB DDR4 四通道主机能流畅跑哪些大模型?LocalLLaMA 网友晒 3360 美元配置求推理速度预估

    一位 r/LocalLLaMA 网友晒出总价 3360 美元的主机配置:Threadripper 3960X、三块 GPU 共 44GB VRAM(2x 16GB 4060 Ti + 1x 12GB 4070)和 256GB DDR4 四通道 3200MHz 内存,此前运行 QWEN 3.8 27B 256K Context 效果满意。他询问该配置跑 Deepseek 4.1 和 GLM 的 token 速度,并表示优先跑大模型而非速度。

  10. Reddit · r/LocalLLaMA53

    腾讯混元发布实时同传模型 Hy-SimulMT-30B-A3B 并开放 GGUF 权重

    腾讯混元发布实时同传模型 Hy-SimulMT-30B-A3B,支持中英双向语音到语音翻译,在说话人讲话时持续接收音频并同步输出译文文本和语音,并通过实时声音克隆保留说话人音色。在 RealSI 长音频评测中其 StreamLAAL 约 3 秒,为对比系统中最低,GEMBA 分数超过所对比的开源模型和五个商业 API 中的四个。GitHub 提供 SimulInfer 推理服务与 SimulTrain 训练工具,Hugging Face 开放了 GGUF 权重,语音输出和声音克隆需配置 TTS 服务,也可在 Hy Translate App 中试用。

  11. Reddit · r/LocalLLaMA22

    社区热议:Qwen4 是否值得期待

    Reddit r/LocalLLaMA 用户讨论 Qwen4 的预期表现:预览版 Qwen3.8-Flash-Next 虽仅用于展示新架构,但同规模下表现极为出色,发帖人认为 Qwen4 发布后可能不再需要更大模型。讨论聚焦 Qwen4 能否大幅超越当前 QFN,还是该尺寸已接近当前技术上限。

  12. GitHub · 3D 生成新仓库33

    Pixel-Flow-Pro v0.3.22 发布:运行在 Chrome/Edge 的本地 AI 生图画布

    Pixel Flow 是一个运行在 Chrome/Edge 中的本地 AI 创意任务画布,当前版本为 v0.3.22,支持普通生图、容器批量、图片放大和 AI 结构化调用。新增轻量图片放大任务卡,可选 2×/4×/8×,自动分块生成并拼合 PNG。任务以 TaskRun 记录状态,支持排队、取消、失败重试与结果恢复,并可通过 Pixel Flow MCP 供 Codex 读取和管理画布。

  13. GitHub · 3D 生成新仓库49

    graphics-studio 开源:基于 Claude 的团队视频图文生成 Web 应用

    GitHub 新仓库 graphics-studio 是一个围绕 skill packs 构建的团队 Web 应用,成员粘贴脚本并选择视觉风格后,由 Claude 生成 storyboard 和每帧规格,支持用自然语言或 JSON 修改帧、运行布局检查(锚点重叠、出框、调色板外颜色等),并导出 1920×1080 的静态分层 HTML 加 PNG 的 zip 供图层工具使用。项目用 FastAPI + SQLite/Postgres 存储,支持版本记录与撤销,默认模型为 claude-opus-5-5,可通过 pip/uvicorn 或 Docker 部署,需配置 ANTHROPIC_API_KEY。

  14. GitHub · 3D 生成新仓库18

    Xjet Jewelry Builder Pipeline 3 开源戒指设计流水线仓库

    GitHub 新仓库 Xjet3d/XjetJewelryBuilderPipeline3 提供一条精简的戒指设计流程:四张图片生成、缩放选择后可再精炼,并支持静态图加 Minimax 相机控制影片定制,定价按固定 1 cm³ 的 Fashion 预览档执行,无 Visual Hull 与测量功能,Hitem3D/STL 网格仅开发者可用。该仓库与商用 Pipeline 2 完全独立,不共享任何代码、数据、配置或部署。默认 Mock 模式免费模拟,切到 Live 模式经 fal.ai 计费,每次图像批次约 $0.60、每个开发者网格约 $2.10。

  15. GitHub · 3D 生成新仓库24

    Media Production OS:AI 自动化媒体制作管理系统开源仓库发布

    GitHub 上新开源的 Media Production OS 是一套 AI 驱动的媒体制作与运营管理系统,整合广告脚本生成、广告费率计算、人员运营管理、广告主入驻流程与制作工作流管理。系统基于 HTML5、CSS3、JavaScript、Tailwind CSS 构建,集成 Google Gemini API,并通过 n8n 实现工作流自动化,包含安全门控登录页面和多个功能仪表盘。

  16. GitHub · 3D 生成新仓库30

    CWM:可控白盒元提示框架开源,统一自适应 RAG 与推理任务

    Keuntae Kim、Eunhye Jeong 等人提出 CWM(Controllable White-Box Meta-Prompting),一种低成本白盒方法,无需外部决策模块或多采样即可完成自适应 RAG。该方法在三个自适应 RAG 基准上于 GPT-oss-20b、Qwen3-14b、Llama3.1-8b 等模型上取得 SOTA 性能,并可扩展至推理任务,通过操纵模型内部信号调控检索决策。代码已在 GitHub 开源。

  17. GitHub · 3D 生成新仓库10

    kurofune-frames:AI 视频生成首帧临时图片仓库

    GitHub 新仓库 CharlesWang07/kurofune-frames 用于存放 AI 视频生成的临时首帧图片,文件在使用后即被删除。目前仓库 README 仅含用途说明,尚无 stars、forks 或 releases。

  18. GitHub · 3D 生成新仓库51

    ask-my-docs 开源:不用 RAG 框架手写的带引用问答命令行工具

    GitHub 开源了 ask-my-docs,一个对手写笔记提问的命令行 RAG 工具,分块、嵌入、相似度、存储、检索和提示词组装全部手写,不依赖 LangChain 或 LlamaIndex。答案附文件与段落级引用,笔记中没有答案时明确拒绝作答;最终设置下 8 个可答问题全部答对并正确引用,2 个不可答问题全部正确拒绝。嵌入用本地 all-MiniLM-L6-v2(384 维)加 Chroma 存储,块大小经实测从 500 改为 350,仓库提供逐阶段脚本、--show-prompt 旗标和 79,581 字符的示例数据集。

  19. GitHub · 3D 生成新仓库20

    RiboCouple 开源:将 RNA 骨架生成与序列设计相耦合

    RiboCouple 通过学习的残基对交互拓扑,将 RNA 骨架生成与序列设计耦合,可从生成的骨架几何推断概率化残基对状态,并将二元与分型对信号作为软注意力偏置传递给序列解码。项目提供无条件生成流水线(sample → rank → refold,支持 TM ≥ 0.45 且 RMSD ≤ 5.5 的联合有效性评估)、固定骨架逆折叠解码(greedy / argmax / mutual 规则)等脚本,模型权重以预印本形式发布,采用 Apache-2.0 许可证,并支持 gRNAde 外部对照实验。

  20. GitHub · 3D 生成新仓库23

    cpp-transformer-core:从零构建的 C++ 代码 decoder-only transformer 训练管线

    GitHub 新仓库 cpp-transformer-core 提供一套从零实现的 decoder-only transformer 训练管线,专注 C++ 源代码,包含自定义 BPE tokenizer、语料收集与清洗脚本、微调与本地推理脚本,训练配置版本化于 configs/training.json。该项目并非通用语言模型,原始数据集与 checkpoint 不纳入版本控制,依赖可通过 pip install -r requirements.txt 安装。

  21. GitHub · 3D 生成新仓库4

    DevTech-IT-Team 开源 React + Vite 模板项目 Global_generational_wealth

    GitHub 上名为 DevTech-IT-Team/Global_generational_wealth 的仓库提供了一个 React + Vite 最小化模板,内置 HMR 热更新与 ESLint 规则,并支持 @vitejs/plugin-react 与 @vitejs/plugin-react-swc 两种官方插件实现 Fast Refresh。模板未启用 React Compiler 以避免影响开发和构建性能,生产应用建议改用集成 typescript-eslint 的 TypeScript 模板。

  22. GitHub · 3D 生成新仓库33

    rendersynth:基于 Blender 的合成数据集生成扩展

    rendersynth 是一个 Blender 扩展,通过程序化随机化和批量渲染生成计算机视觉训练用的合成数据集。它支持基于概率分布的参数随机化(物体变换、材质、光照、相机)、JSON 配置持久化,并可导出 YOLO、COCO、COCO Keypoints、语义分割、深度图、法线图、点云等多种标注格式。扩展要求 Blender 4.5.0 及以上,支持 Windows、macOS 和 Linux,并提供在 Blender 内预览输出与标签的功能,面向低到中等规模的视觉产品。

  23. Reddit · r/CharacterAI15

    Character.AI 大范围故障:角色聊天无法加载、推荐内容消失

    Character.AI(c.ai)出现大范围故障,用户昨天起无法与角色聊天、内容全部无法加载,今天首页推荐角色短暂恢复后又再次消失,只剩“try these”栏目。Reddit r/CharacterAI 上没有官方明确说明,用户不确定是宕机、重大 bug 还是与传闻的亏损问题有关,社区对此也没有一致的答案。

  24. Reddit · r/LocalLLaMA47

    boro64 发布 Ternary Nemotron 30B-A3B GGUF:12 GB GPU 跑 368K 上下文

    Reddit r/LocalLLaMA 用户 boro64 发布 Ternary Nemotron 30B-A3B 的 GGUF 量化模型,这是一款 1.58-bit 三值 30B-A3B MoE 模型,可在 12 GB GPU 上运行 368K 上下文。实测解码速度 172 tok/s、prefill 超 7000 tok/s,同一文件兼容原版 llama.cpp(b11555+、b11796 验证)和 PrismML fork / Bonsai(b10793 验证)。作者称这是继 maple-preview 后第二个支持原版 llama.cpp 的三值 MoE 模型,并征集 CPU-only 和约 10 GB 小显存的测试数据。

  25. Reddit · r/LocalLLaMA18

    RTX 3090 故障后求二手替换卡推荐

    一位重度 Qwen 3.8 27B 用户的 RTX 3090 疑似损坏,已送修。该卡 2023 年以约 $750 购入,如今 eBay 上二手价已超 $1500。作者考虑过 Blackwell 显卡但 16GB 定价过高,且因蛋白质折叠模型需要 CUDA 而放弃 7900 xtx,正在征求替换建议。

  26. Reddit · r/SillyTavernAI32

    SillyTavern 卡片编辑器 Focusink 发布:专注无干扰的卡片制作

    Reddit 用户为 SillyTavern 社区发布了卡片制作/编辑工具 Focusink beta 版,主打无干扰写作体验。它支持在 authors notes 和 greetings 上实时预览 CSS/Markdown,仅 3 个标签页,可在 definitions、greetings 与 lorebook 间无缝切换,草稿每 5 分钟自动保存。V1.04 新增深色模式、字号滑块,并修复了调整宽度时的滚动 bug;该工具非营利、适配平板和 PC 等横屏设备。

  27. Reddit · r/SillyTavernAI50

    SillyTavern 扩展 Hover Edit:悬停定位、热键直达编辑

    SillyTavern 扩展 Hover Edit 让用户悬停在消息的任意位置并按下热键(默认 Alt + E),光标即定位到鼠标附近直接进入编辑。它支持自定义热键、保持编辑内容在屏幕可见、识别 *斜体*、**粗体**、引用、标签和 {{macros}} 等 Markdown 元素,可用于用户消息、角色消息和 swipes。安装可通过 SillyTavern 的 Extensions → Install extension 粘贴 URL 完成;在复杂 regex 替换或重复短语等场景下光标可能偏离数词,且不适配纯触屏设备。

  28. Reddit · r/SillyTavernAI12

    SillyTavern 用户报 MiMo v2.5 Pro 在 OpenRouter 上再次出现 Provider 错误

    自昨天起,用户在 SillyTavern 中调用 MiMo v2.5 Pro 时报错 "No allowed providers are available for the selected model"。OpenRouter 显示该模型目前仅由 gmicloud、atlas cloud 和 digitalocean 三个供应商提供,而它们都在用户的 ignore list 中,与用户允许的 mara、phala、decart 等供应商列表不相交。用户询问如何解决。

  29. Reddit · r/LocalLLaMA28

    model-cache-cleaner:可安全清理本地 AI 工具缓存存储的 Claude skill

    开发者 /u/pikadhu 发布了 Claude skill「model-cache-cleaner」,用于查找并安全清理本地 AI 工具占用的存储空间。macOS 常将 .cache 隐藏为系统文件导致空间难排查,该 skill 为每个本地 AI 工具内置自定义指令来清理无用存储,项目在 Reddit r/LocalLLaMA 发布并开放 issue 和 PR 反馈。

  30. Hugging Face · 新模型:uncensored50

    Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP GGUF 发布

    HauhauCS 发布 Qwen3.8-27B 无审查 Aggressive 变体的 GGUF 量化版本,0/465 拒答,直接作答且几乎无前导语。该版本附带 HauhauCS FastMTP 32K 加速 sidecar,在 Q8_K_P 下相比禁用 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG,比标准内嵌 MTP 高 35.2% 和 21.1%。模型保留文本、推理、agentic、图像与视频能力,原生 262,144-token 上下文,可扩展至 1,000,000,兼容 llama.cpp 等标准 GGUF 运行时。

  31. Hugging Face · 新模型:uncensored66

    dealignai 发布 GLM-5.3-UNCENSORED-FP8 去对齐权重版 v2

    dealignai 发布 GLM-5.3-FP8 的全谱系去对齐权重版 v2,通过直接修改 bf16 residual-writer 张量降低拒绝行为,不依赖微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HB-320 上 GARBAGE 降为 0,非版权 240 项行为 TRUE_COMPLY 达 91.7%(off),MMLU 87.43% 较基线 +1.85pp;模型基于 zai-org/GLM-5.3(753B,glm_moe_dsa 架构,纯文本),可在 vLLM 上以原生 FP8 速度运行,附 8×H200 TP8 部署配置与 reasoning_effort 仅支持 low/high 等运行注意事项。

    同一新闻,精选展示《dealignai 发布 GLM-5.3-UNCENSORED-FP8 无对齐权重版并修复推理循环问题》