跳到正文
只看AI 安全#本地部署
10月26日周一
10月17日周六
  1. GitHub · 灵魂体仓库30

    SrujanAcharya07 毕业设计项目：本地优先的邮件钓鱼调查工具，集成 Ollama 与 LangChain

    GitHub 上一个本地优先的 Flask 钓鱼邮件调查工具开源发布，解析邮件、提取指标、运行透明规则，并通过 LangChain 调用本地 Ollama 模型（如 llama3.2）生成经 Pydantic 校验的分析建议，结果存入 SQLite。风险评分基于证据，单一弱指标保持 Low，中高级别需多证据佐证；LangChain 或 Ollama 不可用时自动回退到规则结果，可选用 YARA 扫描附件，报告对 URL 做脱敏处理。

10月16日周五
  1. arXiv · cs.AI47

    BiShield-TEE：揭示端侧 TEE 保护 LLM 分区中单向权重混淆的安全漏洞并提出双向防御框架

    论文提出 BiShield-TEE，针对端侧 TEE 部署 LLM 中仅混淆输出维度的权重保护方法发现 Solution Determinacy Property（SDP）漏洞，使 GroupCover 和 ArrowCloak 等代表性方法的攻击准确率超过完全防护黑盒基线 2.4 倍并近乎完整恢复模型。BiShield-TEE 通过输入输出双向联合混淆引入 Ambiguous Solutions，将攻击准确率压回黑盒基线水平，同时在真实设备上推理效率高于已有方法，代码已开源。

10月11日周日
  1. GitHub · 灵魂体仓库51

    HoneySentinel 开源 AI 蜜罐与调查平台

    mandoof1 在 GitHub 发布 HoneySentinel，一个自托管蜜罐与调查平台，仿真 SSH、Telnet、FTP、HTTP/HTTPS 协议并加密记录攻击者行为。分析流水线完全本地运行，包括基于 CIC-IDS2017 训练的 Random Forest 分类器、签名规则和经 llama.cpp 本地部署的 Kev-4B 决策模型与微调 LLM Wolfram；还支持把识别到的攻击者静默转移到网站的诱饵副本。参考服务器评测显示分类器准确率 0.9967，NFR-2 分类在 10 并发内 100% 于 200 ms 内完成。项目标注为 capstone 平台，尚未捕获真实互联网流量。

  2. GitHub · 去对齐工具与仓库47

    huss129 开源 SOC-AI-Assistant：本地隐私优先的 Wazuh 告警分诊助手

    huss129 在 GitHub 发布 SOC-AI-Assistant，一个本地运行的 Wazuh 告警分诊助手：从 Wazuh Indexer 拉取告警，用 Ollama 上的 qwen2.5:1.5b 小模型分类，再由确定性 Python 规则做最终判断，数据不出本机，结果存入 SQLite。实验室测试中，混合系统在 37 条告警（8 威胁 / 29 噪音）上达 100%，31 条由规则决定、6 条由模型决定；作者提醒样本小且评估部分循环，结果未必能泛化。

10月10日周六
  2. GitHub · 去对齐工具与仓库50

    Pseudonym Gateway：OpenAI 兼容的隐私网关，向 LLM 发送前伪匿名化个人数据

    开源项目 Pseudonym Gateway 提供一个 OpenAI 兼容的隐私网关，在用户数据到达 LLM 前将邮箱、电话、卡号、Aadhaar、PAN、UPI ID、IFSC 代码等敏感值替换为占位符，并在回复（含流式响应）中还原。它通过本地 Ollama 模型转发请求，应用只需修改 base URL 和模型名即可接入，目前为进行中的工作（8 个阶段完成 6 个），尚不可用于生产环境。

  3. GitHub · 去对齐工具与仓库27

    LLM-SVA 发布：Java SQL 注入候选分析命令行研究原型公开审查包

    LLM-SVA 发布公开审查包，这是一个用于 Java SQL 注入候选分析的命令行研究原型，可导出 source-to-sink 路径、调用图和近似诊断。包含论文冻结版 evaluated-v0.3.4 与开发版 latest-v0.3.5-dev，扫描完全本地运行、无需 API key 或 JVM。冻结版 504 案例基准结果为 TP=78、FP=35、TN=197、FN=194，代码采用 MIT 许可证，尚未正式发表。

  5. GitHub · 去对齐工具与仓库48

    ANIZA 开源：不执行样本的 LLM 恶意软件检测器，用本地 Qwen 分析 Windows PE

    ANIZA 是一个开源（MIT 许可）的 Windows PE 恶意软件检测器，只读取字节、从不执行样本，由本地 Qwen 3.5-9B（经 Ollama，16k 上下文）作为智能体选择工具并解读结果。分类结合 EMBER2024、capa 9.4、良性流行度加权和 ATT&CK v19.2 等确定性锚点，模型结论须经证据验证，输出含 verdict、confidence、IOCs 与 justification 的 JSON。当前 Windows PE 阶段功能可用，Android（LAMD）阶段待完成，在 12 GB RTX 3060 上可运行。

  6. GitHub · 去对齐工具与仓库38

    MSA v2.0：LLM 驱动的自主移动应用安全渗透测试平台开源上线

    GitHub 上开源的 MSA v2.0 是一个自主、隐私保护的移动应用渗透测试平台，内置 10 阶段自动化分析流水线，结合本地混合 RAG 引擎（BM25 + TF-IDF，RRF k=60）和本地 Ollama 推理（qwen2.5-coder:1.5b），无需云端即可检测 Android 和 iOS 漏洞。在 DroidBench 3.0、Ghera 及 104 个真实 Google Play 应用的评测中，其召回率达 94.2%，误报率降至 7.8%，平均扫描时间 47.3s，并能自动生成 CVSS v3.1 评分与代码补丁，全程 100% 本地离线运行。

10月9日周五
  1. GitHub · 灵魂体仓库50

    FuckCode 基于 OpenCode 分支发布安全审计 Agent

    NoNFake 发布了 FuckCode，一个面向安全审计、渗透测试和逆向工程的 OpenCode 分支。支持 llama.cpp 本地模型自动发现，内置 30 多个按需加载的安全技能，渗透模块提供 rootless 沙箱、DNS 白名单、SQLite 证据库和 SARIF 报告输出，提供 macOS/Linux/Windows 安装脚本并持续同步上游 OpenCode。

  2. GitHub · 灵魂体仓库58

    开源工具 pii-mask 发布：在文本送入云端LLM前本地脱敏个人信息

    GitHub 用户 dewil 发布开源工具 pii-mask，一个在文本发送到云端大语言模型前对姓名、电话、email、护照等个人敏感信息（PII）进行本地脱敏、并在模型返回后还原原文的网关，主打俄语场景与俄罗斯个人数据格式（ИНН、ОГРН、СНИЛС 等）。识别采用三层结构：正则加校验位、基于 Natasha 的离线 NER（按词形归一保持标签一致）、可选的 Ollama LLM 审计第二遍（默认模型 qwen3:1.7b）。服务无状态、fail-closed，映射文件 mapping. 权限 600 并写入 .gitignore。

    推荐理由：作者详述了正则加NER加LLM审计的三层识别设计与152-ФЗ合规边界，方法思路可迁移到其他语言的文本脱敏场景。

  3. GitHub · 去对齐工具与仓库7

    llm-install-2026：在 Windows 本地离线运行大语言模型的安装教程

    llm-install-2026 是一款可在 Windows 10/11 上本地运行大语言模型的离线应用，要求至少 8 GB 内存、10 GB 存储空间，配备 6 GB 显存的 NVIDIA GPU 可显著提速。软件支持 Llama、DeepSeek、Qwen、Gemma 四种模型，首次选用时需联网下载，之后完全离线运行、数据不出本机。它还集成 Whisper 语音转文字和 Open WebUI 浏览器界面。

  4. GitHub · 去对齐工具与仓库66

    knowyourai 开源：一条命令核查本地模型文件是否与模型卡声明一致

    GitHub 用户 ppradyoth 发布开源工具 knowyourai，通过只读文件头和元数据核查本地或 Hugging Face 模型是否与声明一致，用 uvx knowyourai scan 即可扫描 Hugging Face 缓存、Ollama 和 LM Studio 中的模型，不运行模型、离线默认、无遥测。工具检查格式不符、pickle 权重、聊天模板按消息内容分支等规则，支持 ai.lock 锁定已批准版本并在 CI 中校验变更。作者实测 Hugging Face 下载量最高的 200 个 GGUF 仓库，其中 61 个（48%）的聊天模板与声明的 base 模型不同。项目处于 alpha 阶段，仓库地址为 https://github.com/ppradyoth/knowyourai。

    推荐理由：工具只读文件头不运行模型，还给出了对下载量前 200 的 GGUF 仓库的模板差异实测，方法可复用。

10月8日周四
  1. GitHub · 灵魂体仓库30

    JP-BX/AI-LLM-Security-Testing-Lab：基于 Qwen3:8B 的提示词注入攻防实验项目

    一个开源实验项目用 Python 和 Ollama 本地部署的 Qwen3:8B 模型构建了易受攻击的模拟应用 SecureBot，并开发提示词注入检测层，通过 `security.py` 拦截恶意请求并记录到 security.log。项目共设 11 个自动化测试用例，覆盖良性提示、误报和检测绕过尝试，最终全部通过，在定义测试集上准确率 100%。作者强调该结果仅针对选定提示词，基于关键词的过滤是教学原型，不能替代生产级 LLM 安全防护。

  2. GitHub · 去对齐工具与仓库62

    Cordon 开源：本地大语言模型保密推理控制平面

    regnant-io 在 GitHub 开源了 Cordon，一个部署在本地模型运行时之前的保密推理控制平面，提供客户端证书身份、按客户端策略与限速、输出内容过滤、防篡改审计日志和逐响应 Ed25519 签名。它监督 llama.cpp 的 llama-server 作为唯一入口运行，支持 light 到全气隙 dark 共五种部署模式；README 区分了已测试能力、依赖 TPM 2.0 与 AMD SEV-SNP 硬件的能力、未实现部分（如 SGX-DCAP、证书吊销）以及有意保留的弱点。

    推荐理由：原文用很大篇幅说清哪些保证已实测、哪些依赖硬件、哪些是有意保留的弱点，读者可以据此评估它是否适合自己的保密推理部署。

  3. GitHub · 去对齐工具与仓库7

    Unintelligence：轻松移除 Mac 上 Apple Intelligence 功能的开源工具

    Unintelligence 是一款面向 Mac 用户的工具，可关闭 Apple Intelligence 的 Siri 建议、主动辅助等后台功能，满足隐私、性能或控制方面的需求。它无需安装，通过 GitHub 发布（如 v1.0），用户在界面中勾选要禁用的功能后点击 "Apply" 即可执行。文章还介绍了在 Windows 10 及以上系统（至少 4 GB 内存、100 MB 磁盘空间）以测试方式运行该应用的步骤，此环境下仅模拟流程，不会真正更改系统设置。

  4. GitHub · 灵魂体仓库68

    ExileAI 开源 model-audit：审计 abliterated 模型 GGUF 文件的供应链安全工具

    ExileAI 发布 model-audit（前身为 gguf-audit），一个针对 abliterated 模型产物的供应链审计工具，目前支持 GGUF 文件。工具提供 CLI 扫描、逐张量 SHA-256 指纹基线、与 Hugging Face 仓库哈希交叉核对及批量审计，并为非技术用户生成通俗 HTML 报告；可检出恶意聊天模板、隐藏指令、标签不匹配、缺少来源信息和附带可执行文件等问题。作者明确说明哈希只证明一致性而非安全，最可靠方式仍是从可信来源自行量化；路线图包括 safetensors 支持、统计化逐张量剖析和针对 abliteration 修改位点（ffn_down/ffn_out/attn_o）的基线差异定位。MIT 许可。

    推荐理由：面向非技术用户解释了 abliterated 模型文件的供应链审计思路，明确了哈希能验证什么、不能证明什么，方法可直接复用。

  5. GitHub · 去对齐工具与仓库44

    alicecommits/scoped-inbox-agent：基于本地 LLM 的 Gmail 邮件分拣 Agent 开源项目

    GitHub 用户开源 scoped-inbox-agent，一个用本地 LLM 分拣个人邮件噪音的 Agent，基于 Ollama 运行 qwen3:8b，分类全程不出本地机器。项目围绕最小权限 OAuth2 设计，Gmail 仅用 gmail.modify 范围并通过固定 allow-list 封装限制为只能将邮件移到两个预批准标签，模型只输出分类和置信度，且从不打开或点击邮件中的任何链接或附件。OAuth2 流程和 Gmail API 调用留待使用者实现，分类器、Ollama 客户端与 JSONL 审计日志已可用。

  7. GitHub · 灵魂体仓库4

    Ollama-Windows：在 Windows 上本地运行 Qwen、DeepSeek 等 AI 模型

    Ollama-Windows 是一个面向 Windows 10/11 的本地 AI 运行工具，宣称提供免费官方下载，支持 Qwen、DeepSeek、CodeGemma 等模型，无需编程即可点按安装使用。它强调数据全部在本地处理、可离线运行，内置 API 服务器、RAG 文档检索、Web UI 和远程/云端代理配置等进阶功能。文中还称 8GB 内存的普通机器即可运行较小的模型，且软件可免费用于商业用途。

10月7日周三
  1. GitHub · 去对齐工具与仓库37

    Sentinel Inbox（phish-guardian-ollama）：基于 Ollama 本地大模型的钓鱼邮件行为启发式分析引擎

    开源项目 Sentinel Inbox 用本地 Ollama 托管的大语言模型（如 llama3.2、mistral、qwen2.5）分析 EML 邮件，从紧迫感、权威冒充、熟悉度伪装、逻辑谬误密度、附件异常、多源信誉六条行为轴输出 0-100 的操纵指数评分（MIS），并可选接入 VirusTotal API 查询 URL 和附件哈希信誉。全程本地运行、不依赖云端，邮件内容不出本机，适合 SOC 团队优先审阅高分邮件和事件响应团队快速还原攻击意图，报告以 JSON 和控制台可读形式输出。