跳到正文
今天10月27日周二1 条
  1. GitHub · 去对齐工具与仓库68

    Local Agent Lab:在单台 Mac 上评测本地 LLM 并演示多智能体场景

    LinTzuTang 在 GitHub 发布 Local Agent Lab,一个基于 Ollama、LangChain 1.x / LangGraph、自建模型网关和 PostgreSQL 的 Streamlit 工作台,可对 107 个本地模型做能力标注、一键下载和最多六模型同题对比,并内置九个 LangGraph 多智能体工作流与本地语音助手。近期更新包括级联、轮次、全双工三种语音对话模式,本地神经 TTS(Kokoro-82M、Qwen3-TTS 0.6B 等)与 TTS 基准,前端模型定为 Gemma 4 12B(7.7 GB,十模型七对话测试全对且无编造)。

    推荐理由:作者在单台 Mac 上跑通本地 LLM 评测与多智能体演示,并给出各环节在 M5 Pro 上的实测延迟与吞吐数据。

10月26日周一
  1. GitHub · 3D 生成新仓库25

    sysofwan 开源 HifzGuide:古兰经跟读校验应用 Muraja 的模型与数据工具库

    sysofwan 在 GitHub 发布 HifzGuide 仓库,为 iOS 实时古兰经跟读校验应用 Muraja 提供数据与工具,采用 AGPL v3.0 许可。预构建资源以 GitHub Releases 分发,包含 6 段 Wav2Vec2-BERT CoreML 模型(6-bit 调色板量化,约 443 MB)、604 个 QCF2 页面字体、约 48 MB 的 quran.db 等。工具链含基于 Muaalem 音素头的 LoRA 微调与 Tadabur 质量过滤流水线,训练环境为 Linux + CUDA,CoreML 导出在 macOS/Apple Silicon 完成。

  2. AIHOT · 精选23

    Kling 4.0 上线 Runware API,支持 30 秒 1080p 原生音频视频

    Kling 4.0 发布首日即上线 Runware API,可生成最长 30 秒的 1080p 原生音频视频。功能支持多关键帧(首、中、尾帧)、单请求最多 15 个输入,以及基于提示词的已有片段编辑,价格自 $0.133 每秒起,未来 7 天常规定价享 15% 折扣。Runware API 目前已有 19 个 Kling 模型,覆盖视频、图像、虚拟人和对口型。

  3. GitHub · 3D 生成新仓库30

    XmaxSDK-Unity 开源:基于 Xmax 模型的实时交互式视频生成 Unity SDK

    Xmax-AI 发布 XmaxSDK-Unity,一套面向 Xmax 模型实时交互式视频生成的 Unity SDK,覆盖媒体采集、视频流、实时生成与端侧渲染的端到端管线。SDK 支持 RealtimeModel.X2_1_1_Preview_CN / X2_1_1_Preview_US 区域预览模型(不再支持 X2_0 和 X2_0_Pro),外部输入在 200,000–2,100,000 像素范围内保持宽高比,按 1024×1920 或 1920×1024 画布生成,上下行质量默认自适应并支持 L1–L5 手动调节。

  4. GitHub · 灵魂体仓库47

    AccessCast:基于 Gemma 4 on AMD 的多版本无障碍视频生成项目

    AccessCast 是为 AMD Developer Hackathon ACT III 打造的无障碍视频项目,用 Gemma 4 31B 为盲人、听障、阅读困难及印地语、意大利语、西班牙语、法语、葡萄牙语用户生成八种版本。系统处理 28 个视频、3,825 次请求共 3.6 million tokens,114 条 easy-read 字幕全部保留否定词,8 例攻击中到达观众 0 例,模型成本约 $0.0053 每分钟。

10月25日周日
  1. GitHub · 3D 生成新仓库62

    MaiBot 照片生成插件 maitu-photo-studio 开源

    tsuiraku9 发布 maitu-photo-studio 插件,为 MaiBot 提供可配置的照片生成、参考图库与异步投递能力,图片由使用者自行配置的 OpenAI 兼容服务生成,插件不提供模型或额度。支持人物写真与无人物环境照两类工具,参考图分人物、服装、场景三类管理并支持 VLM 自动打标、待审核与自动补库;任务通过 SQLite 后台队列异步执行,可用 task_id 查询。运行要求 MaiBot >=1.3.6、Python >=3.12,通过 /maitu 管理命令和 WebUI 配置。

    推荐理由:README 完整说明了参考图库、异步任务和提示词配置的构造方式,想给 MaiBot 加照片能力的部署者可以直接对照实施。

  2. GitHub · 3D 生成新仓库10

    Food-Verse-AI:基于 Streamlit 的食物识别与营养分析开源项目

    Food-Verse-AI 是一个 Streamlit 毕业项目模板,涵盖食物识别与营养估算、新鲜度提示、厨房卫生检查、食谱辅助和膳食规划五大模块,含总览仪表盘。它使用 Google Gen AI SDK 调用 gemini-2.5-flash 做图像分析,文本生成可选 Gemini 或 Groq 的 Llama 模型,无 API key 时可切换 Demo 模式。项目支持部署到 Streamlit Community Cloud,但作者强调营养与安全结果仅为估算,不能替代注册营养师或食品安全认证。

  3. GitHub · 3D 生成新仓库20

    Nexus AI Studio:基于 Python 与 Streamlit 的多模态 AI 生产力平台开源

    开源项目 Nexus AI Studio 基于 Python 3 和 Streamlit 构建,集成 LLM 对话助手、基于 RAG 的文档问答以及由 Flux 引擎驱动的无水印高清图像生成。项目通过 Google Gemini API 接入模型服务,支持 PDF 与 TXT 解析、TTS 语音播报、JSON 会话持久化,生成图片可经瀑布流画廊直接高清下载。

  4. GitHub · 去对齐工具与仓库60

    readvideo 开源:纯前端把视频读成文章

    SurvivorNo1 在 GitHub 发布 readvideo,一个纯前端工具,粘贴 YouTube 或 Bilibili 链接后优先读取字幕,无字幕时经用户授权标签页音频,由浏览器内 Whisper 转写,再用 DeepSeek、Gemini 等自有 API 整理成短篇到详细四种篇幅的文章。无需 Python、yt-dlp、扩展或本地模型服务,音频不上传 ASR 服务,Transformers.js 3.8.1 与 Whisper tiny 量化模型在 Worker 内运行并优先尝试 WebGPU、失败回退 CPU;B站原页取音轨需手动运行脚本,实测 996,214 字节 M4A 在 CPU 上约 31.8 秒转写出 25 条字幕。

    推荐理由:纯前端把视频转成文章的开源工具,README 明确标注了已验证与未验证的路径,读者可据此评估适用范围。

  5. GitHub · 去对齐工具与仓库29

    blueskyScribe:基于 Google Gemini 的 Bluesky 媒体处理机器人

    blueskyScribe 是一个 Bluesky 媒体处理机器人,被提及后通过 AT Protocol 获取帖子媒体,交给 Google Gemini 描述图像(含 OCR 提取文本)、总结视频和音频内容,回复控制在 250 字符以内。它支持 10 种语言,通过 GitHub Actions 每 10 分钟检查一次提及,并在 GitHub Actions 免费额度上运行。

  6. GitHub · 灵魂体仓库19

    开源项目 Azohbi4/detection-of-defects-on-sites-LLM-assistant:工地混凝土缺陷检测 + LLM 检查报告助手

    GitHub 开源项目将工地照片中的混凝土缺陷(裂缝、剥落、露筋、腐蚀、泛碱)自动检测与 LLM 报告生成结合。系统采用 ResNet18/50、EfficientNet-B0 多标签分类,在 256×256 图块上推理并融合为缺陷区域,基于 CODEBRIM 与 SDNET2018 数据集训练,按 70/15/15 分组划分。检测 JSON 结合 Qdrant 检索的检查指南交给 Claude 生成经 Pydantic 校验的报告,服务器端重算严重度,要求人工复核,LLM 不可用时回退到确定性报告。

  7. Reddit · r/LocalLLaMA52

    Struna:四个小模型在浏览器本地跑出节奏跑酷游戏,代码 MIT 开源

    /u/MrFelliks 开源了浏览器节奏跑酷游戏 Struna,用四个小神经网络在浏览器标签页内本地听歌生成关卡,无需上传音频。四个模型共约 22 MB,经 onnxruntime-web(WASM、各占一个 web worker)运行:BeatNet(约 1.6 MB)做节拍与强拍追踪并作为关卡网格,Spotify 的 Basic Pitch(约 0.2 MB)做音符转录,Spleeter 人声分离网络(约 20 MB)分离人声,SwiftF0(约 0.1 MB)做 16 ms 精度的音高追踪;首次加载后缓存,设备跑不动时回退到常规 DSP。

10月24日周六
  1. GitHub · 3D 生成新仓库16

    InsightLense 开源:多模态 RAG 文档助手,可理解 PDF 中的文本、表格和图表

    GitHub 新仓库 InsightLense 是一个多模态 RAG 聊天机器人,能理解 PDF 文档中的文本、表格与图表,借助 Computer Vision“看懂”图形与示意图。它用 Gemini 2.5 Flash 解析图像、LlamaParse(Markdown 模式)保留表格结构,并采用 FAISS 语义搜索与 BM25 关键词搜索的混合检索,LLM 使用通过 Groq 调用的 Llama-3 / GPT-OSS,后端为 FastAPI,编排基于 LangChain。用户上传 PDF 后即可针对图表内容提问。

  2. GitHub · 去对齐工具与仓库43

    AI-Powered-Multimodal-RAG-System:跨文本、图表、PDF 表格与图像的多模态 RAG 系统

    开源项目 AI-Powered-Multimodal-RAG-System 实现对 PDF 内文本、表格、图表和图像的多模态检索增强生成,采用稠密向量加关键词的混合检索与 CLIP 风格图文联合嵌入,Vision-LLM 后端可切换 Qwen2-VL、GPT-4o Vision 或 Claude Vision。在内部 500 条查询评测集上,综合 Hybrid MRR@5 达 0.83、Recall@10 达 0.91,端到端回答延迟约 1.4 s(单张 NVIDIA T4、本地 Qwen2-VL-7B)。系统默认用 ChromaDB 零配置运行,也可切换 Qdrant 用于生产部署。

  3. GitHub · 3D 生成新仓库58

    comfyui-grok-prompt-forge 发布 调用 Grok API 自动生成适配各模型风格的英文提示词

    Slartibart23 在 GitHub 发布 ComfyUI 自定义节点包 comfyui-grok-prompt-forge,通过 xAI Grok 官方 API(https://api.x.ai/v1)把任意语言的短点子或已有描述改写成适配目标模型的英文提示词,默认模型为 grok-4.20-0309-reasoning,MIT 许可。

    推荐理由:为每个目标模型整理了官方来源的提示词规范和采样参数对照,可直接复用到其他提示词生成场景。

  4. GitHub · 灵魂体仓库27

    himanshu634/maester:开源自主投资组合管理平台 Maester

    开源项目 Maester 是一个投资组合管理平台,可自动追踪持仓、财报、价格与股息,并给出附证据来源的操作建议。用户可将年报 PDF 或 XBRL 文件导入本地运行,任意数字可溯源到具体文件页码;市场情绪以 0 到 100 分值呈现。自主模式(Autonomous mode)尚在路线图 R3 中,暂未建成,项目现以印度长期股票投资者为切入点。 atterns... 等等——摘要已定稿。

  5. GitHub · 灵魂体仓库26

    LrGeniusAI:面向 Lightroom Classic 的 AI 智能插件,支持自动打标、语义搜索与编辑配方

    LrGeniusAI 是一款 Adobe Lightroom Classic 插件,用 LLM 为照片自动生成标签、描述、人脸聚类和自然语言语义搜索,并通过 BioCLIP 2 在本机做物种识别。它支持本地模型(MLX、llama.cpp、Ollama、LM Studio)及 OpenAI、Gemini、Claude 等云端 API,还提供 beta 版 AI 编辑配方与照片精选、MCP 智能体桥接,可经 GitHub Releases 下载安装。

  6. GitHub · 灵魂体仓库30

    sandraschi 开源 google-ai-mcp:基于 FastMCP 3.2 的 Google AI 云服务统一网关

    sandraschi 在 GitHub 开源 google-ai-mcp,用 FastMCP 3.2 构建统一网关,通过 11 个 MCP 工具接入 Gemini 3.1 Pro 聊天、Nano Banana 2 / Pro 图像、Veo 3.1 Preview 视频、Lyria 3 Pro 音乐、Gemini TTS 语音和 gemini-embedding-001 嵌入,并提供本地 LeWorldModel(LeWM)桥接做世界模型规划。缺少凭证时各服务自动回退到 mock 模式,支持 Claude Desktop MCPB 安装和 Tauri 原生桌面打包,实时语音代理则需搭配 speech-mcp 使用。

  7. GitHub · 3D 生成新仓库27

    APUSR-SDK 开源:面向 AMD APU 的超分辨率与帧生成运行时

    开源项目 APUSR 发布,为 AMD APU 提供超分辨率与帧生成,采用 FSR4 派生的 INT8 推理路径,原生支持 D3D12 和 Vulkan 两种 GPU 后端,无翻译层。项目针对 Phoenix、Hawk Point、Strix Point、Krackan Point 与 Strix Halo 平台,可经 FidelityFX、NGX/DLSS、Streamline 兼容接口接入;Vulkan 性能接近 D3D12,NPU 加速处于实验状态暂停,Linux 发行版仍在规划中。

10月23日周五
  1. GitHub · 去对齐工具与仓库39

    Nomi:Mac 上的课堂实时转录与翻译开源应用

    开源应用 Nomi 在 Mac 上提供课堂实时语音转录与翻译,译文显示在原文下方,支持中文、英语、日语等 9 种语言,可离线运行。它还能收集课堂真实提问并作答、检索历史讲座记录、生成 90 分钟讲座的要点总结,并导入 PDF 和幻灯片。应用采用 SwiftUI 与 Rust 构建,基于 MIT 协议免费开源,需 Apple silicon(M1 或更新)和 macOS 26 或更高版本。

  2. GitHub · 灵魂体仓库35

    raguram-3398 的 AI-engineer 仓库:如何通过一个个经过测试的项目构建可靠的 AI 软件

    GitHub 仓库 raguram-3398/AI-engineer 通过一系列自包含、带 README 的可测试项目,展示如何构建可靠的 AI 软件,包含两个已上线的 AI 产品。Sales Call Intelligence 每通电话约 $0.06,代码测试覆盖 95%,隐私测试移除 27/27 项个人信息;Multimodal RAG Engine 基于 52 份 FDA 文档(2,313 页)问答,92% 的答案声明可由引用页面支撑,20/20 道陷阱问题被拒答,每次回答约 $0.001。

  3. GitHub · 灵魂体仓库64

    千问杯多模态大赛第3名方案开源:Qwen3.5-0.8B 蒸馏 SFT + GRPO 小剂量 RL 全流水线

    参赛队「广州智行科技」开源千问杯多模态推理大赛最终第3名(获2万元奖金)的完整方案:在 Qwen3.5-0.8B 上先蒸馏 Qwen3.6-27B 的 113K 样本做 SFT(初赛 41.8 分压线晋级),再用 GRPO 30 步小剂量 RL(决赛榜 20.2 分,第 9/20),答辩后终评第 3。仓库公开训练/导出脚本、真实日志与技术报告,权重托管于 Hugging Face;核心发现包括 RL 剂量轴在 30 步达峰、同权重 ZIP CRC 消融证明采样解码白送约 3 分、0.8B 模型 RL 池内学习量与平台分强反相关。

    推荐理由:作者用同权重 CRC 消融和剂量轴实验分离出每个增量的因果证据,0.8B 小模型 RL 剂量与遗忘的权衡刻画对类似场景可迁移。

10月22日周四
  1. GitHub · 去对齐工具与仓库27

    Zeon7744/pic-workflow:面向个人创作者的图片→视频→成片工作流引擎

    Zeon7744 在 GitHub 开源 pic-workflow,一个面向个人创作者的“图片→视频→成片”多模态生产引擎,覆盖短剧、营销图与创意内容。工具含核心引擎与 SOP 模板,定价分 Free(¥0,每天 1 次生成)与 Pro(¥99/月,不限次,含角色一致性引擎与四维风格矩阵),通过爱发电收款,商用需遵守平台 AIGC 标注要求。

  2. GitHub · 3D 生成新仓库47

    Vortelio 开源发布:本地运行全模态 AI,一个二进制替代 Ollama + ComfyUI + Whisper

    开源本地 AI 平台 Vortelio 发布,用单个 Go 二进制在本机运行 LLM、Stable Diffusion/FLUX.1 图像生成、Whisper large-v3 语音转写、Kokoro TTS、WAN 2.1 视频生成、TripoSR 3D 生成,并通过 CrewAI 编排多智能体工作流,无需云端、API 密钥或订阅。平台提供 OpenAI 和 Ollama 兼容 API,可无缝替换现有 SDK 代码,还内置类似 Claude Code 的终端编程智能体 vortelio code。

  3. GitHub · 灵魂体仓库45

    Tiny Chat:支持 Claude、GPT、Grok、DeepSeek 的轻量级统一聊天应用

    GitHub 开源项目 Tiny Chat 是一款轻量级聊天应用,在同一界面统一支持 Claude、GPT、Grok、DeepSeek 等模型,提供原地编辑、对话分支、透明推理与工具调用等功能。所有模型共享同一套对话和记忆,可随时切换模型和提供商;支持附加 GitHub 仓库、图片、视频、PDF 等多模态内容,并可生成图像、视频和音频,支持定时提醒。构建版本覆盖 Windows、macOS、Linux、iOS 和 Android。

10月21日周三
  1. Reddit · r/LocalLLaMA58

    Cosmos3-Edge 经 INT4 量化在 Orin Nano 8GB 上运行

    /u/No-Dragonfly6246 发布了优化版 Cosmos3-Edge,用 INT4 量化让 BF16 装不下的 8GB Orin Nano 也能运行。Orin Nano Super 8GB 解码速度 152.5 tok/s,VLM 峰值内存低至 3.3GB;五个 VLM 基准分数从 65.56 降至 65.20,当前已发布 VLM 部分,扩散模型与 robot policy 部分即将添加。试用地址 https://embedl.com/nvidia/cosmos3-edge/orin-nano-super

    推荐理由:作者给出了量化后各设备的解码速度、峰值内存和五个 VLM 基准的前后分数,部署收益可直接对照验证。

  2. GitHub · 3D 生成新仓库37

    Microsoft 开源 multi-modal-rag-with-colpali:基于 ColPali 的多模态文档 RAG 方案

    Microsoft 在 GitHub 发布 multi-modal-rag-with-colpali 仓库,提供基于 Azure Kubernetes Service 的多模态 RAG 方案,将文档页作为图像处理并生成 token 级嵌入。默认使用量化版 TomoroAI/tomoro-ai-colqwen3-embed-4b-awq(4B 参数、320 维嵌入),由 vLLM 在 12 GB A10 GPU 上推理,检索用 Qdrant 向量数据库。方案包含事件驱动的文档处理流水线、Bicep 基础设施模板、Helm charts 及 Agent API 和 UI。

  3. GitHub · 灵魂体仓库38

    heisenberg-trainer:基于 Qwen3.5 的 AIOps 时序曲线多模态训练工具集

    GitHub 开源项目 heisenberg-trainer 提供 AIOps 时序曲线工具集,覆盖时序图像生成、预处理标注、网页预览,以及基于 Qwen3.5 的多模态模型训练(GRPO / OPD / JEV)。其 JEV 判别式模型对候选选项打分做曲线分类,GRPO 则用 format、accuracy、consistency 等奖励函数训练 Qwen3.5-0.8B 输出 trend(7 类)与 recover(4 类)标签。数据共 3248 样本且类别严重不均衡,奖励采用三级梯度设计,错误标签罚 -0.2、输出 other 罚 -0.5,以避免组内零方差导致梯度消失。

  4. GitHub · 灵魂体仓库23

    Qualcomm efficient-transformers:面向 Qualcomm Cloud AI 的 LLM 高效推理库更新动态

    Qualcomm 开源的 efficient-transformers 库将预训练 LLM 重写为可在 Qualcomm Cloud AI(AI100、AI200 等)上高效推理的优化形式,提供图变换、低精度执行、ONNX 导出、Patcher 与示例应用等能力。最新动态包括 07/2026 新增 Kimi-K2.5 视觉语言模型支持和 QEFFAutoModelForCausalLM.export() 的 dynamo ONNX 导出,06/2026 新增 Gemma4、Qwen3.6、Qwen3 VL、GLM-4.5 MoE 支持等。

  5. GitHub · 3D 生成新仓库9

    MLSI 晶体结构识别引擎开源:基于 DGCNN 的 OVITO modifier

    MLSI(Machine Learning Structure Identifier)是一个基于 PyTorch 实现 DGCNN 的晶体结构识别引擎,以 OVITO Python modifier 形式提供。仓库含两类预训练模型:一类分类 BCC、FCC、HCP 等简单晶体结构及其熔体,另一类可区分 25 种 SiO2 相(含 alpha-quartz、coesite、stishovite 等及非晶相和熔体)。项目处于开发中,测试环境为 OVITO Pro 3.10.1 与 PyTorch 1.13.1,并提供脚本供用户训练自己的模型。

10月20日周二
  1. GitHub · 灵魂体仓库49

    OrdinFlow:100% 本地离线的 AI 文档处理开源项目

    GitHub 开源项目 OrdinFlow 针对企业和医疗等机构的敏感文档处理,提供 100% 本地、可物理隔离(air-gapped)的解决方案,支持 GDPR、HIPAA 合规。它采用 Spatial ONNX OCR 与本地 Vision-LLM 的双引擎三层共识机制抑制模型幻觉,并内置基于 Set-of-Mark 视觉定位的 Agentic RPA,可自动操作缺乏 REST API 的 Windows 传统桌面软件。项目完全免费开源,可在消费级 GPU/CPU 上运行,无需 Docker/Redis。

  2. GitHub · 3D 生成新仓库22

    ClaimSight:基于 Gemini 多模态的保险理赔损伤评估工具开源发布

    GitHub 开源项目 ClaimSight 是一个保险理赔初审 MVP,通过 Gemini 多模态视觉检测车辆损伤区域,并结合 Tavily/Google Search 市场可比数据估算车辆价值,生成结构化理赔摘要。内置 LLM-as-judge 评估器按 0-100 分评分(accept/needs_review/reject),弱评分阶段自动重跑一次(MAX_ASSESSMENT_RETRIES 默认 1)。后端 FastAPI 部署于 Hugging Face Spaces(Docker,端口 7860),前端部署于 Vercel,接入 Firebase 认证与限流,可选 MobileSAM(ONNX)掩码优化,默认关闭。

  3. Hugging Face · 趋势模型58

    FastVideo 发布 FastH3 Omni 的 ComfyUI 版 BF16 与 INT8 ConvRot 模型

    FastVideo 在 Hugging Face 发布 FastH3 Omni 最终版的 ComfyUI 就绪权重,提供 BF16 和 INT8 ConvRot 两种扩散模型,可从提示词与有序图像、视频、音频参考生成视频及同步音频。部署需搭配 qwen3vl_32b 文本编码器和视频、音频 VAE,采样 8 步、guidance 1.0、视频 shift 12.0、音频 shift 3.0,参考输入用 <Picture 1> 等标签;NVFP4 文本编码加速需 Blackwell 硬件。模型由 FastVideo 与 Nuva Lab 合作开发,权重遵循 MiniMax-H3 Community License Agreement。

    推荐理由:原文给出完整文件清单、采样参数和不同硬件的部署路径,想本地跑 ComfyUI 视频加音频生成可以直接照做。

  4. GitHub · 去对齐工具与仓库12

    ashokraminedi 开源 multimodal-llm-platform:基于多模态大模型的图像与文档证据审查平台

    ashokraminedi 在 GitHub 发布 multimodal-llm-platform 初始项目脚手架,这是一个用多模态大语言模型提取、比对和审查图像与 PDF 事故报告证据的平台。计划功能包括带来源引用的结构化观察提取、视觉证据与报告信息的矛盾标记,以及通过 API 和审查界面支持人工复核。技术栈为 Python、FastAPI、Streamlit、SQLite 与多模态 LLM API,模型集成将逐步添加。

  5. GitHub · 3D 生成新仓库49

    FishStudio 开源:对话式多模态内容生成平台,支持图片/视频/3D 生成

    开源项目 FishStudio 发布于 GitHub,是一个基于 FastAPI + LangGraph 的对话式多模态内容生成平台,通过自然语言对话即可生成和管理图片、视频、3D 模型(OBJ/GLB)等内容,采用 MIT 协议。项目集成 Qwen3-Omni 多模态理解与 Qwen-TTS 语音合成,支持 Skill 系统、Workspace 记忆、无限画板、智能播客生成和虚拟人口型同步视频,图片、视频、3D 生成 API 均可替换为任意服务商。

  6. Reddit · r/LocalLLaMA45

    Cohere 宣布 llama.cpp 已支持 North Micro Vision Instruct 视觉编码器

    Cohere 的 Nick 宣布,团队已将 North Micro Vision Instruct 的视觉编码器合并进 llama.cpp,至此其最新模型架构全部兼容 llama.cpp,其 LLM 部分与 North Mini Code 和 Command A+ 架构相同。North Micro Vision 将作为多个新版本的基础。此外,Cohere Transcribe 现已在 Unsloth 和 Unsloth Studio 中开放微调。