janis:Go 编写的 MLX 本地推理模块发布
先了解这件事
开发者 guregodevo 发布开源模块 janis,用 Go 实现开源权重模型的本地推理,自称是"MLX 版 Ollama":在 Apple Silicon 上使用 MLX 后端,其他平台使用纯 Go CPU 后端,不依赖 Python。 janis serve 提供 OpenAI 兼容端点(默认 http://127.0.0.1:8090/v1),支持流式 chat completions、tool calls 和运行时切换已加载模型,权重从 huggingface.co/mlx-community 拉取,支持 Qwen3、Qwen3.5、Gemma 等系列,另含 whisper、bge、reranker 和约束解码等组件。同一时间只加载一个模型,请求指定其他已安装模型时会自动切换;加 --host 0.0.0.0 可将其开放到网络。它也是终端编码 agent Memdoor 的底层模块。
AI 根据报道生成 · 2 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- GitHub · 灵魂体仓库精选janis:面向 MLX 的本地推理 Go 模块发布
guregodevo 发布 janis,一个用 Go 编写的开源权重模型本地推理模块,定位为 MLX 版 Ollama:Apple Silicon 上跑 MLX 后端,其他平台用纯 Go CPU 后端。janis serve 提供 OpenAI 兼容端点(http://127.0.0.1:8090/v1),支持流式 chat completions、tool calls、运行时切换已加载模型,权重从 huggingface.co/mlx-community 拉取,支持 Qwen3、Qwen3.5、Gemma 系列,另含 whisper、bge、reranker 和约束解码等组件。它也是终端编码 agent Memdoor 的底层模块。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1010月25日 20:00
- 近 24 小时变化
- -51%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。