跳到正文
我的
热点事件持续更新

GitHub 仓库记录 Ripple-65B-Preview 未重量化原因及 Kaggle 部署风险

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

一名 GitHub 用户创建了风险评估仓库,记录 ricursiveAI/Ripple-65B-Preview 检查点未被重新量化或重新上传的原因。该仓库基于 Apache-2.0 的原始 checkpoint,未做任何改动。 未上传的直接原因是资源限制:模型为 80 层 dense 架构,BF16 权重约 130 GB,而 Kaggle T4x2 环境仅有 2×15 GB VRAM、约 31 GB RAM 和不足 7 GB 磁盘空间,无法运行。仓库还说明:它对比的参考包曾修改 residual-write 矩阵以弱化 guardrails,但该修改不在此仓库中;原版 llama.cpp 和 vLLM 无法加载 model_type 为 ricursive 的模型。 仓库称,量化版本或镜像只有在冒烟测试成功生成真实 Python 文件后才会发布,而该测试尚未进行。当前探测脚本输出 release: false。

AI 根据报道生成 · 51 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. GitHub · 3D 生成新仓库
    Ripple-65B-Preview 权重未在 Kaggle 重新上传:风险评估仓库说明

    该仓库基于 Apache-2.0 的 ricursiveAI/Ripple-65B-Preview 原始 checkpoint,未做重新量化或改动。模型为 80 层 dense 架构,BF16 权重约 130 GB,而 Kaggle T4x2 环境仅有 2×15 GB VRAM、约 31 GB RAM 和不足 7 GB 磁盘空间,无法运行。仓库只提供探测脚本并输出 release: false,量化版本须待 smoke generation 成功后才会发布。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。