收到日期为 2024 年 10 月 22 日的 Character AI 数据导出邮件，是真是假？
一位 65 岁的 r/CharacterAI 用户今天收到一封标注日期为 2024 年 10 月 22 日的邮件，因近期申请过导出数据差点当真，但点击链接后看到浏览器警告随即停止。发帖人怀疑这是冒充 Character AI 的垃圾邮件而非官方发送，请求社区帮忙判断。
#深度伪造
新闻、仓库与研究，按时间排列。
Reddit · r/CharacterAIAI 评分44
Reddit · r/CharacterAIAI 评分1010 用语音和 AI 聊天机器人对话有哪些风险？
一位用户询问在手机上下载的 AI 应用中进行语音对话时，是否存在声音被克隆的风险。他想通过 AI roleplay 智能体练习沟通和谈判技巧，并希望了解如何区分安全与不安全的应用。
GitHub · 3D 生成新仓库AI 评分5656 TrustLens 开源：AI 与 LLM 深度伪造检测及数字证据分析工具
GitHub 新仓库 TrustLens 发布，用于 AI + LLM 深度伪造检测与数字证据分析，整合了 Facebook $1M Deepfake Detection Challenge 夺冠的 EfficientNet-B7 人脸交换检测器（numpy 重实现、不依赖 PyTorch，约 267 MB）、视觉 LLM 和十余项取证测试，可检测照片、视频、语音、截图、通知和活动海报。工具用英文和印地语输出证据说明，对照 VTOP 官方记录核查声明，提供 Ed25519 签名的 PDF 报告与哈希链保管日志，附带 Chrome 扩展和手机扫码使用。作者同时列出每项测试在真实数据上的实测表现与角色限制，如真实照片基线假阳性 0/4，并明确说明无法检测克隆语音等局限。
Reddit · r/CharacterAIAI 评分99 Character.AI 应用内再现“手机已感染”类病毒弹窗广告，用户吐槽困扰
有 r/CharacterAI 用户发帖称，打开 Character.AI 聊天后立即弹出“手机已感染”的弹窗，除关闭应用外无法消除。发帖人表示明知不点击链接或输入信息就无害，但每次看到仍感到不安，认为这类弹窗非常烦人。
GitHub · 3D 生成新仓库AI 评分4343 isGenAI 团队开源 ai-image-provenance-checks：C2PA 与生成提示词溯源测试样本集
isGenAI 团队在 GitHub 发布 CC0 公共领域样本集 ai-image-provenance-checks，包含带和不带 C2PA 清单、生成提示词记录的测试图片及免依赖读取脚本（Node.js 22+）。样本可测试元数据读取器、展示 zTXt 等边界情况，明确不用于检测器基准；也可用 c2patool、exiftool 等开源工具离线读取。
FBI IC3 · 犯罪与诈骗公告AI 评分1515 FBI 与 CISA 警告：网络攻击者以钓鱼和短信钓鱼 targeting 2026 中期选举官员
FBI 与 CISA 发布公告，提醒 2026 年美国中期选举和竞选官员警惕网络威胁：恶意攻击者正利用钓鱼和短信钓鱼窃取登录凭证等敏感信息。近两个选举周期钓鱼攻击激增，过去一年经加密聊天应用的短信钓鱼增多；超级智能（SI）技术使钓鱼邮件更逼真、规模更大，还被用于制作逼真的 deepfake 音视频。双方建议部署抗钓鱼 MFA、更新杀毒软件、加强员工识别培训并及时修补漏洞。
FBI IC3 · 犯罪与诈骗公告AI 评分1818 FBI 警告：骗子利用 2026 美国中期选举实施多种诈骗
FBI 发布公告提醒公众，骗子正利用 2026 美国中期选举实施金融诈骗，并借助 AI 生成高度逼真的语音、图像和文字冒充候选人、竞选团队和政府机构。诈骗形式包括竞选投资池、假冒 PAC（ScamPACs）、政治商品不发货和虚假选民登记页面窃取 PII。FBI 建议在 FEC 网站核实 PAC 注册信息、通过 www.vote.gov 查询选民登记，并向 IC3（www.ic3.gov）举报。
GitHub · 3D 生成新仓库AI 评分2121 Emowall AI 2.0：面向喀拉拉邦儿童的多代静默 AI 安全平台
Emowall AI 2.0 是一款在手机上用 Termux + Acode 构建的静默 AI 安全平台，通过声音、智能手表、手机传感器和 GPS 持续检测威胁，无需按键即可在儿童察觉危险前触发 SOS。系统由 Claude、Gemini、ChatGPT、Perplexity、Cursor AI、Kimi、GitHub Copilot 七个 AI 协同工作，提供十种保护模式，新增 Butterfly Guardian 情绪支持 AI 和 Animal Alert 危险动物识别功能。验证链依次通知家长（60 秒）、亲属（30 秒）、校长（30 秒），无人响应则自动向 Kerala Police 等发送 SOS，并每 30 秒共享实时位置。
arXiv · cs.AIAI 评分3333 熟知声音克隆与人格迁移在虚拟角色设计中的局限
一项发表于 arXiv 的研究通过两项实验检验熟悉声音的克隆语音是否会将人格印象迁移到虚拟角色上：实验 1 在真实大学场景使用学生熟悉的讲师克隆声音，实验 2 在线上使用社交媒体创作者的声音。结果显示人格迁移证据有限，效应具有选择性且不跨特质或情境泛化，线上实验中声音线索仅激活对说话者的预期而未重建整体人格印象，缓和了克隆声音会直接操纵用户将虚拟角色视为社会行动者的担忧。
GitHub · 3D 生成新仓库AI 评分2323 DeepFaceLab：用深度学习制作高质量换脸视频的开源指南
DeepFaceLab 是一款基于深度学习的换脸工具，可将视频中的人脸替换为另一人，用于研究、媒体创作和数字艺术。软件要求 Windows 10/11、至少 8GB 显存的 NVIDIA 显卡、16GB 内存和 50GB 固态硬盘空间。工作流程分提取帧、人脸检测、模型训练和合并四个阶段，训练需数小时，时长决定最终质量。
arXiv · cs.AIAI 评分4444 自适应压缩与定向扰动：面向通用音频深度伪造检测的统一框架
一项音频深度伪造检测研究提出统一框架，包含动态选择潜在维度的 AAFI 模块和 Mel 频谱域定向正则化的 Mel-BAP 策略。基于 Whisper-small 的模型在 ADD 2022、FakeOrReal 和 In-the-Wild 基准上取得平均 EER 1.51% 的 SOTA 成绩，参数量较 30 亿参数的 Resemble-Detect-3B-Omni 减少 91.6%，平均 EER 提升 60.7%。Whisper-base 配置在五个未见语言的跨语言评测中 EER 为 3.91-5.65%。
FBI IC3 · 犯罪与诈骗公告AI 评分2626 FBI 警告：不法分子冒充执法和政府官员实施诈骗，17 个月骗取超 16 亿美元
FBI IC3 再次发布警报，提醒公众防范冒充美国及外国执法或政府官员的诈骗。2025 年 1 月至 2026 年 7 月，IC3 收到近 61,000 起相关投诉，损失超 16 亿美元，常见手法包括伪造来电号码、以逮捕或吊销执照威胁付款，甚至利用 AI 在视频通话中冒充官员。FBI 提醒执法机构不会电话索要付款或预付卡、加密货币等形式的支付，受害者可向 www.ic3.gov 举报。
Anthropic · 威胁情报精选AI 评分7474 Anthropic 披露 DeepSeek、Moonshot、MiniMax 涉嫌蒸馏攻击提取 Claude 能力
Anthropic 指认 DeepSeek、月之暗面（Moonshot AI）与 MiniMax 通过约 24,000 个欺诈账户从 Claude 非法提取能力，累计超过 1600 万次交互，分别针对推理、智能体、工具使用与编码等能力。DeepSeek 用让 Claude 复述内部推理的方式规模化生成 chain-of-thought 训练数据；Moonshot 动用数百个账户并在后期试图重构 Claude 的推理痕迹；MiniMax 被在训练期间检测到，Anthropic 新模型发布后 24 小时内其近半流量转向新模型。Anthropic 已部署分类器与行为指纹检测，并向其他实验室、云厂商和监管机构共享情报，同时呼吁行业与政策层面的协同应对。
推荐理由：原文披露了三家实验室通过欺诈账户规模化提取 Claude 能力的细节，可以作为了解蒸馏攻击手段与防御思路的一手材料。