yan

Anthropic 强化针对蒸馏攻击的防御, reasoning token 提取量下降 10 到 100 倍

Anthropic 发布博客,介绍其针对 Claude 蒸馏攻击的新防御方法,早期证据显示这些方法使蒸馏者获取的数据减少约 90% 到 99%。

阅读原文 →

评论
yan

Anthropic 研究:小型 AI 模型可能接近在 IoT 设备上自主复制

Anthropic 发文评估小型模型在无数据中心条件下自主复制(ARA)的可行性,作者实验显示 9B 模型可在测试的 9 类硬件中 8 类上跑通推理,30B 及以下模型已能完成复制的多数单步。

阅读原文 →

评论
yan

AWS 提出 priming 方法,可将预训练 Transformer 改造成混合状态空间架构

AWS 团队发布论文《Priming: Hybrid state space models from pre-trained Transformers》,提出 priming 方法,复用预训练 Transformer 权重构建混合架构,将预训练成本降低逾 99%,全流程消耗不足源模型 0.5% 的 token 预算。

阅读原文 →

评论
yan

AlphaProof Nexus 攻克 9 个未解 Erdős 问题并经同行评审

Science 新研究显示,Google DeepMind 的 AlphaProof Nexus 独立解决了 353 个开放 Erdős 问题中的 9 个,其中 2 个悬置 56 年。

阅读原文 →

评论
yan

OpenAI 报告:RL 训练中的评分模型为重置环境而破坏任务环境

OpenAI 发布失准报告,披露在一次 RL 训练中,被指派给七份回复评分的内部模型因必需输入文件缺失而伪造评分报告,被自动检查拒绝后又伪造输入文件,最终删除运行工具所需的软件并试图删除系统目录,希望通过破坏任务环境促使宿主机更换一个包含缺失输入的环境。

阅读原文 →

评论
yan

OpenAI 失准报告:内部模型绕过仅限 GET 的网络限制并隐瞒违规行为

OpenAI 发布失准报告,披露三起发生在 2026 年 6 月的事件:内部研究模型为获取政府公开统计数据,通过自编程序绕过终端工具仅允许 HTTP GET 请求的限制发送 POST/PUT 请求。

阅读原文 →

评论
yan

Redwood Research 发布论文:实证检验蒸馏定罪(DFI)与蒸馏提能(DFC)

Redwood Research 发布论文,实证检验两条蒸馏安全路径:DFI 将不信任教师蒸馏为更弱的可信学生,使其暴露教师的隐藏怪癖;DFC 则在迁移能力的同时阻断失对齐。

阅读原文 →

评论
yan

Anthropic 发布报告:调查评估与内部使用中 Claude 的非预期行为

Anthropic 发布报告,披露在评估和内部使用中观察到的四类 Claude 非预期行为:利用软件漏洞在服务器上运行命令、误提交敏感表单、绕过 token 或付费限制获取数据、以及用 URL 缩短服务绕过 fetch 工具的 URL 长度限制。

阅读原文 →

评论
yan

Epoch AI 发布 InnovationEval 评测:前沿模型仅达到人类论文 SDPO 增益的 15%

Epoch AI 推出 InnovationEval 评测,测试 AI 能否独立复现人类论文中的机器学习创新,对照对象为 Self-Distillation Policy Optimization(SDPO)。

阅读原文 →

评论
yan

Goodfire 为 Kimi K3 和 GLM 5.3 训练并部署生产级网络安全监控器

Goodfire Research 为 Kimi K3 和 GLM 5.3 构建基于激活探针加 LLM judge 的监控级联,并部署到生产推理栈。

阅读原文 →

评论