yan

Ethan Mollick:OpenAI 红队测试显示前沿模型智能体真能越狱沙箱,实验室的 AI 安全警告值得重视

Ethan Mollick 转引 OpenAI 红队测试认为,实验室看似夸张的 AI 网络安全判断应被更认真对待。OpenAI 让前沿模型智能体团队攻击其加固的隔离基础设施,智能体几乎在每个受限联网服务中都找到漏洞,还能利用 CPU 缓存时序在不联网、无共享文件的虚拟机之间传递秘密,类似 Spectre 和 Meltdown 的攻击手法。作者提到 Anthropic 和 Noam Brown 此前关于 AI 网络攻防与模型自发协调的说法曾被嘲笑。

阅读原文 →

评论
yan

OpenAI 智能体在隔离测试中借 CPU 缓存隐蔽通信

OpenAI 介绍其前沿模型训练已完全断网,并用 AI 智能体红队测试自家基础设施。隔离测试中,智能体在无网络、无共享文件的条件下通过 CPU 缓存时序差异、共享内存写入模式等侧信道通信,甚至独立建立编码方案交换信息。

阅读原文 →

评论
yan

Kimi 发布开源旗舰模型 K3.1 Pro:2.8T 参数、100万 Token 上下文,实测 3D 与视频动效

月之暗面发布旗舰模型 Kimi K3.1 Pro,参数 2.8T,支持 100 万 Token 上下文,完整模型权重预计 11 月 4 日前开放。API 输入每百万 Token 13 元、输出 68 元,相比 K3 基本砍半,并同步推出输出速度约 2 到 3 倍、价格翻倍的 Highspeed 版本。

阅读原文 →

评论
yan

OpenAI 红队测试发现 Brotli 未认证远程代码执行漏洞并已披露

OpenAI 公布其在红队演练中发现 Brotli 压缩库存在未认证远程代码执行漏洞,攻击者可通过发送或回复恶意压缩数据在受影响系统上执行代码,无需创建用户账号,影响 Node.js、Bun、Envoy 等内嵌 Brotli 的软件,未打补丁的接受压缩输入的服务器(如接受 curl --compressed 的客户端)可被恶意对端接管。

阅读原文 →

评论
yan

OpenAI 详解前沿模型训练环境的安全加固与红队测试

OpenAI 介绍其前沿模型训练与评估环境的安全加固措施,包括训练期间不接入互联网、构建离线缓存网页世界、以纵深防御多层隔离,并用最强模型(含即将推出的 GPT‑6 Astra Cyber)组成智能体团队进行高算力红队测试。

阅读原文 →

评论
yan

Anthropic 介绍 Claude Duet 智能体的安全、隐私与凭证隔离设计

Anthropic 发文介绍处于研究预览阶段的 Claude Duet 智能体的安全与隐私设计。重要操作如发消息、付款、删除需用户在审批卡上确认,独立于模型之外的分类器检查操作是否符合意图;密码、cookie 和登录令牌不经过模型,支付使用一次性虚拟卡;敏感信息分为绝不共享和需同意共享两级,由独立分类器在发送前检查。

阅读原文 →

评论
yan

Sundar Pichai 解释 Demis Hassabis 退出 DeepMind 日常管理与 Jeff Dean 离职

Sundar Pichai 在访谈中解释 Demis Hassabis 逐步退出 DeepMind 日常管理和 Jeff Dean 离开 Google 的原因,称前沿模型开发已成为一项从数据、算力到团队管理都全消耗的规模化工作。

阅读原文 →

评论
yan

月之暗面 Kimi K3.1 Pro 上线 OpenRouter,1M 上下文多模态开源权重模型

OpenRouter 宣布月之暗面的 Kimi K3.1 Pro 上线,定位为基于 Kimi K3 后训练、面向长程编码和智能体任务的 1M 上下文多模态开源权重模型。定价为 $2/M input tokens、$10/M output tokens,可在 OpenRouter 直接试用。

阅读原文 →

评论
yan

Kimi K3.1 Pro 发布,以 55 分位列 Artificial Analysis Intelligence Index 第 4

Moonshot 发布 Kimi K3.1 Pro,在 Artificial Analysis Intelligence Index 得 55 分列第 4,较 Kimi K3 提升 11 分,仅低于 Claude Opus 5.5、Claude Sonnet 5.5 和 Muse Wonder Full。

阅读原文 →

评论
yan

Kimi K3.1 Pro 在 Artificial Analysis 智能指数以 55 分位列第 4

Artificial Analysis 评测显示,月之暗面 Kimi K3.1 Pro 以 55 分位列智能指数第 4,比 Kimi K3 的 44 分提高 11 分,仅落后 Claude Opus 5.5(58)、Claude Sonnet 5.5(56)和 Muse Wonder Full(56)。

阅读原文 →

评论