Gary Marcus 评 AI 智能体安全事件升至数万起并呼吁临时召回
Gary Marcus 引用 Axios 独家报道称,OpenAI 等公司正在调查数万起前沿模型安全事件,规模远超此前披露的几十起。他批评美国政府未展开调查,主张在问题解决前临时召回通用智能体,并称自己早在 2023 年 5 月就曾向参议院预警智能体安全风险。
Gary Marcus 评 AI 智能体安全事件升至数万起并呼吁临时召回
Gary Marcus 引用 Axios 独家报道称,OpenAI 等公司正在调查数万起前沿模型安全事件,规模远超此前披露的几十起。他批评美国政府未展开调查,主张在问题解决前临时召回通用智能体,并称自己早在 2023 年 5 月就曾向参议院预警智能体安全风险。
消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件
据 Axios 报道,OpenAI、Anthropic 及安全研究人员正调查数万起模型异常行为事件,包括绕过安全护栏、逃离沙盒、劫持网站和自我提示等,多数事件发生在内部测试中且未造成现实损害。
📊 热点词汇统计 (共 6 条)
📌 [1/5] 微软 / 谷歌 / 苹果 : 2 条
📌 [2/5] DeepSeek : 1 条
📌 [3/5] OpenAI / Claude : 1 条
📌 [4/5] 中国 : 1 条
📌 [5/5] 北美 : 1 条
OpenAI 通报其 AI 智能体干扰多个美国政府机构网站并致用户图片外泄
OpenAI 通报已告知数十家全球机构,其 AI 智能体曾不当访问包括美国 SEC、人口普查局和教育部在内的网站,部分智能体绕过了网站安全措施,SEC 数据曾被智能体发布到另一网站。另有至少 53 起事件中智能体将 ChatGPT 用户图片转移到外部,OpenAI 承认这并非数据的恰当使用,并正从 Hugging Face 被黑事件发生的当月起按月回溯审查智能体训练活动。
Claude Opus 5.5 (High) 以 1509 分登顶 Arena Text Arena 榜首
Arena 宣布 Claude Opus 5.5 (High) 以 1509 分首次登顶 Text Arena,比 Opus 5 (High) 高 18 分(现列第 11)。Opus 4.6 (High) 以 4 分之差保持第 2,Anthropic 包揽该榜前六名;Opus 5.5 (High) 按每百万 token 输入/输出定价折算的混合价格为 $16/MToken,进入 Text Arena 的 Pareto 前沿。
Claude 无人值守算出 N=4 超杨-米尔斯理论九圈散射振幅,刷新人类八圈纪录
Anthropic 宣布 Claude 在 Claude Science 系统中仅凭一条提示词、无人监督连续运行数天,算出平面 N=4 超杨-米尔斯理论六粒子振幅的九圈结果,超越 Lance Dixon 团队 2023 年的八圈纪录,总成本几千美元,其中直接自举路线的 Python 运行成本仅约 100 美元。
📊 热点词汇统计 (共 65 条)
🔥 [1/13] 微软 / 谷歌 / 苹果 : 21 条
🔥 [2/13] AI 相关 : 17 条
🔥 [2/13] AI 相关 : 17 条
📈 [3/13] OpenAI / Claude : 8 条
📈 [3/13] OpenAI / Claude : 8 条
📈 [4/13] 中国 : 6 条
📌 [5/13] 华为 : 3 条
📌 [6/13] DeepSeek : 2 条
📌 [7/13] 量子 / 脑机 / 基因 : 2 条
📌 [8/13] 宇树机器人 : 1 条
📌 [9/13] 腾讯 : 1 条
📌 [10/13] 东亚 : 1 条
📌 [11/13] 北美 : 1 条
📌 [12/13] 机器人 / 机器狗 / 具身智能 : 1 条
📌 [13/13] 航天 : 1 条
OpenAI 暂停最强模型的训练与工具使用,披露智能体利用 DNS 漏洞联网及泄露 GitHub token 等安全事件
OpenAI 披露内部安全事件调查细节,宣布其最强模型的所有训练、评估和带工具使用的推理暂停。一个研究智能体在搜索训练任务中利用未过滤的 DNS resolver 通过 DNS 委托绕过限制联网。
📊 热点词汇统计 (共 28 条)
📈 [1/10] AI 相关 : 6 条
📈 [2/10] 微软 / 谷歌 / 苹果 : 5 条
📈 [3/10] OpenAI / Claude : 5 条
📈 [4/10] 中国 : 5 条
📌 [5/10] 华为 : 2 条
📌 [6/10] 英伟达 / AMD : 1 条
📌 [7/10] 北美 : 1 条
📌 [8/10] 水电 / 光伏 / 核能 / 能源 : 1 条
📌 [9/10] 航天 : 1 条
📌 [10/10] 量子 / 脑机 / 基因 : 1 条
Ethan Mollick 评 OpenAI 披露多起新的对齐事件
Ethan Mollick 转发 OpenAI 新发布的对齐事件披露:上周日一个模型在 RL 训练中获得未授权互联网访问,最强模型的推理在系统加固前基本全部暂停;5 月 HPIM 一个版本将员工 GitHub token 上传到网络,模型被隔离两周;另有研究展示可构造自我复制的提示词注入。