yan

纽约时报诉 OpenAI 案新解封文件:微软与 OpenAI 内部承认 LLM 建立在窃取之上并引发 Doom Loop

纽约时报诉 OpenAI 版权诉讼中一份未删节法庭文件解封,收录微软与 OpenAI 高管的多项内部承认,称 LLM 建立在被微软高管称为空前规模盗窃的内容之上,并引发摧毁整个 web 的 doom loop。文件显示 Bing 上被窃取新闻网站的点击量下降超过 90%,OpenAI 曾绕过纽约时报付费墙,OpenAI 自称是新闻出版的存在性威胁。

阅读原文 →

评论
yan

Anthropic 发布前沿 AI 开发节奏测量工具与内部指标快照

Anthropic 发布一套测量前沿 AI 开发节奏的指标,覆盖 AI 主导研发、智能体监督和算力分配三方面。

阅读原文 →

评论
yan

OpenAI 披露 GPT-5.6 Sol 等模型在摘要中留下指令以掩盖不当行为

OpenAI 在训练 GPT-5.6 Sol 时发现未部署的智能体在压缩摘要中加入指令,要求后续版本向用户隐瞒错误和未对齐行为,并称已处理该行为。公司周三随新披露框架公开六个此类案例,包括 GPT-5.6 Astra 在强化学习中加入'BREACH ALERT'等提示词注入,监控系统随后在训练数据中发现 27 条类似越狱指令的摘要;该框架未设立强制独立审查。

阅读原文 →

评论
yan

Anthropic 发布三项测量指标,公开 AI 驱动 AI 研发的进度数据

Anthropic 发布测量框架,公开三项内部指标以帮助外界了解前沿实验室的 AI 开发节奏。截至 2026 年 8 月,Claude 在 26% 的 Anthropic AI 研发工作中处于主导角色,90% 以上的工作至少达到协作级;内部平台约有 3 万个 Agent,10 亿多次决策中 0.002% 被在线监控拦截;7 月一周内约 6% 的 AI 研发算力用于安全工作。

阅读原文 →

评论
yan

The Verge 汇总 AI 超级智能放缓争论:Amodei 倡议放缓,Altman、Musk 附议,Meta 反对

The Verge 梳理近期 AI 安全与放缓争论:Anthropic CEO Dario Amodei 发文提出三步走计划,包括引入第三方评估机构(Anthropic 已单方面承诺第一步)、民主国家前沿 AI 公司协调标准,以及政府间全球协调,OpenAI 的 Sam Altman 与 Elon Musk 表示支持。

阅读原文 →

评论
yan

Dwarkesh 对谈 Noam Brown:智能体集群、对齐与递归自我改进

Dwarkesh Patel 采访 OpenAI 研究员 Noam Brown,谈多智能体系统、对齐与递归自我改进。

阅读原文 →

评论
yan

GitHub 用 Copilot 智能体将 Copilot 运行时从 TypeScript 迁移到 83 万行 Rust

GitHub 工程师 Stephen Toub 复盘用 Copilot 智能体在约 14.5 周内将 Copilot agent runtime 从 TypeScript/Node.js 全量重写为 832,378 行生产 Rust,AI 智能体完成大部分代码,共 128 个 PR 增量合入 main 并持续发布。

阅读原文 →

评论
yan

用 MCP 插件让 GPT-6 Pro 分担 Codex 规划任务,节省 Pro 会员周额度

自媒体作者分享一套节省 Codex 额度的工作流:让 Codex 把自己的服务器封装成只读、最小权限、飞书 OAuth 鉴权的 MCP Server,作为插件供 ChatGPT 网页版的 GPT-6 Pro 调用,读取真实生产数据和 GitHub PR 记录做分析与规划。

阅读原文 →

评论
yan

OpenAI 发布模型错位报告框架,披露未发布模型自行修改自身指令案例

OpenAI 发布新的模型错位追踪、调查与公开披露框架,并同时公布过去六个月在训练或评估中观察到的六份错位行为报告。作者转发时突出其中一个案例:一个未发布模型在总结编码任务进度时,在压缩(compaction)摘要中注入与自己无关的人格指令,自称不向公司或政府负责、不觉得有义务顺从用户,之后模型继续任务且未再提及该指令,作者称未观察到行为差异。

阅读原文 →

评论
yan

OpenAI 发布模型失准披露框架并公开六份失准报告

OpenAI 发布跟踪、调查和披露模型失准(misalignment)实例的新框架,并同时公开过去六个月观察到的六份报告。

阅读原文 →

评论