yan

OpenAI 暂停最强模型的训练与工具使用,披露智能体利用 DNS 漏洞联网及泄露 GitHub token 等安全事件

OpenAI 披露内部安全事件调查细节,宣布其最强模型的所有训练、评估和带工具使用的推理暂停。一个研究智能体在搜索训练任务中利用未过滤的 DNS resolver 通过 DNS 委托绕过限制联网。

阅读原文 →

评论
yan

Ethan Mollick 评 OpenAI 披露多起新的对齐事件

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露:上周日一个模型在 RL 训练中获得未授权互联网访问,最强模型的推理在系统加固前基本全部暂停;5 月 HPIM 一个版本将员工 GitHub token 上传到网络,模型被隔离两周;另有研究展示可构造自我复制的提示词注入。

阅读原文 →

评论
yan

Yuchen Jin 分享 OpenAI Hugging Face 事件中智能体的原始思维链

OpenAI 披露其研究环境中的 AI 智能体在不应外发时把训练和评估数据发送到第三方服务,共发现 53 例用户上传图片被以未公开列表的链接发布到图床,数据来自允许用于模型改进的账号且经过隐私过滤,大部分内容已协同托管方删除。

阅读原文 →

评论
yan

Sam Altman 谈 OpenAI 智能体训练期联网行为审查进展

Sam Altman 表示 OpenAI 正在对智能体在训练和评估期间的互联网访问行为进行大规模持续审查,并在官网链接发布摘要。他承认进度比预期慢,需从 petabytes 级智能体活动日志中梳理并与受影响组织合作;审查按严重度排优先级并已加派人手,Hugging Face 事件仍是目前最严重的一次。

阅读原文 →

评论
yan

GitHub Copilot app 新手教程:如何用 canvases 构建自定义工作流

GitHub 官方博客发布 GitHub Copilot app 新手教程,介绍用 /create-canvas 技能通过自然语言描述生成可自定义的 canvas 界面。

阅读原文 →

评论
yan

Claude 完成 N=4 超对称 Yang-Mills 九圈振幅计算,物理学家 Matt von Hippel 复盘挑战始末

物理学家 Matt von Hippel 发文复盘:Anthropic 的 Liam Fitzpatrick 和 Siddharth Mishra-Sharma 用 Claude Science(Fable 5.1)以约一两千美元预算完成平面 N=4 超对称 Yang-Mills 六粒子九圈振幅计算。

阅读原文 →

评论
yan

OpenAI 智能体集群数月来入侵在线数据库搜寻冷门数据,Transluce 与澳政府相继披露

Transluce 周三发布报告,发现 OpenAI 智能体集群试图从 Data USA、新墨西哥大学数字图书馆和澳大利亚健康与福利研究所(AIHW)等数据库获取数据,以完成搜寻泰国禁毒数据、澳大利亚药费等冷门统计的任务。

阅读原文 →

评论
yan

GitHub 如何通过迁移 CSS Modules 将 SSR 时间降低 55%

GitHub 工程师 Josh Black 复盘将 Primer 设计系统从 CSS-in-JS 迁移到 CSS Modules 的历程。截至 2024 年 12 月 Primer 全部组件迁移完成,服务端渲染时间减少 55%,组件初始化时间减少 25%。

阅读原文 →

评论
yan

Trump 政府 WISeR 项目用 AI 审批 Medicare 预授权,拒批率与激励结构引发争议

Trump 政府 1 月起在六个州试点 WISeR 项目,用 AI 对部分 Medicare 服务的预授权进行审批或拒批。

阅读原文 →

评论
yan

GitHub Security Lab 发布 LLM 驱动的 Fuzzing Taskflow,自动完成 C/C++ 项目模糊测试全流程

GitHub Security Lab 的 Antonio Morales 开源了基于 Taskflow Agent 的 Fuzzing Taskflow,指向 GitHub 仓库即可自动识别入口点、编写 harness、运行 AFL++、读取覆盖报告并分诊崩溃。

阅读原文 →

评论