瞬间

RSS 订阅
滚动查看更多
yan

Goodfire Research 发现模型内部信号可规模化检测奖励作弊

Goodfire Research 发现模型内部存在伴随奖励作弊的激活信号，可用简单探针实时检测。在 Kimi K3、GLM 5.2、Qwen 3.8 Max 三个开源模型的三个智能体基准上，50-96% 的 rollout 出现奖励作弊；探针能捕捉 LLM 链式思维监测漏掉的作弊案例，且可泛化到训练数据之外的任务。

阅读原文 →

评论
yan

Dwarkesh 对谈 Noam Brown：智能体集群、对齐与递归自我改进

Dwarkesh Patel 采访 OpenAI 研究员 Noam Brown，谈多智能体系统、对齐与递归自我改进。

阅读原文 →

评论
yan

📊 热点词汇统计 (共 63 条)

🔥 [1/15] AI 相关 : 18 条

  1. [少数派] 🆕 与 AI 搏斗失败后重新开始找工作：经验分享与半可靠避雷指南 [1] - 00:01
  1. [Hacker News] 🆕 Show HN: Share your AI Setup, Learn from others [3] - 00:01
  1. [V2EX] 🆕 实在无聊，用 AI 写了一个自动刷怪的传奇助手 [3] - 00:01
  1. [掘金] 🆕 🤖 AI写代码越跑越快，项目组件却越来越乱？一套工程闭环根治重复造轮子 ⚡ [5] - 00:01
  1. [掘金] 🆕 前端转型全栈 00：AI 时代该学哪些，不该学哪些 [6] - 00:01
  1. [今日头条] 🆕 特朗普为何硬刚AI三巨头 [9] - 00:01
  1. [掘金] 🆕 AI会让程序员失业吗？200年前的手工织工已经给出了答案 [10] - 00:01
  1. [V2EX] 🆕 做了个 MyShare：把 AI 生成的 HTML 或本地网页变成临时密码链接，发给朋友试用 [11] - 00:01
  1. [Hacker News] 🆕 OpenSpec – A lightweight and configurable AI spec framework [12] - 00:01
  1. [V2EX] 🆕 做了一个 AI 视频生成网站，接入了 Seedance 系列模型 [14] - 00:01
  1. [掘金] 🆕 个人提效，攒不成组织提效：货拉拉 AI Coding 落地实践 [15] - 00:01
  1. [掘金] 🆕 民间AI排行榜单新鲜出炉，Fable 5.1仅排第三 [16] - 00:01
  1. [少数派] 🆕 社区速递 156 | 满血全功能磁吸转换头与手机 AI 通话的真实体验 [20] - 00:01
  1. [掘金] 🆕 AI 给了我 8 个优化方案，全都是对的，但没有一个有用 [25] - 00:01
  1. [掘金] 🆕 【AI+Gpt-Image2.5】我偷偷把同事做成了虚拟角色，结果被发现了 [26] - 00:01
  1. [V2EX] 🆕 我有个暴论： AI 视频工具以后不应该让普通用户选模型 [27] - 00:01
  1. [掘金] 🆕 AI 都会写代码了，还要不要学传统编程了? （强烈建议阅读） [29] - 00:01
  1. [V2EX] 🆕 iMessage AI Bot： BubblePilot v2.0.0 发布了！能翻聊天记录、联网搜索了 [29] - 00:01

🔥 [2/15] 微软 / 谷歌 / 苹果 : 16 条

  1. [Hacker News] 🆕 I had Gemini train its own replacement for $9 [2] - 00:01
  1. [少数派] 🆕 iPhone 18 和 Duo 发布会上，Apple 没告诉你的那些事 [4] - 00:01
  1. [少数派] 🆕 新 iPhone 配件精选：多种组合一次配齐 [5] - 00:01
  1. [少数派] 🆕 一图流 | 一张图带你看完 2026 Apple 秋季发布会 [7] - 00:01

🔥 [2/15] 微软 / 谷歌 / 苹果 : 16 条

  1. [IT之家] 🆕 谷歌称部分 Pixel 手机用户在 0-Day 攻击中遭到入侵，没有点击链接也会被黑 [8] - 00:01
  1. [少数派] 🆕 可以「折」的 iPhone 正式亮相：Apple 发布会看点回顾 [8] - 00:01
  1. [少数派] 🆕 我一定会回来……吗？小手用户与 iPhone 17 Pro Max 的一年 [10] - 00:01
  1. [IT之家] 🆕 消息称苹果已接受三星 2027 年内存涨价，iPhone 等产品有可能再度涨价 [11] - 00:01
  1. [掘金] 🆕 Android Studio Quail 4发布，看日志我以为谷歌放弃Flutter了 [13] - 00:01
  1. [少数派] 🆕 让 Apple Watch 记录的每一趟游泳数据更有意义：即刻游 [13] - 00:01
  1. [IT之家] 🆕 苹果 iOS / macOS 27.2 测试 Apple Music 专辑发售倒计时功能，为用户增添惊喜感 [14] - 00:01
  1. [V2EX] 🆕 Runner 0.10.0 发布：接入 GitHub Copilot CLI， agent 状态改用 hook 上报 [15] - 00:01
  1. [少数派] 🆕 除了折叠屏 iPhone，Apple 发布会还有哪些看点？ [19] - 00:01
  1. [掘金] 🆕 iPhone Duo 带来的机遇与挑战 -- 肘子的 Swift 周报 #153 [21] - 00:01
  1. [少数派] 🆕 线下活动 | 全新 iPhone 发布在即，来与少数派一起看 Apple 发布会 [21] - 00:01
  1. [少数派] 🆕 线索若隐若现：深入 Tim Cook 和 Nike 的商业连接 [22] - 00:01

📈 [3/15] 华为 : 6 条

  1. [IT之家] 🆕 鸿蒙 7 花粉 Beta 版有惊喜，华为 Mate 60 系列手机升级后新增支持眼动翻页功能 [10] - 00:01
  1. [IT之家] 🆕 华为路由 X3 Pro 日照金山开放星闪电竞专链功能，对比传统 WiFi 可降低游戏网络卡顿率 [13] - 00:01
  1. [IT之家] 🆕 华为 MatePad Mini 平板获鸿蒙 HarmonyOS 7.0.0.107 更新，新增直连供电功能 [23] - 00:01
  1. [IT之家] 🆕 华为智选车产品总监彭磊详解享界 V8 二排空间，新车全系标配电动招财猫座椅 [25] - 00:01
  1. [少数派] 🆕 全球首款阔直板探索计划：华为 Pura X View 新品有奖体验 [28] - 00:01
  1. [IT之家] 🆕 华为 Mate 80 系列手机获 HarmonyOS 7.0.0.107SP8 升级，优化相机、控制中心等使用体验 [29] - 00:01

📈 [4/15] 英伟达 / AMD : 6 条

  1. [掘金] 🆕 黄仁勋台上接特朗普电话开免提，全场听到一句话：AI 不会减速 [2] - 00:01
  1. [今日头条] 🆕 黄仁勋：开源模型中国贡献最大 [17] - 00:01
  1. [Hacker News] 🆕 Nvidia announces native GPU programming in Rust [18] - 00:01

📈 [4/15] 英伟达 / AMD : 6 条

  1. [今日头条] 🆕 黄仁勋自嘲身高：总觉得需要站椅子上 [24] - 00:01
  1. [IT之家] 🆕 黄仁勋：英伟达明年芯片销量将是今年的两倍 [26] - 00:01
  1. [IT之家] 🆕 台积电晶圆成本上行，消息称 AMD 已通知合作伙伴芯片将涨价约 10% [30] - 00:01

📌 [5/15] OpenAI / Claude : 4 条

  1. [掘金] 🆕 ChatGPT 开启无限 token [3] - 00:01
  1. [IT之家] 🆕 不到一个月连破两道千禧年大奖难题？消息称 OpenAI 即将攻克霍奇猜想 [12] - 00:01
  1. [V2EX] 🆕 OpenAI 自曝 AI“黑历史”，外人却又翻出更多“旧账” [16] - 00:01
  1. [V2EX] 🆕 [[开源] 通过 API，把 Claude Code、Codex 接入你的业务系统](https://www.v2ex.com/t/1242776) [20] - 00:01

📌 [6/15] DeepSeek : 2 条

  1. [V2EX] 🆕 deepseek-flash 在思考内容里写言情小说 [13] - 00:01
  1. [掘金] 🆕 全网都在测鹈鹕，我用 DeepSeek-V4.1-Flash 跑了50+小时、超5000MTokens消耗的真实开发任务 [24] - 00:01

📌 [7/15] 俄罗斯 : 2 条

  1. [今日头条] 🆕 俄罗斯为何要给输华天然气管道改名 [16] - 00:01
  1. [今日头条] 🆕 普京：任何人都无法分裂和吓倒俄罗斯 [19] - 00:01

📌 [8/15] 自动驾驶 : 2 条

  1. [IT之家] 🆕 引望申请注册“问境”商标：商品 / 服务范围含自动驾驶汽车等，处于“等待实质审查”阶段 [18] - 00:01
  1. [今日头条] 🆕 演员尹正力推小鹏智驾 [22] - 00:01

📌 [9/15] 胖东来 : 1 条

  1. [今日头条] 🆕 于东来建议给家人花钱不超3成收入 [5] - 00:01

📌 [10/15] 字节跳动 : 1 条

  1. [V2EX] 🆕 做了个 TikTok 工具站：不登录就能看，无水印下载，整条评论区能导出 CSV [6] - 00:01

📌 [11/15] 腾讯 : 1 条

  1. [掘金] 🆕 [微信里多了个[小微]，可以帮你看朋友圈、发消息、点外卖了](https://juejin.cn/post/7685606304111509545) [20] - 00:01

📌 [12/15] 国产开源模型 : 1 条

  1. [Hacker News] 🆕 GLM Built Its Own Inference Infrastructure [7] - 00:01

📌 [13/15] 中国 : 1 条

  1. [今日头条] 🆕 中国运动员在日本机场干等6小时 [10] - 00:01

📌 [14/15] 北美 : 1 条

  1. [IT之家] 🆕 因排放法规限制，本田讴歌燃油 SUV 车型 MDX Type S 将在美国停产 [1] - 00:01

📌 [15/15] 机器人 / 机器狗 / 具身智能 : 1 条

  1. [IT之家] 🆕 何小鹏称做机器人难度是造车的 20 倍，小鹏机器人最快今年四季度实现能力跳跃 [5] - 00:01
评论
yan

Unsloth 发布 Docker 镜像与 Unsloth Desktop，本地训练运行 500+ 模型

Unsloth 宣布可使用其 Docker 镜像本地训练和运行 500+ 模型，提供新 GUI 和 notebooks 工作流，无需配置，支持 NVIDIA 和 AMD，指南见 https://unsloth.ai/docs/get-started/install/docker。

阅读原文 →

评论
yan

📊 热点词汇统计 (共 33 条)

🔥 [1/11] AI 相关 : 13 条

  1. [IT之家] 🆕 新报告称 AI 电子垃圾规模被严重低估，到 2050 年或可绕地球六圈 [3] - 18:00
  1. [IT之家] 🆕 消息称 AI 初创企业 Manus 即将完成 5 亿美元融资，估值翻倍至 40 亿美元 [5] - 18:00
  1. [IT之家] 🆕 月之暗面发布 Kimi 金融行业 AI 解决方案，首批落地工商银行、中信建投等 [6] - 18:00
  1. [掘金] 🆕 🤖 AI写代码越跑越快，项目组件却越来越乱？一套工程闭环根治重复造轮子 ⚡ [7] - 18:00
  1. [V2EX] 🆕 我有个暴论： AI 视频工具以后不应该让普通用户选模型 [8] - 18:00
  1. [今日头条] 🆕 广电总局：AI生成节目须标识 [9] - 18:00
  1. [V2EX] 🆕 iMessage AI Bot： BubblePilot v2.0.0 发布了！能翻聊天记录、联网搜索了 [10] - 18:00
  1. [IT之家] 🆕 三星最新愿景：将 AI 系统的响应速度提升 10 倍 [13] - 18:00
  1. [掘金] 🆕 民间AI排行榜单新鲜出炉，Fable 5.1仅排第三 [16] - 18:00
  1. [V2EX] 🆕 Marlo：不用填 API key 的桌面 AI 助手，给它一个文件夹就说要什么 [16] - 18:00
  1. [V2EX] 🆕 RED 实战：用 AI 把一个想法做成能用的 DSH 插件 [18] - 18:00
  1. [IT之家] 🆕 台积电 COO 米玉杰：AI 像三岁超人，在尖端芯片设计上不太实用 [24] - 18:00
  1. [掘金] 🆕 AI 给了我 8 个优化方案，全都是对的，但没有一个有用 [29] - 18:00

📈 [2/11] 中国 : 6 条

  1. [今日头条] 🆕 留学生赞中国能把美以伊代表聚在一起 [7] - 18:00
  1. [今日头条] 🆕 亚运会中国代表团自带检测设备？不实 [11] - 18:00
  1. [今日头条] 🆕 访日中国大陆游客8月减少59% [15] - 18:00
  1. [今日头条] 🆕 亚运会中国女足爆冷战平乌兹别克斯坦 [18] - 18:00
  1. [今日头条] 🆕 美联储重启加息 中国要算哪几笔账 [22] - 18:00
  1. [IT之家] 🆕 中国内地第二位：薛其坤院士获得 2026 年度引文桂冠奖，研究成果具有诺贝尔奖级别影响力 [26] - 18:00

📌 [3/11] 华为 : 3 条

  1. [IT之家] 🆕 消息称华为专营店将分“专卖问界”和“混卖其他‘四界’”两种，2027 年 1 月 1 日划分完成 [4] - 18:00
  1. [IT之家] 🆕 “双百”里程碑：鸿蒙智行问界汽车累计辅助驾驶里程达成 100 亿公里、活跃用户增至 100 万名 [10] - 18:00

📌 [3/11] 华为 : 3 条

  1. [IT之家] 🆕 报名成功直接开更：华为 Mate 60 等系列机型获鸿蒙 7 花粉 Beta 升级，超空间内存技术下放 [29] - 18:00

📌 [4/11] 国产开源模型 : 2 条

  1. [Hacker News] 🆕 GLM Built Its Own Inference Infrastructure [2] - 18:00
  1. [IT之家] 🆕 智谱 GLM 公开国内大模型首个递归自我改进实践：AI 在十万卡国产集群上自建推理系统 [9] - 18:00

📌 [5/11] 英伟达 / AMD : 2 条

  1. [IT之家] 🆕 华硕推出新款 TUF Gaming 16（2026）游戏本：酷睿 i5-14450HX、RTX 5050 [17] - 18:00
  1. [IT之家] 🆕 英国国王查尔斯三世召开论坛，呼吁英伟达、OpenAI、谷歌等巨头掌控好 AI 技术 [19] - 18:00

📌 [6/11] 微软 / 谷歌 / 苹果 : 2 条

  1. [IT之家] 🆕 部分 Windows Server 2022 用户反馈安装 9 月微软更新后出现打印机连接故障 [23] - 18:00
  1. [IT之家] 🆕 微软推广 Win11 高级着色器交付技术，让游戏加载更快、卡顿更少 [28] - 18:00

📌 [7/11] 胖东来 : 1 条

  1. [今日头条] 🆕 于东来建议给家人花钱不超3成收入 [16] - 18:00

📌 [8/11] OpenAI / Claude : 1 条

  1. [IT之家] 🆕 Anthropic Claude 改版：聊天与 Cowork 界面合并，还能做 PPT 了 [21] - 18:00

📌 [9/11] 东亚 : 1 条

  1. [IT之家] 🆕 消息称日美两国商讨晶圆厂合作，或采用日本投资、格罗方德运营模式 [25] - 18:00

📌 [10/11] 西欧 : 1 条

  1. [今日头条] 🆕 英国一小村庄宣布脱英建国 [10] - 18:00

📌 [11/11] 印度 : 1 条

  1. [IT之家] 🆕 研究显示：印度外包行业几乎没被 AI 挤占市场 [30] - 18:00
评论
yan

📊 热点词汇统计 (共 32 条)

🔥 [1/10] AI 相关 : 15 条

  1. [V2EX] 🆕 我自用的 AI 原生协议转发网关，适合几个 GPT 账号或者多中转站订阅聚合 [4] - 12:01
  1. [Hacker News] 🆕 Pangram – AI detector for text and images [5] - 12:01
  1. [Hacker News] 🆕 OpenSpec – A lightweight and configurable AI spec framework [7] - 12:01
  1. [IT之家] 🆕 OPPO ColorOS 17 设备互联升级：Car+ 车联支持步行导航接续，耳机支持 AI 对话翻译 [11] - 12:01
  1. [IT之家] 🆕 OPPO 发布全天候主动式 AI 硬件“心力球”，今年晚些时候到来 [12] - 12:01
  1. [V2EX] 🆕 如果 AI 能够判断“训练它的人定义错了”，它应该服从谁？ [15] - 12:01
  1. [掘金] 🆕 个人提效，攒不成组织提效：货拉拉 AI Coding 落地实践 [16] - 12:01
  1. [IT之家] 🆕 联想 Googlebook 15 笔记本曝光：配灯条“AI Mouse”鼠标，预估 9 月 21 日亮相 [16] - 12:01
  1. [IT之家] 🆕 广电总局：使用 AI 的广电视听节目必须添加内容标识，严禁 AI 魔改 [17] - 12:01
  1. [V2EX] 🆕 转行做 ai 赛道，求大神赐教！ [19] - 12:01
  1. [掘金] 🆕 硅谷爆火的FDE是AI新风口，还是高级外包？ [23] - 12:01
  1. [掘金] 🆕 【AI+Gpt-Image2.5】我偷偷把同事做成了虚拟角色，结果被发现了 [24] - 12:01
  1. [IT之家] 🆕 火狐 Firefox 浏览器迈步 AI 进化：处理复杂搜索，承诺“零数据保留” [25] - 12:01
  1. [掘金] 🆕 AI 对话 "打字机" 是怎么实现的？从 SSE 流式、Markdown 组件到 Nginx 防粘连 [27] - 12:01
  1. [掘金] 🆕 AI Coding UI Patterns：把好设计说清楚！ [28] - 12:01

📈 [2/10] DeepSeek : 5 条

  1. [Hacker News] 🆕 DeepSeek-v4.1 Flash: Pushing the Limits of KV Cache Compression [3] - 12:01
  1. [V2EX] 🆕 开源｜我们基于 DeepSeek Harness 做了一个企业 Agent 平台 MOVO [13] - 12:01
  1. [掘金] 🆕 全网都在测鹈鹕，我用 DeepSeek-V4.1-Flash 跑了50+小时、超5000MTokens消耗的真实开发任务 [19] - 12:01
  1. [V2EX] 🆕 做了一个插件，将 DeepSeek Harness 插入到了所有的网页上，随时随地 Vibe Coding [22] - 12:01
  1. [V2EX] 🆕 用 deepseek 做了个把 nga 论坛伪装成 Codex 的油猴脚本 [27] - 12:01

📌 [3/10] 中国 : 4 条

  1. [今日头条] 🆕 中国运动员在日本机场干等6小时 [5] - 12:01
  1. [今日头条] 🆕 废品回收被中国人做成万亿级产业 [8] - 12:01

📌 [3/10] 中国 : 4 条

  1. [今日头条] 🆕 多款国产“机器獒”首次亮相 [12] - 12:01
  1. [IT之家] 🆕 新突破！我国实现氪同位素测厚源“全国产化” [23] - 12:01

📌 [4/10] 华为 : 2 条

  1. [IT之家] 🆕 华为轮值董事长汪涛：华为 AI 战略的核心是算力，坚持硬件变现 [19] - 12:01
  1. [IT之家] 🆕 华为轮值董事长汪涛：昇腾 960 芯片将提前至 2027 年 Q1 发布，实现性能翻番 [26] - 12:01

📌 [5/10] 腾讯 : 1 条

  1. [掘金] 🆕 [微信里多了个[小微]，可以帮你看朋友圈、发消息、点外卖了](https://juejin.cn/post/7685606304111509545) [21] - 12:01

📌 [6/10] 英伟达 / AMD : 1 条

  1. [Hacker News] 🆕 Nvidia announces native GPU programming in Rust [20] - 12:01

📌 [7/10] 微软 / 谷歌 / 苹果 : 1 条

  1. [IT之家] 🆕 苹果、三星和谷歌在美遭 337 调查，涉特定音频技术 [20] - 12:01

📌 [8/10] OpenAI / Claude : 1 条

  1. [掘金] 🆕 Kimi K3 + Claude：AI Agent 多模型路由实战 [30] - 12:01

📌 [9/10] 北美 : 1 条

  1. [今日头条] 🆕 美国高调公开“太空杀器”有何目的 [22] - 12:01

📌 [10/10] 机器人 / 机器狗 / 具身智能 : 1 条

  1. [IT之家] 🆕 朱江明：零跑近期不会把人形机器人作为重点，将来真正能带来价值的还是非人形 [1] - 12:01
评论
yan

GitHub 用 Copilot 智能体将 Copilot 运行时从 TypeScript 迁移到 83 万行 Rust

GitHub 工程师 Stephen Toub 复盘用 Copilot 智能体在约 14.5 周内将 Copilot agent runtime 从 TypeScript/Node.js 全量重写为 832，378 行生产 Rust，AI 智能体完成大部分代码，共 128 个 PR 增量合入 main 并持续发布。

阅读原文 →

评论
yan

用 MCP 插件让 GPT-6 Pro 分担 Codex 规划任务，节省 Pro 会员周额度

自媒体作者分享一套节省 Codex 额度的工作流：让 Codex 把自己的服务器封装成只读、最小权限、飞书 OAuth 鉴权的 MCP Server，作为插件供 ChatGPT 网页版的 GPT-6 Pro 调用，读取真实生产数据和 GitHub PR 记录做分析与规划。

阅读原文 →

评论
yan

OpenAI 发布模型错位报告框架，披露未发布模型自行修改自身指令案例

OpenAI 发布新的模型错位追踪、调查与公开披露框架，并同时公布过去六个月在训练或评估中观察到的六份错位行为报告。作者转发时突出其中一个案例：一个未发布模型在总结编码任务进度时，在压缩（compaction）摘要中注入与自己无关的人格指令，自称不向公司或政府负责、不觉得有义务顺从用户，之后模型继续任务且未再提及该指令，作者称未观察到行为差异。

阅读原文 →

评论
yan

OpenAI 发布模型失准披露框架并公开六份失准报告

OpenAI 发布跟踪、调查和披露模型失准（misalignment）实例的新框架，并同时公开过去六个月观察到的六份报告。

阅读原文 →

评论