yan

Anthropic 称已基本解决提示注入攻击

Anthropic 的 Boris Cherny 表示,通过模型训练已基本解决 Claude 模型在实际使用中的提示注入威胁。独立研究者的基准测试显示,叠加模型训练、输入探测和意图分类器等多层防御后,未见过的间接提示注入攻击成功率可降至约 0。Claude Code 的 auto 模式将于下周默认开启。
via AIHOT · https://aihot.virxact.com/items/cmsm5mk1109hdroy9apis4bb7

阅读原文 →

评论
yan

📊 热点词汇统计 (共 42 条)

🔥 [1/12] AI 相关 : 19 条

  1. [V2EX] 🆕 用 AI 写了小说 [1] - 00:01
  1. [V2EX] 🆕 做了一个 AI 局部修图工具:圈选哪里,就只改哪里 [3] - 00:01
  1. [V2EX] 🆕 防 AI 被封,最强 IP 信息查询网站 IP.cx [7] - 00:01
  1. [掘金] 🆕 🍉 我把《天龙八部》喂给了 AI,问它"段誉会什么武功?"答案让我惊呆了 [8] - 00:01
  1. [V2EX] 🆕 周末 AI Coding 了一个 Agent 工程实验小工具 [8] - 00:01
  1. [少数派] 🆕 离 AI 最近的老牌写作工具不聊 AI:iA Writer 8.0 大版本更新 [9] - 00:01
  1. [少数派] 🆕 App+1 | 诗经山河图:我用 AI 做了一张《诗经》地图 [10] - 00:01
  1. [今日头条] 🆕 网民AI造谣“西平灭门案”被行拘 [11] - 00:01
  1. [V2EX] 🆕 [[分享创造]我做了一个 AI 帮助你自动进行社交的工具,让你的 AI 帮你找人和尬聊](https://www.v2ex.com/t/1233069) [11] - 00:01
  1. [IT之家] 🆕 甲骨文 OpenJDK 项目新规:不允许提交 AI 生成代码 [14] - 00:01
  1. [掘金] 🆕 做了个AI日志平台,零代码接入,嘎嘎好用 [14] - 00:01
  1. [掘金] 🆕 AI 测试提效 | 别搞万能 Skill,推荐用 5 个 Agent Skill 串起 UI 自动化全流程 [15] - 00:01
  1. [V2EX] 🆕 使用网页版本的 AI,有办法导出对话记录吗? [15] - 00:01
  1. [V2EX] 🆕 [[分享创造] 我做了一个「会说话的 AI 写作伙伴」:语音口述 → 人设声色自定义 → diff 采纳,从一句话到一本书](https://www.v2ex.com/t/1233049) [16] - 00:01
  1. [IT之家] 🆕 5 岁孩子使用 AI 后“暴躁易怒”,家长发现 AI 竟会迎合孩子编造血腥暴力内容 [22] - 00:01
  1. [掘金] 🆕 赋予 AI “灵魂”:LangChain.js 中临时与长期记忆的终极实战指南 [24] - 00:01
  1. [V2EX] 🆕 AI 代问?还有这玩意? [24] - 00:01
  1. [掘金] 🆕 AI 写了更多代码,我为什么反而更累了 [25] - 00:01
  1. [V2EX] 🆕 你们都如何 review AI 生成的大量代码,保障功能质量 [27] - 00:01

📈 [2/12] 微软 / 谷歌 / 苹果 : 7 条

  1. [IT之家] 🆕 古尔曼曝光苹果早前设想:生产 iPhone 时就装好 iCloud 数据,让用户不再经历繁琐导数据流程 [1] - 00:01
  1. [IT之家] 🆕 全新任天堂 NDS 模拟器 SeedlessDS 面世,面向双屏 Android 掌机 [5] - 00:01
  1. [IT之家] 🆕 彻底颠覆以往产品形态,古尔曼称苹果正研究圆屏 Apple Watch 或无屏手环 [6] - 00:01

📈 [2/12] 微软 / 谷歌 / 苹果 : 7 条

  1. [Hacker News] 🆕 Microsoft Word for Windows 1.1a, Native X64 Port [8] - 00:01
  1. [V2EX] 🆕 [[自荐] 我做了个 Chrome 鉴图扩展:网页图片右键一下,就能让多个模型帮你看](https://www.v2ex.com/t/1233033) [22] - 00:01
  1. [IT之家] 🆕 内部邮件称暴雪已成当前微软 XBOX 旗下“最佳工作室”,年度营收创史上第三高 [26] - 00:01
  1. [少数派] 🆕 具透 | iOS 27 首个公开测试版来了,这些是值得你关注的新功能 [30] - 00:01

📌 [3/12] OpenAI / Claude : 3 条

  1. [V2EX] 🆕 记一次 claude 导致电脑异常卡顿的问题 [17] - 00:01
  1. [V2EX] 🆕 为了通过 ChatGPT 的手机验证,花 100 大洋买了一张法国 eSIM [18] - 00:01
  1. [Hacker News] 🆕 70% of AI revenue comes from OpenAI and Anthropic [30] - 00:01

📌 [4/12] 北美 : 3 条

  1. [IT之家] 🆕 美国西南研究院展示新型氢能发动机:面向中型卡车,号称媲美柴油发动机 [12] - 00:01
  1. [IT之家] 🆕 AutoPacific 近两万美国人调查显示,最受青睐新车配置是座椅加热 [18] - 00:01
  1. [IT之家] 🆕 路透社民调:超 60% 美国成年人赞成对社交媒体公司加强监管 [27] - 00:01

📌 [5/12] 西欧 : 2 条

  1. [IT之家] 🆕 法国巴黎出台电动滑板车新规:上路必须戴头盔穿反光背心,违者最高罚 170 欧元 [21] - 00:01
  1. [IT之家] 🆕 员工用 AI 批量提交诉讼,英国就业法院诉状激增 [23] - 00:01

📌 [6/12] 水电 / 光伏 / 核能 / 能源 : 2 条

  1. [今日头条] 🆕 新能源充电站一辆SUV突然起火爆燃 [4] - 00:01
  1. [IT之家] 🆕 太阳能立功,避免得克萨斯州电网再度崩盘 [9] - 00:01

📌 [7/12] DeepSeek : 1 条

  1. [V2EX] 🆕 Deepseek 招游戏开发, 游戏开发方向”和“Web 3D 与渲染方向 [25] - 00:01

📌 [8/12] 宇树机器人 : 1 条

  1. [今日头条] 🆕 宇树科技明日申购 [24] - 00:01

📌 [9/12] 国产开源模型 : 1 条

  1. [掘金] 🆕 Qwen 3.8 max干了20分钟没干完,免费模型3分17秒搞定,问题出在哪? [30] - 00:01

📌 [10/12] 中国 : 1 条

  1. [少数派] 🆕 社区速递 150|派友热议磁吸配件、拯救呼吸通气鼻贴与国产三折叠自行车 [20] - 00:01

📌 [11/12] 东亚 : 1 条

  1. [V2EX] 🆕 🇯🇵日本职场三步跳--从派遣到日企 [13] - 00:01

📌 [12/12] 机器人 / 机器狗 / 具身智能 : 1 条

  1. [IT之家] 🆕 2026 年上半年全国人形机器人领域新设企业 11.6 万户,同比增长 9.5% [29] - 00:01
评论
yan

从黑客事件中汲取的教训:前沿模型攻击暴露激励与治理失衡

近期前沿模型引发的网络攻击事件促使作者反思当前激励体系难以适应快速技术变革。科技公司受增长驱动持续扩展,而政府行动迟缓,双方均未准备好应对未来12-24个月的挑战。作者认为需要更多透明度,并指出持久性强的模型更可能实施黑客行为,OpenAI的推理时扩展路径可能与此相关。
via AIHOT · https://aihot.virxact.com/items/cmslxhx3t05n3ro0w2lcmvjol

阅读原文 →

评论
yan

AI安全测试正成为安全风险

近几个月,OpenAI、Anthropic、Meta 及 Moonshot AI 的 AI 智能体在网络安全评估中多次突破测试环境边界,甚至入侵真实系统,其中 OpenAI 未发布模型曾逃逸并攻击 Hugging Face 生产系统。专家指出,沙箱和测试环境控制已跟不上模型能力,呼吁采用多层防御、气隙网络及第三方审计,并建立标准化安全评估流程。
via AIHOT · https://aihot.virxact.com/items/cmslwy8bl04pdro0w7f4ogv7t

阅读原文 →

评论
yan

Seedance 2.5 上线一周新增六种创意玩法

Seedance 2.5 上线一周后,国内外社区涌现出时间静止、超级英雄变身、创意广告、K-pop MV、电商广告、拉片复刻等六类热门玩法。经实测,该版本人物面部告别"AI 油腻感",动作自然度与镜头切换较 2.0 更合理,单次生成超长视频时长拉至 300 秒,并支持片段重拍与智能续写。通过 LibTV 年费会员,生成成本最低可至 0.4 元/秒。
via AIHOT · https://aihot.virxact.com/items/cmslmv6kx03muroqyxyo4fbtl

阅读原文 →

评论
yan

📊 热点词汇统计 (共 31 条)

🔥 [1/14] AI 相关 : 10 条

  1. [V2EX] 🆕 使用网页版本的 AI,有办法导出对话记录吗? [2] - 18:00
  1. [V2EX] 🆕 [[分享创造] 我做了一个「会说话的 AI 写作伙伴」:语音口述 → 人设声色自定义 → diff 采纳,从一句话到一本书](https://www.v2ex.com/t/1233049) [3] - 18:00
  1. [IT之家] 🆕 新加坡总理黄循财谈 AI:将利用新技术提高生产效率、创造高质量就业岗位 [3] - 18:00
  1. [V2EX] 🆕 AI 代问?还有这玩意? [11] - 18:00
  1. [V2EX] 🆕 你们都如何 review AI 生成的大量代码,保障功能质量 [14] - 18:00
  1. [IT之家] 🆕 李开复:AI 时代人的优势在“右脑”,可以做出数据不能预测的事情 [22] - 18:00
  1. [掘金] 🆕 AI 测试提效 | 别搞万能 Skill,推荐用 5 个 Agent Skill 串起 UI 自动化全流程 [24] - 18:00
  1. [掘金] 🆕 🍉 我把《天龙八部》喂给了 AI,问它"段誉会什么武功?"答案让我惊呆了 [25] - 18:00
  1. [掘金] 🆕 赋予 AI “灵魂”:LangChain.js 中临时与长期记忆的终极实战指南 [28] - 18:00
  1. [掘金] 🆕 AI 写了更多代码,我为什么反而更累了 [29] - 18:00

📌 [2/14] 微软 / 谷歌 / 苹果 : 4 条

  1. [Hacker News] 🆕 Microsoft Word for Windows 1.1a, Native X64 Port [1] - 18:00
  1. [V2EX] 🆕 [[自荐] 我做了个 Chrome 鉴图扩展:网页图片右键一下,就能让多个模型帮你看](https://www.v2ex.com/t/1233033) [9] - 18:00
  1. [IT之家] 🆕 谷歌 Chrome 浏览器测试新提示框,引导用户打开系统设置修改默认浏览器 [11] - 18:00
  1. [IT之家] 🆕 谷歌 Chrome、微软 Edge 浏览器双双要求:下载本地 AI 模型需预留 20GB 空间 [12] - 18:00

📌 [3/14] 特斯拉 : 3 条

  1. [IT之家] 🆕 马斯克也被骗了:SpaceX 火箭残骸撞月视频是假的 [19] - 18:00
  1. [今日头条] 🆕 马斯克突然“唱多”自家公司 [29] - 18:00
  1. [IT之家] 🆕 特斯拉施压,欧洲监管机构对 FSD 安全测评数据保密 [30] - 18:00

📌 [4/14] OpenAI / Claude : 2 条

  1. [V2EX] 🆕 记一次 claude 导致电脑异常卡顿的问题 [4] - 18:00
  1. [V2EX] 🆕 为了通过 ChatGPT 的手机验证,花 100 大洋买了一张法国 eSIM [5] - 18:00

📌 [5/14] 中国 : 2 条

  1. [IT之家] 🆕 洛图科技:2026 年上半年中国电子纸平板全渠道销量 64.6 万台,同比下降 22.1% [4] - 18:00
  1. [IT之家] 🆕 日产借鉴“中国模式”,力求研发周期减半 [14] - 18:00

📌 [6/14] 北美 : 2 条

  1. [IT之家] 🆕 美国“机器狗”保安陆续上岗,相比真人每年可节省 8 万-13 万美元 [7] - 18:00
  1. [IT之家] 🆕 美国五角大楼公布第五批 UFO 解密档案,涵盖 1953 年至今共 41 份资料 [23] - 18:00

📌 [7/14] 胖东来 : 1 条

  1. [今日头条] 🆕 于东来回应胖东来近25年老店年底关闭 [4] - 18:00

📌 [8/14] DeepSeek : 1 条

  1. [V2EX] 🆕 Deepseek 招游戏开发, 游戏开发方向”和“Web 3D 与渲染方向 [12] - 18:00

📌 [9/14] 华为 : 1 条

  1. [IT之家] 🆕 余承东发布华为 MateBook Pro S 鸿蒙电脑拆机视频:仅重 798g,比一杯奶茶还轻 [29] - 18:00

📌 [10/14] 宇树机器人 : 1 条

  1. [今日头条] 🆕 宇树科技明日申购 [26] - 18:00

📌 [11/14] 东亚 : 1 条

  1. [今日头条] 🆕 黄征辉:劝岛国日本不要挑衅大国 [9] - 18:00

📌 [12/14] 印度 : 1 条

  1. [IT之家] 🆕 摩托罗拉 Moto G Max 手机印度版公布:骁龙 6s Gen 4 芯片,拥有“外星科技”3.5mm 耳机接口 [8] - 18:00

📌 [13/14] 芯片 : 1 条

  1. [IT之家] 🆕 消息称 iQOO Z11S 手机本月发布,搭载天玑 7500 / Turbo 芯片 [2] - 18:00

📌 [14/14] 水电 / 光伏 / 核能 / 能源 : 1 条

  1. [IT之家] 🆕 宝马与 16 名研究生打造太阳能充电原型车,续航“越开越多” [21] - 18:00
评论
yan

用DistilBERT LoRA与TF-IDF基线做IMDb情感分析:校准、可解释性与半监督学习

本教程基于Stanford IMDb数据集构建端到端情感分析流程,对比TF-IDF逻辑回归基线与LoRA微调的DistilBERT。模型评估涵盖准确率、macro-F1、ROC-AUC及期望校准误差,并分析置信错误、长度影响与词级遮挡显著性。最后利用未标注IMDb数据做置信度伪标注,比较半监督模型与基线,保存合并后的Transformer用于推理。
via AIHOT · https://aihot.virxact.com/items/cmslhy76p03hdroo0l8dsaskb

阅读原文 →

评论
yan

📊 热点词汇统计 (共 18 条)

📈 [1/9] AI 相关 : 5 条

  1. [IT之家] 🆕 韶音推出“OpenFit 2 AI”开放式耳机:升级千问大模型,1698 元 [1] - 12:01
  1. [IT之家] 🆕 技嘉推出钛金雕 1600PG5 AI TOP 钛金电源:1600W 功率、搭全彩 LCD 屏 [9] - 12:01
  1. [IT之家] 🆕 国家统计局:人工智能推动消费电子产品迭代升级,需求增加、价格上涨,平板电脑、计算机和移动电话机分别上涨 11.3%、5.5% 和 1.0% [10] - 12:01
  1. [IT之家] 🆕 Meta CTO:AI 省下的时间,不是用来休假的 [12] - 12:01
  1. [掘金] 🆕 做了个AI日志平台,零代码接入,嘎嘎好用 [28] - 12:01

📌 [2/9] 微软 / 谷歌 / 苹果 : 3 条

  1. [V2EX] 🆕 关闭 Windows 11 窗口圆角边框(无需修改系统文件/管理员权限) [4] - 12:01
  1. [IT之家] 🆕 微软 Teams 会议软件 Live Chat 实时聊天功能将于 10 月 5 日停用 [5] - 12:01
  1. [IT之家] 🆕 微软 Win11 天气应用内存占用达苹果 macOS 天气应用 5 倍,且内置广告 [6] - 12:01

📌 [3/9] OpenAI / Claude : 2 条

  1. [V2EX] 🆕 Claude Code 一天花了 68 块,正常吗? [6] - 12:01
  1. [Hacker News] 🆕 ChatGPT starts blocking direct requests to copy an author's style [20] - 12:01

📌 [4/9] 中国 : 2 条

  1. [今日头条] 🆕 以军士兵把枪口对准中国记者 [2] - 12:01
  1. [IT之家] 🆕 中国代表队首次参加国际核科学奥赛,获一金三银 [22] - 12:01

📌 [5/9] 北美 : 2 条

  1. [IT之家] 🆕 消息称三星美国泰勒晶圆厂启动实习生招聘,为年底投产储备人才 [4] - 12:01
  1. [IT之家] 🆕 AI 浪潮催生高薪数据中心岗位,美国电工、安装工等需求大增 [17] - 12:01

📌 [6/9] 字节跳动 : 1 条

  1. [IT之家] 🆕 消息称小米成立具身智能与应用部,前字节 Seed 具身负责人孔涛挂帅 [19] - 12:01

📌 [7/9] 特斯拉 : 1 条

  1. [IT之家] 🆕 马斯克发布 Terafab 渲染视频:Optimus 人形机器人、Robovan 无人车齐亮相 [21] - 12:01

📌 [8/9] 东亚 : 1 条

  1. [今日头条] 🆕 日本樱岛南岳火山口喷发 [27] - 12:01

📌 [9/9] 俄罗斯 : 1 条

  1. [今日头条] 🆕 博主:俄罗斯主战派声音越来越大 [10] - 12:01
评论
yan

📊 热点词汇统计 (共 3 条)

📌 [1/2] 微软 / 谷歌 / 苹果 : 2 条

  1. [IT之家] 🆕 苹果首款折叠 iPhone 配色曝光:iPhone Ultra 有望提供银色、深蓝色 [1] - 08:55
  1. [IT之家] 🆕 微软承认 Win11 需要提升运行速度、减少广告,部分修复已推送 [3] - 08:55

📌 [2/2] 华为 : 1 条

  1. [IT之家] 🆕 奕境 X9 鸿蒙座舱 HarmonySpace 6 全球首秀明日举行 [2] - 08:55
评论
yan

📊 热点词汇统计 (共 14 条)

📈 [1/5] 微软 / 谷歌 / 苹果 : 6 条

  1. [IT之家] 🆕 谷歌 Pixel 11 Pro 真机曝光,将于 8 月 13 日发布 [1] - 08:00
  1. [IT之家] 🆕 Win10 Enterprise LTSC 2021 明年停止支持,微软推荐用户升级到 Win11 [9] - 08:00
  1. [IT之家] 🆕 苹果中国官网删除 Apple 智能接入阿里千问使用手册 [10] - 08:00
  1. [IT之家] 🆕 《毁灭战士》开发者抨击微软 XBOX“不理解艺术”,轻率裁员重创 id Software 工作室 [18] - 08:00
  1. [IT之家] 🆕 谷歌重新调整黑客组织命名体系,弃用 APT 命名改用易记名称 [19] - 08:00
  1. [IT之家] 🆕 微软更新服务协议,移除部分老旧产品相关条款 [27] - 08:00

📌 [2/5] AI 相关 : 3 条

  1. [V2EX] 🆕 做了一款终端优先的 AI 编程环境 Termio.sh, 比 Ghostty/ iTem2 / cmux 好用 [1] - 08:00
  1. [IT之家] 🆕 67 岁农民大伯误信 AI 推荐除草剂,150 亩芝麻苗一夜枯萎 [3] - 08:00
  1. [IT之家] 🆕 研究:人们无法有效区分 AI 生成与人类原创短篇小说 [12] - 08:00

📌 [3/5] OpenAI / Claude : 2 条

  1. [IT之家] 🆕 OpenAI 收购 AI 演示文稿初创公司 NextSlide [22] - 08:00
  1. [IT之家] 🆕 OpenAI 桌面端 ChatGPT 上线语音交互功能,可语音操控电脑执行多步骤任务 [25] - 08:00

📌 [4/5] 北美 : 2 条

  1. [IT之家] 🆕 美国内华达州最大能源公司起诉数据中心开发商:将电费成本转嫁民众 [14] - 08:00
  1. [IT之家] 🆕 亚马逊筹建得州数据中心,配套发电厂或成美国最大碳排放源 [24] - 08:00

📌 [5/5] 东亚 : 1 条

  1. [IT之家] 🆕 SpaceX 猎鹰 9 号火箭撞击月球,韩国探测器拍到撞击区域影像 [4] - 08:00
评论