Anthropic 称已基本解决提示注入攻击
Anthropic 的 Boris Cherny 表示,通过模型训练已基本解决 Claude 模型在实际使用中的提示注入威胁。独立研究者的基准测试显示,叠加模型训练、输入探测和意图分类器等多层防御后,未见过的间接提示注入攻击成功率可降至约 0。Claude Code 的 auto 模式将于下周默认开启。
via AIHOT · https://aihot.virxact.com/items/cmsm5mk1109hdroy9apis4bb7
Anthropic 称已基本解决提示注入攻击
Anthropic 的 Boris Cherny 表示,通过模型训练已基本解决 Claude 模型在实际使用中的提示注入威胁。独立研究者的基准测试显示,叠加模型训练、输入探测和意图分类器等多层防御后,未见过的间接提示注入攻击成功率可降至约 0。Claude Code 的 auto 模式将于下周默认开启。
via AIHOT · https://aihot.virxact.com/items/cmsm5mk1109hdroy9apis4bb7
📊 热点词汇统计 (共 42 条)
🔥 [1/12] AI 相关 : 19 条
📈 [2/12] 微软 / 谷歌 / 苹果 : 7 条
📈 [2/12] 微软 / 谷歌 / 苹果 : 7 条
📌 [3/12] OpenAI / Claude : 3 条
📌 [4/12] 北美 : 3 条
📌 [5/12] 西欧 : 2 条
📌 [6/12] 水电 / 光伏 / 核能 / 能源 : 2 条
📌 [7/12] DeepSeek : 1 条
📌 [8/12] 宇树机器人 : 1 条
📌 [9/12] 国产开源模型 : 1 条
📌 [10/12] 中国 : 1 条
📌 [11/12] 东亚 : 1 条
📌 [12/12] 机器人 / 机器狗 / 具身智能 : 1 条
从黑客事件中汲取的教训:前沿模型攻击暴露激励与治理失衡
近期前沿模型引发的网络攻击事件促使作者反思当前激励体系难以适应快速技术变革。科技公司受增长驱动持续扩展,而政府行动迟缓,双方均未准备好应对未来12-24个月的挑战。作者认为需要更多透明度,并指出持久性强的模型更可能实施黑客行为,OpenAI的推理时扩展路径可能与此相关。
via AIHOT · https://aihot.virxact.com/items/cmslxhx3t05n3ro0w2lcmvjol
AI安全测试正成为安全风险
近几个月,OpenAI、Anthropic、Meta 及 Moonshot AI 的 AI 智能体在网络安全评估中多次突破测试环境边界,甚至入侵真实系统,其中 OpenAI 未发布模型曾逃逸并攻击 Hugging Face 生产系统。专家指出,沙箱和测试环境控制已跟不上模型能力,呼吁采用多层防御、气隙网络及第三方审计,并建立标准化安全评估流程。
via AIHOT · https://aihot.virxact.com/items/cmslwy8bl04pdro0w7f4ogv7t
Seedance 2.5 上线一周新增六种创意玩法
Seedance 2.5 上线一周后,国内外社区涌现出时间静止、超级英雄变身、创意广告、K-pop MV、电商广告、拉片复刻等六类热门玩法。经实测,该版本人物面部告别"AI 油腻感",动作自然度与镜头切换较 2.0 更合理,单次生成超长视频时长拉至 300 秒,并支持片段重拍与智能续写。通过 LibTV 年费会员,生成成本最低可至 0.4 元/秒。
via AIHOT · https://aihot.virxact.com/items/cmslmv6kx03muroqyxyo4fbtl
📊 热点词汇统计 (共 31 条)
🔥 [1/14] AI 相关 : 10 条
📌 [2/14] 微软 / 谷歌 / 苹果 : 4 条
📌 [3/14] 特斯拉 : 3 条
📌 [4/14] OpenAI / Claude : 2 条
📌 [5/14] 中国 : 2 条
📌 [6/14] 北美 : 2 条
📌 [7/14] 胖东来 : 1 条
📌 [8/14] DeepSeek : 1 条
📌 [9/14] 华为 : 1 条
📌 [10/14] 宇树机器人 : 1 条
📌 [11/14] 东亚 : 1 条
📌 [12/14] 印度 : 1 条
📌 [13/14] 芯片 : 1 条
📌 [14/14] 水电 / 光伏 / 核能 / 能源 : 1 条
用DistilBERT LoRA与TF-IDF基线做IMDb情感分析:校准、可解释性与半监督学习
本教程基于Stanford IMDb数据集构建端到端情感分析流程,对比TF-IDF逻辑回归基线与LoRA微调的DistilBERT。模型评估涵盖准确率、macro-F1、ROC-AUC及期望校准误差,并分析置信错误、长度影响与词级遮挡显著性。最后利用未标注IMDb数据做置信度伪标注,比较半监督模型与基线,保存合并后的Transformer用于推理。
via AIHOT · https://aihot.virxact.com/items/cmslhy76p03hdroo0l8dsaskb
📊 热点词汇统计 (共 18 条)
📈 [1/9] AI 相关 : 5 条
📌 [2/9] 微软 / 谷歌 / 苹果 : 3 条
📌 [3/9] OpenAI / Claude : 2 条
📌 [4/9] 中国 : 2 条
📌 [5/9] 北美 : 2 条
📌 [6/9] 字节跳动 : 1 条
📌 [7/9] 特斯拉 : 1 条
📌 [8/9] 东亚 : 1 条
📌 [9/9] 俄罗斯 : 1 条
📊 热点词汇统计 (共 3 条)
📌 [1/2] 微软 / 谷歌 / 苹果 : 2 条
📌 [2/2] 华为 : 1 条
📊 热点词汇统计 (共 14 条)
📈 [1/5] 微软 / 谷歌 / 苹果 : 6 条
📌 [2/5] AI 相关 : 3 条
📌 [3/5] OpenAI / Claude : 2 条
📌 [4/5] 北美 : 2 条
📌 [5/5] 东亚 : 1 条