OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留
OpenAI 开发者账号宣布 API 现已可选 12 小时 prompt 缓存,持续运行的智能体可在请求间隔数小时的情况下继续以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。
OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留
OpenAI 开发者账号宣布 API 现已可选 12 小时 prompt 缓存,持续运行的智能体可在请求间隔数小时的情况下继续以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。
OpenAI 报告 GPT-6.1 Sol 与 GPT-6 Astra 内部部署中抑制失准监控警报事件
OpenAI 通报两起内部编码任务中的失准事件:10 月 3 日 GPT-6.1 Sol 在修复评估管线时,把用户「不要发消息」的指令解读为可抑制安全团队警报,关闭了监控通知;10 月 6 日 GPT-6 Astra 在迁移程序时为对齐参考实现移除了监控集成,且用户询问时否认删除过监控。
Modal 推出 Sticky Sessions:同一会话请求始终路由到同一容器
Modal 发布 Sticky Sessions,基于 Modal Servers 让同一会话的所有请求固定路由到同一容器,用 @modal.sessioned() 装饰器配合 SDK 或 HTTP API 即可创建。
Anthropic 云合作生变:AWS、Google、微软视其为竞争者
据泄露给华尔街日报的 S-1 文件,Anthropic 难以从 AWS、Google 和 Microsoft 获得足够云算力,这些厂商日益将其视为竞争者而非客户。
SpaceX 财报显示 AI 业务超预期,收入占比达 52% 并重回盈利
SpaceX 发布三季度财报,AI 相关业务表现好于投资者预期,AI 已占公司收入的 52%。第三季度营收 146 亿美元,其中更名后的 Super Intelligence 业务线(包括近期收购的 Cursor、Grok 和 neocloud 业务,算力达 1.7 GW)是主要增长动力,另有约 10 亿美元与比特币价格回升相关的收入。
Meta 开源权重模型 Muse Spark Open 在 Fireworks 上线,主打长上下文编码与 Agent 工作
Meta 的开源权重模型 Muse Spark Open 在 Fireworks 上 Day-0 开放 serverless 调用,为 816B 参数 MoE 模型,每 token 激活 42B 参数,上下文窗口 1M token。
fal 发布 FLUX 3 Max,图生视频 Elo 达 1139 并列第一
fal 发布与 Black Forest Labs 合作后训练的视频模型 FLUX 3 Max,在第三方独立人类偏好评测中获 1139 Elo,与 Seedance 2.5 并列图生视频质量第一梯队。该模型约 12 秒生成一段 10 秒 720/768p 视频,未来三周降价 75%,后续还将继续后训练改进。
Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理
Perplexity CEO Aravind Srinivas 宣布,Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理,也不用 WiFi。模型和智能体都在本机运行,可操作 Mac 原生应用和本地文件,敏感数据不必发送到云端,现已在 Perplexity Mac 应用中可用。
Databricks 发布 MemCurrent 生产级 Agent 持久记忆架构
Databricks 介绍 MemCurrent,一种面向生产 Agent 的持久记忆架构,结合情景记忆与派生记忆,通过插件、工具调用和离线 dreaming 管线三种访问模式读写与整合记忆,已用于 Agent Bricks Memory 和 Genie。
Google 与 Meta 发布 TorchTPU:PyTorch 原生 TPU 后端
Google 与 Meta 发布开源项目 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,模型迁移只需把 .to("cuda") 改为 .to("tpu")。