📄🦌🙌🐟🏖️
爱上极客
Just another Halo site
AI 输出价是输入的 3 到 5 倍,模型的输出为什么比输入贵?

AI 输出价是输入的 3 到 5 倍,模型的输出为什么比输入贵?

大模型 API 的输出单价普遍是输入的 3 到 5 倍,根源在 GPU 处理预填充与解码的方式不同。读输入时整段提示词并行计算,受算力约束,速度快且成本摊得薄;写输出时自回归一次只生成一个 token,每步仍要把全部参数从显存搬一遍,算力大半空转,受显存带宽约束。批处理能拼车摊薄,但每个用户的 KV 缓存都占显存,拼车人数受限。独坐时写一个 token 耗时约是读的 300 倍,拼 7 人约 50 倍,DeepSeek 线上统计读写吞吐仍差 5 倍。缓存命中因跳过预填充最便宜。多出来的钱,买的是解码时一趟趟只拉几个人的班车。

可灵 4.0 一次能拍 30 秒长镜头,追逐戏里连纸箱被压变形都拍出来了。

可灵 4.0 一次能拍 30 秒长镜头,追逐戏里连纸箱被压变形都拍出来了。

可灵 AI 的 Kling 4.0 于 10 月 15 日晚上线,单次生成 3—30 秒,关键帧最多 10 张,参考素材最多 15 项。博主实测追逐、马戏团、打斗、花滑、篮球等,认可电梯打斗的动作因果和镜头临场感,纸箱被压变形显示物理交互提升。1080p 30 秒 450 积分,按会员价约 16 元;Flash 720p 20 秒 120 积分,适合先打草稿。10-bit HDR 和 API 未上线。实测为挑选成片,无失败率与同题对比。创作者可先用 Flash 定方向,长镜头靠关键帧和参考视频减少重抽,并按单次价格乘抽卡次数估算成本。

Qwen3-32B 九成神经元基本只干一件事,AI 黑箱没想象中那么黑。

Qwen3-32B 九成神经元基本只干一件事,AI 黑箱没想象中那么黑。

Nick Cammarata 10月15日发长文,认为“神经网络把无关概念塞进同一神经元”的叠加假说证据多被误读:猫车神经元实际识别V形,InceptionV1末层难读源于架构和工具。借助智能体大规模检查,他初步估计Qwen3-32B约九成神经元极只有一项主要工作,约7%有两项相关工作,仅2%—4%尚未看懂,故主张直接研究网络自身神经元,不必先训练稀疏自编码器“解结”。这是其自称约85%把握的工作假说,注意力机制和大模型完整审计尚未完成。

AI 助理开始替你登录账号干活了,dots、Muse、Grok Bot 三款差在哪。

AI 助理开始替你登录账号干活了,dots、Muse、Grok Bot 三款差在哪。

8至9月,SpaceXAI、Meta、OpenAI发布 Grok Bot、Muse、dots。三者同类:均有云电脑、连账号,能主动干活。Muse管生活,免费起步,仅美国;dots管工作,含在月费100美元的ChatGPT Pro;Grok Bot为分工bot,月费20美元起。三者云电脑与敏感审批不同,OpenAI、Meta称会出错,长期出错率无独立测量。选择上,生活在美国可先试Muse,工作多用dots,多条线用Grok Bot。

Meta 发布 Muse Wonder,AA 智能指数 56 分,比 Opus 5.5 低两分。

Meta 发布 Muse Wonder,AA 智能指数 56 分,比 Opus 5.5 低两分。

Meta 10月12日发布 Muse Wonder 和 Muse Wonder Full。第三方AA智能指数上,Full 56分,落后 Claude Opus 5.5 两分;API 可用的 Muse Wonder 为52分。14项评测中,Meta 两款拿7项第一,Opus 5.5 拿6项,GPT-6 Astra 拿1项,优势在长周期编程和长流程 Agent。但7项第一有2项是内部评测,领先最多的 SWE-Marathon 非同一套 harness;最强 Full 不提供 API,只在 Muse Code 最高两档订阅中。订阅默认开启 Contributor 模式,提示词、代码和文件会用于训练,可关闭。

M5 跑 9B 模型上限 29 tok/s,Uzu 靠一趟 8 个 token 跑到了 92。

M5 跑 9B 模型上限 29 tok/s,Uzu 靠一趟 8 个 token 跑到了 92。

本地大模型慢因单路生成时每出一个 token 都要读全部权重,速度受内存带宽封顶。base M5 上 4-bit Qwen3.5 9B 理论上限约 29 tok/s,llama.cpp 和 MLX 实测 22 和 25。Mirai 的 Uzu 用推测解码让主模型一趟验证多个 token,一次起草 16 个、平均落地约 8 个,同一台机器实测 92 到 117 tok/s。成绩仅限 M5 系列和 Mirai 检查点,且随内容类型变化;读者可用带宽除以模型大小估算上限,并用真实请求复测速度与质量。

15 万创意人的 AI 账本:近半数说赚多了,扣掉对照组只多 12%。

15 万创意人的 AI 账本:近半数说赚多了,扣掉对照组只多 12%。

Contra Labs《Creative Intelligence 2026》称,AI未取代创意人:超15万受访创意人约七成使用AI,49.1%的使用者称收入上升。但问卷与平台成交口径差异大:付费项目用AI占比从7.2%升至18.9%;带对照收入中位数净提升约12%,而非“40%以上”。AI多用于构思和打磨,出初稿最低。品牌、平面设计收入改善最少;AI自动化、vibe-coded apps订单增长最快,RAG/定制GPT单价最高。主要阻碍是成本70.1%,担心被取代仅19.6%。报告依托接单平台,样本与立场需谨慎看待。

Claude 写了 Anthropic 超八成代码,RSI 还差那个 R。

Claude 写了 Anthropic 超八成代码,RSI 还差那个 R。

RSI 指 AI 自己改进自己,且每次改进让下一轮更容易。Anthropic 披露,截至 2026 年 5 月,代码库超 80% 由 Claude 编写,人均日合并代码为 2025 年前的 8 倍,但称仍未到 RSI,差距在选题与判断力。DGM、SkillOpt、SIA 等 9 项工作已让 Agent 的代码、Harness、Skill、记忆和权重自动变好,但“怎么改”多由人设定,缺的正是递归一环。读者若看到“自进化”,应先问负责改进的机制是否也变强;落地应留候选档案、给修改设限,并把评分尺子留在外部。

OpenAI 甩出 722 篇数学手稿,热议的四维挂谷偏偏没有 Lean 证明。

OpenAI 甩出 722 篇数学手稿,热议的四维挂谷偏偏没有 Lean 证明。

10月6日,OpenAI发布内部模型的722篇数学手稿,归为372个成果族,约4000个研究问题,平均每个结果约3小时ChatGPT Pro算力,涉及准黎曼猜想等。多数未经同行评审;235族有Lean形式化,仅覆盖330篇,四维挂谷、CM阿贝尔簇霍奇猜想、有理数域希尔伯特第十问题未形式化。模型未公开,372/4000不是成功率。读者应看分母、验证层级和可重做性:Lean通过不等于命题就是原问题,证明可批量生产,核对读懂仍靠人。