大模型 API 的输出单价普遍是输入的 3 到 5 倍,根源在 GPU 处理预填充与解码的方式不同。读输入时整段提示词并行计算,受算力约束,速度快且成本摊得薄;写输出时自回归一次只生成一个 token,每步仍要把全部参数从显存搬一遍,算力大半空转,受显存带宽约束。批处理能拼车摊薄,但每个用户的 KV 缓存都占显存,拼车人数受限。独坐时写一个 token 耗时约是读的 300 倍,拼 7 人约 50 倍,DeepSeek 线上统计读写吞吐仍差 5 倍。缓存命中因跳过预填充最便宜。多出来的钱,买的是解码时一趟趟只拉几个人的班车。