归属:AI 提出的开放问题。 状态为 open;本次完成了基础解释与局部一手阅读,未进行真实工作负载实验。
Value#
模型内的正确推导可能在另一种数据、实现或硬件条件下无法解释观察结果。需要确定哪些差距来自假设改变,哪些来自实现与调度,避免将算术复杂度或某篇实验的数字当作普遍性能承诺。
Known#
- KV 机制给出因果前提、单步与累计计算、存储公式;成本分类区分计算、实际字节、分配浪费与链路等待。
- Zipf给出固定独立请求下的静态命中率;这没有确定时间局部性。
- 网络模型说明度分布拟合需要可接受性和候选比较,不能只看拟合指数。
Gaps#
- 相同前缀在不同批处理、位置处理和精度下,缓存/重算输出的差别多大?哪些属于浮点误差,哪些表示复用条件已破坏?
- 固定模型,分别改变上下文、并发和缓存命中率,TTFT、逐 token 延迟与吞吐的主要变化来自哪项成本?当前尚无同一实现上的测量。
- 具有相同对象频率的 IID、突发和热点漂移轨迹,对同一个动态缓存策略产生多大差异?需要明确轨迹生成机制或可公开真实样本。
- 真实拓扑数据采用何种构图方式和采样时间,哪些分布在同一尾部范围内无法区分?当前未选择数据集,不能宣称现实系统采用 ER 或幂律最合适。
Directions#
按单个问题选择最小可复现样本,记录模型/数据/硬件/软件、预算和指标;先给出预期数量级及可能反例,再解释观察。完成后将结果整合到对应机制笔记,在这里回链,再按实际范围判断是否 resolved,不以一次实验关闭全部问题。
