↓ Skip to main content

KV 传输中的 RTT 与带宽问题

·71 words·1 min
Jinyu Chen
Author
Jinyu Chen
问题驱动的个人知识库

Identity
#

  • 原标题:RTT- or Bandwidth-Bound? Demystifying the KV Cache Transfer in Large Language Model Serving
  • 作者:Shengnan Yue; Mowei Wang; Yu Yan; Weiqiang Cheng; Zihan Jiang; Zhenhui Zhang
  • 年份与版本:2025;Proceedings of the 2nd Workshop on Networks for AI Computing。
  • 正式 DOI:10.1145/3748273.3749196;身份核对:出版商登记题录。
  • 实际读取材料:公开页面。

Reading
#

2026-10-12 实际读取:Crossref 登记题录;ACM 页面未成功取回摘要或正文。 unread 表示尚未读到论文内容,已核对题录。

Summary
#

**题录事实,尚非论文结论:**已核实 2025 年 Networks for AI Computing 第二届研讨会论文及六位作者;题名讨论 KV 传输受 RTT 或带宽限制的问题。

Limits
#

题名是问题,不能替代结论。本次没有证据将所有 KV 传输断言为 RTT-bound,也未核实逐块传输实现。

Links#

证据缺口:补读原文后再判断机制与结论。本资料在存储与服务地图中按阅读范围定位。