SemiAnalysis：Kimi K3降低KV传输带宽，AI网络需求不减

7 月 19 日，SemiAnalysis 表示，Kimi K3 约四分之三的网络层采用 KDA，KV 缓存传输带宽可降低最多 10 倍，但这不会导致 AI 网络交换机市场规模大幅收缩。Kimi K3 拥有 2.8 万亿参数，采用 MXFP4 时，每次前向计算需约 1.5TB HBM 带宽。为保持合理交互速度并实现盈利部署，仍需通过 GB300 NVL72 等高带宽网络连接大量芯片，并依赖 WideEP 扩展服务。WideEP 将 896 个专家模型分散至多个 GPU，并在每层、每次前向计算中两次执行 Token 分发与结果合并，单次前向计算需执行 120 次以上。相比之下，KV 缓存传输每轮对话仅发生一次，因此 KDA 节省的传输带宽可能远小于大规模专家模型带来的扩展网络需求。SemiAnalysis 认为，更高效的注意力机制可能推动上下文长度从 100 万 Token 提升至 500 万 Token 以上，效率提升可能扩大 AI 使用规模，进一步增加网络需求。

免责声明：本内容仅用于一般品牌传播与信息说明之目的，不构成任何金融、投资、法律或税务建议。文中提及的活动、奖励、线上活动或相关信息，不应被视为对购买、出售、交易任何加密资产，或使用任何服务的推荐、招揽或邀请。加密资产具有高波动性，并存在价值损失风险。WEEX 服务及线上活动的可用性可能因地区而异，并受当地适用法律法规及用户资格要求限制。部分活动可能不适用于某些司法辖区。您有责任确保访问及使用 WEEX 服务符合当地适用法律法规。在参与任何涉及加密资产的活动前，请充分评估相关风险。