澳门威尼斯人娱乐场-Venetian Macao Casino(访问: hash.cyou 领取999USDT）

　　双向缓存策略：采用 DualCache 同时缓存前缀（Prompt）和后缀（Masked Tokens）的注意力激活值（KV Cache），如图 1 (a)(b) 所示。在分块生成时，前序块的 KV 激活可直接复用于后续块，减少重复计算。高相似度验证：实验表明，相邻推理步骤的 KV 激活余弦相似度接近 1（图 2），证明缓存复用的可行性。例如，在 LLaDA 模型中，通过缓存可实现 90% 以上的激活重用，单步计算量显著降低。