2025年5月13日 · TL;DR2024 年莱斯大学提出的无需微调的 2bit KV 缓存量化算法 KIVI，可以使 Llama、Falcon 和 Mistral 模型在使 …
zhuanlan.zhihu.com2025年9月25日 · KIVI is a new plug-and-play 2bit KV cache quantization algorithm without any fine-tuning. This algorithm optimizes …
github.com › jy-yuan › KIVI2024年2月5日 · From this analysis, we developed a tuning-free 2bit KV cache quantization algorithm named KIVI. With hardware …
arxiv.org › abs2026年7月24日 · KIVI 的解决思路 KIVI 的核心思想是： 对 KV Cache 进行非对称分组量化，在几乎不损失生成质量的前提下，将 KV …
zhuanlan.zhihu.com2026年4月23日 · Kimi 是 Moonshot 自研大语言模型驱动的 AI 智能助手，现已发布并开源最新 K2.6 版本，凭借 262144 Token 超长 …
kimi.aigc.cn2024年7月26日 · • A new plug-and-play 2bit KV cache quantization algorithm without any fine-tuning, KIVI, with hardware-friendly …
arxiv.org › html2024年9月11日 · weight-only量化（例如GPTQ、AWQ）与KIVI量化正交，可以叠加； KIVI与SmoothQuant对比，SmoothQuant压 …
juejin.cn › post2026年7月23日 · 文章浏览阅读1.2k次，点赞18次，收藏22次。 2024 年莱斯大学提出的无需微调的 2bit KV 缓存量化算法 KIVI，可以 …
blog.csdn.net › kebijuelun › article › details2024年10月9日 · 此外，KIVI在LongBench数据集（用于长上下文评估）上的表现也表明KIVI是一种有效的KV缓存压缩方法，在各种 …
juejin.cn › postCheap flights, hotels, and car hire with 24/7 customer support & Disruption protection. Discover a new way of traveling with our …
www.kiwi.com