https://www.neican.ai/tags/kvcache/ Recent content in KVCache on AI内参 Hugo zh-cn Wed, 01 Oct 2025 10:10:05 +0800 https://www.neican.ai/insights/article-20251001101005075-1/ Wed, 01 Oct 2025 10:10:05 +0800 https://www.neican.ai/insights/article-20251001101005075-1/ 随着AI数据量爆炸式增长，高性能全闪并行文件系统正成为解锁大模型算力潜能的关键。通过I/O路径优化、元数据高效处理和创新的KVCache“以存换算”技术，该系统有效解决了AI训练和推理中的存储瓶颈，并预示着未来AI数据基础设施将向着更经济、更智能、DPU加速的方向演进，从而推动企业级AI的广泛落地。 https://www.neican.ai/insights/mooncake-20250801111005253-3/ Fri, 01 Aug 2025 11:10:05 +0800 https://www.neican.ai/insights/mooncake-20250801111005253-3/ Mooncake项目通过创新的KVCache中心化“PD分离”架构，显著提升大模型长上下文推理效率并大幅降低成本，为企业级AI规模化应用提供了关键基础设施。这一由阿里云和清华大学共同开源的方案，预示着AI算力向计算存储解耦和服务化方向演进，将加速AI技术的普及和更广泛的应用创新。