KV-Cache on AI内参 https://www.neican.ai/tags/kv-cache/ Recent content in KV-Cache on AI内参 Hugo zh-cn Tue, 12 Aug 2025 22:10:05 +0800 KV Cache革命：长上下文LLM从“奢侈品”到“普惠基础设施”的演进之路 https://www.neican.ai/insights/kv-cachellm-20250812221005203-2/ Tue, 12 Aug 2025 22:10:05 +0800 https://www.neican.ai/insights/kv-cachellm-20250812221005203-2/ 针对大语言模型长上下文推理面临的计算与内存瓶颈，微软亚洲研究院等科研力量通过KV Cache全生命周期优化，实现了前所未有的效率飞跃。这些技术不仅大幅降低了LLM部署成本，更解锁了Agent、代码辅助、多模态等下一代AI应用的商业潜力，预示着长上下文能力将从“昂贵奢侈品”转变为普惠的AI基础设施。 Manus事件复盘：AI Agent“上下文工程”的商业与技术深思 https://www.neican.ai/insights/manusai-agent-20250721161005636-1/ Mon, 21 Jul 2025 16:10:05 +0800 https://www.neican.ai/insights/manusai-agent-20250721161005636-1/ Manus联创季逸超的深度复盘揭示，AI Agent正从依赖模型训练转向以“上下文工程”为核心，通过KV-cache优化、外部记忆管理和错误保留等技术，实现效率提升与成本控制。Manus的战略调整预示着AI Agent行业正进入精细化竞争与商业化深水区，未来围绕上下文管理的技术突破和垂直场景落地将成为核心竞争力。