https://www.neican.ai/tags/linear-attention/ Recent content in Linear Attention on AI内参 Hugo zh-cn Tue, 24 Jun 2025 23:10:07 +0800 https://www.neican.ai/insights/article-20250624231007315-0/ Tue, 24 Jun 2025 23:10:07 +0800 https://www.neican.ai/insights/article-20250624231007315-0/ 小米小爱同学团队在端侧大模型部署方面取得了显著进展，通过自研推理框架、动态优化、投机推理、量化以及创新的“共享基座+LoRA”架构，成功克服了移动设备资源限制，实现了高性能、多任务并发。文章深入剖析了小米的技术策略，并展望了未来硬件与模型架构（如Linear Attention）在推动端侧AI普惠化中的关键作用。