https://www.neican.ai/tags/%E4%B8%93%E5%AE%B6%E6%B7%B7%E5%90%88%E6%A8%A1%E5%9E%8B/ Recent content in 专家混合模型 on AI内参 Hugo zh-cn Wed, 02 Jul 2025 16:10:04 +0800 https://www.neican.ai/insights/deepseekai-20250702161004411-0/ Wed, 02 Jul 2025 16:10:04 +0800 https://www.neican.ai/insights/deepseekai-20250702161004411-0/ DeepSeek模型在大规模部署时表现出色的成本效益，得益于对GPU批处理技术的高效利用，这使得其在处理大量并发请求时能实现极高的吞吐量。然而，在单用户本地部署场景下，缺乏批处理的机会导致GPU利用率低下，使得DeepSeek模型运行缓慢且成本高昂，揭示了前沿AI模型在规模化与本地化之间存在的效率鸿沟。