https://www.neican.ai/tags/gpu%E6%95%88%E7%8E%87/ Recent content in GPU效率 on AI内参 Hugo zh-cn Wed, 02 Jul 2025 16:10:04 +0800 https://www.neican.ai/insights/deepseekai-20250702161004411-0/ Wed, 02 Jul 2025 16:10:04 +0800 https://www.neican.ai/insights/deepseekai-20250702161004411-0/ DeepSeek模型在大规模部署时表现出色的成本效益，得益于对GPU批处理技术的高效利用，这使得其在处理大量并发请求时能实现极高的吞吐量。然而，在单用户本地部署场景下，缺乏批处理的机会导致GPU利用率低下，使得DeepSeek模型运行缓慢且成本高昂，揭示了前沿AI模型在规模化与本地化之间存在的效率鸿沟。