https://www.neican.ai/tags/tokens%E6%9C%8D%E5%8A%A1/ Recent content in Tokens服务 on AI内参 Hugo zh-cn Thu, 28 Aug 2025 11:40:04 +0800 https://www.neican.ai/insights/transformerai-agent-20250828114004924-4/ Thu, 28 Aug 2025 11:40:04 +0800 https://www.neican.ai/insights/transformerai-agent-20250828114004924-4/ 华为云Tokens服务通过集成CloudMatrix384超节点和创新的xDeepServe“Transformerless”架构，显著提升了大模型推理吞吐量至2400TPS，将AI推理时延降至50ms。这一突破性进展不仅优化了AI算力成本与效率，更将作为关键基石，加速AI Agent等实时智能应用的普及，并为构建更智能、更高效的未来社会奠定基础。