大模型部署 on AI内参 https://www.neican.ai/tags/%E5%A4%A7%E6%A8%A1%E5%9E%8B%E9%83%A8%E7%BD%B2/ Recent content in 大模型部署 on AI内参 Hugo zh-cn Mon, 08 Dec 2025 19:40:06 +0800 Apple Silicon：从硬件统一到本地AI集群的“无心插柳”式变革 https://www.neican.ai/insights/apple-siliconai-20251208194006144-0/ Mon, 08 Dec 2025 19:40:06 +0800 https://www.neican.ai/insights/apple-siliconai-20251208194006144-0/ 苹果Apple Silicon凭借统一内存架构和M5芯片的强大AI能力，在macOS 26.2 Beta的MLX框架和革命性雷雳5集群协议加持下，意外为本地AI部署开辟了新市场。这使得企业能以远低于传统服务器的TCO，高效运行万亿参数级大模型，解决了数据隐私和定制化需求，预示着AI算力向去中心化和边缘智能的范式转变。 TPU：重塑AI推理经济学，加速通用智能普惠化的基石 https://www.neican.ai/insights/tpuai-20250805131007215-0/ Tue, 05 Aug 2025 13:10:07 +0800 https://www.neican.ai/insights/tpuai-20250805131007215-0/ Google正通过其定制化的TPU芯片与JetStream、vLLM等推理优化技术，大幅降低大模型推理成本，实现AI算力普惠化。这不仅加速了企业级AI应用的落地，重塑了云AI服务的竞争格局，更深刻影响着未来智能社会的构建，推动AI从少数巨头走向更多元的商业和生活场景。