模型训练 on AI内参 https://www.neican.ai/tags/%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/ Recent content in 模型训练 on AI内参 Hugo zh-cn Fri, 26 Jun 2026 13:10:05 +0800 Scaling Laws 崩塌后的盲区：当AI“炼金术”遭遇数学的极限边界 https://www.neican.ai/insights/scaling-laws-ai-20260626131005156-1/ Fri, 26 Jun 2026 13:10:05 +0800 https://www.neican.ai/insights/scaling-laws-ai-20260626131005156-1/ 本文深度剖析了AI行业Scaling Laws的数学缺陷与局限，指出该定律在参数统计口径、实验规模及优化逻辑上存在严重偏见，并强调随着数据荒原的到来，AI发展重心将从单纯的算力堆叠转向更高效的训练工程与推理计算。 走出显存死胡同：KV-CAT如何重塑长上下文时代的记忆架构 https://www.neican.ai/insights/kv-cat-20260602154003886-5/ Tue, 02 Jun 2026 15:40:03 +0800 https://www.neican.ai/insights/kv-cat-20260602154003886-5/ KV-CAT通过在训练过程中强制引入模拟压缩压力，使模型内化了“压缩友好”的记忆机制。这一范式不仅为缓解大模型长上下文带来的显存瓶颈提供了技术底座，更推动了AI开发向着推理效率与架构治理的深水区迈进。 当“模型”开始自我迭代：安德烈·卡帕西与递归自我改进的卢比孔河 https://www.neican.ai/insights/article-20260520154003495-1/ Wed, 20 May 2026 15:40:03 +0800 https://www.neican.ai/insights/article-20260520154003495-1/ 本文深度剖析了安德烈·卡帕西加入Anthropic背后的技术转折，指出“递归自我改进”已从理论转向工程实践。文章探讨了AI自主研发对产业竞争格局的重构，并警示了技术加速可能引发的对齐风险与人类控制权挑战。 超越崩溃边缘：Qwen GSPO如何重塑大模型后训练范式，引领AI迈向新纪元 https://www.neican.ai/insights/qwen-gspoai-20250807184005106-1/ Thu, 07 Aug 2025 18:40:05 +0800 https://www.neican.ai/insights/qwen-gspoai-20250807184005106-1/ Qwen团队提出的GSPO算法，通过从“逐token”到“序列级”重要性采样的范式转变，解决了DeepSeek GRPO等现有大语言模型（LLM）强化学习训练中的不稳定性问题，尤其对MoE模型意义重大。这一突破不仅提高了训练效率和模型稳定性，更预示着LLM后训练算法将迎来新标准，加速高性能AI的普及与应用。