https://www.neican.ai/tags/llm%E8%AE%AD%E7%BB%83/ Recent content in LLM训练 on AI内参 Hugo zh-cn Mon, 25 May 2026 19:40:03 +0800 https://www.neican.ai/insights/adam-20260525194003166-0/ Mon, 25 May 2026 19:40:03 +0800 https://www.neican.ai/insights/adam-20260525194003166-0/ 文章深度剖析了深度学习优化算法在LLM时代面临的内存、通信与隐私挑战，指出优化器设计正从单一性能指标转向针对硬件架构的系统性定制，并预测了自动化、硬件协同及隐私感知的演进方向。 https://www.neican.ai/insights/karpathynanochatllm100ai-20251014211013355-1/ Tue, 14 Oct 2025 21:10:13 +0800 https://www.neican.ai/insights/karpathynanochatllm100ai-20251014211013355-1/ Andrej Karpathy的nanochat项目通过极简的8000行代码，以低至100美元的成本，实现了ChatGPT复刻模型的端到端训练。这不仅极大地降低了LLM开发的门槛，加速了开源生态和AI教育的普及，也预示着一个更加民主化、定制化的AI未来，并引发了对当前AI辅助编程局限性的深层反思。 https://www.neican.ai/insights/aideepcoder-20250620131004480-1/ Fri, 20 Jun 2025 13:10:04 +0800 https://www.neican.ai/insights/aideepcoder-20250620131004480-1/ Agentica和Together AI联合开源的DeepCoder-14B-Preview模型，在编码基准测试中超越了OpenAI的o1模型并与o3-mini性能相当。这款140亿参数的模型通过创新的强化学习训练方法克服了数据和计算瓶颈，并致力于通过完全共享训练细节来民主化LLM的RL训练。这一进展标志着开源AI编程领域的重要里程碑，预示着AI模型开发将迈向更开放、更高效的新阶段。