https://www.neican.ai/tags/%E9%87%91%E9%B1%BC%E6%8D%9F%E5%A4%B1/ Recent content in 金鱼损失 on AI内参 Hugo zh-cn Thu, 04 Sep 2025 08:10:04 +0800 https://www.neican.ai/insights/article-20250904081004968-4/ Thu, 04 Sep 2025 08:10:04 +0800 https://www.neican.ai/insights/article-20250904081004968-4/ 金鱼损失通过在训练损失计算时随机且一致地剔除部分tokens，有效解决了大语言模型（如LLaMA-2）的过度记忆化问题，显著降低了内容复现风险，同时保持了模型在下游任务上的高性能。这一创新不仅为大模型商业化部署扫清了知识产权和隐私合规障碍，更引领AI从单纯的“死记硬背”走向更具泛化能力和原创性的“理解式”学习，重塑了AI智能的边界。