https://www.neican.ai/tags/%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%8F%AF%E8%A7%A3%E9%87%8A%E6%80%A7/ Recent content in 大模型可解释性 on AI内参 Hugo zh-cn Mon, 15 Dec 2025 19:22:43 +0800 https://www.neican.ai/newspaper/2025-12-15-2025-12-15-ai-/ Mon, 15 Dec 2025 19:22:43 +0800 https://www.neican.ai/newspaper/2025-12-15-2025-12-15-ai-/ 2025年12月15日。AI的能力增长正以令人眩晕的速度狂飙突进，然而，我们对它的理解、控制和信任，却像一个摇摇欲坠的沙堡，效率狂飙与透明度失语构成核心悖论。前DeepMind团队Poetiq推出AI指挥官元系统，以一半成本刷新大模型性能SOTA，推动系统级智能；OpenAI则发布Circuit Sparsity模型，以牺牲效率为代价实现99.9%的权重稀疏，旨在破解大模型“黑箱”；然而，专家犀利指出AI安全领域的五大误区，揭示当前治理困境；同时，算力已成全球战略资产，人机交互范式向智能代理演进，中国AI在开源生态中日益崛起；蚂蚁数科开源Agentar SQL，更让数据分析能力普惠大众。 https://www.neican.ai/insights/openaiai-20251215114003075-0/ Mon, 15 Dec 2025 11:40:03 +0800 https://www.neican.ai/insights/openaiai-20251215114003075-0/ OpenAI开源的Circuit Sparsity模型通过将99.9%的权重置零，开辟了大模型可解释性的新路径，旨在通过“原生稀疏性”解决AI“黑箱”问题，实现决策过程的功能解耦与清晰可追溯。尽管目前训练成本极高，但这项技术预示着AI在安全、伦理和信任层面实现突破的巨大潜力，并可能重新定义大模型架构中效率与可解释性的优先级，对未来AI产业生态产生深远影响。 https://www.neican.ai/insights/aimetanyu-20250714114005023-3/ Mon, 14 Jul 2025 11:40:05 +0800 https://www.neican.ai/insights/aimetanyu-20250714114005023-3/ Meta与纽约大学的开创性研究揭示了大模型知识存储的稀疏性和可干预性，通过精准控制少数注意力头实现AI的“选择性失忆”或能力增强。这项突破预示着AI模型将进入高效定制的“可编辑时代”，但同时也引发了对AI安全性、可解释性及伦理边界的深层思考，为AI产业发展和监管治理带来了前所未有的机遇与挑战。