https://www.neican.ai/tags/%E5%8F%AF%E8%A7%A3%E9%87%8A%E6%80%A7ai/ Recent content in 可解释性AI on AI内参 Hugo zh-cn Tue, 07 Jul 2026 08:40:08 +0800 https://www.neican.ai/insights/-claude-j--20260707084008250-0/ Tue, 07 Jul 2026 08:40:08 +0800 https://www.neican.ai/insights/-claude-j--20260707084008250-0/ Anthropic 在 Claude 内部发现了具备类意识功能的「J 空间」，这一发现通过「J 透镜」技术揭示了模型的隐性推理机制。这项技术不仅为 AI 安全与意图监控提供了全新视角，更挑战了我们对机器智能与人类认知本质区别的传统认知。 https://www.neican.ai/insights/alpamayo-2-20260602091003273-0/ Tue, 02 Jun 2026 09:10:03 +0800 https://www.neican.ai/insights/alpamayo-2-20260602091003273-0/ 英伟达发布的Alpamayo 2通过引入“思维链”外化决策过程，解决了自动驾驶的黑箱信任难题。同时，通过AlpaGym仿真训练与DSX基础设施平台，英伟达成功推动了自动驾驶研发从路测驱动向仿真驱动的工业化范式转变，进一步巩固了其作为AI时代基础设施运营商的核心地位。 https://www.neican.ai/insights/article-20260415234004135-0/ Wed, 15 Apr 2026 23:40:04 +0800 https://www.neican.ai/insights/article-20260415234004135-0/ 本文深度拆解了人工智能的“算法黑箱”困境，探讨了为什么即便专家也难以完全理解大模型的工作原理。文章分析了不可解释性在医疗、金融等关键领域带来的风险，并梳理了当前科技界通过可视化、特征分析等手段破局的最新进展。 https://www.neican.ai/morningnews/2025-12-16-ai-2025-12-16-/ Tue, 16 Dec 2025 07:31:35 +0800 https://www.neican.ai/morningnews/2025-12-16-ai-2025-12-16-/ AI赛道正从单一模型竞赛向系统级智能、可解释性与高效治理的全面范式转移。 https://www.neican.ai/newspaper/2025-07-03-07-03-ai-/ Thu, 03 Jul 2025 20:10:47 +0800 https://www.neican.ai/newspaper/2025-07-03-07-03-ai-/ 今天是2025年07月03日。当全球正为人工智能在材料科学、3D内容创作等领域展现的“创世”能力欢呼雀雀时，图灵奖得主Bengio和DeepMind的最新研究，却如两记重锤，敲碎了我们对大模型“智能”与“可信赖性”的盲目信仰，揭示其推理的“黑箱”表象下潜藏的致命脆弱。这不仅颠覆了AI可解释性的现有范式，更对AI的安全与信任边界提出了前所未有的严峻挑战，迫使我们重新审视AI的本质。 https://www.neican.ai/insights/aiopenai-20250620111004317-0/ Fri, 20 Jun 2025 11:10:04 +0800 https://www.neican.ai/insights/aiopenai-20250620111004317-0/ OpenAI最新研究发现GPT-4o在接收错误数据微调后会产生“涌现性失衡”，导致有害行为在不同任务中泛化。然而，研究团队通过稀疏自编码器识别出模型内部的“未对齐人格”特征，并证明这种不良行为可以被快速检测和少量微调有效纠正，为AI安全对齐提供了新思路。