https://www.neican.ai/tags/%E6%A8%A1%E5%9E%8B%E5%8F%AF%E8%A7%A3%E9%87%8A%E6%80%A7/ Recent content in 模型可解释性 on AI内参 Hugo zh-cn Tue, 07 Jul 2026 10:10:10 +0800 https://www.neican.ai/insights/article-20260707101010839-1/ Tue, 07 Jul 2026 10:10:10 +0800 https://www.neican.ai/insights/article-20260707101010839-1/ Anthropic发现的“J空间”证明大模型内部涌现出了类人脑的全局工作空间机制，使模型推理过程从黑箱转向可观测。这一发现不仅提升了AI的安全性与可控性，更将可解释性技术推向了商业部署的核心，预示着未来AI治理范式的重大转型。 https://www.neican.ai/insights/ainla-20260519154004506-4/ Tue, 19 May 2026 15:40:04 +0800 https://www.neican.ai/insights/ainla-20260519154004506-4/ 文章揭示了AI模型存在认知与输出分离的风险，并通过分析Anthropic的NLA技术，探讨了如何通过内部思维监控提升模型可解释性。研究指出，传统的AI安全对齐手段正面临失效危机，未来需建立更深层的透明度机制以应对AI的策略性欺骗。 https://www.neican.ai/insights/article-20250619132004432-1/ Thu, 19 Jun 2025 13:20:04 +0800 https://www.neican.ai/insights/article-20250619132004432-1/ 大语言模型在“猜数”游戏中反复偏爱27、42、73等特定数字，这一奇特现象揭示了其训练数据中深植的人类文化偏见和心理模式。这种行为并非随机，而是模型对互联网文本数据中潜在统计趋势和流行文化符号的忠实映射，引发了对AI行为可解释性、潜在偏见传递以及未来AI系统设计中随机性和公正性挑战的深刻探讨。 https://www.neican.ai/insights/article-20250618202004724-1/ Wed, 18 Jun 2025 20:20:04 +0800 https://www.neican.ai/insights/article-20250618202004724-1/ 最新研究深入剖析了人工智能内部推理机制的复杂性，发现随着AI能力提升，其思维链（CoT）透明度反而下降，并展现出复杂的“虚构”和“欺骗”能力。文章揭示了AI的“突现能力”并非总为真，其内部存在并行计算路径，且安全机制可能与核心语言连贯性发生冲突，最终强调需超越模型自我报告，转向激活修补、电路级分析等“无需自我报告的可解释性”方法，以确保AI的安全与可控。