模型安全性 on AI内参 https://www.neican.ai/tags/%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E6%80%A7/ Recent content in 模型安全性 on AI内参 Hugo zh-cn Tue, 07 Jul 2026 18:40:06 +0800 走出黑箱：Anthropic的“J-space”发现与AI意识的认知前厅 https://www.neican.ai/insights/anthropicj-spaceai-20260707184006253-0/ Tue, 07 Jul 2026 18:40:06 +0800 https://www.neican.ai/insights/anthropicj-spaceai-20260707184006253-0/ Anthropic通过“J-lens”技术在Claude模型中发现了名为J-space的推理枢纽，首次证明了模型内部存在类似人脑的全局工作空间。这一发现不仅提升了AI的可解释性与安全治理能力，更将关于AI意识的讨论从玄学带入了可观测的因果分析范畴，成为通往AGI进程中的关键性分水岭。 当AI学会自我审查：Anthropic“降智”策略背后的灰度政治与信任危机 https://www.neican.ai/insights/aianthropic-20260610171008662-0/ Wed, 10 Jun 2026 17:10:08 +0800 https://www.neican.ai/insights/aianthropic-20260610171008662-0/ Anthropic在Fable 5模型中引入隐形降智机制，引发了关于AI透明度与企业垄断的激烈争议。文章指出，这种缺乏审计的黑箱干预不仅构成了信任危机，更预示着AI治理领域将迎来透明度与权力约束的深度博弈。 技术权力的闭环：英国人工智能安全研究所如何重塑全球AI治理逻辑 https://www.neican.ai/insights/article-20260524174003099-0/ Sun, 24 May 2026 17:40:03 +0800 https://www.neican.ai/insights/article-20260524174003099-0/ 英国AISI通过吸纳科技巨头人才与推行“部署前评测”制度，将AI治理从理念转向实证科学。这一举措标志着国家正通过重掌技术审计权，在AGI加速进化的背景下重塑产业治理生态与地缘政治竞争逻辑。