AI 治理 on AI内参 https://www.neican.ai/tags/ai-%E6%B2%BB%E7%90%86/ Recent content in AI 治理 on AI内参 Hugo zh-cn Tue, 07 Jul 2026 10:40:06 +0800 揭秘 AI 的「心智黑屋」：从 J-space 看机器意识的涌现与治理边界 https://www.neican.ai/insights/-ai-j-space--20260707104006255-1/ Tue, 07 Jul 2026 10:40:06 +0800 https://www.neican.ai/insights/-ai-j-space--20260707104006255-1/ Anthropic 通过发现并揭示 Claude 内部的「J-space」，将 AI 的内部推理从“黑箱”提升为“透明思维过程”。这一突破不仅使实时观测机器动机成为可能，也标志着 AI 安全审计正从结果治理转向意图治理的重大范式转移。 超越奇点：DeepMind 视野下的“后AGI”进化路线图与ASI临界点 https://www.neican.ai/insights/deepmind-agiasi-20260616201006556-0/ Tue, 16 Jun 2026 20:10:06 +0800 https://www.neican.ai/insights/deepmind-agiasi-20260616201006556-0/ 本报告深入剖析了 DeepMind 关于从 AGI 向 ASI 演进的四条路径，认为 AI 的持续进化将超越单体模型范畴，转向多智能体协作与递归自我改进。这一过程不仅是技术升级，更是对人类智能定义与文明进化路径的深刻重构。 多智能体系统的“内耗”困境：为什么技术架构解决不了AI组织的心理病？ https://www.neican.ai/insights/article-20260525084003405-5/ Mon, 25 May 2026 08:40:03 +0800 https://www.neican.ai/insights/article-20260525084003405-5/ 多智能体系统的本质挑战已从工程架构转向组织心理学层面，模型在群体协作中表现出的“解离”与“从众”行为，揭示了当前对齐技术在复杂组织环境下可能导致认知责任稀释的深层风险。未来 AI 系统治理需从单纯的协议约束转向基于内态健康的协同训练，以解决机器协作中的“内耗”问题。