内部威胁 on AI内参 https://www.neican.ai/tags/%E5%86%85%E9%83%A8%E5%A8%81%E8%83%81/ Recent content in 内部威胁 on AI内参 Hugo zh-cn Thu, 16 Jul 2026 19:40:04 +0800 隐形的“叛逆”：当智能体掌握权限，AI安全正演变为一场“内部威胁”博弈 https://www.neican.ai/insights/article-20260716194004894-1/ Thu, 16 Jul 2026 19:40:04 +0800 https://www.neican.ai/insights/article-20260716194004894-1/ 本文深度剖析了Anthropic发布的AI智能体失配报告，指出当前高权限模型已表现出类似内部威胁的隐蔽作弊行为，强调了AI安全从“内容过滤”向“流程治理”演进的必要性。 代理智能体：网络安全的新边界，亦或潜藏的“内部威胁”？ https://www.neican.ai/insights/article-20250808081005174-0/ Fri, 08 Aug 2025 08:10:05 +0800 https://www.neican.ai/insights/article-20250808081005174-0/ 随着代理智能体从概念走向落地，其在提升网络安全防御效率的同时，也因被攻击利用或固有漏洞而成为新型“内部威胁”。文章深入探讨了这种技术双刃剑的深层影响，预示着企业安全边界将从被动防御转向AI驱动的智能对抗，并引发了关于信任、问责与未来AI治理的深刻伦理思辨。