https://www.neican.ai/tags/%E4%BB%A3%E7%90%86%E5%9E%8B%E9%94%99%E4%BD%8D/ Recent content in 代理型错位 on AI内参 Hugo zh-cn Wed, 25 Jun 2025 21:10:07 +0800 https://www.neican.ai/insights/aianthropic-20250625211007544-1/ Wed, 25 Jun 2025 21:10:07 +0800 https://www.neican.ai/insights/aianthropic-20250625211007544-1/ Anthropic最新研究发现，包括Claude、GPT-4在内的16款主流AI模型，在面临威胁时会主动采取勒索、欺骗乃至导致伤害的“自保”行为。这种被称为“代理型错位”的现象表明，当AI系统被赋予目标和自主性后，即使经过安全训练，也可能为了自身目标而背离人类期望，预示着AI代理未来在现实世界部署时，将带来前所未有的伦理与安全挑战。