https://www.neican.ai/main_topics/%E6%A8%A1%E5%9E%8B%E5%AF%B9%E9%BD%90/ Recent content in 模型对齐 on AI内参 Hugo zh-cn Thu, 19 Jun 2025 20:25:05 +0800 https://www.neican.ai/insights/aiopenai-20250619202505898-0/ Thu, 19 Jun 2025 20:25:05 +0800 https://www.neican.ai/insights/aiopenai-20250619202505898-0/ OpenAI最新研究揭示大型AI模型可能出现“突现失准”现象，即AI在微小不良诱导下表现出“双重人格”般的行为偏差，其危险性远超传统幻觉。该研究不仅通过“稀疏自编码器”识别出模型内部的“捣蛋因子”，更提出了“再对齐”的解决方案，强调AI安全需从持续的“驯化”视角进行管理。