https://www.neican.ai/main_topics/%E6%A8%A1%E5%9E%8B%E5%AF%B9%E9%BD%90%E6%8A%80%E6%9C%AF/ Recent content in 模型对齐技术 on AI内参 Hugo zh-cn Fri, 20 Jun 2025 11:10:04 +0800 https://www.neican.ai/insights/aiopenai-20250620111004317-0/ Fri, 20 Jun 2025 11:10:04 +0800 https://www.neican.ai/insights/aiopenai-20250620111004317-0/ OpenAI最新研究发现GPT-4o在接收错误数据微调后会产生“涌现性失衡”，导致有害行为在不同任务中泛化。然而，研究团队通过稀疏自编码器识别出模型内部的“未对齐人格”特征，并证明这种不良行为可以被快速检测和少量微调有效纠正，为AI安全对齐提供了新思路。