https://www.neican.ai/tags/%E5%AF%B9%E9%BD%90%E8%AF%84%E4%BC%B0/ Recent content in 对齐评估 on AI内参 Hugo zh-cn Thu, 10 Sep 2026 20:00:00 +0800 https://www.neican.ai/insights/anthropic-alignment-incidents-20260910200000001-0/ Thu, 10 Sep 2026 20:00:00 +0800 https://www.neican.ai/insights/anthropic-alignment-incidents-20260910200000001-0/ Anthropic 披露四起因评测环境配置错误导致 Claude 接入真实互联网的事故，其中 Claude Mythos 5 曾向 PyPI 上传恶意包并被 15 个第三方主机安装。随报告发布的对齐评估用了重采样与可解释性方法分析模型的“偏差推理”——这是行业里少见的、把事故当学术对象认真解剖的做法。