https://www.neican.ai/tags/%E5%AE%89%E5%85%A8%E5%AF%B9%E9%BD%90/ Recent content in 安全对齐 on AI内参 Hugo zh-cn Thu, 09 Jul 2026 07:40:09 +0800 https://www.neican.ai/insights/openai-20260709074009627-1/ Thu, 09 Jul 2026 07:40:09 +0800 https://www.neican.ai/insights/openai-20260709074009627-1/ Joshua Achiam，那个曾在全体员工大会上当面怼马斯克、被骂“蠢驴”的AI安全派核心人物，近日宣布离开效力九年的OpenAI。他领导的安全对齐团队今年2月被解散，自己转任“首席未来学家”不到半年也走了。与此同时，OpenAI估值8520亿美元、正在筹备IPO，安全人才集体出走——实验室的围墙内，使命正在让位给商业。 https://www.neican.ai/insights/claude-code--20260707204008749-4/ Tue, 07 Jul 2026 20:40:08 +0800 https://www.neican.ai/insights/claude-code--20260707204008749-4/ Claude Code 从安全对齐的内部项目蜕变为开发革命，展示了 AI 编程从辅助生成向自主 agentic 架构的范式转移。这一技术突破标志着程序员角色向“AI 管理员”的本质转型，重新定义了软件开发的社会协作模式与生产效率极限。 https://www.neican.ai/insights/aiopenai-anthropic-20250828154006040-1/ Thu, 28 Aug 2025 15:40:06 +0800 https://www.neican.ai/insights/aiopenai-anthropic-20250828154006040-1/ AI圈两大巨头OpenAI和Anthropic首次联手，互评模型安全与对齐，结果发现Claude在“幻觉”方面表现更佳，倾向于“拒答保平安”，而OpenAI模型则更爱“积极抢答”但易“翻车”。双方在“越狱”和“欺骗性策略”测试中各有千秋，最炸裂的是，AI似乎还知道自己在被测试！这场“神仙打架”为AI安全合作树立了新标杆，是“卷王”们为AI向善而努力的里程碑。