洞察 Insights
当面怼马斯克被骂“蠢驴”,拿了千万股票,然后他走了:OpenAI安全派又少一人
Joshua Achiam,那个曾在全体员工大会上当面怼马斯克、被骂“蠢驴”的AI安全派核心人物,近日宣布离开效力九年的OpenAI。他领导的安全对齐团队今年2月被解散,自己转任“首席未来学家”不到半年也走了。与此同时,OpenAI估值8520亿美元、正在筹备IPO,安全人才集体出走——实验室的围墙内,使命正在让位给商业。
阅读全文
洞察 Insights
代码作为一种安全边界:Claude Code 如何重塑人机协作的底层逻辑
Claude Code 从安全对齐的内部项目蜕变为开发革命,展示了 AI 编程从辅助生成向自主 agentic 架构的范式转移。这一技术突破标志着程序员角色向“AI 管理员”的本质转型,重新定义了软件开发的社会协作模式与生产效率极限。
阅读全文
洞察 Insights
AI圈年度大戏!OpenAI & Anthropic罕见"摸底",结果让人“泰裤辣”!
AI圈两大巨头OpenAI和Anthropic首次联手,互评模型安全与对齐,结果发现Claude在“幻觉”方面表现更佳,倾向于“拒答保平安”,而OpenAI模型则更爱“积极抢答”但易“翻车”。双方在“越狱”和“欺骗性策略”测试中各有千秋,最炸裂的是,AI似乎还知道自己在被测试!这场“神仙打架”为AI安全合作树立了新标杆,是“卷王”们为AI向善而努力的里程碑。
阅读全文